[서울파이낸스 이도경 기자] 생성형 인공지능(AI) 기술 열풍이 거센 가운데, AI로 제작한 음란물이 넘쳐나고 있지만, 이를 막을 관련 법·제도가 제대로 마련되지 않았다는 지적이 나오고 있다.

18일 부산지방검찰청에 따르면 최근 이미지 생성 AI를 활용해 아동 성 착취물을 제작한 40대 남성 A씨가 구속돼 재판에 넘겨졌다.

A씨는 지난 4월 이후 자신의 노트북에서 이미지 생성 AI 프로그램에 '10살', '나체' 등의 명령어를 이용해 아동 신체 노출이나 성적 행위 등이 담긴 이미지 파일 360여개를 제작·보관한 것으로 전해졌다.

검찰은 A씨가 제작한 성 착취물이 AI로 만들어진 것이라 해도, 실제 아동을 출연시킨 음란물과 다르지 않다고 보고, '아동청소년의 성보호에 관한 법률'(이하 아청법) 위반을 적용했다.

이처럼 생성 AI를 활용한 음란물 제작이 문제가 된 것은 이번이 처음이 아니다. 지난 2월 수원지방법원 역시 범용 이미지 제작 프로그램을 이용해 웹툰에 등장하는 아동청소년 캐릭터의 음란물을 제작한 행위에 대해 유죄 판결을 내렸다.

정동선 한양대 창의융합교육원 교수는 지난 5월 한국콘텐츠진흥원이 주최한 '2023 콘텐츠산업포럼'에서 "AI를 활용한 콘텐츠의 80%가 성산업이나 범죄 등에 활용되고 있다"며 "사진·영상·목소리 등은 물론 인간의 뇌와 감정을 자극하는 시도까지 이어지고 있다"고 말했다.

AI 음란물 제작에 대한 접근이 지나치게 쉽다는 점도 문제로 지적된다. 검색 한 번에 자신의 성적 취향에 맞는 AI 포르노를 만들어 준다는 생성형 AI 사이트가 쏟아지고 있다. 이에 따라 미성년자가 간단한 프롬프트(명령어) 만으로 아동 성 착취물 제작 등 범죄에 쉽게 노출될 수 있다는 비판이 끊이지 않는다.

통상 서비스되는 생성형 AI 프로그램의 경우 특정 키워드 차단 등을 통해 음란물 제작을 막고 있지만, 일부 인터넷 커뮤니티를 통해 이를 '우회'할 수 있는 방법까지 공유되는 상황이다.

현재 아동을 대상으로 한 AI 음란물 제작은 아청법 위반을 적용해 무기징역 또는 5년 이상의 유기 징역을 선고할 수 있다. 유명인 등 실제 인물을 합성해 제작하는 '딥페이크' 음란물의 경우, 성폭력 범죄의 처벌 등에 관한 특례법(이하 성폭력특례법)에 따라 5년 이하 징역 또는 5000만원 이하의 벌금, 성범죄자 신상정보 공개 등의 처벌을 선고할 수 있다.

다만 성인을 대상으로 한 이미지·영상 AI 음란물 제작의 경우 실제 피해자가 없다는 이유로, 성폭력특례법의 '통신매체 이용 음란죄' 외에는 이를 제제할 규제가 딱히 없는 상황이다.

정보보호 업체 관계자는 "AI로 생성한 인물이 실존하지 않는다 해도, 이미지 데이터를 학습해 창작물을 만들어내는 생성형 AI 특성 상 인터넷에 올린 자신의 사진이 별도 동의 절차 없이 학습돼 음란물에 활용되는 사례가 발생할 수 있다"며 "무분별한 음란물 제작을 막기 위한 AI 가이드라인과 법제도가 필요하다"고 말했다.

이도경 기자 다른기사 보기