글로벌 각국, AI 위협 대책 마련에 분주···기술적·제도적 대책 마련돼야
[서울파이낸스 이도경 기자] 인공지능(AI)으로 기존 영상에 다른 사람의 얼굴·음성 등을 합성하는 '딥페이크' 기술이 발달하며 불법 음란물, 금융사기, 가짜뉴스 등 부작용이 터져나오고 있다.
딥페이크란 생성, 감별 기능을 가진 두 개 모델을 서로 경쟁적으로 학습시키며 가짜 이미지의 정확도를 높이는 '생성적 적대 신경망(GAN)' AI를 활용한 얼굴·음성 합성 기술이다. 이를 통해 영상이나 이미지를 정교하게 편집하고 손상된 영상을 복원하는 등의 기능을 해왔다.
6일 관련 업계에 따르면 최근 국내외에서 딥페이크로 만든 성적 허위물의 대상이 되거나, 보이스 피싱 범죄·불법 투자 권유 등 사기 피해를 입는 등 부작용 사례가 늘어나고 있다.
지난 2일(현지 시간)에는 미국 한 고등학교에서 남학생들이 같은 학교 여학생들의 얼굴과 딥페이크 기술로 나체 사진을 제작하다 적발됐으며, '의뢰'를 통해 유명 연예인 또는 일반인의 영상·사진을 음란물과 합성해 판매하는 사례도 발견되고 있다.
한국에서도 이처럼 딥페이크 불법 음란물의 대상이 되는 피해 사례가 계속 증가하고 있다.
지난달 국회 과학기술정보방송통신위원회 소속 민형배 더불어민주당 의원이 방송통신심의위언회로부터 제출받은 자료에 따르면 불법 성적 허위 영상물에 대한 시정 요구는 지난 2020년 473건에서 지난해 3574건으로 약 8배 증가했다. 올해는 8월까지 심의 건만 3046건으로 전년보다 더 늘어날 것으로 전망된다.
불법 음란물 제작 외에도 딥페이크는 음성 합성 기술을 통해 보이스 피싱 등 금융 범죄를 저지르거나, 가짜 뉴스를 만들어 사회적 혼란을 야기하는 문제도 발생하고 있다.
지난 3월 캐나다에서는 한 보이스피싱범이 딥페이크 기술이 적용된 가짜 아들의 목소리를 들려주며 부모에게 2만1000만 캐다나달러(약 2000만원) 상당의 암호화폐를 갈취한 사건이 발생했다.
또 지난 2019년에는 한 영국 기업이 고위 임원의 목소리를 딴 AI 음성에 속아 22만 유로(약 2억9800만원)을 송금했다. 지난해 3월에는 젤렌스키 우크라이나 대통령이 러시아에 항복 선언을 하는 가짜 영상이 제작돼 큰 파장을 일으키기도 했다.
이처럼 AI 기술에 대한 부작용이 확산되자 세계 각 국에서도 이에 대한 대책 마련에 분주해진 상황이다.
지난달 30일(이하 현지시간) 조 바이든 미국 대통령은 "딥페이크는 사람의 명예를 훼손하고 가짜뉴스를 퍼트리는 한편, 사기를 저지르기도 한다"며 생성 AI 관련 규정을 담은 행정명령에 서명했다.
이번 행정 명령으로 미국 기업은 국가 안보나 경제, 공중 보건 등 측면에서 위험을 초래할 수 있는 AI 모델을 테스트할 경우 연방 정부에 반드시 이를 통보해야 하며, AI가 만든 콘텐츠에는 별도 워터마크(구분 표시)를 새겨야 한다.
이달 1일에는 미국·중국·한국 등 글로벌 28개국과 유럽연합(EU)이 영국 블레칠리파크에서 '1차 AI 안전 정상회의'를 열고 AI 위험에 공동 대응하는 '블레칠리 선언'을 채택했다. 선언문에 따르면 각국은 첨단 AI 시스템이 사이버 보안 위협, 허위 정보 확산 등 위험을 증폭시킬 수 있다는 데 동의하고 국가 간 협력을 약속했다.
한국 정부 역시 블레칠리 선언에 동참하고 AI 위협에 대응하는 '디지털 권리장전'을 내놓는 등 대책 마련에 나서고 있으나, 이미 각종 피해 사례가 증가하고 있는 만큼 보다 구체적인 대책이 필요하다는 지적이 나온다.
민형배 의원은 "지난 2020년부터 올해 8월까지 3년 2개월 간 불법 성적 허위 영상물에 대한 시정 요구가 총 9006건이었으나, 이 중 삭제 조치된 건은 410건으로 약 4.55% 수준"이라며 "방송통신심의위원회가 더 적극적으로 딥페이크 영상을 삭제하고, 탐지시스템 도입 등 사전 차단 노력에도 나서야 한다"고 주장했다.
또 정수환 숭실대 정보통신전자공학부 교수 연구팀은 기술동향 보고서를 통해 "AI를 활용한 보이스피싱 위험이 많이 증가했지만, 변조 음성 탐지 기술은 거의 없는 상황"이라며 "해외 연구는 주로 영어 발화에 대한 연구이기 때문에 한국어 딥페이크 음성 탐지 연구가 필요하다"고 전했다.
안성원 소프트웨어정책연구소 AI정책연구실장은 "GAN은 사람들에게 보다 정교한 경험을 제공할 수 있으나, 악용될 경우 국가·사회적 혼란을 부르는 등 부작용이 크기 때문에 이를 올바르게 활용하기 위한 기술·제도적 대응이 필요하다"며 "특히 미디어, 뉴스, 금융, 치안 등 특정 분야에서 GAN 악용 사례를 전문적으로 감지·구별할 수 있는 AI 개발을 다양하게 시도할 필요가 있다"고 말했다.
