구글 유튜브, '신뢰 가능' 영상 알고리즘 노출···조작·허위 정보 유포 기법 소개도
[서울파이낸스 이도경 기자] 최근 불법·유해 정보 유통 건으로 홍역을 앓은 틱톡·메타·구글 등 글로벌 플랫폼 기업들이 허위정보에 대응하고 사이버 보안을 강화하기 위한 노력을 공유하는 자리를 가졌다.
이들은 29일 서울 강남 코엑스에서 열린 팩트채크 콘퍼런스 '글로벌 팩트10(Global Fact10)'에 참여해 각 사의 불법·허위정보 대응 정책과 팩트체킹 파트너십 등을 소개했다.
우선 중국 숏폼 플랫폼 틱톡은 커뮤니티 보호를 최우선 가치로 두고 허위정보에 대해 강경 정책을 펼치고 있다고 밝혔다.
별도 가이드라인을 통해 단순 육체적 피해 뿐만 아니라 허위정보가 줄 수 있는 심각한 정신적 충격이나 사회적 피해, 재산상의 피해 등 '피해'의 범위를 보다 광범위하게 설정하고 적극적으로 콘텐츠를 내리고 있다는 설명이다.
구체적으로는 △코로나19 백신에 대한 허위정보 등 신체에 위해를 가할 수 있는 정보 △선거와 관련한 허위정보 △사람들에게 공포감을 줄 수 있는 허위정보 △혐오를 조장하거나 폭력적인 콘텐츠 △기후변화를 부인하는 콘텐츠 △생성형 AI(인공지능)으로 제작한 불법 딥페이크(합성 조작) 영상 등에 대해서는 일체 허용하지 않는다는 입장이다.
특히 최근 화두로 떠오르는 생성형 AI 활용 딥페이크 영상에 대해서는 사용자가 이를 인지할 수 있도록 별도 라벨을 부착하고, 미성년자·공적 인물을 대상으로 하거나 성적 착취·특정 후보 지지 등에 대한 콘텐츠가 나올 경우 즉시 집행 조치를 실시한다고 전했다.
니샤 쿠탄 틱톡 유해·허위정보 글로벌 정책 책임자는 "허위정보를 차단하는 과정에서 게시자의 포스팅 의도가 무엇인지에는 관심가지지 않고, 해당 포스트가 미칠 수 있는 영향에 대해서만 관심을 가진다"며 "로지컬리 팩트 등 여러 팩트체크 기관과 파트너십을 맺고 미디어 리터러시 캠페인을 진행하는 등 각 전문가들과 함께 최고의 정책이 도입될 수 있도록 노력하고 있다"고 밝혔다.
또 플랫폼의 팩트체크 기능이 표현의 자유를 침해하고 검열을 용인할 수 있다는 우려에 대해서는 "표현의 자유는 매우 중요하고, 보편적인 인권이라 생각한다"면서도 "커뮤니티를 역동적으로 유지하고 싶은 마음도 있지만, 우선은 커뮤니티의 안전이 보장돼야 한다. 표현의 자유와 위해로부터의 자유가 균형을 맞춰야 하는 것"이라고 말했다.
SNS(소셜네트워크서비스) 페이스북·인스타그램·왓츠앱 등을 운영하는 메타 역시 폭력을 조장하는 유해한 콘텐츠나 코로나 백신 관련 허위 정보 등에 대해서는 강경한 정책을 유지하겠다고 밝혔다.
메타는 16개 언어의 약 90개 팩트체킹 기관과 프로그램을 통해 온라인 상 정보에 대한 사실 여부를 판단하고, 사회적으로 영향을 끼칠 수 있는 거짓 정보에 대해서는 콘텐츠 배포를 제한한다고 설명했다.
유해 잠재성이 있는 콘텐츠의 경우에는 현지 파트너사를 통해 현지 전문지식과 맥락 등을 파악하고, 팩트체커들이 내린 등급을 같이 표시한다.
생성형 AI로 제작한 딥페이크 영상에 대해서는 AI가 생성하거나 편집한 영상에 이를 확인할 수 있는 라벨을 달고, 사용 기준을 위반한 영상에 대해서는 삭제 조치하는 등 대응에 나서고 있다.
앨리스 부디사트리조 메타 허위정보 정책 매니저는 "우리는 AI 와 허위정보의 교차점에 관심을 가지고 다양한 관점에서 연구하고 있다"며 "지난 2019년부터 허위조작 비디오에 대한 커뮤니티 정책을 마련하고, 사람들의 오해를 부를 수 있는 영상에 대해 삭제하고 있다"고 말했다.
이어 "생성형 AI를 사용한 딥페이크 영상은 오락용으로 나오는 경우가 대부분이지만, 그렇지 않은 사례도 있다. 최근 젤렌스키 우크라이나 대통령이 러시아에 항복해야 한다고 말하는 딥페이크 영상이 대표적"이라며 "영상 뿐만 아니라 생성형 AI를 활용한 사진에 대해서도, 여성 정치인이 성적인 자세로 있다면 성착취와 관련한 정책에 위배될 수 있는 등 업데이트를 통해 여러 문제에 대처하고 있다"고 덧붙였다.
구글은 자사 동영상 플랫폼 유튜브에 허위 정보가 유통되는 것을 막기 위해 '권위있는' 출처를 가진 영상의 알고리즘 우선도를 높이는 등 불법·허위 정보 확산을 방지하기 위한 노력을 진행하고 있다고 밝혔다.
특히 시사, 뉴스, 정치, 의학, 과학 등 허위 정보가 특히 많이 나오는 주제에 대해서는 머신러닝을 통해 해당 영상이 WHO(세계보건기구), 공익 보건기관 등 권위있는 출처의 정보를 사용했는지 판단하고, 이러한 영상이 검색결과 혹은 '다음으로 볼 영상'에 우선적으로 노출되도록 알고리즘을 마련했다.
만일 허위 정보 혹은 유해한 내용의 영상이 게시될 경우에는 자사 정책을 반영한 자동화 시스템으로 위반 사실이 적발된 영상을 제거하고, 부족한 부분은 플래깅(혐오 발언을 목격한 이용자가 플랫폼 제공자나 운영자에게 그 발언이 부적절하다고 알리려는 의도나 행동)을 통해 영상을 삭제하고 있다.
허위 정보 유포 사실이 다수 적발될 경우에는 '3진 아웃' 정책을 도입해 세 번째 위반 시 유튜브에서 다른 채널을 평생 만들 수 없도록 했다.
또 유튜브는 크리에이터가 조작·허위정보를 유포하는 기법 등을 소개하는 '잠시 멈춤(Hit Pause)' 캠페인을 통해 사용자가 비평적인 미디어 리터러시 스킬을 익힐 수 있도록 돕고, 크리에이터들이 영상 수익화 과정에서 유튜브의 가이드라인을 준수하도록 하는 등의 노력도 이어가고 있다고 전했다.
루시 궈 유튜브 뉴스&팩트체킹 전략파트너 책임자는 "유튜브는 세계 2위 검색엔진으로서 신뢰성있는 정보를 제공하는 것이 매우 중요하다"며 "삭제된 영상에 대해 크리에이터가 의견을 제출할 수 있는 기간을 제공하고, 정책에 위배되지 않으나 유해하게 사용될 수 있는 '보더라인' 콘텐츠에 대해 외부 평가기관의 도움을 받는 등 표현의 자유를 보전하면서도 유튜브의 책임을 다할 수 있도록 노력하고 있다"고 말했다.
