“AI까지 동원된 허위정보 영상”…유튜버發 혐한 조장에 IT업계 경계

AI 기술과 디지털 플랫폼이 언론·정보 유통에 미치는 영향이 커지면서, 유튜브 등 동영상 플랫폼에서 자극적 허위 정보가 국경을 넘어 확산되는 현상이 산업계와 사회 전반에 새로운 경각심을 주고 있다. 최근 일본에서 활동하는 한국인 유튜버가 한국 범죄·치안 통계를 왜곡해 영상을 유포한 사례가 대표적이다. 업계는 AI 자동 번역 및 추천 알고리즘이 이런 영상의 노출과 확산을 가속화한다는 점에도 주목하고 있다.

해외 유튜브 채널 ‘대보짱’은 지난달 ‘한국에 중국인 범죄자가 대거 입국해 하반신 시신이 37구나 발견됐다’ 등 명백히 사실과 다른 주장을 담은 영상을 게시했다. 영상은 90만명이 넘는 구독자를 대상으로 일본 현지에서 빠르게 확산됐는데, 그 근거는 현직 검사라는 익명 게시자의 댓글과 확인되지 않은 온라인 정보에 그쳤다. 특히 ‘실종자 8만 명’ 등 허위 통계나 극단적 자극 표현이 AI 기반 추천, 자동번역 기능으로 번역·재가공돼 현지 커뮤니티, 동영상 클립, 각종 SNS로 급속히 퍼진 형태다.

AI·플랫폼 기술은 누구나 비교적 쉽게 영상이나 이미지를 가공하고 여러 언어로 유통하는 데 핵심 도구로 활용되고 있다. 음성·자막 자동 번역, 조회수 기반 노출 알고리즘, 관련 영상 묶기 등 서비스 구조가 검증되지 않은 허위정보의 글로벌 전파에 일조한다는 것이 전문가들의 지적이다. 업계 한 관계자는 “국경을 넘는 자극적 허위 콘텐츠는 감정적 폐쇄성, 혐오를 악순환시키는 요인으로 작용할 수 있다”고 말했다.

국내외 플랫폼 기업 역시 IT 신뢰성, 콘텐츠 검증 자동화, 경고 라벨 부착 등에 투자를 확대하고 있으나, 비슷한 사안이 줄지 않는 배경에는 글로벌 정보유통 규정의 한계도 자리하고 있다. 미국, 유럽 등에서는 딥페이크, 허위정보 방지 AI 기술 도입에 속도를 내고 있지만, 플랫폼별로 기준이 상이해 영상 유포 속도를 모두 따라잡기 어려운 상황이다.

한국에서도 플랫폼 기업의 자율규제, 관할 정부기관 심의 기준 강화, 권위기관 팩트체크 연동 등 다양한 대책 논의가 필요한 시점으로 보인다. AI가 정보 신뢰도 평가에도 본격 활용되기 전까지, IT업계와 정책당국의 협력적 관리체계 마련이 당면 과제로 지적된다.

산업계는 AI·플랫폼 융합이 정보 전달의 패러다임을 바꾸는 동시에, 허위 정보와 감정적 이슈의 전파 역시 가속할 수 있다는 점에서, 디지털 산업이 감당해야 할 책임과 관리체계에 대한 논의가 더 넓어질 것으로 보고 있다.