“딥페이크까지 차단한다”…방통위, 불법 촬영물 18만건 삭제 확대

인공지능(AI) 등 첨단 기술을 활용한 불법 촬영물 유통이 IT·바이오 산업은 물론 사회 전반의 경계를 흔들고 있다. 지난해 네이버·구글·카카오 등 주요 인터넷 사업자들이 삭제하거나 차단한 성 착취물이 18만 건을 넘어서는 등, 디지털 성범죄 대응의 공적 책임이 부각되고 있다. 이 같은 수치는 전년 대비 2배 이상 증가하며, 신고 건수 역시 32만 건을 돌파해 산업 내 파장이 크다. 업계와 당국은 “딥페이크 등 AI 기반 성범죄물 확산에 맞서 기술적 감시와 주체적 대응 역량이 모두 중요한 분기점”으로 보고 있다.

방송통신위원회는 4일 네이버, 카카오, 구글, 메타 등 국내외 주요 인터넷 사업자 81곳이 제출한 ‘2023년 불법 촬영물 등의 처리에 관한 투명성 보고서’를 공개했다. 증분된 데이터에 따르면, 불법 촬영물에 대한 신고 건수는 32만1261건, 삭제·접속 차단 건수는 18만1204건으로 각각 전년 대비 58.7%, 122.1% 급증했다. 삭제·차단 건수가 신고 대비 낮은 배경은 중복 신고, 사건 해소 또는 불법물이 아닌 사례가 상당수 있기 때문이라는 게 당국 분석이다.

주요 사업자들은 성폭력범죄 처벌 특례법, 아동·청소년 보호법 등에 부합해 불법 촬영 영상, 합성·가공물, 아동·청소년 성 착취물 등 디지털 성범죄물 유통 방지에 적극 대응 중이다. 여기엔 독립적 모니터링 조직 확대와 인공지능 기반 사전 필터링 시스템 도입, 자체적 삭제 및 경고 프로세스 구축 등 다양한 기술적·관리적 조치가 적용되고 있다.

특히 지난해부터 이슈가 된 ‘딥페이크’ 등 AI 활용 합성 불법물 탐지와 차단은 기존 키워드·해시값 비교 중심의 한계를 극복하고, 이미지 분석 알고리즘 고도화, 패턴 변화 추적 등 첨단 IT기술 통합이 강조되는 영역으로 부상했다. 미국, 유럽 등에서도 메타와 구글, 마이크로소프트 등이 자체 기술을 활용한 실시간 차단 시스템을 시행 중이다. 국내 역시 글로벌 기준에 맞춘 투명성 보고 체계와 필터링 기술 적합성 점검 체계를 강화 중이다.

방통위는 불법 촬영물 대응 투명성 확보를 위해 매출액 10억원 또는 일평균 이용자 10만명 이상인 SNS, 포털, 인터넷방송, 커뮤니티 등 주요 부가통신사업자와 웹하드 사업자 등을 중심으로 보고 체계와 현장 관리·기술 점검을 제도화하는 데 집중하고 있다. 또 불법 촬영물 유통방지 책임자 교육과 기술적 조치 이행 여부 점검도 연내 상시화할 방침이다.

전문가들은 “AI 기술이 딥페이크 제작·유통 속도를 높이는 만큼, 산업계의 기술 투자와 사전 대응 체제 강화가 절실하다”고 평가하고 있다. 이진숙 방통위원장은 “AI 기반 디지털 성범죄물로 인한 피해가 급증하는 상황에서 사업자들의 유통 방지 노력은 사회적 책무”라며 “투명성 보고서 실질화와 필터링 기술 고도화가 필수적”이라고 강조했다.  

산업계는 인터넷 플랫폼이 불법물 중간 유통지로 악용되는 흐름 속, 이번 보고서와 기술적 대응이 실제 현장에 안착할 수 있을지 예의주시하고 있다.