“디지털 성범죄 게시글 4년새 3.6배 급증”…신성범, AI 딥페이크 규제 촉구

딥페이크 등 인공지능(AI) 기술을 악용한 디지털 성범죄 게시글이 최근 4년 새 무려 3.6배나 급증한 것으로 드러났다. 국회 과학기술정보방송통신위원회 소속 신성범 의원은 26일, 방송통신심의위원회로부터 제출받은 자료를 바탕으로 심각한 사회적 경각심을 재차 환기했다.

방송통신심의위원회가 신 의원에게 제출한 ‘온라인 불법 유해정보 시정요구 현황’에 따르면 최근 5년간 방심위가 시정 요구를 내린 온라인상 불법 유해 정보는 총 115만8천196여 건에 달했다. 특히 연도별 시정 요구 추이는 2021년 14만2천807건에서 2024년 34만6천686건으로 가파른 증가세를 보였고, 2024년 1월부터 8월까지도 이미 17만9천621건이 시정 요구 대상에 포함됐다.  

유형별로는 디지털 성범죄 관련 게시글이 29만354건으로 최다를 기록했고, 이어 도박 28만9천532건, 성매매 24만9천221건, 불법 식·의약품 17만1천448건 순이었다. 특히 디지털 성범죄 유형의 경우 2021년 2만5천879건에서 2023년 9만4천186건으로 3.6배 급증해, AI 딥페이크 영상물 확산 문제가 수면 위로 떠올랐다.

신성범 의원은 “방심위는 AI를 활용한 모니터링 기술 개발, 국내외 포털·SNS 사업자 자율규제·심의 강화 등 기존과는 다른 방식의 신속한 대응이 필요하다”고 강조했다. 그는 “딥페이크 범죄가 빠른 속도로 진화하고 있다”며, 당국의 기술적·제도적 미비점을 지적했다.

정치권에서는 AI 기술이 만들어내는 새로운 법적·윤리적 문제에 대응 방안을 마련해야 한다는 논의가 활발해지고 있다. 디지털 성범죄 피해자들은 수사 및 삭제 조치가 충분히 신속하게 이뤄지지 않는다며 제도 개선을 촉구한다는 입장이다. 한편, 일부 여야 의원들은 포털·SNS 사업자에 대한 책임 강화 방안과, AI 활용 모니터링 시스템 도입 필요성에 목소리를 높이고 있다.

온라인 불법 유해정보 차단 문제는 AI 등 신기술 확산과 맞물려 사회적 파장이 커지는 양상이다. 국회 과학기술정보방송통신위원회는 향후 관련 법·제도 개선 방안을 본격 논의할 계획이다.