“불법촬영물 AI 심의 속도 내야”…구글·메타 등, 국내 대응 역부족에 규제 논의 확산

불법촬영물 탐지 및 심의 시스템의 한계가 IT 산업의 사회적 신뢰와 안전망 구축을 가로막고 있다. 2023~2024년 동안 구글(유튜브), X(구 트위터), 메타 등 주요 글로벌 플랫폼에 접수된 불법촬영물 신고가 39만 건을 넘어서며, 삭제·차단 등 사후 조치의 실효성과 심의 속도가 산업 내 과제로 부상했다. 업계와 국회는 이번 상황을 ‘플랫폼 책임 강화’와 AI 자동 심의 도입 경쟁의 분기점으로 진단한다.  

국회 과학기술정보방송통신위원회가 최근 공개한 투명성보고서에 따르면, 2년간 주요 해외 플랫폼에 접수된 불법촬영물 신고 건수는 총 39만3937건으로 지속적인 증가세를 보이고 있다. 특히 구글(유튜브)의 신고가 2023년 9만여 건에서 2024년 15만8000여 건으로 75% 이상 늘었다. X 역시 연간 6만 건대로 집계됐고, 메타는 해시 기반 자동 탐지·차단 시스템을 통해 20만여 건의 콘텐츠를 국내 차단했다.  

핵심 기술적 현황은 ‘심의·삭제 자동화의 부족’에 집중된다. 메타는 방심위 제공 해시값 기반 불법촬영물 탐지 시스템을 도입해 차단 효율을 높인 반면, 구글이나 X는 신고량 증가에 비해 심의 조직의 확장이나 AI 기반 탐지 고도화에는 상대적으로 미진한 모습이 확인됐다. 성적 불법촬영물, 딥페이크(성적 허위영상물) 등 신고도 연간 14만여 건, 1만8000여 건으로 집계되면서 자동 AI 탐지·분류와 대응 속도에 대한 목소리가 커지고 있다.  

실제 방송미디어통신심의위원회의 연간 통신심의 건수는 2008년 2만9000건에서 2024년 35만6000건으로 12배 폭증했다. 그럼에도 위원 수는 43명으로 2배 수준에 불과하고, 1인당 연간 처리 건수는 8300여 건에 달한다. 올해 10월 현재 심의 대기 건수는 16만8000건으로, 도박·식의약·음란 성매매 등 국민 피해가 큰 불법정보가 대거 적체된 상태다.  

심의 지연의 직접 원인은 인력 부족과 심의 자동화 지연에 있는 것으로 분석된다. 특히 딥페이크 등 AI 변조 음란물은 기존 탐지 로직으로는 판별 한계가 뚜렷해, 고도화된 이미지·동영상 분석 AI의 도입이 시급하다는 지적이 나온다. 디지털 플랫폼별로는 해시값, 패턴매칭, 영상속성 탐지 등 일부 자동화는 적용되고 있으나, 신고-심의-삭제 전체의 워크플로우 자동화와 즉시 대응 체계 구축까지는 갈 길이 멀어 보인다.  

글로벌 시장과의 규제 격차도 문제다. 독일, 호주 등은 불법촬영물 등 중대 불법정보가 신고될 경우 플랫폼에 24시간 내 삭제(또는 비공개) 의무를 부과하고, 미이행 시 연간 매출의 6~10%까지 고액 과징금을 매길 수 있다. 반면 한국은 해외 플랫폼에는 국내망 차단·정책 협조 수준에 머무르고 있으며, 사업자의 실질적 책임을 강제할 일관된 과징금 구조나 제재권 역시 미비하다.  

정책 대응에서는, AI 심의 자동화의 의무화, 해외 플랫폼 직접 제재 근거 마련, 신고 접수-조치 간 신속 매칭을 위한 임시조치제 법제화가 핵심 과제로 부상하고 있다. 국회 과방위 소속 최수진 의원은 “플랫폼의 투명성보고서 공개를 명목적 수준에 머물지 않게 하고, 심의 자동화·AI 탐지 의무 도입·해외 사업자 제재 체계 구축을 최우선 입법 과제로 삼아야 한다”고 밝혔다. “국민 피해가 몇 달씩 지연되는 현실을 해소할 신속조치 체계 마련이 반드시 뒤따라야 한다”는 지적이다.  

전문가들은 “플랫폼 심의의 자동화 정도가 디지털 사회 안전망의 핵심”이라고 지적하며, 기술 발전 못지않게 플랫폼-정부 간 즉각 조치 연동과 강제성 있는 규제 정비가 필요하다고 진단한다. 산업계는 이번 이슈가 실질적 대응 전환의 시험대가 될지, 경계심을 높여가고 있다.