“AI가 아동·청소년 성착취물 24시간 감시”…정부, 실시간 차단체계 도입

인공지능(AI) 기술이 아동·청소년 온라인 성착취물 대응 패러다임에 변화를 가져오고 있다. 과학기술정보통신부와 여성가족부는 6월 23일 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입’ 과제의 착수보고회를 열고, AI·빅데이터 등 디지털 신기술을 활용한 실시간 감시·차단 체계를 본격 추진한다고 밝혔다. 업계는 AI 도입을 온라인 성범죄 대응의 전환점으로 평가하며, 현장 적용에 따른 파급력을 주목한다.

이번 사업은 기존 수작업 키워드 검색과 육안 모니터링 중심 대응의 한계를 AI 기반 자동 탐지로 개선하는 것이 핵심이다. 자가학습형 AI 시스템은 24시간 365일 실시간으로 온라인 플랫폼 내 아동·청소년 성착취물을 탐지·차단한다. 알고리즘은 텍스트·이미지 등에서 의심 데이터를 분석하고, 고도화된 위험도 분류와 검토 대기열 생성으로 체계적 대응이 가능해졌다. 과거에는 한국여성인권진흥원 담당자가 발견 즉시 플랫폼사에 삭제를 개별 요청했으나, 앞으로는 신고·삭제 지원 API를 자동 연계해 신속한 처리와 이력 관리가 이뤄진다.

특히 AI가 점차 정밀한 특징 인식 및 패턴 분석을 구현함에 따라, 신종 딥페이크 등 최신 디지털 성범죄 유형까지 빠르게 탐지할 수 있는 점이 주목된다. 미국 등 해외 주요국 역시 빅테크 중심의 자동화된 불법콘텐츠 검수가 보편화되고 있으며, 국내 최초로 이러한 시스템을 공공 주도 협업 모델로 도입한다는 점에서 각국 벤치마킹이 이어질 전망이다.

한국여성인권진흥원은 피해자 상담 및 지원, 플랫폼 연계 등 피해자 보호 체계 설계에 실무 노하우를 접목한다. 각 기관은 피해 접수-삭제 지원-상담 연계의 통합 운영 체계를 구축함으로써, 반복적 수작업 부담을 줄이고 신속대응을 실현할 계획이다.

국내에서는 통신비밀보호, 개인정보 이슈 등 법제 차원의 세밀한 기술 활용 심의가 선행돼야 하며, 해외에서는 유럽연합(유럽디지털서비스법) 및 미국(Children’s Online Privacy Protection Act) 등 관련 제도와의 정합성 확보도 과제로 거론된다. 향후 실제 운영 과정에서 개인정보 보호와 AI 기술 신뢰성, 적법성 확보가 병행돼야 할 것으로 보인다.

전문가들은 “AI 기반 삭제 지원 체계가 상용화되면 디지털 성범죄 대응의 실효성이 단기간 내 크게 향상될 것”이라고 평가하는 한편, “기술 효과와 더불어 사회적 기반 제도 개선, 윤리적 논의도 병행 추진이 필요하다”고 진단한다. 산업계는 이번 시스템의 시장 안착 및 범국가적 확산 가능성에 주목하고 있다. 기술과 윤리, 산업과 제도 간 균형이 새로운 성장의 조건이 되고 있다.