“딥페이크·불법촬영 막는다”…메타, 청소년·여성 보호 AI 안전기능 확대

딥페이크와 불법 촬영물 등 신종 온라인 성범죄가 급속히 늘면서, AI 기반 안전기능을 확대한 글로벌 플랫폼 기업 메타의 대응 전략이 주목받고 있다. 권일용 동국대학교 경찰사법대학원 겸임교수는 온라인 성범죄의 대형화·지능화에 따라 단순 적발·처벌 중심에서 벗어나, 정부·수사기관·플랫폼 사업자가 협력해 기술적·정책적 해법을 마련할 필요가 있다고 밝혔다. 업계와 학계는 SNS 기반 데이터 환경에서 변화 속도가 빨라진 만큼, 이번 조치가 온라인 성범죄 대응 경쟁의 분기점이 될 것으로 보고 있다.

메타가 개발한 최신 안전 정책은 글로벌 SNS인 인스타그램과 페이스북 등에 우선 적용되고 있다. 특히 딥페이크, 불법 촬영물, 프라이버시 침해와 같은 온라인 위협을 차단하기 위해 AI 기반 이미지 인식·경고, 계정 연령별 보호 조치, 1회 본 후 자동 삭제 및 스크린샷 방지 등 세밀한 기술 규격이 도입됐다. 지난 4월부터 미국, 영국, 호주 등 일부 지역에 적용된 '청소년 계정'은 13~17세 가입자를 대상으로 보호자 동의 하에 계정 설정, 메시지 접근, 민감 콘텐츠 노출 제한과 사용 시간 관리까지 일괄 조정된다. 메타는 해당 기능을 올해 안에 한국 등으로 확대할 방침이다.

기술적으로는 다이렉트 메시지나 왓츠앱을 통해 주고받는 영상, 이미지 콘텐츠에 한해 스크린샷이 불가능하도록 한 점, 성적 이미지 전달 시 경고 메시지와 자동 흐림 처리(AI 블러링) 기술, 비동의 누드 이미지 생성 앱 운영사에 대한 소송 등 플랫폼 레벨에서의 다층적 대응이 특징이다. 동시에, 청소년 계정 이용자의 절대다수가 기본 보호 설정을 해제하지 않는 등 실질적 안전망이 작동하는 것으로 나타났다.

시장에서는 이런 조치가 청소년·여성 사용자의 디지털 안전 환경 구축, 2차 피해 예방, 피해자 개인정보 보호에 중요한 이정표가 된 것으로 평가한다. 실제로 국내외에서 플랫폼 사업자 책임 강화와 실시간 대응 체계의 중요성이 부각되고 있고, 사용자와 보호자 모두가 쉽게 접근 가능한 관리 기능이 제공되고 있다. 다만 실제 적용과정에서 데이터 규제·AI 윤리 등 잠재적 법적 쟁점과, 각국 개인정보 보호법의 상이함, 수사기관간 협업 구조 한계가 남아 있다는 지적도 있다.

글로벌 시장에서는 이미 메타 등 주요 플레이어들을 중심으로 이용자 보호 기술 경쟁이 본격화됐으며, 미국·유럽은 플랫폼법·아동온라인보호 등 입법 움직임도 빨라지고 있다. 전문가들은 향후 딥페이크 등 신종 온라인 범죄 대응에 있어 플랫폼의 기술적 역할과 규제 당국의 정책 조율, 사회적 인식 개선이 동시에 이뤄져야 한다는 목소리를 내고 있다.

권일용 교수는 “불법 촬영물 적발만으론 피해 확산을 막기 어렵다”며 “플랫폼의 자율 규제, 정부와 수사기관의 기술 협업, 교육현장에서의 예방까지 총체적 대응 체계가 마련될 때 현실적 방어망이 구축될 것”이라고 분석했다. 산업계는 신기술·플랫폼의 진화 속도에 맞춰 사회 구조·제도 개선도 따라가야 한다고 보고 있다. 결국 기술과 윤리, 산업과 제도 간 균형이 새로운 성장의 조건이 되고 있다.