“AI 딥페이크 피해에 미성년 소송”…미국, 클로드오프 개발사 상대 규제 논쟁 확산

현지시각 16일, 미국(USA) 뉴저지주에서 10대 여학생이 자신을 대상으로 한 ‘딥페이크 누드사진’ 사건과 관련해 AI 이미지 생성 프로그램 ‘클로드오프(ClothOff)’의 개발사를 상대로 소송을 제기했다는 사실이 알려졌다. 이번 조치는 인공지능 기술의 악용이 실제 미성년 피해로 이어졌다는 점에서 미국 사회와 국제 여론에 충격을 주고 있다.

해당 사건은 17세 여학생이 과거 인스타그램에 올린 수영복 사진을 동급생 남학생이 클로드오프를 이용해 나체 이미지로 변환하면서 촉발됐다. 언론 보도에 따르면 같은 반 남학생들은 해당 도구로 만든 여러 여학생의 가짜 나체사진을 단체 채팅방에서 공유한 것으로 드러났다. 소송은 이미지 생성 소프트웨어를 개발한 ‘AI/로보틱스 벤처 스트래티지 3’와, 텔레그램(낸둥사의 메신저 플랫폼) 운영사를 피고로 포함시켰다. 원고 측은 자신과 친구들의 사진이 동의 없이 클로드오프의 AI 학습 데이터로 활용되고, 유포될 수 있다는 점에 깊은 우려를 표했다.

원고 측은 운영사가 무단으로 확보한 모든 누드 이미지를 즉각 삭제·파기하도록 법원에 요구하며, 해당 AI가 더이상 관련 이미지를 학습하지 못하게 해달라고 요청했다. 예일대 로스쿨 교수진 및 참여 학생들은 클로드오프 개발 운영사가 영국령 버진아일랜드에 법인이 등록돼 있다고 밝히는 한편, 실제 관리 주체는 벨라루스에 거주중인 것으로 파악된다고 설명했다. 만일 피고가 소송에 응하지 않을 경우, 미국 내 해당 소프트웨어 사용 차단이 추진될 전망이다.

WSJ 등 외신은 다크웹을 통해 클로드오프 링크가 급속히 확산되고 있으며, 일부 이용자들이 이를 아동 포르노 제작에 악용하는 실태까지 포착되고 있다고 보도했다. 샌프란시스코시 데이비드 치우 검사장은 이미 지난해 클로드오프를 포함한 주요 딥페이크-누드 사이트를 상대로 소송을 이어오고 있다며 “모든 운영자가 법적 책임을 질 때까지 멈추지 않겠다”고 강조했다.

이 같은 AI 딥페이크 피해 확대와 미성년자 대상 범죄 양상은 미국(USA)은 물론 국제 사회 전반에 AI 악용 범죄 대응과 규제 강화 논의에 불을 지피고 있다. 뉴욕타임스, CNN 등 주요 외신도 이번 사안을 “첨단 기술의 그림자, 즉각적 규제 필요성의 신호탄”이라며 비판적으로 분석했다.

향후 미국 법원이 내릴 판결과 AI 기반 이미지 생성 도구에 대한 실효적 규제 도입 여부가 글로벌 기준점이 될지 주목된다. 전문가들은 “미성년자를 포함한 인권 침해 피해가 실질적으로 확산되고 있다”며, ‘AI 확산 속도에 발맞춘 규범 확립이 시급하다’고 지적했다. 국제사회는 이번 사안의 법적·제도적 후속 조처를 면밀히 주시하고 있다.