“AI 워터마크 의무화”…딥페이크 규제 논란 속 실효성 쟁점 부각

딥페이크 탐지와 방지를 위한 AI 워터마크 표시 의무화가 국내 IT산업의 중요한 정책 이슈로 부각되고 있다. 과학기술정보통신부가 AI 결과물 표시의무제를 도입하며, 생성형 AI가 만든 모든 디지털 콘텐츠에 ‘AI 생성물’임을 명시하는 정책을 내년 1월부터 시행할 예정이다. 업계와 시민사회는 이번 조치를 ‘딥페이크 확산 저지’를 위한 분기점으로 평가하면서도, 실효성과 현장 적용에 대한 논란이 여전하다.

정부가 추진하는 AI 결과물 표시의무제는 AI 기본법 시행령에 근거한다. AI로 만들어진 텍스트, 이미지, 음성, 영상 등 콘텐츠 전체에 인간이 인지할 수 있는 워터마크(전자식 식별표시)를 넣도록 의무화했다. 이미지와 동영상은 시각적 워터마크와 비가시 워터마크를 모두 허용하며, 오디오의 경우 음성 안내나 비가청 주파수 삽입 방식이 가능하다. 텍스트도 챗봇 등에서 생성물임을 고지하도록 했다.

기술적으로 워터마크는 콘텐츠 표면에 정보(로고·문구 등)를 삽입하거나, 파일 내에 별도 디지털 신호를 암호화해 삽입하는 방식이 주류다. 그러나 최근 워터마크를 탐지해 제거하거나 변조하는 기술이 급속히 보급되고 있다. 특히 GAN(생성적 적대 신경망) 기반 워터마크 무력화 도구나 VWGAN 등이 기존표시 제거 성공률을 크게 높이고 있어, 실제 현장에서는 워터마크의 완전한 신뢰성 확보가 어렵다는 지적이 나온다. RivaGAN 등에서는 비가시 워터마크까지 93~99% 제거 효과가 관찰됐다. ‘딥페이크 방지’라는 제도 취지가 흔들릴 수 있다는 우려도 크다.

시장에서는 생성형 AI 활용이 확산되는 현장과 규제 사이의 간극도 관건이 되고 있다. 사람과 AI가 협업해 만든 영상·음악 등 복합 저작물에 대해 창작성 기준이 모호해, 실제 식별·분류의 혼란이 빈번히 나타난다. 정부는 순수 AI 산출물과 인간이 개입한 ‘GAI(Generative AI) 활용 저작물’을 구분한다는 지침을 냈지만, 기준이 명확하지 않아 현장에서 적용 사례별 해석이 엇갈릴 전망이다. 이에 대해 전문가들은 워터마크 의무화와 세부기준 보완이 병행돼야 산업과 규제 신뢰성을 담보할 수 있다고 강조했다.

해외에서도 유럽연합(EU), 미국 등 선진국은 AI로 인한 허위정보 확산을 막기 위해 워터마크·표시 의무를 법안 및 가이드라인에 포함하고 있다. 다만, 기술의 진보와 관련 법·정책 간 시차를 줄이기 위한 노력이 병행되고 있으며, 글로벌 딥페이크 탐지 경쟁도 가속화되고 있다.

산업계는 AI 워터마크 의무화라는 제도적 시도가 딥페이크와 허위정보 확산 문제에 대응하는 계기가 될지, 실제 시장에서 실효성을 확보할지가 관전 포인트로 보고 있다. 기술 신뢰성, 사용자 인지권, 공정 경쟁 등 복합 변수 속에서 정책·윤리·산업의 균형 마련이 지속적으로 요구되는 상황이다.