“AI 창작물 규제 강화”…과기정통부, 워터마크 의무화 검토로 논쟁 확산

인공지능(AI)으로 생성된 딥페이크 영상과 이미지 등 AI 창작물이 사회 전반에 확산하면서, 정부가 이들 콘텐츠의 명확한 식별 규제 강화에 나설 전망이다. 과학기술정보통신부는 최근 국정감사에서, AI가 제작한 결과물을 “누가 봐도 바로 알 수 있도록” 표시할 원칙을 포함한 규제 방안을 다각도로 검토하겠다고 밝혔다. 특히 워터마크 등 기술적 표시 의무화를 두고 정책·산업·윤리적 논의가 본격화되고 있다. 업계와 정책당국 모두 이번 논의를 ‘AI 거버넌스 경쟁’의 본격적 분기점으로 보는 분위기다.

이번 논의는 2024년 6월 13일 정부세종청사에서 열린 국회 과학기술정보방송통신위원회 국정감사에서 구체화됐다. 류제명 과기정통부 제2차관은 “AI 창작물의 딥페이크 등 영상·사진을 누구나 명확하게 AI작품임을 인지할 수 있게 해야 한다”는 국회 지적에 “전향적으로 검토하겠다”고 답했다. 같은 자리에서 배경훈 부총리 겸 장관 또한 AI 악용에 대해 우려를 표했다.

AI 창작물 식별 방식의 핵심 쟁점은 ‘사람이 즉각적으로 알아볼 수 있는 명시적 표기’다. 지금까지 일부 워터마크 방식은 컴퓨터 판독에 초점이 맞춰졌으나, 국회는 “피해는 사람에게 일어나므로, 사람이 직접 식별할 수 있는 기준이어야 한다”고 강조했다. 기술적으로는 영상·이미지 데이터 일부에 디지털 워터마크를 삽입하거나, 물리적 각인·라벨링 등 다양한 조치가 거론된다. 업계 부담 최소화와 소비자 혼란 방지 간의 균형점이 판정 기준으로 제시된다.

이 규제가 시행될 경우, 플랫폼 사업자·콘텐츠 제작자는 AI 생산물에 일정 물리적·시각적 표시를 부착해야 한다. AI 기반 합성영상, 이미지 생성툴 등도 모두 적용 대상이 될 수 있다. 첨단 생성AI 시장이 빠르게 성장하는 미국·유럽은 이미 유사한 정책을 예고한 바 있다. 특히 EU의 AI Act에서는 투명성 강화를 위해 생성 AI 결과물의 식별 표시를 명문화했고, 대형 플랫폼은 소비자 안내문구와 이미지 워터마크를 병행하는 추세다.

국내 도입 논의 과정에서는 기존 AI/플랫폼 생태계의 기술 표준 마련과, 서비스 사용자 혼란·권리 침해 방지 절차가 병행돼야 한다. 아울러 식별표시 의무화가 콘텐츠 유통·광고·정치 선동 등 사회 전반에서의 악의적 왜곡 방지에 실효성이 있는지도 본격적으로 검토된다. 일각에서는 “지나친 규제는 AI 창작물 기업의 개발 부담을 늘릴 수 있다”는 우려도 나온다.

전문가들은 “AI 창작물의 명확한 식별 기준 확립이 향후 산업 생태계 신뢰성의 출발점이 될 것”이라며, “정책·기술·윤리 간 균형을 중시한 단계적 제도화가 필요하다”고 관측한다. 산업계는 실제 규제가 서비스 현장에 안착할 수 있을지 예의주시하고 있다.