“딥페이크가 국감장까지”…AI 허위정보 대응 체계, 산업 신뢰 시험대

AI 딥페이크 기술이 국정감사 현장에 등장하면서, IT·바이오 산업 전반의 신뢰와 정책 대응 체계에 대한 우려가 커지고 있다. 최근 과학기술정부통신부 국감에서는 배경훈 부총리 겸 장관을 소재로 한 딥페이크 동영상이 사실 여부 구분 표시 없이 시연돼, 허위정보가 공적 기록에 침투하는 위험성이 드러났다. 업계와 정책 담당자 모두 AI 기반 가짜뉴스의 확산과 윤리·규제 전략 강화의 필요성이 절실해지고 있다고 진단한다.

문제의 영상은 배경훈 부총리와 정치인의 만남을 실제처럼 연출한 변조 음성·이미지를 담았으나, ‘조작 영상’임을 명시하는 자막이나 표시가 부재했다. 배 부총리는 “영상이 돌아다니면 사실로 오해될 수 있다”며 “딥페이크임을 표시하지 않은 점이 유감”이라고 공식 입장을 밝혔다. 김장겸 의원은 AI 기반 허위정보 확산 사례에 경각심을 주기 위한 시연임을 밝혔으나, 현장에서는 정치권 허위사실 유포, 사회 혼란 조장 위험에 대한 문제의식도 확산됐다.

딥페이크와 같은 생성형 AI 기술은 시청각 자료 위조와 변조를 실시간에 가깝게 가능케 하는 것이 핵심 원리다. 원본 영상 없이 인물 사진, 음성 샘플만으로도 신뢰도 높은 합성물이 제작된다. 공개된는 방식의 최신 생성형 AI는 기존 포토샵·CG보다 제작 진입장벽이 낮고, 내용의 사실 판단이 어렵다. 이번 영상 역시 “몇 초 만에 완성된 딥페이크”임을 의원이 현장에서 밝혔다.

외국에서도 가짜뉴스와 AI 허위정보의 파급력에 대한 우려가 커진 바 있다. 미국·유럽에서는 각국 선거를 앞두고 딥페이크 정치 광고, 음성 합성 사기 등 기술 악용에 대응하기 위한 규제안, 정책 가이드라인이 잇따라 마련되고 있다. 특히 EU는 ‘AI Act’ 등 법제화로 AI 신뢰성·책임성 확보를 강조한다.

국내에서는 AI 안전·신뢰 정책 역량 강화가 이제 막 시작된 단계다. 배경훈 부총리는 과기정통부 산하에 ‘AI안전신뢰정책과’ 등 전담 조직을 신설했으며, “AI 진흥 못지않게 신뢰와 안전을 지키겠다”고 밝혔다. 다만 부처 간 데이터·윤리 규제, 실시간 허위정보 감시 체계는 여전히 미비하다는 평가다. 김장겸 의원은 “내년 선거를 앞두고 AI 가짜뉴스 양산이 심화될 것”이라며 “전담 조직과 부처 협업이 절실하다”고 지적했다.

산업계 역시 “AI 신뢰·투명성 없이는 지속 성장 기반이 흔들릴 수 있다”는 분위기다. 알파폴드(DeepMind), GPT(오픈AI) 등 글로벌 주요 AI 산업 주체는 정부 인증·AI 위조 탐지와 같은 기술을 병행 개발 중이다. 데이터 출처의 투명성, 합성물 확인 기술, 알고리즘 감시 등도 핵심 산업과제다.

전문가들은 공적 기관과 산업계 모두 “정책·규제·윤리 인프라와 기술 개발이 균형 있게 선행돼야 한다”며, 신뢰 확립 실패 시 AI 산업 성장 자체가 좌초할 위험성이 있다고 분석한다. 산업계는 이번 기술이 실제 시장에 안착할 수 있을지 주시하고 있다.