“대선 딥페이크 급증”…중앙선관위, AI 선거 혼탁 심화→기술·정책 공방 본격화

중앙선거관리위원회는 제21대 대통령 선거를 전후해 딥페이크 기반의 불법 콘텐츠 적발 건수가 역대 최고치에 달했다고 밝혔다. 선거기간 중 한국인터넷자율정책기구 등과 협력해 삭제가 요청된 딥페이크 게시물은 1만448건으로, 이는 지난해 총선 대비 26배 증가한 수치로 기록됐다. 지난해 마련된 딥페이크 규제법 시행 이후, 최초의 형사 고발 사례 역시 이번에 등장했다.  

정치적 목적 및 기술 진입장벽의 낮아짐, 소셜 미디어에 의한 확산 등 복합적 요인이 딥페이크 콘텐츠 폭증의 근간으로 지목된다. 해당 기술은 딥러닝과 합성 기법을 바탕으로, 인물의 표정·목소리·행동 패턴까지 사실적으로 모사한다. 시장조사업체 스태티스타(Statista)에 따르면 2024년 글로벌 딥페이크 시장은 5억 달러를 이미 넘어선 것으로 추산된다. 실제앱스토어 검색만으로도 수십여 종의 딥페이크 제작 앱이 노출되고, 서버 기반 AI는 몇 분 만에 진짜와 구별이 힘든 영상을 생성한다. 전문가 집단조차 고도화된 생성 알고리즘의 판별에 한계를 인정한 바 있다.  

이에 발맞춰 국내 보안 업계는 탐지 AI 개발, 유포 경로 분석 기술, 패턴 기반 모니터링 도입에 역점을 두고 있다. 주목할 점은 딥페이크 영상에서 드러나는 비정상적 눈 깜빡임, 입모양 불일치 등 세밀한 패턴 탐지력의 진화다. 다만, 기술 역전 가능성과 법적 규제 미비는 여전히 사회적 위험의 이면으로 남아 있다. 보안 전문가들은 “딥페이크는 누구나 제작할 수 있으나, 그 피해는 사회 전체에 되돌릴 수 없는 충격을 안긴다”며, 개인 책임윤리와 공적인 검증 문화 확산 필요성을 거듭 강조했다. 선거, 공공 이슈 영역에서의 AI 활용 논쟁은 앞으로도 기술과 제도의 동반 진화를 예고하고 있다.