“딥페이크 확산”…선관위, 대선 앞 AI 위조경쟁 심각 경고→사회 혼란 부각

인공지능 기술의 비약적 진화와 함께, 정보의 진위가 혼돈 속에 뒤섞이는 새로운 시대가 열렸다. 특히 중앙선거관리위원회는 제21대 대통령선거를 앞두고 특정 후보자의 이익 또는 불이익을 위해 제작된 딥페이크 영상의 유포 사실을 공식 확인하며, 선거의 신뢰 기반이 심각하게 흔들리고 있다고 밝혔다. 이처럼 실체를 구분하기 어려운 허위 콘텐츠가 일상적으로 확산되는 지금, 선거라는 공적 영역에서의 AI 남용 문제가 기술과 사회의 경계선을 위협하고 있다는 분석이 지배적이다.  

선관위는 딥페이크를 활용한 범죄적 선거개입의 전모를 공식적으로 고발했다. 인공지능을 기반으로 한 여성 아나운서가 후보자를 지지하거나 반대하는 가짜 뉴스 영상을 생성해 유튜브 및 온라인 커뮤니티에 배포한 사례, 죄수복을 입은 후보자의 이미지 합성 등 감성 자극형 딥페이크가 총35회 제작, 유통됐다. 2024년 4월 4일부터 29일 사이 한국인터넷자율정책기구를 통해 삭제 요청된 딥페이크 콘텐츠는 누적 9678건으로, 전년도 총선 기간 대비 25배 이상 증가한 것으로 집계됐다(중앙선관위 자료). 2023년 12월 개정된 공직선거법에 따라 AI 기반 가짜 영상의 제작·배포가 엄중한 위법 행위로 명시된 이후 첫 공식 고발 사례로 기록됐다. 법은 선거일 전 90일부터 선거일까지 실재와 식별이 불가능한 AI 합성 콘텐츠 제작 행위를 엄격히 금지한다. 이를 위반할 경우 7년 이하의 징역, 혹은 1000만 원 이상 5000만 원 이하의 벌금이 부과될 수 있다.  

딥페이크란 용어는 '딥러닝'과 '가짜'의 합성으로, AI 기술을 통해 타인의 얼굴이나 목소리를 현실적으로 합성하는 것을 의미한다. 최신 딥러닝, 특히 생성적 적대 신경망(GAN) 기반의 기술력은 최소한의 데이터만으로 실제와 구분이 어려운 고해상도 영상을 만든다. 전문가들조차 면밀한 조사 없인 판별이 어려울 만큼 정교해졌고, 스마트폰 앱만으로도 누구나 손쉽게 영상·음성 변조 결과물을 얻는 시대가 됐다. 글로벌 차원의 피해도 심각하다. 미국에서는 팝스타 테일러 스위프트의 합성 음란물이 X(구 트위터)에 유포돼 사회적 경각심을 자극했고, 톰 행크스 역시 AI 합성 얼굴이 자사의 동의 없이 광고에 활용된 사실을 경고한 바 있다.  

국내 보안 업계는 딥페이크 판별·차단 기술 개발에 매진하고 있다. 기본적으로 AI로 사람의 얼굴 움직임, 음성 파형, 영상 속 미세 디테일, 메타데이터 등 다층적인 정보를 분석하는 방법이 활용되고 있다. 합성곱신경망(CNN)을 이용해 실제 얼굴과 합성 이미지를 비교하거나, 딥페이크 콘텐츠 내 음성의 비정상적 진동 패턴과 미세 움직임의 불일치를 검출하는 알고리즘이 고도화되고 있다. 영상 편집 이력, 파일 메타데이터 분석을 통해 인공 생성의 흔적을 찾는 방법도 도입되고 있다. 보안 대책이 진화할수록 악용 사례 역시 복잡해지는 ‘쫓고 쫓기는’ 기술 경쟁이 이미 시작됐다는 평이다.  

그러나 가장 강력한 방벽은 여전히 시민의 경각심과 책임감에서 비롯됨을 전문가들은 공통적으로 지적한다. 선거와 사회 공적 이슈에 관한 영상·이미지를 공유하기 전, 제작 의도와 진위여부를 적극적으로 확인하는 태도가 사회 혼란을 막고 민주주의 기반을 지키는 출발점이라는 경고가 이어지고 있다. 딥페이크는 기술 자체로서만 평가될 수 없는 윤리적 선택의 영역에도 깊이 발을 들여놓은 현상으로, 향후 정책·제도적 대응과 기술 발전, 그리고 사회적 책무의 삼중주가 요구된다.