딥페이크 탐지 AI 에이전트…샌즈랩, ACDC서 선보여 보안판도 주목
딥페이크 탐지 AI 기술이 사이버보안 산업의 새로운 축으로 부상하고 있다. 이미지와 영상을 정교하게 조작하는 생성형 인공지능의 확산으로, 보안업계는 기존 탐지 모델을 우회하는 적대적 딥페이크 방어에 초점을 맞추는 흐름이다. 샌즈랩이 인공지능 해킹방어 대회에서 선보인 딥페이크 탐지 AI 에이전트는 탐지와 분석, 이용자 질의 응답까지 통합한 형태로, 에이전틱 AI 기반 보안 패러다임 전환의 시험대가 됐다는 평가가 나온다.
샌즈랩은 1일부터 2일까지 서울 코엑스에서 열린 2025 ACDC 인공지능 해킹방어 대회에 참가해 딥페이크 탐지와 분석 기술을 기반으로 한 AI 에이전트를 공개했다. 관람객이 직접 딥페이크 이미지를 생성하고 탐지하는 체험 부스를 운영했으며, 자사 딥페이크 탐지 서비스 페이크체크 3.0에 적용될 예정인 핵심 기술과 개발 중인 AI 에이전트 모델을 현장에서 시연했다.
페이크체크 2.0이 생성형 AI가 만든 합성 이미지를 판별하는 데 중점을 뒀다면, 샌즈랩이 이번에 고도화한 기술은 딥페이크 탐지 회피를 노리고 설계된 적대적 이미지까지 겨냥한 것이 특징이다. 적대적 이미지란 탐지 모델을 속이기 위해 노이즈 패턴을 이미지 내부에 미세하게 삽입한 것으로, 사람 눈에는 자연스러운 사진처럼 보이지만 일반적인 딥러닝 기반 탐지 모델이 합성 여부를 제대로 인식하지 못하도록 만든 공격 기법을 가리킨다. 샌즈랩은 이러한 노이즈 분포 특성을 포착해 위변조 여부를 판별하는 알고리즘을 강화했다.
현재 개발 중인 페이크체크 3.0은 적대적 공격을 포함한 다양한 유형의 딥페이크를 통합 분석하는 것을 목표로 한다. 여기에 샌즈랩이 독자 개발 중인 AI 에이전트를 탑재해 기술 차별화를 꾀하고 있다. 에이전틱 AI는 환경을 인지하고 스스로 목표를 설정해 일련의 작업을 수행하는 자율형 인공지능을 뜻하는데, 샌즈랩 모델은 딥페이크 탐지와 분석 과정 전체를 하나의 작업 흐름으로 묶어 자동 실행하는 구조를 지향한다.
샌즈랩 AI 에이전트는 단순히 위변조 여부만 반환하는 기존 탐지 서비스와 달리, 사용자가 제시한 이미지와 영상에 대해 스스로 질의를 생성하고 필요한 분석 단계를 추론해 최적의 결과를 도출하는 방식을 채택했다. 예를 들어 인물 영상이 입력되면 얼굴 합성 여부, 입 모양과 음성 싱크 불일치, 배경 조작 유무 등 여러 관점에서 세부 검사를 수행한 뒤, 분석 결과를 거대언어모델 LLM을 통해 정리해 자연어 보고서 형태로 답변해 주는 구조다. 기업 보안 담당자가 수많은 의심 콘텐츠를 신속하게 분류해야 하는 상황에서, 에이전트가 자동으로 위험도를 평가하고 근거를 설명해 주는 것이 목표다.
행사 첫날에는 배경훈 부총리 겸 과학기술정보통신부 장관이 샌즈랩 부스를 방문해 딥페이크 탐지 AI 에이전트를 직접 체험했다. 김기홍 샌즈랩 대표는 시연을 통해 자사가 축적한 사이버 위협 데이터와 이를 활용한 AI 응용 기술, 그리고 보안 현장에 특화된 AI 에이전트 개발 방향을 소개했다. 정책 책임자가 현장에서 에이전틱 보안 기술을 직접 확인한 만큼, 향후 정부의 AI 보안 정책 논의 과정에서도 딥페이크 대응 체계가 주요 의제로 부각될 가능성이 있어 보인다.
둘째 날에는 사이버보안 AI데이터셋 우수 활용 성과 공유회가 동시에 열렸다. 한국인터넷진흥원 KISA가 추진하는 사이버보안 AI데이터셋 사업을 매년 수행해 온 샌즈랩은 APT 기반 위협 프로파일링 AI데이터셋 구축과 활용을 주제로 주요 성과를 발표했다. APT는 장기간에 걸쳐 특정 기관이나 기업을 집요하게 노리는 지능형 지속 공격을 의미하며, 공격 그룹별 전술과 기법, 사용 악성코드 특징을 프로파일링해 학습데이터로 정제하는 작업이 중요하다. 샌즈랩은 이러한 위협 인텔리전스 데이터셋이 향후 AI 에이전트 기반 보안 기술의 토대가 될 것이라고 강조했다.
글로벌 시장에서는 이미 딥페이크를 활용한 피싱, 금융사기, 기업 임원 사칭 공격이 현실화된 상황이다. 해외 보안업체와 빅테크 기업들도 이미지·음성 합성 탐지 모델을 고도화하고 있지만, 생성형 AI의 발전 속도에 맞춰 적대적 공세도 빠르게 진화하고 있어 탐지 회피 대응력이 핵심 경쟁 요소가 되고 있다. 이번 샌즈랩의 적대적 딥페이크 탐지 기술과 AI 에이전트 시연은 국내에서도 합성미디어 보안 시장을 겨냥한 본격적인 기술 경쟁이 시작됐다는 신호로 해석된다.
김기홍 샌즈랩 대표는 에이전틱 AI 시대에는 탐지, 판단, 대응 전 과정에서 사이버보안 AI 에이전트의 역할이 더욱 중요해질 것이라며, 2025 ACDC에서 공개한 기술들을 기반으로 AI 에이전트 중심 보안 체계를 지속적으로 고도화하겠다고 말했다. 산업계는 딥페이크 남용과 적대적 공격이 상시 위험으로 떠오른 상황에서, 이러한 에이전트형 보안 기술이 실제 서비스와 인프라에 얼마나 빠르게 안착할 수 있을지 주시하고 있다.
