AI 해킹방어대회 첫선…한국, 보안패러다임 전환 시험대
인공지능을 활용해 인공지능 해킹 공격까지 막는 세계 최초 방식의 해킹대회가 서울에서 열렸다. AI가 공격 도구이자 방패로 동시에 활용되는 시대가 다가오면서, 사이버 보안 패러다임도 알고리즘 중심으로 재편되는 흐름이 가시화되고 있다. 정부는 이번 대회를 계기로 AI 보안 인재를 조기 발굴하고, 글로벌 AI 강국 전략의 핵심 축으로 사이버보안 역량을 끌어올리겠다는 구상이다. 업계에서는 AI 해킹방어대회가 향후 국제 대회로 성장할 경우, AI 보안 기술 주도권 경쟁의 분기점이 될 수 있다는 분석도 나온다.
과학기술정보통신부는 한국인터넷진흥원, 한국정보보호산업협회와 함께 2025 인공지능 해킹방어대회 ACDC를 12월 1일부터 2일까지 서울 삼성동 코엑스 그랜드볼룸에서 개최한다고 밝혔다. 모두를 위한 인공지능, 모두를 위한 보안을 주제로 내건 이번 대회는 인공지능을 활용한 보안, 인공지능의 안전성 확보, 인공지능 플랫폼 보안 등 AI 보안의 3대 축을 아우르는 점이 특징이다.
경쟁 방식은 CTF 형태로 구성됐다. 참가자는 팀별로 격리된 클라우드 환경에서 제한 시간 내에 다수의 과제를 해결하며 숨겨진 특정 문자열인 플래그를 찾아 점수를 얻는다. 전통적인 CTF가 운영체제 취약점, 네트워크 침투, 암호 해독 등 정통 해킹 기술에 집중했다면, ACDC는 AI 모델 공격과 방어, 데이터 조작 탐지, AI 기반 이상 징후 탐지 등 알고리즘 중심 과제를 대거 포함한 점에서 차별화된다.
예선전은 10월 31일과 11월 1일 이틀간 온라인으로 진행됐다. 주요 공공기관과 대기업 레드팀, 세계 해킹대회 수상 경력이 있는 보안기업, 국내 정보보호학과를 보유한 주요 대학 등에서 총 187개 팀 748명이 참여했다. 그 가운데 일반 부문에서 티오리 단일팀인 더 볼드 덕, 대학생 부문에서 KAIST·서울대·건국대·단국대 연합팀인 벌집으로 만들어 주지 등 상위 20개 팀이 본선 진출권을 따냈다.
1일 오전 열린 개회식에서는 글로벌 빅테크와 학계 전문가들이 AI가 이끄는 새로운 보안 지형을 조망했다. 가보르 첼레 오픈AI 매니저, 이안 림 CISCO 아태지역 고객총괄, 권태경 연세대학교 교수가 기조연설을 맡아 생성형 AI 확산 이후 공격 자동화 속도, 방어 체계의 자율화 수준, 데이터와 알고리즘의 신뢰 확보 전략 등을 제시했다. 이어 본선 진출 20개 팀이 무대에 올라 출전 세리머니를 진행하며 AI 기반 보안 기술 경쟁에 돌입했다.
1일 오후부터는 라오 수라파네니 구글클라우드 부사장과 국내 화이트해커들이 참여하는 AI 보안 인사이트 세미나가 병행된다. 여기서는 실제 공격 시나리오를 전제로 한 AI 모델 공격 기법, 방어 알고리즘 설계, 클라우드 기반 인프라 보안과의 연계 방안 등이 논의될 예정으로 알려졌다. 같은 시각 8시간 동안 진행되는 본선에서는 실시간 점수판을 통해 상위권 팀이 수시로 바뀌는 구조로 설계돼, 참가자들 간 AI 보안 전략과 자동화 도구의 완성도가 승부를 가를 전망이다.
행사 구성은 기술 경연을 넘어 산업 생태계 확장에 초점을 맞췄다. AI를 활용한 보안 영역에서는 대규모 언어모델을 이용한 로그 분석 자동화, 악성코드 변종 탐지, 침입 징후 예측 등이 과제로 포함된 것으로 전해진다. 인공지능의 안전성 확보 영역에서는 모델 탈취 공격 모델 스틸링, 학습 데이터 중독 공격 데이터 포이즈닝, 프롬프트 인젝션과 같은 새로운 위협에 대한 방어 전략이 중점 평가 대상이다. 인공지능 플랫폼 보안에서는 AI 서비스 운영 환경에서의 권한 관리, API 보호, 데이터 무결성 검증 등 클라우드 네이티브 보안 역량이 요구된다.
글로벌 시장에서는 이미 AI를 활용한 공격과 방어 경쟁이 빠르게 확산되고 있다. 북미와 유럽에서는 생성형 AI를 이용한 피싱 메일 자동 생성, 악성 코드 난독화 도구, 취약점 탐색 자동화 도구가 상용·오픈소스 형태로 등장하고 있다. 이에 대응해 미국과 유럽의 일부 보안기업은 AI 기반 탐지 엔진을 통합한 차세대 보안 관제 서비스를 출시하며 수요를 선점하려는 움직임을 보이고 있다. 한국이 세계 최초로 AI 해킹방어대회를 개최한 배경에는, 이러한 국제 경쟁 흐름 속에서 기술 실전 경험과 인재 풀을 선제적으로 확보하려는 전략이 깔려 있다는 평가다.
규제와 제도 측면에서도 AI 보안은 주요 이슈로 부상하고 있다. 유럽연합이 추진 중인 AI 규제 법안에서는 고위험 AI 시스템에 대해 보안·안전성 검증과 로그 기록 의무를 명시하는 방향이 논의되고 있다. 국내에서도 과학기술정보통신부와 개인정보보호위원회 등을 중심으로 AI 개발과 활용 과정에서의 데이터 보호, 알고리즘 투명성, 책임 소재 규정 등을 담은 제도 정비가 진행 중이다. ACDC에서 축적되는 다양한 공격·방어 패턴 데이터는 향후 정책 수립 과정에서 실증 자료로 활용될 여지도 있다.
시상식은 본선 이튿날인 2일 오전 코엑스 그랜드볼룸에서 열린다. 수상자에게는 과기정통부장관상, 한국인터넷진흥원장상, 한국정보보호산업협회장상, LG유플러스 대표이사상 등 총 5점의 상장과 함께 총 6000만 원 규모의 상금이 수여될 예정이다. 정부는 향후 대회를 정례화해 국내 AI 보안 인재들이 국제 무대에 진출하는 교두보로 삼겠다는 방침이다.
2025 ACDC는 사전 등록 없이 누구나 현장 참관이 가능한 무료 행사로 운영된다. 개회식은 한국인터넷진흥원 유튜브 채널을 통해 생중계되며, 현장에서는 기업 부스와 체험 프로그램을 통해 최신 AI 보안 솔루션과 연구 성과를 접할 수 있다. 업계에서는 이번 대회를 계기로 민관 협력 연구 프로젝트와 스타트업 발굴 프로그램 등 후속 사업이 본격화될 가능성에도 주목하고 있다.
배경훈 부총리 겸 과학기술정보통신부 장관은 AI는 보안을 위협하는 강력한 도구로 자리 잡고 있으나 동시에 디지털 환경을 지키는 가장 강력한 방패가 될 수도 있다고 강조했다. 배 장관은 이번 대회가 경쟁을 넘어 AI 보안 인재들이 서로 배우고 협력하는 장으로 자리 잡기를 기대한다며, 정부가 글로벌 AI 강국 실현을 위해 탄탄한 사이버보안 체계 구축에 정책 역량을 집중하겠다고 밝혔다. 산업계는 이번 대회가 일회성 이벤트에 머물지 않고, AI 보안 기술과 제도 간 균형 있는 발전을 이끄는 출발점이 될 수 있을지 주목하고 있다.
