AI 보이스피싱 방어 실험장…KT 규제샌드박스 성과 부각
AI 기반 보이스피싱 탐지 기술이 금융·통신 보안 패러다임 전환의 시험대로 떠오르고 있다. 정부가 ICT 규제샌드박스를 통해 실증 기회를 부여한 KT의 실시간 보이스피싱 탐지 서비스가 국민이 체감하는 대표 성과로 평가받으면서다. 규제 특례를 통해 위험도가 높은 신기술을 제한된 환경에서 먼저 검증한 뒤 제도 개선으로 연결하는 선순환 모델이 작동하는지에 업계 시선이 쏠린다. 특히 인공지능 확산 속에서 개인정보와 저작권, 데이터 활용 규칙을 어떻게 재설계할지가 향후 AI 산업 경쟁력의 분기점이 될 수 있다는 분석이 나온다.
과학기술정보통신부는 다음달 2일 ICT 규제샌드박스 성과공유회 및 규제 개선 포럼을 열고 2019년 제도 도입 이후 축적된 성과와 향후 AI 규제 방향을 공개한다. 과기정통부에 따르면 7년 동안 ICT 규제샌드박스를 통해 누적 290건의 규제특례가 지정됐다. 규제샌드박스는 신기술·서비스가 기존 법령에 막혀 출시되지 못하는 상황에서 일정 기간 규제를 유예하거나 예외를 인정해 실제 환경에서 실증할 수 있게 하는 제도다. 정부는 이번 행사를 계기로 AI 중심의 새로운 규제 프레임으로 전환하겠다는 구상이다.
눈길을 끄는 사례는 KT 보이스피싱 탐지 서비스다. 통화 중 실시간으로 음성·패턴·대화 흐름을 분석해 보이스피싱으로 의심되는 경우 경고를 띄우는 서비스로, 통신망에서 수집되는 통화 데이터를 기반으로 통계적 모델과 인공지능 알고리즘을 결합해 의심 패턴을 포착한다. 계좌 이체·대출 유도·수사 기관 사칭 등 공격 유형별로 축적된 패턴을 학습한 모델을 적용해, 고객이 전화를 끊거나 금융사에 추가 확인을 하도록 유도하는 구조다. 국무조정실이 추진한 제2차 국민이 칭찬한 적극행정 우수사례에서 1위를 차지하며 대국민 체감 효과를 인정받았다.
기술적으로는 실시간 스트리밍 음성 분석과 자연어 처리, 위험 점수 산정 알고리즘이 핵심이다. 기존에는 금융사 전산망에서 이상 거래를 사후 탐지하거나, 수사기관이 피해 신고 이후 계좌를 추적하는 방식이 주류였다. KT의 모델은 통화 과정 자체를 감시해 사전 차단을 시도한다는 점에서 대응 시점을 앞당겼다는 평가를 받는다. 통화 품질 저하나 지연을 최소화하기 위해 경량화된 AI 추론 모델과 텔레콤 네트워크에 특화된 엣지 컴퓨팅 구성이 적용된 것으로 알려져, 대규모 트래픽 환경에서도 상시 작동이 가능한지가 관건으로 꼽힌다.
시장 측면에서는 고령층과 디지털 취약계층을 보호하는 사회 인프라 성격이 강하다. 금융사·통신사·정부가 개별적으로 대응하던 보이스피싱 문제에 통신망 수준의 AI 방어막을 더하면서, 향후 보험 상품과 연계된 보안 서비스나 금융권 전용 탐지 플랫폼으로의 확장 가능성도 제기된다. 특히 통화 내용 분석 과정에서 개인정보 보호 요구가 높아, 어떤 정보를 익명화해 모델 학습에 쓰고 어떤 정보는 즉시 폐기할지에 대한 기술적·제도적 설계가 서비스 수용성의 핵심 변수로 떠오르고 있다.
이번 성과공유회에서는 KT 외에도 다양한 AI·데이터 기반 서비스들이 규제 특례 사례로 소개된다. 쿠도커뮤니케이션은 재난안전 관제를 위한 지능형 CCTV 고도화 사례를 발표한다. 영상 분석 AI를 활용해 화재, 폭력, 이상 행동 등을 자동 탐지하는 기술로, 공공장소 감시 강화와 사생활 침해 우려가 충돌하는 대표 영역이다. 한국지능정보사회진흥원은 대규모 AI 파운데이션 모델 개발을 위한 학습용 데이터 구축 사업을 소개할 예정이다. 언어·영상·다중모달 데이터를 대량 수집·정제해 국내 기업과 연구기관이 공통으로 활용할 수 있는 인프라를 마련하는 작업으로, 글로벌 빅테크와의 격차를 줄이는 기반으로 평가된다.
자율주행 스타트업 뉴빌리티는 영상정보 원본 데이터 활용을 통한 자율주행 시스템 고도화 사례를 공유한다. 자율주행 알고리즘의 성능 향상을 위해서는 실제 도로 환경에서 수집된 대용량 원본 영상데이터가 필요하지만, 개인정보와 위치정보 규제에 가로막혀 활용에 제약이 컸다. 규제샌드박스를 통해 일정 조건하에서 원본 데이터를 가명 처리·비식별화해 학습에 활용할 수 있는 범위가 넓어지면서, 장애물 인식과 경로 계획 등 핵심 성능 개선 속도가 빨라졌다는 평가가 나온다. 반려동물 헬스케어 기업 에이아이포펫은 AI 활용 수의사 보조형 반려동물 건강상태 모니터링 서비스를 선보인다. 웨어러블과 영상 분석으로 반려동물의 걸음걸이, 식습관, 호흡 패턴을 분석해 질병 징후를 조기 포착하는 서비스로, 의료기기 소프트웨어와 유사한 규율을 어디까지 적용할지가 쟁점이다.
성과 공유에 이어 열리는 AI 규제 개선 전문가 포럼에서는 개인정보, 데이터, 저작권을 주축으로 한 세 가지 의제가 다뤄진다. 첫째는 개인정보를 안전하게 활용하기 위한 특례 기준 설정이다. 데이터 최소 수집, 익명화·가명화 수준, 데이터 보관 기간 등을 어떻게 정의할지에 따라 AI 학습 데이터 풀의 크기와 품질이 달라진다. 둘째는 저작물의 공정 이용과 데이터 접근성 확대의 균형이다. 텍스트·이미지·음악 등 저작물을 AI 학습에 활용할 때 어떤 경우를 연구 목적의 공정 이용으로 볼지, 어떤 경우는 상업적 이용으로 제한할지가 논점이다. 셋째는 전혀 새로운 AI 서비스가 구 규제 체계에 묶여 시장에 진입하지 못하는 문제를 풀 수 있는 제도 설계다. 기존 산업 분류와 인허가 체계를 기반으로 한 규제는 생성형 AI, 자율형 에이전트 등 새로운 서비스 유형을 포착하지 못하는 경우가 많다.
국제적으로도 AI 규제 경쟁이 본격화된 상황이다. 유럽연합은 리스크 기반 접근을 채택한 EU AI 법안을 추진 중이고, 미국은 부처별 가이드라인과 자율 규제를 병행하고 있다. 국내 ICT 규제샌드박스는 개별 서비스 단위의 실증 중심이라는 점에서, 포괄적 규율 체계인 해외 법제와 성격이 다르다. 전문가들은 한국의 경우 규제샌드박스를 통해 축적된 서비스별 사례를 체계화해, AI 위험 등급 분류와 안전성 기준 수립에 반영하는 방식이 현실적이라고 본다. 특히 보이스피싱 탐지, 재난 관제, 의료·반려동물 헬스케어 등 생명·재산과 직결된 분야는 고위험군으로, 설명 가능성, 인간 개입 장치, 로그 저장 의무 등의 기준을 세밀하게 마련해야 한다는 지적이 나온다.
엄열 과기정통부 정보통신정책관은 인공지능 혁신과 지속 가능한 발전을 뒷받침하기 위해 기존 규제를 안전하고 신뢰할 수 있는 방향으로 손질할 필요가 있다고 강조했다. 동시에 국민 생명과 안전을 보호하면서도 신기술·서비스 확산을 지원하는 규제샌드박스 제도 취지를 살려, AI 3대 강국 도약의 제도적 기반을 마련하겠다는 구상을 밝혔다. 산업계는 이번 성과공유회와 포럼에서 제시될 AI 규제 개선 방향이 실제 상용화 속도와 글로벌 경쟁력에 어떤 영향을 줄지 주시하고 있다.
