“LLM 보안 강화”…티오리, 웍스AI에 알파프리즘 적용

거대언어모델(LLM) 기반 생성형 인공지능(AI) 서비스의 보안 강화가 IT∙바이오 산업 내 중요과제로 떠오르고 있다. 보안 기업 티오리가 AI 서비스 기업 에이아이쓰리와 전략적 협력을 통해 LLM 보안 솔루션 ‘알파프리즘(αprism)’을 도입하며 새로운 흐름을 예고했다. 이번 계약으로 업무용 AI 서비스 ‘웍스AI’ 사용자들은 알파프리즘이 제공하는 실시간 위협 탐지 및 차단, 민감정보 유출 방지 등의 보안 기능을 사용할 수 있게 됐다. 업계는 생성형 AI의 급속한 도입과 함께 정보보안 경쟁이 본격화되는 분기점으로 평가하고 있다.

티오리가 제공하는 알파프리즘은 실시간으로 LLM 활용 과정에서 발생 가능한 프롬프트 오용, 개인정보·기밀정보 유출, 악성 명령 전달 등 다양한 보안 위협을 탐지하고 즉시 차단하는 기술을 탑재했다. AI 서비스 내 사용자가 입력하거나 생성하는 데이터 흐름을 분석해, 사전에 정의된 보안 정책 기반으로 위험 요소를 자동 식별한다. 기존 사용자 인증, 방화벽 중심의 보안 체계와 달리 LLM 환경에서 발생하는 특유의 데이터 노출 위험까지 대응하는 점에서 차별점을 보인다는 평가다.

이번 협력은 AI 업무 도구 확산에 따라 보안 해결책이 요구되는 상황에서 등장했다. 생성형 AI의 도입이 조직 내 생산성을 높이는 한편, 민감정보나 내부 문서가 외부로 유출될 경우 기업과 사용자 모두에 큰 영향을 미칠 수 있기 때문이다. 티오리와 AI3는 알파프리즘 솔루션을 통해 사용자가 보안 우려 없이 AI 기능을 활용할 수 있도록 지원하는 한편, 서비스의 신뢰성 강화에도 집중할 계획이라고 밝혔다.

글로벌 시장에서는 LLM과 생성형 AI의 상용화에 따라 AI 특화 보안 솔루션 수요가 급증하는 추세다. 미국, 유럽 등의 주요 AI 서비스 사업자들 역시 내부 데이터 유출, 악성 프롬프트 대응 등 보안 기능을 핵심 서비스로 내세우고 있으며, 국내 기업의 관련 기술 투자도 확대되고 있다.

국내에서는 LLM·AI 보안 분야에 대한 제도적 가이드라인 마련이 초기 단계에 머물러 있다. 정부와 업계는 개인정보보호, 산업기밀 유출 방지, AI 서비스의 윤리적 구현을 위한 구체적 인증·규제 체계가 마련될 필요성을 꾸준히 제기한다. 티오리의 이번 알파프리즘 공급 역시 현행법의 테두리에서 새로운 AI 보안 관리체계를 시도하는 사례로, 업계의 주목을 받고 있다.

IT보안 분야 전문가들은 “생성형 AI의 업무 활용이 보편화되면서, LLM 특화 보안 기술의 상용화 시점이 곧 산업계 전환점이 될 것”이라고 분석한다. 산업계는 이번 기술이 실제 시장에 안착할 수 있을지 주시하고 있다.