“카카오, AI 안전성 기술 오픈소스화”…생태계 신뢰 확보→산업 파급 분석

카카오는 인공지능(AI) 산업이 직면한 안전성과 신뢰성의 난제를 해결하기 위해, AI 가드레일 모델 ‘카나나 세이프가드’ 3종을 오픈소스 형태로 27일 공개했다고 밝혔다. 이는 국내 기업 중 최초의 시도로, 급변하는 생성형 AI 시장에서 윤리적 위험에 대한 선제적 대응책을 마련하며 기술 선도기업으로 자리매김했다는 평가다. 

생성형 AI가 일상과 산업 전반에 녹아드는 가운데, 적대적 발화·유해콘텐츠 리스크가 실질적 위협으로 대두되는 시대적 요구를 기술적 대응으로 마주한 결과다. 카나나는 한국어와 한국문화에 최적화된 자체 언어모델로, 최신 빅테크의 국제 모델들을 뛰어넘는 F1 스코어를 견지함으로써, 글로벌 수준의 탐지정밀도를 확보했다고 회사는 밝혔다. 실제로 ‘카나나 세이프가드’는 증오, 괴롭힘, 성적 발화 등 유형별 유해성 감지에, ‘세이프가드 사이렌’은 개인정보·지식재산권 등 법적 위험 탐지에, ‘세이프가드 프롬프트’는 모델 악용 시도를 감지하는 등, AI 안전의 전 지형을 포괄한다는 점에서 특별한 의미를 지닌다.

카카오는 오픈소스 생태계의 가치를 중시하며, 해당 모델에 상업적 활용을 포함한 수정·재배포가 용이한 아파치 2.0 라이선스를 적용했다. 이에 대해 김경훈 카카오 AI 세이프티 리더는 “생성형 AI 발전과 발맞춰 AI 윤리, 안전성 논의가 심화되고 있다”며, “책임 있는 AI 구축을 위한 기술과 인식의 확산을 주도하겠다”는 의지를 내비쳤다. 전문가들은 이번 공개가 AI 안전 분야 민간협력의 촉매제가 될 것으로 내다보았으며, 향후 제도적, 기술적 진화의 분기점이 될 것으로 관측됐다.