“공공 특화 생성형 AI 구축”…오케스트로, K-AI 컨소시엄 일원으로 부상

생성형 인공지능(AI)이 공공 IT서비스 혁신의 새로운 바로미터로 떠오르고 있다. 오케스트로는 과학기술정보통신부의 ‘독자 인공지능 파운데이션 모델’ 구축 사업에서 업스테이지 컨소시엄 일원으로 선정돼, 공공부문 특화 생성형 AI 서비스 개발을 전담한다고 8일 밝혔다. 관련 업계는 이번 사업이 국내 AI 주권 확보와 공공 서비스 디지털화 경쟁의 분기점이 될 수 있다고 보고 있다.

이번 프로젝트에는 15개 민간 컨소시엄이 지원해 5개팀이 최종 선정됐다. 오케스트로가 포함된 업스테이지 컨소시엄은 KAIST, 서강대, 플리토, 노타AI, 래블업 등 주요 연구기관과 스타트업이 연합해 글로벌 수준의 독자 AI 파운데이션 모델 ‘솔라 WBL’을 개발 중이다. 오케스트로는 공공기관 맞춤 데이터로 검색증강생성(RAG, Retrieval Augmented Generation) 기반 거대언어모델(LLM) 서비스를 구축하는 역할을 맡았다. 행정 및 정책 분야 특유의 데이터셋을 바탕으로 실제 맞춤형 AI 서비스를 구현한다는 점이 차별점으로 꼽힌다.

RAG는 기존 LLM이 가지는 학습 데이터 신선도 및 신뢰성 한계를 보완하는 AI 검색·생성 기술로, 실시간 행정 정보 등 빠르게 변화하는 공공 데이터를 모델 결과에 결합한다. 오케스트로는 그간 다수의 공공기관 시스템 구축 경험을 축적해 왔으며, 이번 협업에서는 AI 엔진과 클라우드 운영을 통합한 ‘AI 클라우드’ 플랫폼도 가속화한다. 이 회사는 전사적으로 전담 조직을 신설하고, 주력 솔루션인 CMP(Cloud Management Platform)에 생성형 AI 기능을 내재화해 지능형 인프라 관리 체계를 고도화할 계획이다.

국내에서 공공 특화 생성형 AI와 클라우드 운영이 결합된 사례는 아직 드물다. 미국, 유럽 등도 정부 중심의 LLM 개발 및 인프라 전환에 속도를 내며 국가별 AI 경쟁이 본격화되고 있는 상황이다. 한국은 이번 사업을 기점으로 독자 기술력과 데이터 주권을 동시에 키우는 전략을 모색하고 있다.

한편, 데이터 보안과 공공 정보 활용 규제 준수도 중요한 과제로 떠올랐다. 컨소시엄은 향후 데이터 주권, AI 윤리, 공공기관 내 신뢰성 검증 등 각종 기준에 발맞춰 기술 고도화와 인증 획득을 함께 추진할 예정이다.

업계 전문가들은 “공공 부문의 AI 내재화가 디지털 혁신과 전자행정 효율성의 핵심 축으로 자리 잡을 것”이라며 “국가산업 차원의 AI 생태계 진화에 주목해야 할 시점”이라고 분석했다. 산업계는 이번 기술이 실제 시장에 안착할 수 있을지 주시하고 있다.