소버린 AI 클라우드로 일본 간다…오케스트로, 프라이빗 인프라 수출 확대
소버린 AI 인프라 기술이 글로벌 데이터센터 시장의 판도를 바꾸려는 움직임을 보이고 있다. 퍼블릭 클라우드 기반으로 운영되던 대규모 인공지능 서비스가 비용과 장애 통제 한계에 직면하면서, 각국 규제와 기업 환경에 맞춘 프라이빗 AI 클라우드 수요가 빠르게 커지는 모습이다. 국내에서 검증된 소버린 AI 클라우드 풀스택을 일본에 수출한 오케스트로의 행보는 이런 전환기를 상징하는 사례로 받아들여진다. 업계에서는 이번 수출을 동아시아 AI 데이터센터 주권 경쟁의 서막으로 해석하는 시각도 나온다.
오케스트로는 일본 소재 AI 데이터센터와 1350 물리 노드 규모 소버린 AI 클라우드 솔루션 패키지 공급 계약을 체결했다고 밝혔다. 계약 대상은 AI 전용 데이터센터 인프라로, 오케스트로가 국내에서 상용 환경을 통해 검증한 AI 인프라 소프트웨어 풀스택이 통째로 수출되는 첫 사례다. 회사는 자체 설계한 소버린 AI 클라우드 아키텍처를 토대로 일본을 시작으로 글로벌 시장 공략 속도를 높이고 있다.
이번 패키지의 핵심은 AI 데이터센터에 필요한 기능을 모듈 단위로 선택·조합할 수 있는 모듈형 AI 인프라 아키텍처다. 기존 퍼블릭 클라우드나 글로벌 클라우드 서비스 제공자 구조와 달리 데이터와 AI 워크로드, 비용과 장애 대응 체계를 고객이 직접 통제하는 구조를 구현했다. 최근 생성형 AI 확산으로 장시간 GPU 연산이 일상화되면서, 퍼블릭 클라우드 환경에서 발생하는 GPU 장애 원인 추적 난이도와 시간당 사용료 부담이 구조적 리스크로 부각된 점에 대응한 설계다.
프로젝트는 코로케이션 방식에서 경험한 고객의 페인 포인트를 프라이빗 클라우드 기술로 해결하는 데 초점을 맞춘다. 코로케이션은 데이터센터 공간과 전력만 임대해 자체 서버를 설치하는 방식인데, 초거대 언어 모델처럼 자원 변동이 큰 워크로드에서는 자원 활용률 저하와 장애 관리 복잡도가 문제로 지적돼 왔다. 오케스트로는 GPU 가상화 서비스인 GPUaaS를 기반으로 컨테이너 단위의 유연한 자원 할당을 구현하고, 이를 통해 대규모 LLM 서비스를 안정적으로 운영할 수 있는 전용 AI 인프라 환경을 구성한다는 전략이다.
기술 스택은 서버 가상화부터 클라우드 네이티브 운영까지 풀스택 구조를 취한다. 서버 가상화 솔루션 콘트라베이스가 데이터센터 내 GPU 자원과 컴퓨팅 노드를 단일 풀로 묶어 통합 관리하며, 클라우드 네이티브 운영 관리 플랫폼 비올라가 컨테이너 오케스트레이션과 AI 엔드포인트 운영을 맡는다. 물리 GPU를 논리적으로 쪼개거나 여러 GPU를 묶어 제공하는 방식으로 워크로드 특성에 따라 최적화된 자원 구성이 가능해지는 점이 차별점으로 꼽힌다.
여기에 콘체르토 AI, 트럼본, 클라리넷, 심포니 AI, 오케스트로 CMP 등 오케스트로의 AI·클라우드 풀스택 솔루션군이 결합해 상층의 AI 서비스 레이어부터 하층 인프라, 통합 운영 관리까지 하나의 아키텍처로 묶는다. 기업 입장에서는 초거대 언어 모델 학습과 추론, 데이터 파이프라인, API 형태의 AI 서비스 제공까지 동일한 플랫폼에서 구현할 수 있어, 이른바 AI 서비스형 소프트웨어와 데이터센터 인프라의 수직 통합 모델에 가까운 구조가 만들어진다.
시장에서는 일본이 데이터 주권과 규제 준수를 중시하는 특성상 소버린 AI 클라우드 모델이 확산될 여지가 크다는 관측이 나온다. 미국과 유럽에서 정부·공공기관을 중심으로 특정 국가 내 데이터 보관과 AI 연산을 요구하는 소버린 클라우드 수요가 확대되는 상황이어서, 일본 내에서도 금융·공공·제조 대기업을 중심으로 유사한 조달 기준이 강화될 가능성도 거론된다. 퍼블릭 클라우드 단일 의존에서 벗어나 자국 또는 자체 통제 가능한 영역에 AI 인프라를 두려는 움직임이 아시아 전역으로 확산될 수 있다는 전망이다.
글로벌 시장에서는 이미 미국과 유럽 빅테크를 중심으로 GPU 중심 AI 데이터센터 투자가 가속화된 상태다. 다만 이들 대부분은 자사 퍼블릭 클라우드를 확장하는 형태인 데 비해, 오케스트로의 모델은 AI 특화 프라이빗 클라우드와 소버린 인프라에 초점을 맞춘 점에서 차이가 있다. 데이터 주권과 규제가 상대적으로 강한 일본 시장에서 풀스택 소프트웨어 패키지 형태의 수출 레퍼런스를 마련했다는 점은 한국 기업의 AI 인프라 수출 전략 측면에서도 의미가 있다는 평가가 나온다.
오케스트로는 이번 패키지 수출을 교두보로 소프트웨어 중심 사업에서 하드웨어까지 포함하는 소버린 AI 클라우드 데이터센터로 사업 범위를 확장할 계획이다. 고객 맞춤형 서버·스토리지·네트워크 설계를 포함한 통합 솔루션을 제공해, 국가별 규제와 산업 구조에 맞춘 AI 데이터센터를 턴키 방식으로 구축하는 모델을 지향한다. 각국의 전력·발열·입지 규제와 금융·의료 등 산업별 컴플라이언스 규정을 동시에 충족하는 설계 역량이 경쟁력이 될 수 있다는 판단이다.
전문가들은 소버린 AI 클라우드가 확산될 경우 AI 인프라 시장이 퍼블릭 클라우드 중심에서 국가·산업별 맞춤형 데이터센터 모델로 다변화될 가능성에 주목하고 있다. AI 가속기 수급과 에너지 비용, 데이터 이전 규제, 보안 인증 체계 등 다양한 요소가 얽혀 있어 단기간에 구조가 재편되기는 어렵지만, 특정 국가에서 레퍼런스를 확보한 사업자가 인접 지역으로 확장할 경우 파급력이 커질 수 있다는 분석도 제기된다.
김범재 오케스트로 대표는 국내에서 검증된 소버린 AI 클라우드 솔루션이 일본 데이터센터 사업에 실제 서비스로 구현되는 점을 강조하며, 퍼블릭 클라우드 중심의 기존 운영 방식과 차별화된 데이터센터 아키텍처로 글로벌 AI 인프라 시장의 새로운 표준을 제시하겠다고 밝혔다. 산업계는 이번 수출 사례가 소버린 AI 인프라 모델의 실효성을 증명하고 실제 시장에 안착할 수 있을지 예의주시하고 있다.
