“AI 오케스트레이션 혁신”…베슬AI, 엔비디아 결승 진출로 주목

AI 오케스트레이션 플랫폼이 IT 인프라 산업의 패러다임을 바꾸고 있다. 베슬AI가 엔비디아 인셉션이 주최한 '스타트업 그랜드 챌린지 2025' 결승 진출 소식을 알리며, 국내 인공지능·컴퓨팅 업계의 주목을 받고 있다. 이번 챌린지는 엔비디아와 중소벤처기업부, 창업진흥원이 공동 운영하는 대표 행사로, 미래 데이터센터와 클라우드 환경의 혁신을 선도할 업체를 발굴하고자 마련됐다. 업계는 이번 결승 진출을 ‘AI 인프라 자동화’ 경쟁의 분수령으로 해석하고 있다.

베슬AI는 1차 라이브 피칭에서 15개 유망 AI 스타트업 중 전문가 평가와 공유 투표를 통과, 최종 5개사에 이름을 올렸다. 결승 피칭 세션에서는 분산 클라우드·데이터센터 환경에서 GPU, 모델, AI 에이전트를 동시에 관리·운영하는 ‘베슬(VESSL)’ 플랫폼을 선보인다. 베슬은 다수의 네트워크 및 자원 융복합을 지원하는 오케스트레이션(동시관리·자동제어) 시스템으로, 기업의 AI 인프라 투입과 운영 난이도를 획기적으로 낮추는 데 초점을 맞췄다.

기술적 차별성으로는 엔비디아의 님(NIM), 네모(NeMo) 툴킷 등과의 원활한 연동 구조가 꼽힌다. 모델 개발부터 배포·운영까지 전 과정을 자동화하며, 특히 한 대의 서버에서 복수 AI 모델을 동시에 구동할 수 있다. 이 구조를 통해 기업은 평균 70% 이상 비용을 절감하도록 했고, GPU 사용량 기반 자동 요금 산정 방식을 적용해 실제 업무 변화나 수요 증가에 따라 인프라 자원을 유연하게 확장·축소할 수 있도록 구현했다. 특히 이번 기술은 기존 수작업 대비 효율성에서 뚜렷한 격차를 드러냈다.

시장 활용 맥락에서도 확장성이 부각된다. 복잡한 데이터센터 환경에 대응하는 AI 도입 솔루션으로서, 중견기업과 스타트업뿐 아니라 대형 IT기업·클라우드 사업자까지 다양한 수요층에서 실질적 효용성이 확인되고 있다. 글로벌 시장에서는 마이크로소프트, AWS 등 대형 클라우드 사업자들이 AI 오케스트레이션 기술 개발을 강화하고 있어, 국내 시장 역시 본격적인 경쟁이 점화되는 양상이다.

이와 함께 엔비디아, 국내 벤처정책기관이 시범운영에 참여하는 만큼, 플랫폼의 표준화 및 기술혁신 정책이 동반 요구되고 있다. 데이터 소유권, AI 자원 자동화 과정의 보안성, 클라우드 개방성 등 시장 진입장벽 이슈 역시 주목받는 단계다.

업계 전문가는 “AI 인프라 오케스트레이션 기술은 향후 대규모 데이터센터, 클라우드 시장의 변화를 이끌 분야”라면서 “플랫폼의 상용화 시점이 국내외 AI 서비스 시장에 중대한 변곡점이 될 것”으로 내다봤다. 산업계는 이 기술이 실제 비즈니스 현장에 안착할 수 있을지 예의주시하고 있다.