이종반도체 AI 추론 플랫폼…코오롱베니트, 레드햇·리벨리온과 엔터프라이즈 공략
이종 반도체를 활용한 기업용 인공지능 인프라가 대형 IT 기업과 반도체 스타트업, 오픈소스 플랫폼 업체 간 협업을 통해 구체적인 형태를 드러내고 있다. 코오롱베니트가 레드햇, 리벨리온과 함께 이종 반도체 기반 엔터프라이즈 AI 플랫폼을 내세우며 고성능 추론과 비용 효율, 그리고 안정적 운영 체계를 패키지로 제시했다. 업계에서는 GPU 중심이던 AI 인프라 생태계에 NPU와 오픈소스 기반 플랫폼을 결합한 대안 구성이 본격 확산되는 분기점이 될 수 있다는 평가가 나온다.
코오롱베니트는 11일 레드햇, 리벨리온과 공동으로 엔터프라이즈 AI 플랫폼을 소개하는 세미나를 열고, 이종 반도체 기반 고효율 AI 추론 아키텍처와 운영 기술 전략을 공개했다고 15일 밝혔다. 행사에서는 레드햇의 엔터프라이즈급 AI 플랫폼인 레드햇 오픈시프트 AI와 리벨리온 아톰 NPU를 결합한 고성능 추론 환경을 중심으로, 코오롱베니트가 실제 산업 현장에서 검증한 AI 적용 사례들이 공유됐다.
이번에 소개된 플랫폼의 핵심은 AI 모델 최적화 기술과 NPU 기반 고속 추론 구조를 결합해 기업 환경에서 요구되는 처리 성능과 비용 효율을 동시에 끌어올린 점이다. NPU는 신경망 연산에 특화된 반도체로, 동일한 작업을 GPU 대비 낮은 전력과 비용으로 처리하는 것을 목표로 설계된 프로세서다. 코오롱베니트와 리벨리온은 이러한 NPU의 장점을 활용해 AI 추론 단계의 처리량을 높이고, 레드햇 오픈시프트 AI를 통해 컨테이너 기반의 안정적인 배포와 운영 자동화를 구현하는 구조를 제시했다.
특히 이번 기술 조합은 기존 GPU 단일 구조가 가진 비용 부담과 자원 편중 문제를 완화하려는 시도로 주목된다. 이종 반도체 아키텍처를 적용해 워크로드 특성에 따라 GPU, NPU 등 다양한 프로세서를 선택적으로 활용함으로써, 대규모 언어 모델부터 컴퓨터 비전, 멀티모달 모델에 이르는 폭넓은 AI 서비스를 기업 내부 인프라에 맞춰 최적화할 수 있도록 설계했다는 설명이다.
세미나에서는 AI 인프라 구축부터 모델 서빙, 운영·확장에 이르는 전체 수명 주기를 아우르는 아키텍처와 오픈소스 기반 운영 기술도 함께 다뤄졌다. 참가자들은 레드햇 오픈시프트 AI 기반의 MLOps 환경에서 모델을 컨테이너 단위로 배포하고, 리벨리온 아톰 NPU 기반 추론 노드로 트래픽을 유연하게 분산하는 방식 등을 통해 엔터프라이즈 환경에서의 확장성과 안정성을 확인했다. 동시에 실제 운영 과정에서 마주치는 성능 튜닝, 하드웨어 자원 관리, 보안·규제 대응 등 현실적인 제약 사항과 이를 해소하기 위한 최신 기술 트렌드도 공유됐다.
첫 발표를 맡은 안기석 코오롱베니트 수석은 AI 도입 과정에서 기술 복잡도와 전문 인력 부족, 운영 노하우 미비가 동시에 등장하는 장애 요인이라고 진단했다. 그는 레드햇 오픈시프트 AI를 포함한 엔터프라이즈 AI 플랫폼과 코오롱베니트의 전문 엔지니어 조직을 결합해, 고객사가 인프라 설계부터 모델 운영, 성능 최적화, 보안 대응까지 전 과정을 위탁하거나 공동으로 수행할 수 있는 구조를 제시했다.
이어진 세션에서 최문수 코오롱베니트 책임은 코오롱글로벌 스마트건설팀과 수행한 NPU 기반 멀티모달 AI 안전관제 시스템 구축 사례를 소개했다. 이 시스템은 리벨리온 아톰 NPU 기반 환경에서 CCTV 영상의 객체를 탐지하는 컴퓨터 비전 모델과, 상황 설명·경고 문구를 생성하는 언어 모델을 결합한 구조로 구현됐다. 코오롱베니트는 이른바 비전 인텔리전스 시스템을 활용해 건설 현장의 중장비 접근, 작업자 안전모 미착용, 출입 통제 구역 침입 등 위험 상황을 실시간으로 판별하고, 경고 메시지를 자동으로 생성하는 데 성공했다고 설명했다.
이 같은 멀티모달 AI 적용은 안전관리 인력 의존도가 높고 실시간 판단이 중요한 건설 산업에서 특히 의미가 크다. 영상과 텍스트를 동시에 처리하는 구조를 통해 단순 이상 징후 탐지를 넘어 상황 설명과 대응 가이드까지 자동화함으로써, 현장 안전사고 예방률을 높이고 관리 인력의 업무 부담을 경감할 수 있는 방향으로 진화하고 있기 때문이다. 코오롱베니트는 향후 제조, 물류, 에너지 등 다른 산업군에도 유사한 AI 안전관제 모델을 확장하는 방안을 검토하는 것으로 알려졌다.
레드햇 입장에서는 오픈시프트 AI를 한국 산업 현장에 깊이 안착시킬 수 있는 전략 파트너를 확보했다는 점에서 의미가 있다. 컨테이너 오케스트레이션 기술인 쿠버네티스를 기반으로 한 오픈시프트 AI는 모델 학습과 추론, 데이터 파이프라인, 모니터링을 통합 관리하는 플랫폼을 목표로 하고 있다. 리벨리온은 자사 아톰 NPU를 이러한 플랫폼 생태계에 연결함으로써, 글로벌 GPU 공급망에 덜 의존하는 대안 AI 인프라 시장에서 입지를 넓히려는 전략으로 보인다.
글로벌 시장에서도 GPU 외에 NPU, ASIC 등 특화 칩을 활용해 AI 추론 비용을 줄이려는 움직임이 가속되고 있다. 미국과 유럽에서는 자체 AI 가속기를 개발하거나, 클라우드 사업자가 전용 칩을 도입하는 사례가 잇따르고 있다. 이번 코오롱베니트와 레드햇, 리벨리온의 협업은 국내에서도 이종 반도체와 오픈소스 기반 플랫폼을 결합한 엔터프라이즈 AI 레퍼런스를 발 빠르게 확보하려는 시도라는 점에서 주목된다.
다만 국내 기업들이 실제로 이러한 플랫폼을 대규모로 도입하기 위해서는 소프트웨어 스택의 성숙도와 개발자 생태계, 그리고 데이터 거버넌스 체계 구축이 선결 과제로 남아 있다. 특히 산업별로 상이한 보안·규제 기준을 충족하기 위해서는 플랫폼 수준에서의 접근통제, 데이터 암호화, 감사 추적 기능 등이 정교하게 갖춰져야 할 것으로 보인다. 레드햇 오픈시프트 AI와 같은 엔터프라이즈 플랫폼이 관심을 끄는 이유도 이런 규제와 운영 요구를 체계적으로 반영할 수 있기 때문이다.
최상문 코오롱베니트 상무는 AI 인프라가 신기술 실험 단계를 넘어, 기업의 핵심 운영 경쟁력을 좌우하는 기반 인프라로 자리 잡고 있다고 강조했다. 그는 레드햇과 리벨리온과의 협력을 통해 효율성과 안정성을 겸비한 엔터프라이즈 AI 플랫폼을 선보인 만큼, 제조와 건설, 금융, 공공 등 산업 전반의 AI 비즈니스 혁신을 가속할 수 있는 솔루션을 지속적으로 확대하겠다고 밝혔다.
산업계에서는 GPU 중심에서 벗어나 이종 반도체와 오픈소스 플랫폼을 결합한 AI 인프라 모델이 실제 시장에 안착할 수 있을지 주목하고 있다. 기술적 완성도와 더불어, 기업의 조직·프로세스 전환과 규제 환경 정비가 맞물려야만 엔터프라이즈 AI 전환이 본격화될 수 있다는 지적도 나온다. 기술과 인프라, 제도와 운영 역량 간 균형이 앞으로의 AI 경쟁력을 가르는 핵심 조건이 되고 있다.
