“IBM·AI 신기루와 현실의 틈”…국내기업, 실행 주저→글로벌 격차 심화

AI 기술이 산업 전반을 유례없는 속도로 재편하는 현장 한가운데에서 한국 기업들은 과감한 도약 대신 신중한 머뭇거림을 보이고 있다. IBM이 발표한 최신 보고서와 주요 기업 및 기관 실무진의 증언에 따르면 글로벌 시장에서 AI에 대한 투자와 실행이 본격화되는 국면에서, 국내 조직의 도입 속도와 실행 의지는 유독 제한된 것으로 나타났다. 데이터와 조직문화, 거버넌스의 복합적 장애가 그 배경에 자리하고 있는 것으로 분석된다.

IBM의 ‘기업가치연구소’가 2024년 전 세계 2,000명의 CEO를 대상으로 실시한 ‘AI 전략 및 실행’ 설문조사에 따르면, 글로벌 CEO의 61%가 AI 에이전트 도입 및 확산을 완료했거나 준비 중이라고 답한 반면, 국내 기업은 45%로 글로벌 최저 수준이었다. 특히 AI 투자에 따른 리스크 감수 의향(52%)과 빠른 실행 선호(28%) 역시 각각 글로벌 평균을 하회했다. 지난 3년간 진행된 AI 프로젝트 중 기대한 ROI를 달성한 비율은 세계적으로 25%, 한국은 24%로 더 낮았다. 이처럼 AI 확산의 근본적 장애는 하드웨어나 소프트웨어의 한계를 넘어, 조직문화·데이터 활용 환경·내부 거버넌스 등 ‘비기술적 요소’에 기인한다는 점이 IBM의 분석이다.

통합된 데이터 아키텍처의 중요성에 대한 인식은 국내 CEO 사이에서 오히려 글로벌 평균을 상회했으나(82%), ‘생성형 AI의 가치는 독자적 데이터에서 비롯된다’는 항목에는 62%만 동의해 데이터 주권과 활용 체계에 대한 대응력은 더딘 것으로 나타났다. 인재 확보와 전략적 파트너십 구성이 AI 실전 도입의 성패를 가르는 또 다른 관건임을 두드러진다.

한국IBM은 AI 성공의 관건으로 데이터 환경에 대한 과감한 투자, 리스크를 지탱할 결단력 있는 리더십, 명확한 ROI 기반의 실행 프레임워크, 그리고 외부 전문 역량과의 유기적 협업을 강조했다. 김현정 한국IBM 컨설팅 대표는 “속도를 결정하는 핵심은 결국 데이터”라 평가하며, 데이터 품질 제고를 위한 추가 투자와 환경 개선의 시급성을 짚었다. 또한, 불확실성을 감수하는 용기와 체계적인 수익 검증 모델 구축이 AI 경쟁의 실질적 무기가 될 것이라 진단했다.

현장의 목소리 역시 이 같은 진단에 힘을 보탠다. 서울AI재단은 AI 도입에 있어 인력과 예산, 데이터 활용 제약이 가장 큰 현실적 장벽임을 밝혔다. 코웨이 DX 센터는 반복적인 PoC와 인재 확충의 험로, 그리고 예기치 못한 실패에도 불구하고 신기술 도입 과정에서의 경험 축적이 중요하다고 조언했다. 전문가들은 “AI는 단순한 도구가 아니라 산업 흐름 전체를 바꿔놓는 동력”이라며, 빠른 실행과 실패를 감수하는 자세 없이 혁신의 무대에 오를 수 없음을 강조했다.

결국 IBM과 현장 전문가들은 한국 기업이 더 이상 리스크를 회피할 수 없는 국면에 진입했음을 한목소리로 지적한다. AI 가속화의 열쇠는 독자적 데이터 주권과 인재, 과감한 실행력에 달려 있으며, 지금의 주저가 곧 산업 패권의 격차로 이어질 수 있다는 경고가 묵직하게 전해진다.