“AI가 양자 오류 실시간 정정”…엔비디아, 산업화 숙제 푼다

양자컴퓨팅 실용화의 최대 난제였던 ‘연산 오류 정정’이 인공지능(AI)·소프트웨어 발전으로 새 해법에 근접하고 있다. 양자 하드웨어의 불안정성에 따라, 실제 연산의 상당량이 오류 정정 처리에 쓰이던 상황에서 AI 기반 실시간 제어·디코더 기술이 도입되며 연산 자원의 효율화가 급물살을 타고 있다. 양자컴퓨터 도입이 제조, 금융, 연구 등 실질 산업의 변화로 이어질지 업계의 시선이 쏠린다.

이스라엘의 양자컴퓨팅 스타트업 퀀텀머신스(QM), 엔비디아, Q-CTRL 등은 25일 서울 ‘퀀텀 코리아 2025’ 행사에서 양자컴퓨터 오퍼레이션의 최대 관건이 ‘실시간 오류 정정’에 있다고 입을 모았다. 요나탄 코헨 QM CTO는 “실용화를 위해선 마이크로초(100만분의 1초) 단위 딜레이를 최소화한 AI기반 오류 정정 시스템이 필수”라고 밝히며, QM의 데이터센터 아키텍처로 피드포워드(오류 정보 전달) 지연시간을 4마이크로초 이하로 낮췄다고 소개했다. 지연이 수십 마이크로초만 돼도 수천 논리 큐비트(논리 정보단위) 이상의 확장성이 제한된다는 설명이다. 하드웨어와 별개로 고속 오류 분석·복원 인프라가 필요한 이유다.

AI 활용은 실제 연산 효율을 끌어올리는 ‘게임체인저’로 부상했다. 엔비디아는 “AI 디코더로 기존 대비 50배 빠르게 오류를 감지, 그간 불가능했던 복잡 연산을 가능케 한다”고 밝혔다. GPU 기반의 양자 시뮬레이션, 소프트웨어 최적화를 고도화해 수천 회로·수만번 샷 연산을 초 단위로 처리하는 성과도 공개했다. AI는 양자 자체 연산을 넘어 큐비트 노이즈(잡음) 특성까지 분석, 향후 강화학습 등 자가 보정 기능으로의 진화를 추진 중이다.

글로벌 업계는 하드웨어보다 ‘양자 오류 정정 SW’의 가치가 커졌음을 강조한다. 엔비디아는 구글, IBM, 리게티 등과 협력해 연산 정확도, 비용, 시간 최적화를 꾀하는 중이다. Q-CTRL 역시 “오류 정정 실행 비용과 오류 억제 성능 한계를 AI로 동시 해소할 수 있음을 입증했다”고 밝혔다. 단순 연산속도 우위로는 산업 현장 적용이 어렵단 시각이 확산되는 상황이다.

특히 국내외 양자컴 SW·AI 업체들은 “연산의 신뢰성과 경제성 확보가 상용화의 최우선 과제”라고 입을 모은다. 미국, 유럽 선진국도 AI 오류 디코더, 자동화 정정 시스템을 핵심 연구 축에 올렸다. 국내에서는 과기정통부 등도 ‘양자 SW-오류 정정’ 융합 플랫폼 개발에 박차를 가하고 있다.

기술전문가들은 “산업계가 주도하는 실용화 시점은 AI기반 제어·정정이 산업 시스템에 안착하는 시점과 거의 일치할 것”이라며, “양자컴퓨터 시장의 주도권은 결국 HW+SW의 통합 인프라, 그리고 고도화된 AI 역량 확보에서 결정될 수 있다”고 분석했다. 산업계는 이번 기술 혁신이 실제 시장에 안착할 수 있을지 주시하고 있다.