양자내성암호 전환 공모전 성과…LG유플러스, 임베디드 최적화 해법에 주목
양자컴퓨터 등장에 따른 보안 패러다임 전환이 통신 산업을 정조준하고 있다. 기존 공개키 암호를 무력화할 수 있는 양자컴퓨터 위협에 대응하기 위해 양자내성암호가 차세대 표준으로 부상하는 가운데, 통신사가 대학 연구 인재와 손잡고 실제 네트워크 환경에 적용 가능한 기술 발굴에 속도를 내고 있다. 업계에서는 이번 공모전 성과가 통신 인프라의 PQC 전환 경쟁에 시동을 거는 계기가 될 수 있다고 본다.
LG유플러스는 3일 한국지능정보사회진흥원, 한국정보보호학회, 크립토랩, 양자산업생태계지원센터와 함께 개최한 양자내성암호 전환 기술 공모전 시상식을 열고 국민대학교 HSM팀을 대상으로 선정했다고 밝혔다. 공모전은 전국 대학과 대학원 재학생을 대상으로 했으며 총 9개 팀이 참가했다.
대상을 차지한 국민대 HSM팀은 제한된 메모리와 처리 능력을 가진 임베디드 환경에서 수학적 최적화 기법을 적용해 PQC 알고리즘 성능을 개선한 점을 인정받았다. 통신 장비, IoT 기기처럼 연산 자원이 부족한 단말에서 PQC는 키 길이 증가와 연산량 급증으로 병목이 발생하기 쉽다. HSM팀은 연산 과정의 중복을 줄이고 메모리 접근 패턴을 효율화해 처리 지연을 줄이면서도 보안 수준을 유지하는 설계를 제시했다.
특히 이번 기술은 임베디드용 암호 모듈에 PQC를 탑재할 때 발생하는 속도 저하 문제를 겨냥했다. 예를 들어 기존 RSA나 타원곡선 기반 암호 대비 키와 서명 크기가 수배 이상 커지는 PQC 특성상 패킷 처리 지연과 메모리 사용량이 급증하는데, HSM팀은 수학적 구조를 활용한 연산 단순화와 비선형 연산 재배치를 통해 처리 시간을 줄인 것으로 평가됐다. 심사위원단은 실제 펌웨어 수준의 구현을 전제로 한 최적화 전략과 테스트 결과를 근거로 기술 완성도와 상용화 가능성을 동시에 높게 매겼다.
공모전에는 대상 외에도 통신 네트워크 전환 과정에서 활용될 수 있는 다양한 PQC 응용 시나리오가 제안됐다. 최우수상에 오른 한성대학교 이음팀과 대구경북과학기술원 UGRP팀은 무중단·무지연 TLS 기법, 비트 연산 최적화를 통한 HQC 가속 등 전송 구간 암호화에 초점을 맞췄다. TLS는 인터넷과 모바일 통신의 기본 보안 프로토콜로, PQC 도입 시 핸드셰이크 지연과 세션 수립 부하가 커질 수 있는데, 두 팀은 세션 재활용 구조, 비트 단위 연산 재구성 등을 통해 이를 줄이는 방식을 제안했다.
우수상으로 선정된 한성대 김김윤윤모 팀과 부경대 웨하스 팀은 MCP 인증 과정에 PQC를 적용하고, 임베디드 환경에 적합한 경량 ML KEM 구조를 설계하는 방안을 내놨다. ML KEM은 국제 표준화가 진행 중인 격자 기반 키 캡슐화 메커니즘으로, 통신사 장비 인증과 기지국·단말 간 키 교환에 쓰일 수 있다는 점에서 향후 장비 교체와 펌웨어 업데이트 전략에도 영향을 미칠 수 있다.
LG유플러스와 공동 주최 기관들은 이번 공모전에서 PQC 기술의 완성도뿐 아니라 보안성, 확장성, 실제 네트워크 적용 가능성을 중점적으로 평가했다. 참가자들은 과제 수행 도구로 PQC 마이그레이션 플랫폼을 활용해 여러 알고리즘 후보를 실환경과 유사한 조건에서 검증하고, 암복호화 지연, 패킷 손실, CPU 점유율 등 성능 지표를 테스트했다. 통신사가 실제 상용망 적용을 염두에 둔 평가 체계를 마련해 학생들이 산학 연계형 연구 경험을 쌓도록 했다는 설명이다.
글로벌 시장에서는 이미 양자내성암호 표준화 경쟁이 본격화된 상황이다. 미국 표준기술연구소는 격자 기반 KEM과 서명 알고리즘을 중심으로 PQC 표준안을 확정해가고 있고, 주요 통신 장비 업체와 클라우드 사업자들도 백엔드 인증 서버, VPN 게이트웨이, IoT 플랫폼까지 암호 체계를 단계적으로 교체하는 로드맵을 제시하고 있다. 국내에서는 LG유플러스를 포함한 통신 3사와 일부 장비사가 시험망 수준에서 PQC 적용을 검증하는 단계로, 실제 상용망 전환 속도는 해외 선도 사업자에 비해 여전히 격차가 있는 것으로 평가된다.
PQC 도입에는 기술 외에도 표준, 규제, 인증 과제가 동시에 따라붙는다. 국내 정보보호 제품 인증 제도와 전자서명, 전자문서 관련 법규는 아직 기존 공개키 암호 체계에 기반하고 있어, 장비 교체와 함께 제도 정비가 병행돼야 한다는 지적이 많다. 네트워크 트래픽과 암호키를 대규모로 다루는 통신사는 잠재적인 성능 저하와 장애 리스크를 감수하기 어렵기 때문에, 국제 표준과 정부 가이드라인에 맞춘 단계적 전환 전략이 필수로 꼽힌다.
김은주 한국지능정보사회진흥원 지능기술인프라본부장은 참가팀의 제안에서 국내 PQC 산업의 성장 여력을 확인했다고 평가했다. 그는 산업계 전반의 PQC 전환을 가속화하기 위해 통신, 금융, 공공 분야와의 협력을 이어갈 계획이라고 말했다. 주엄개 LG유플러스 유선사업담당은 공모 개시 후 9개 팀이 제출한 결과물이 모두 높은 수준을 보였다며, 학계의 연구 아이디어를 바탕으로 실제 통신·서비스 환경에 적용 가능한 산학 협력 프로그램을 확대하겠다고 밝혔다.
LG유플러스는 향후 정기 세미나와 추가 공모전을 통해 PQC 알고리즘 구현, 네트워크 프로토콜 통합, 장비 인증 체계 전환 등 세부 분야별로 협력 과제를 발굴할 예정이다. 업계에서는 이번 공모전에서 제시된 임베디드 최적화, 무중단 TLS, 경량 ML KEM 구조 등이 통신망 PQC 전환 로드맵의 실질적인 레퍼런스로 활용될 수 있을지 주목하고 있다.
