온디바이스 AI 튜터 나온다 노타·유탑소프트 개인화 교육 겨냥
인공지능 경량화 기술과 에듀테크 서비스 역량이 결합한 온디바이스 AI 튜터 개발이 본격화되고 있다. 클라우드 서버에 전적으로 의존하던 기존 생성형 AI 교육 서비스의 구조를 바꾸어, 태블릿 등 학습 전용 단말기 안에서 직접 추론을 수행하는 방식이다. 업계에서는 서버 비용과 네트워크 지연, 학습 데이터 유출 우려가 동시에 부각된 상황에서 양사의 협력이 에듀테크 시장의 비용 구조와 개인정보 보호 전략에 변곡점이 될 수 있을지 주목한다.
노타는 18일 서울 삼성동에서 에듀테크 기업 유탑소프트와 온디바이스 AI 기반 교육 서비스 사업 협력을 위한 양해각서를 체결했다고 밝혔다. 노타는 AI 모델 경량화 및 최적화 기술을, 유탑소프트는 교육 사업자 대상 AI 튜터 서비스 기획과 운영 경험을 각각 보유하고 있어, 생성형 AI를 탑재한 교육 전용 디바이스 상용화를 함께 추진하는 구도다.
양사가 준비 중인 온디바이스 AI 튜터의 핵심은 태블릿 기기 자체에서 대부분의 AI 추론을 수행하도록 설계하면서, 연산량이 크거나 복잡한 질의에 한해서만 외부 서버와 연동하는 하이브리드 구조다. 온디바이스는 말 그대로 네트워크 연결 여부와 상관없이 단말기 안에서 AI 모델이 동작하는 방식을 뜻하고, 하이브리드는 이 로컬 추론과 클라우드 연동을 상황에 따라 병행하는 접근이다. 특히 이번 모델은 생성형 AI를 기반으로 학습자의 답변을 이해하고 피드백을 생성하는 구조를 채택해, 단순 채점이나 정답 안내를 넘어 대화형 튜터에 가까운 사용 경험을 목표로 한다.
기술적 관건은 모델 경량화와 디바이스 최적화다. 생성형 AI 모델은 기본적으로 수십억 개 이상의 매개변수(파라미터)를 갖는 대규모 신경망으로, 고성능 GPU 서버에서나 원활하게 구동된다. 노타는 자체 플랫폼 넷츠프레소를 활용해 양자화, 프루닝, 지연시간 최적화 등 경량화 기법을 적용하고, 태블릿에 탑재된 모바일 칩셋 구조에 맞추어 연산 패턴을 재구성하는 전략을 택했다. 회사 측은 이 과정을 통해 서버 환경 대비 모델 크기를 크게 줄이면서도, 영어 대화 평가나 객관식·서술형 문항 해설 등 교육 특화 작업에서 필요한 정확도를 유지하는 것이 목표라고 설명한다.
유탑소프트는 우선 영어스피킹 특화 AI 튜터와 거대언어모델을 활용한 문제은행 특화 AI 튜터 기획을 맡는다. 영어스피킹 튜터는 발음과 유창성, 문법 등을 실시간으로 피드백하고, 학습자의 수준에 따라 질문 난이도와 대화 시나리오를 조절하는 방향으로 설계된다. 문제은행형 튜터는 방대한 기출·연습 문제 데이터를 기반으로 유사 문제를 생성하거나, 풀이 과정과 오답 패턴을 분석해 맞춤 해설을 제공하는 기능을 지향한다. 두 서비스 모두 개별 학습자의 성취도와 학습 습관 데이터를 로컬 단말기 중심으로 축적해, 개인화 추천과 진단 정확도를 높이는 구성을 검토 중이다.
온디바이스 방식은 에듀테크 업계의 고질적인 비용 구조 문제를 완화할 카드로도 거론된다. 기존 생성형 AI 기반 서비스는 이용자 수와 상관없이 고가의 GPU 서버를 지속적으로 유지해야 하고, 피크 시간대에는 트래픽 급증으로 응답 지연과 추가 인프라 확충 비용이 동시에 발생해 왔다. 태블릿 내부에서 1차 추론을 처리하면 서버 호출 빈도와 연산량을 줄일 수 있어, 월간 활성 이용자 수가 많은 대형 교육 플랫폼일수록 단위당 운영비 절감 효과가 커질 수 있다.
네트워크 지연과 안정성 측면에서도 차별점이 있다. 클라우드 전용 구조에서는 지역과 시간대, 통신망 상황에 따라 응답 속도가 크게 달라질 수 있다. 반면 온디바이스 추론은 네트워크 품질과 무관하게 일정 수준의 응답 속도를 유지하기 쉬워, 말하기 평가나 실시간 피드백이 중요한 영어스피킹 서비스에서 학습 경험 품질을 끌어올릴 여지가 있다. 특히 학교 현장이나 학원에서 공용 와이파이 환경을 쓰는 경우, 다수의 단말기가 동시에 접속하더라도 기본적인 대화형 튜터 기능은 기기 내부에서 유지될 수 있어 서비스 안정성이 높아질 수 있다.
데이터 보안과 개인정보 보호 이슈도 핵심 변수다. 교육용 AI 튜터는 학습자의 성적, 취약 과목, 응답 패턴 등 민감한 데이터를 다루며, 장기간 누적될수록 개인의 인지 특성과 행동 양식까지 반영하는 방향으로 정교해진다. 온디바이스 구조는 이러한 데이터 상당 부분을 단말기 내부에 저장·처리할 수 있어, 외부 전송을 최소화하는 설계를 마련할 여지가 크다. 특히 미성년자 학습자가 주 이용자인 교육 서비스 특성상, 데이터 국외 이전이나 제3자 제공에 대한 사회적 감수성이 높은 만큼, 로컬 처리 비중 확대는 규제 대응 측면에서도 의미가 있다는 평가가 나온다.
글로벌 에듀테크 시장에서는 이미 대형 기술 기업들이 교육용 생성형 AI를 앞세워 경쟁 중이다. 해외에서는 클라우드 기반 초대형 언어모델을 중심으로 한 서비스가 우세한 반면, 학습 전용 태블릿과 결합한 온디바이스 모델은 아직 초기 단계로 보는 시각이 많다. 국내에서는 스마트 교육 단말기 보급 정책, 사교육 시장의 디지털 전환 수요가 맞물리면서, 경량화 기술을 가진 AI 기업과 교육 콘텐츠·플랫폼 사업자 간 협력이 늘어나는 추세다. 이번 노타와 유탑소프트의 협력도 이러한 흐름 속에서 나온 전략적 행보로 풀이된다.
규제와 제도 환경을 고려하면, 온디바이스 AI 튜터의 상용화 과정에서 교육 데이터 활용 기준과 알고리즘 투명성 논의가 뒤따를 전망이다. 학습자의 성취도 평가에 AI가 직접 관여하는 경우, 자동 채점 기준과 피드백 로직의 공정성을 어떻게 검증할지에 대한 가이드라인이 필요하다. 또 학교와 학원이 이용할 경우, 교육 행정기관 차원의 보안 인증 체계와 표준화된 단말기 관리 정책이 요구될 수 있다. 온디바이스 구조라고 해도 소프트웨어 업데이트나 클라우드 연동 구간에서 보안 취약점이 발생할 소지가 있어, 관련 규제기관과의 협의가 중요해 보인다.
김성범 유탑소프트 대표는 노타와의 협력이 에듀테크 시장의 화두로 떠오른 비용 효율화와 개인화 교육을 동시에 구현하는 계기가 될 것이라고 강조했다. 그는 교육 업체들이 고비용 LLM 도입으로 인한 운영 부담을 겪고 있다며, 하이브리드 온디바이스 AI 튜터를 통해 보다 합리적이고 안전한 솔루션을 제공하겠다고 말했다. 채명수 노타 대표는 모바일 중심 교육 환경에서는 경량화가 필수적이라며, 유탑소프트의 서비스 구축 경험과 노타의 온디바이스 AI 기술을 결합해 실제 교육 현장에서 체감할 수 있는 혁신 사례를 만들겠다고 밝혔다.
양사는 이번 MOU를 출발점으로 구체적인 사업 모델과 상용화 일정, 디바이스 파트너사 연계 방안 등을 협의할 예정이다. 온디바이스 AI 튜터가 학원과 학교, 개인 학습 시장에서 어느 수준의 성능과 비용 경쟁력을 입증하느냐에 따라, 에듀테크 업계의 AI 인프라 전략도 클라우드 중심에서 하이브리드 구조로 재편될 여지가 있다. 산업계는 양사의 기술 결합이 실제 시장에서 지속 가능한 비즈니스 모델로 자리 잡을 수 있을지 지켜보고 있다.
