“AI가 반복 행정 바꾼다”…서울시, 생성형 챗봇 2.0 시동에 주목

인공지능 기반 생성형 챗봇이 서울시 행정 서비스에 본격 도입된다. 서울시는 반복적인 문서 작성, 규정 조회, 질의응답 등 공무원 업무 전반을 AI가 자동화하는 ‘챗봇 2.0’ 시스템 구축 사업에 착수한다고 7일 밝혔다. 시는 올해 안에 내부망에 자체 초거대 언어모델(LLM)을 탑재해 시범 운영한 뒤, 내년부터는 행정 시스템 연계 및 기능 고도화를 추진한다는 계획이다. 업계는 이번 발표를 “공공부문 AI 전환 경쟁의 신호탄”으로 해석한다.

서울시가 공개한 챗봇 2.0은 단순한 1세대 규칙 기반 챗봇을 넘어, 생성형 AI와 내부 데이터 연동으로 실시간 답변과 정책 지원을 제공한다. 독립된 LLM을 내부망에 직접 도입해 민감한 행정 데이터의 보안성도 강화했다. 이를 통해 직원이 각 부서에 직접 문의하거나 자료를 검색하는 번거로움 없이, AI가 문서 생성과 정보 탐색을 즉시 수행한다.

기존 챗봇 시스템과 달리, 챗봇 2.0은 자연어 질의와 복합 문서 작성 요청에도 유연하게 대응한다. 시는 자체 LLM의 독립 인프라를 활용해 공공데이터 내부 처리 안전성을 확보했으며, LLM API 및 AI 에이전트와 행정 시스템 연동을 통해 의사결정 지원, 문서 자동화 등 고도화된 기능도 추가할 방침이다. 특히 이번 기술은 기존의 제한적 응답 방식의 한계를 극복해 반복·정형 업무의 대규모 전환을 가능하게 한다.

관계자는 “서울시 자체 LLM을 적용한 AI 행정자동화는 국내 공공 행정 최초 수준으로, 향후 내부 시스템에 맞는 맞춤형 생성형 AI 생태계가 마련될 것으로 보인다”며 차별점을 짚었다. 글로벌 선진국에서는 이미 일부 지방정부와 대형 기관이 AI 기반 자체 플랫폼으로 행정 혁신에 나서고 있으며, 서울시의 이번 조치는 국내외 AI 행정 경쟁을 더욱 가속할 것으로 평가된다.

한편, 생산성 향상과 데이터 보안성에 대한 정책적 지원도 과제로 꼽힌다. 현재 중앙정부 및 지자체에서는 행정 정보 내부 활용 시 개인정보, 공공데이터 관리 기준 강화 등 엄격한 규제 및 표준화 가이드가 논의되고 있다.

산업계는 “기술 도입만큼 행정 관행 변화, 데이터 관리 체계 혁신이 관건”이라고 강조한다. 강옥현 서울시 디지털도시국장은 “챗봇 2.0으로 공무원은 더 효율적으로 일할 수 있고, 시민 응답 역시 더 신속·정확해질 것”이라며 “서울시가 글로벌 AI 행정도시로 진화하는 전환점이 될 것”이라고 밝혔다. 산업계는 이번 기술이 실제 시장에 안착할 수 있을지 주시하고 있다.