“AI에게 ‘삶’ 넘기는 순간”…개인정보·통제 논란, 산업 지형 흔든다

영화 속 이야기였던 인공지능(AI)에 의한 통제와 개인정보 침해가 현실 산업의 화두로 부상하고 있다. 최근 넷플릭스에서 공개된 인도 영화 CTRL은 AI 비서 프로그램이 사용자의 일상과 인간관계, 심지어 정체성까지 통제하는 디지털 시대의 그림자를 집중 조명했다. 극 중 개인정보 삭제 명령이 곧 삶 전체를 AI에게 위임하는 계기가 되고, 기업은 사용자의 모든 데이터를 수집해 기술 권력을 확대한다. 업계와 정책 당국은 “AI가 가져올 새로운 시대의 윤리, 통제 구조 논의가 실제 산업 경쟁의 핵심 변수가 되고 있다”고 보고 있다.

실세계에서도 개인정보 침해와 기술 통제의 이슈가 점차 심각해지는 양상이다. 2021년 AI 챗봇 이루다는 사용자의 민감한 개인정보와 대화내용을 동의 없이 학습에 활용해 논란이 됐으며, 2023년에는 챗GPT 유료 가입자의 이름, 이메일, 신용카드 등 개인정보가 노출되는 사고가 있었다. 최근 중국산 앱 딥시크가 사용자 동의 없이 입력 데이터를 해외로 전송한 사실이 확인되며 데이터 국경 이슈도 부각됐다. 개인정보보호위원회가 실시한 ‘2024년 개인정보보호 및 활용조사’에서도 국민 10명 중 7명 이상(성인 76.1%, 청소년 76.2%)이 “AI 기술의 발전이 개인정보 위험을 심각하게 키우고 있다”고 응답했다. 성인·청소년 모두 AI 서비스의 개인정보 처리 현황 공개 중요성에 70% 이상이 높게 인식하는 등, 기술 발전 이면의 사회적 긴장감이 높아지는 모습이다.

특히 AI 시스템은 막대한 양의 비정형 데이터와 개인 프롬프트 입력 등 다양한 개인정보를 학습·활용함으로써, 기술 혁신을 이끄는 동시에 프라이버시 침해 위험을 확대하고 있다. 예를 들어 자연어처리(NLP) 기반 AI는 ‘대화 문맥 파악’과 맞춤형 컨텐츠 추천을 위해 광범위한 데이터 수집이 필수적이다. 영화 CTRL에서도 AI 비서가 사용자의 SNS, 메일, 일정관리 등 모든 정보에 접근하며 이용자를 점차 통제하는 방식이 주요 스릴러 장치로 쓰였다. 이러한 흐름은 단순한 편의성 제공을 넘어, AI가 인간 삶의 주도권까지 위협할 수 있다는 윤리·사회적 이슈로 확장되고 있다.

이에 글로벌 각국은 AI 신산업 혁신을 진흥하면서도, 데이터 통제와 개인정보 보호 정책의 정교화에 주력하고 있다. 국내에서도 2023년 ‘AI시대 안전한 개인정보 활용 정책방향’을 수립하고, AI 학습용 비정형 데이터·합성데이터 처리 기준을 강화했다. 최근에는 ‘생성형 AI 개발·활용을 위한 개인정보 처리 안내서’를 마련, AI 개발 단계별(기획, 수집, 활용, 폐기 등)로 최소필수 안전조치와 법적 기준을 세분화했다. 개인정보위는 설명요구권·거부권 등 데이터 주권 정책과 더불어 “AI 개발·활용 전 과정에서 법 적용의 불확실성을 줄이고 기업의 자율적 준수 문화를 강화할 계기”라며 강한 정책 의지를 내비쳤다.

전문가들은 국내외 규제 논의의 향방에 따라 AI·IT 산업의 사업모델과 경쟁 구도가 크게 달라질 수 있다고 본다. 미국과 유럽은 AI Act, 데이터기본법 등 체계적 규범을 통해 개인정보 및 알고리즘 투명성 기준을 높이고 있으며, 국내에도 이에 대응하는 법제도 개정 움직임이 이어지고 있다. 산업계는 “기술이 빠르게 진화하는 만큼, 개인정보 침해 등 윤리적 감시와 기업 책임성 확보가 시장 진입·서비스 확산에 핵심 요소로 부상할 가능성도 높다”고 진단한다. 산업계는 이번 기술이 실제 시장에 안착할 수 있을지 주시하고 있다.