“AI가 프라이버시까지 침범한다”…시그널, 기술 윤리 논쟁 이끈다

AI와 개인정보 보호를 둘러싼 윤리 논쟁이 IT·바이오 업계의 중대 이슈로 부각되고 있다. 비영리 암호화 메신저 ‘시그널’을 이끄는 메레디스 휘태커 회장은 16일 서울 그랜드하얏트에서 열린 글로벌 프라이버시 총회(GPA) 기조연설에서 “프라이버시가 뒷받침되지 않으면 혁신, 지식재산, 표현의 자유 모두 공허하다”고 강조했다. 휘태커 회장은 AI와 기술 감시 분야에서 영향력이 큰 인물로, 뉴욕대 AI 나우 연구소 공동 설립과 구글 내 워크아웃 시위를 주도하며 기술의 투명성과 공공성 확보를 촉구해 왔다.

휘태커 회장은 최근 AI 시스템이 운영체제 수준까지 심층적으로 파고들면서 사용자 프라이버시 침해 위험이 커지고 있다고 지적했다. 그는 “AI가 학습과 추론, 생성 과정마다 방대한 데이터를 요구하고, 운영체제 역시 모든 앱 정보를 감시·전송하는 구조로 설계되고 있다”고 설명했다. 대표적으로 마이크로소프트 윈도11의 ‘리콜’ 기능 등은 몇 초 간격으로 스크린샷 데이터를 저장하고 문자 식별 기술(OCR)로 정보를 기기 데이터베이스에 남겨 악의적 해킹, 공권력 남용, 개인적 범죄에 악용될 소지가 있다는 것이다.

특히 이번 기술은 기존 ‘암호화’ 만으로는 막기 힘든 운영체제 기반 프라이버시 침해까지 거론하며 논의 범위를 확장했다. 휘태커 회장은 대응책으로 AI 에이전트의 무단 데이터 처리에 대한 ‘거부권(opt-out)’ 보장, 운영체제 데이터 수집 전면 투명성 공개, 그리고 기업의 명시적 프라이버시·보안 약속 및 소스코드 수준의 검증 가능성 확보 등을 제시했다. 이런 변화 방향은 규제기관, 기술 전문가, 시민사회 간 연대가 지속적으로 뒷받침할 때만 현실화할 수 있다고 부연했다.

글로벌 시장에서는 이미 프라이버시·AI 윤리 강화 경쟁이 본격화된 상황이다. 미국, 유럽연합(EU) 등은 AI 규제·데이터 이용 기준을 엄격히 마련하는 추세로, ‘EU AI Act’와 같은 법제도 도입이 속도를 내고 있다. 개인 데이터 활용 범위와 투명성, 알고리즘의 책임 소재를 둘러싼 논쟁이 글로벌 동시다발적으로 진행되는 상황이다.

이번 GPA 서울총회는 한국 정부가 공식 주최하는 첫 국제 개인정보 협의체 행사로, AI 시대 개인정보 문제 해결을 위한 글로벌 규범 논의의 장이 마련됐다는 점이 주목된다. 총회에서는 아동·청소년 개인정보 보호 등 국제 결의안 채택, 주요 IT기업과 학계, 규제당국 간 실천 선언 등도 이어진다. 업계와 정부는 법적 규제 뿐 아니라 기술적 검증·투명성 확대가 산업 내 표준이 될 수 있을지 관찰하고 있다.

전문가들은 “프라이버시 보호의 가치가 흔들릴 경우 혁신과 지식재산 보호, 사회적 신뢰까지 위협받을 수 있다”며, 글로벌 시민연대와 기술·정책의 조화가 미래 디지털 산업 환경의 핵심 조건이 될 것으로 내다보고 있다. 산업계는 이번 논의가 실제 실효적 규범과 기술 표준 제정으로 이어질지 예의주시하고 있다.