“AI가 오인을 체포로 만들었다”…영국 첫 얼굴 인식 소송, 윤리 논쟁 확산

AI 기반 실시간 얼굴 인식 기술이 사법·공공 안전 분야의 패러다임을 흔들고 있다. 영국 런던에서는 얼굴 인식 시스템 오류로 인해 한 시민이 용의자로 오인받는 사건이 발생하면서, 해당 기술의 윤리적·법적 적합성에 대한 논의가 급부상했다. 이번 사례는 얼굴 인식 기술의 신뢰성과 사생활 보호 문제를 둘러싼 첫 사법적 판단으로 이어질 전망이다. 산업계와 전문가들은 “AI 감시 시스템의 책임 문제”가 산업 경쟁의 분수령이 될 수 있다고 본다.

지난해 2월 런던 브리지 지하철역에서 자원봉사 활동을 마치고 귀가하던 한 시민이 경찰에 의해 제지당하는 사건이 발생했다. 경찰은 실시간 얼굴 인식(LFR) 기술을 활용해 해당 시민을 체포 대상 용의자로 잘못 식별했고, 신원 확인을 위한 여권 사진에 이어 추가 서류까지 요구하는 과정이 이어졌다. 지문 제공을 거부하자 체포까지 언급되며, 기술 오류가 국민 기본권과 직접 맞물리는 상황이 전개됐다. 이 사건은 시민단체 ‘빅 브라더 워치’의 지원 하에 영국 최초로 얼굴 인식 알고리즘의 오동작에 대한 사법적 심사 단계로 진입하게 됐다. 첫 공개 청문회는 내년 1월로 예정돼 있다.

실시간 얼굴 인식(LFR, Live Facial Recognition)은 감시 대상 명단의 이미지를 CCTV로 포착된 얼굴과 즉각 대조하는 AI 영상 처리 기술이다. 경찰에 따르면 2023년 1월 이후 LFR을 통해 1000건 이상의 체포가 이뤄졌고, 이중 773건이 실제 기소나 경고로 이어졌다. 그러나 공식적으로 7건의 용의자 오인 식별이 확인됐는데, 이는 ‘AI 기반 식별’ 신뢰성 문제가 사회적 이슈로 부상한 배경이 됐다. 특히 얼굴 인식 알고리즘은 피부색, 조명, 데이터 편향 등 환경 변화에 민감하게 반응하며, 기존 인력 기반 판별에 비해 정확성을 놓고 논란이 이어지고 있다.

적용 실태를 보면, 영국 경찰 외에도 민간 소매업계에서는 ‘페이스워치’ 등 기업형 얼굴 인식 솔루션이 이미 확산되고 있다. 실제로 또 다른 피해자인 ‘사라’는 상점 내 절도 의심 사례로 얼굴 인식 예측 대상이 된 바 있다. 이처럼 공공·민간 전반에서 활용이 급증하면서, 소비자 신원 보호, 무고 위험 등 법적·사회적 쟁점이 표면화됐다. 

영국 경찰은 “기술은 현행법(인권법, 개인정보 보호법)에 준거하며, 비대상자의 이미지는 실시간 즉시 삭제한다”고 밝혔으나, 시민사회와 법조계는 “오인 식별에 따른 개인의 의사와 무관한 권익 침해”를 문제 삼고 있다. 특히 EU, 미국 캘리포니아 등지에서는 얼굴 인식 남용 및 데이터 편향 규제를 강화 중이며, AI 추적 기술의 사용 대상을 엄격하게 제한하는 법적 움직임이 동시다발적으로 전개되고 있다.

공개 청문회와 향후 정책 논의는 일정 기준의 투명성·책임성을 내세운 AI 기술 사용 가이드라인, 실사용 데이터의 품질 검증, 개인정보 삭제·비식별화 절차 강화 등으로 이어질 전망이다. 전문가들은 “AI 기반 감시 시스템의 오류 책임 논의와 규제 프레임이 신기술 상용화와 산업 생태계를 좌우할 변수”라고 진단했다. 산업계는 이번 영국 사례가 글로벌 시장 내 AI 감시·신분 확인 기술 규범의 시험대가 될지 주목하고 있다.