“AI로 영상 노출 실시간 차단”…애플, iOS 26에 ‘민감 콘텐츠 감지’ 탑재

AI 기반 노출 감지 기능이 영상통화 경험의 새로운 표준으로 부상하고 있다. 애플은 2024년 하반기 정식 배포를 앞둔 iOS 26에서 페이스타임에 ‘민감 콘텐츠 감지’ 기능을 시범 적용한다. 영상통화 중 사용자 신체 노출이 감지되면 통화가 자동으로 일시 중단되고, 이용자가 직접 통화 재개 또는 종료 여부를 선택할 수 있는 경고창이 나타난다. 업계는 사생활 및 아동 보호를 겨냥해 강화되는 소프트웨어 정책 변화가 영상 서비스 경쟁 구도의 분기점이 될 것으로 본다.

애플이 공개한 베타 버전 기능은 기기 내 머신러닝으로 사진‧동영상의 누드 포함 여부를 판별한다. ‘민감한 콘텐츠 경고’ 항목을 켜면, 페이스타임 통화 도중 노출 장면이 탐지될 때 오디오와 비디오 송출이 즉각 멈춘다. 이후 “민감한 내용이 있으므로 오디오 및 비디오가 일시 중지된다”는 고지와 함께 대화 지속 여부를 결정하도록 안내한다. 해당 기능은 초기 설정 시 비활성화 상태이며, 사용자가 직접 활성화할 수 있다. 특히 이번 기술은 기존 단순 제한적 보호가 아니라 실시간 AI 자동 탐지라는 점에서 한계를 넘어섰다.

이 기능은 iOS 26 공식 발표에서 강조된 ‘커뮤니케이션 안전’ 강화의 일환이다. 기존에는 아동 계정 중심의 보호였으나, 베타 버전에선 성인 계정에도 적용돼 일부 사용자 혼란을 낳고 있다. IT 업계는 “정식 버전에서 아동용으로 한정될지, 전 연령으로 확대될지 아직 명확치 않다”고 진단했다. 미국을 비롯한 글로벌 시장에서도 개인정보보호와 디지털 안전을 둘러싼 정책 변화가 주목받고 있어, 경쟁사 대응도 촉각을 곤두세우고 있다.

기술 구현은 전적으로 사용자의 기기 내에서 이뤄진다. 애플은 “사진‧영상이 클라우드로 전송되거나 애플에 저장되지 않는다”고 설명했다. 실제로 ‘커뮤니케이션 안전’ 정책에 따라 기기 내 AI 알고리즘이만 활용되므로, 외부로 데이터가 유출되지 않는 구조다. 그럼에도 일각에서는 “AI 기반 분석이 개인정보 침해 우려로 이어질 수 있다”고 지적하고 있다.

애플은 올 하반기 공식 iOS 26 출시를 예고해, 실제 기능 적용 범위와 정책 변화에 더욱 관심이 쏠리고 있다. 전문가들은 “AI 기반 디지털 안전 기술의 대중화로 영상통화 시장에 새로운 산업 표준이 형성될 수 있다”고 분석했다. 산업계는 이번 기술이 실제 시장에 안착할 수 있을지 주시하고 있다.