“메타 AI 규정 오작동 논란”…이용자 피해 속출→산업 신뢰성 흔들린다

4세 자녀의 일상 사진만을 남겼던 일반 사용자부터 1만 팔로워를 거느린 사진작가에 이르기까지, 최근 인스타그램·페이스북 등 메타(Meta) 플랫폼의 수많은 계정이 정지되는 사태가 잇달아 발생하고 있다. 아동 성적학대 등 중대한 위반 사유로 통보된 정지 처분은, 당사자들의 콘텐츠와 무관하다는 주장이 잇따르면서 플랫폼 내부 인공지능 규정 위반 판별 시스템의 오작동 문제가 산업 전반의 신뢰 위기를 드러냈다.

업계에 따르면 지난달부터 메타 소셜네트워크서비스 사용자는 특별한 사유 없이 계정 접근이 차단되는 사례를 잇따라 호소하고 있다. 정지 사유는 대부분 아동 성적 착취, 커뮤니티 무결성 정책 위반 등 중대한 항목으로 제시됐으나, 복수의 이용자들은 일상 사진이나 사업 홍보 등 일반적 콘텐츠만을 올려왔다고 밝혔다. 이 과정에서 신분증 제출 등 재고 요청 절차를 밟았음에도, 일부 계정은 오히려 영구 정지 처분을 받았다. 시장 전문가들은 메타의 인공지능(AI) 기반 검토 시스템이 이미지나 인물 자세, 배경 등을 잘못 인식해 중대한 위반으로 판단했을 가능성을 제기했다. 메타 측은 현재 조사가 진행 중임을 밝혔으나, 명확한 원인이나 복구 기준은 제시하지 않았다.

이용자들은 피해 사례를 공유하기 위한 오픈채팅방을 운영하고, 정부기관과 국회에 집단 진정 및 민원을 제기하고 있다. 특히 소상공인과 창작자, 프리랜서 등 직업적 연계를 가진 계정이 정지된 사례에서는 직접적인 매출 손실까지 이어지고 있다는 호소가 쏟아졌다. 사회적 불안이 증폭되자 국회 과학기술정보방송통신위원회와 방송통신위원회도 즉각 메타 측에 상황 파악을 요청하며, 해외 언론 및 기관에도 관련 제보가 이어지는 진풍경이 벌어지고 있다.

전문가들은 디지털 플랫폼이 사회 인프라로 자리잡은 현 시점에서, 인공지능의 자의적 판단 혹은 시스템 오류로 인한 이용자 피해는 산업 신뢰성 저하 및 시장 가치 훼손으로 직결된다고 진단한다. 현행 전기통신사업법은 정당한 사유 없는 이용 제한을 사용자 이익 침해 행위로 간주하지만, 실제 과실 판정 및 제재에는 현저성 판단 등 엄격한 기준과 긴 논의가 수반된다. 따라서 이번 사태는 국내외 플랫폼 산업 전반에 투명성과 책임성 확보라는 긴급한 과제를 던진 셈이다.  

향후 메타와 같은 글로벌 거대 플랫폼의 규제 기준, AI 콘텐츠 심사 알고리즘 고도화, 그리고 사회적 신뢰 회복을 위한 정책적 논의가 더욱 치열해질 것으로 전망된다.