“유튜브 알고리즘, 확증편향 우려”…정치권, 유해 추천 제어 촉구

유튜브의 AI 기반 콘텐츠 추천 알고리즘이 이용자들의 확증편향 심화와 유해 영상 노출 문제를 방치하고 있다는 우려가 국회에서 재차 제기됐다. 조인철 더불어민주당 의원은 30일 열린 과학기술정보방송통신위원회 종합감사에서 “유튜브 자동 추천 시스템이 일부 외설·폭력·허위 정보를 반복적으로 노출시키는 구조에 놓였다”며, 플랫폼 차원의 적극적 관리와 이용자 선택권 보장을 촉구했다. 업계와 정치권은 이번 지적을 ‘AI 윤리 및 알고리즘 투명성’ 논의의 분기점으로 해석하고 있다.

이날 지적된 AI 추천 시스템은 이용자 행동 데이터를 분석해 유사 성향의 콘텐츠를 지속적으로 제공하는 ‘강화학습 기반 추천’ 구조를 따르고 있다. 문제는 이 과정에서 허위정보, 선정적 영상 등 공공질서 저해 요소까지 선호유형에 따라 반복 노출될 수 있다는 점이다. 실제로 글로벌 유튜브 정책상 커뮤니티 가이드라인 위반 콘텐츠는 삭제하고 있으나, 기술적 감시와 신규 유형 탐지는 여전히 한계가 드러난다. 특히 기존 방식은 어느 정도 시간이 누적돼야 알고리즘 최적화가 이뤄지는 점에서, 실시간 유해 콘텐츠 차단 능력은 부족한 것으로 분석된다.

플랫폼 측은 알고리즘 운영의 객관성, 중립성을 원칙으로 한다고 밝혔으나, 조 의원 등은 “이용자 본인이 추천 시스템 적용 여부를 직관적으로 통제할 수 있도록 해야 한다”고 주장했다. 즉, 추천 수용/거부 기능의 구체적 공개 및 안내가 필요하다는 것이다. EU AI Act 등 해외의 사례처럼, 추천 알고리즘의 투명성 확보와 설명 책임 강화 흐름도 참고해야 할 필요성이 언급된다.

한편 미국과 유럽 등 주요국에서는 아동·청소년 보호, 허위정보 유통 방지 차원에서 알고리즘 자체 규제 움직임이 이미 가시화된 상황이다. 반면 국내에선 플랫폼 자율 규제, 삭제 후 사후통보 방식이 주류를 이루고 있어 기술·제도적 간극이 있다는 평가다.

전문가들은 “AI 알고리즘이 미디어 소비 구조 전반을 바꾸고 있다”며, “선정성·폭력성 등 사회적 이슈에 대한 신속한 모니터링 시스템 도입과 투명한 안내 체계가 플랫폼 신뢰도 제고의 열쇠가 될 것”이라 분석하고 있다. 산업계는 추천 기술 책임성 확대와 함께, 이용자 이해 증진을 위한 제도적 대응 여부에 촉각을 곤두세우고 있다.