“AI가 댓글 악성도 평가한다”…네이버, 뉴스 어뷰징 방지 대책 마련

AI 기반 악성 댓글 분석 기술이 포털 뉴스 서비스의 여론 형성 방식을 바꾸고 있다. 네이버는 댓글 좌표 찍기, 공감·비공감 조작 등 어뷰징 현상이 정치기사 등에서 사회적 문제로 떠오르자, ‘악성 댓글 지수’를 포함한 댓글 차단 시스템을 도입하는 방안을 추진 중이다. 업계는 이번 시도가 뉴스 소비 환경 신뢰도 제고 및 민주주의 여론 건강성 강화의 분기점이 될 것으로 본다.

네이버는 최근 국회 문화체육관광위원회에 제출한 문건에서, 정치섹션 뉴스 댓글에 한해 별도로 ‘전체 댓글 보기’나 ‘언론사 댓글 이동’을 클릭해야 댓글을 읽을 수 있도록 설계하는 방안을 공개했다. 이미 지난 5월부터 공감·비공감 수가 일정 기준값을 넘을 시, 댓글 목록을 자동 비활성화하고 댓글 정렬 역시 최신순만 가능하도록 제한하는 정책이 도입됐다.

향후에는 ‘악성 댓글 지수’라는 AI 기반 시스템이 도입될 예정이다. 해당 지수가 특정 기준치 이상으로 산출될 경우, 별도 인력 개입 없이도 뉴스 댓글창을 자동 차단하거나 노출 빈도를 조절하는 식이다. 이 방식은 2021년 10월부터 일본 야후재팬이 시행 중인 인공지능 악성 댓글 점수화 정책과 유사하다. 실제로 야후재팬도 점수 기준 초과 시, 기사별로 댓글 영역을 즉시 닫는다.

해당 시스템은 다수의 이용자가 의도적으로 특정 기사 댓글에 몰려 공감·비공감이나 공격성 댓글을 집단적으로 달아 여론을 왜곡하는 이른바 ‘좌표 찍기’ 문제 대응에 초점을 둔다. 정치 등 민감 사안 위주의 댓글 노출 제한은 여론 조작 방지와 건전한 담론 유도라는 두 가지 측면을 아울러 고려한 조치로 해석된다.

이와 관련 양문석 더불어민주당 의원은 “네이버는 국민 여론 형성에 걸맞은 책임을 행동으로 보여야 한다”고 언급했다. 이번 국정감사에서 양 의원은 네이버 뉴스 총괄 전무를 증인으로 신청했다가, 네이버의 서비스 개선 약속을 전제로 신청을 철회했다.

전문가들은 “AI 기반 악성 댓글 탐지 및 자동 차단 조치가 제도화될 경우, 국내 포털 뉴스의 공론장 가치 회복에 중요한 계기가 될 수 있다”고 전망하고 있다. 산업계는 향후 기술 적용 범위, 기준치 산정 방식, 그리고 이용자 표현의 자유와의 균형 확보 등 숙제가 남아 있다고 진단한다. 기술과 규제, 사회적 합의가 포털 뉴스 환경의 새로운 조건이 되고 있다.