“SNS旅行영상 논란 확산”…플랫폼, 혐오댓글 관리 시험대

국적이 확인되지 않은 여행객의 이른바 발 마사지 영상이 대만과 한국 온라인 커뮤니티를 오가며 확산되자, 글로벌 SNS 플랫폼의 콘텐츠 관리 책임을 둘러싼 논쟁이 다시 부각되고 있다. 짧은 여행 영상 하나가 순간적으로 국적 공방과 혐오 발언으로 번지는 과정에서, AI 추천 알고리즘과 자동 검열 시스템의 역할, 그리고 이용자 신고와 플랫폼 개입의 적정 수준을 둘러싼 논의가 이어지는 모양새다. 업계에서는 이번 사례를 온라인 여행 콘텐츠 소비 패턴과 혐오표현 관리 기술 경쟁의 분기점 중 하나로 본다.

이번 논란의 출발점은 대만 시민이 촬영했다며 소셜네트워크서비스에 올린 마오콩 케이블카 내부 영상이다. 영상에는 한 여성이 의자에 신발을 벗고 발을 올린 뒤 발바닥을 문지르는 장면이 담겼다. 게시자는 한국인 관광객의 매너 문제를 거론했지만, 영상에는 음성이 없고 국적을 특정할 수 있는 정보도 포함돼 있지 않다. 그럼에도 AI 기반 자동 번역 기능과 해시태그 추천 덕분에 영상은 짧은 시간 안에 언어권을 넘나들며 확산됐다.

SNS 플랫폼은 이용자의 시청 이력, 댓글 참여, 체류 시간 등을 분석해 유사 콘텐츠를 추천하는데, 이 과정에서 논란성 여행 영상은 더욱 높은 노출 빈도를 보인다. 플랫폼 입장에서는 사용자의 반응이 많은 게시물을 우선적으로 확산시키는 구조가 수익과 직결되기 때문이다. 특히 쇼트폼 형식에 최적화된 추천 엔진은 콘텐츠의 사회적 맥락이나 사실 여부보다는 시청 유지율과 공유율을 우선 반영하는 경향이 강하다.

이 과정에서 기술적 한계도 드러난다. 현재 주요 플랫폼이 사용하는 콘텐츠 모더레이션은 신고 기반 필터링, 욕설 탐지 모델, 이미지·영상 분석 AI의 조합이다. 텍스트 댓글에서 국적 비하나 혐오 표현을 탐지하는 자연어 처리 모델은 상당 수준 정교해졌지만, 영상만으로 국적을 추정하거나 행위의 맥락을 이해하는 데에는 여전히 약점을 보인다. 영상 속 패딩·가방 브랜드나 신발 디자인을 근거로 특정 국가를 단정하는 댓글이 달려도, 현행 시스템으로는 허위 정보와 의견 표현을 기계적으로 구분하기 어렵다.

특히 이번 사례처럼 여행객 개인이 등장하는 영상이 국적 논쟁으로 번지면, 플랫폼의 알고리즘은 자극적인 댓글이 많이 달린 게시물일수록 더 넓게 확산시키는 방향으로 작동한다. 이용자 입장에서는 순식간에 집단 비난 구조에 노출되기 쉬운 환경이다. 기술적으로는 논란성 콘텐츠를 조기 탐지해 노출을 제한하거나, 사실 확인이 어려운 국적 단정성 표현에 경고 라벨을 붙이는 방식이 거론되지만, 표현의 자유 침해 논쟁과 맞물려 도입 속도가 더디게 진행되는 모습이다.

해외에서는 유사한 이슈를 계기로 콘텐츠 관리 규제를 강화하는 움직임이 포착된다. 유럽연합은 디지털서비스법을 통해 대형 온라인 플랫폼에 유해 콘텐츠 위험평가와 알고리즘 투명성 의무를 부과했고, 미국과 일본에서는 자국 플랫폼이 인종·국적 혐오 표현을 어떤 기준으로 삭제하거나 제한하는지에 대한 시민단체 감시가 강화되는 추세다. 글로벌 시장에서는 혐오 표현 감지 AI의 정확도, 다국어 대응 능력, 언어·문화별 편향 최소화 등에서 기술 경쟁이 본격화된 상황이다.

국내에서도 온라인 여행 커뮤니티와 SNS를 중심으로 시민의식과 플랫폼 책임을 함께 짚어야 한다는 목소리가 뒤따르고 있다. 공공장소에서의 비매너 행동 지적과 더불어, 국적이 명확하지 않은 상태에서 집단적으로 특정 국가를 겨냥해 비난을 쏟아내는 패턴이 반복되고 있다는 경고도 나온다. 전문가들은 이용자 교육과 신고 시스템 고도화, 알고리즘 투명성 제고를 묶은 종합 대책이 필요하다고 제언한다.

국내외 IT 업계에서는 향후 국적·인종·성별 관련 표현을 별도 위험 카테고리로 분류해, AI가 조기 탐지하고 인간 모더레이터가 재검토하는 하이브리드 관리 체계가 확산될 것으로 보고 있다. 동시에 실제 여행 환경에서의 기본 매너를 높이기 위한 각국 관광청·플랫폼 간 협력 캠페인도 검토 대상에 오르고 있다. 산업계는 이번과 같은 논란이 반복되는 상황에서, 기술과 제도, 이용 문화가 어떻게 균형점을 찾을지에 주목하고 있다.