“AI 영상 범람, 진짜보다 더 자극적”…소셜 플랫폼 신뢰 위협

생성형 인공지능(AI) 영상 기술이 폭발적으로 발전하며 소셜 미디어 환경이 급변하고 있다. 텍스트 한 줄과 이미지 몇 장만으로도 ‘현실과 구분 어려운’ 수준의 동영상이 초단기간 내 대량 생산되는 시대가 개막됐다. 미국 워싱턴포스트 등 주요 외신은 AI로 생성된 동영상(이른바 ‘AI 슬랍’)의 범람이 기존 인터넷 질서를 근본적으로 흔든다고 진단한다. 신규 영상 제작자들이 AI를 도구 삼아 막대한 수익을 올리는 한편, 기존 창작자·언론인·영상업계가 경쟁 압박과 생존 위기에 내몰리고 있다. 업계 전문가들은 “AI 생성 영상의 신뢰성·윤리성 논의가 플랫폼 규제의 분기점이 되고 있다”고 분석한다.

최근 20~30대를 중심으로 AI 영상제작이 부업, 전업 수단으로 빠르게 확산 중이다. 챗GPT로 대본을 작성하고 미드저니 등으로 이미지를 생성, 각종 AI 합성 솔루션과 영상 도구를 조합하면 하루에도 수십 편의 영상을 자동처럼 찍어낼 수 있다. 실제로 미국 플로리다, 애리조나 등지에서는 대학생과 직장인, 교수가 AI 영상 계정 운영으로 수천~수만 달러를 벌고 있다. 특히 ‘AI로 제작’ 표시 없이 올라오는 뉴스 콘텐츠, 인플루언서 포스트, 농담이나 패러디 계열 영상은 진위 여부 파악이 쉽지 않다는 우려가 제기된다. AI 기반 가상 캐릭터(인플루언서)까지 등장해 실제 인간과 구분될 만큼 완성도가 높아진 상황이다.

이러한 AI 생성 영상은 초현실적 예술, 풍자, 단순 유머를 넘어 충격적·자극적 콘텐츠까지 아우른다. 소셜 미디어 환경에서는 팔로워 수·조회수에 따라 광고 수익이 직접 지급되는 구조로, 경쟁적 영상 양산이 기승을 부리는 양상이다. 2024년 5월 기준 유튜브 신규 인기 채널 10개 중 4개가 AI 영상을 주력으로 삼을 정도로 시장 파급력이 크다. 전문가들은 “윌 스미스 스파게티 먹기 테스트”처럼 영상의 진위 판별 기준이 모호해지며, 향후 사실왜곡·가짜뉴스 확대에 따른 사회적 파장이 불가피하다고 보고 있다.

거대 IT 기업·플랫폼 운영사들도 자체 AI 탐지 도구를 도입해 대응에 나섰다. 유튜브는 최근 AI 슬랍 콘텐츠의 수익화를 단속하겠다고 발표했으며, AI로 생성된 영상에는 별도 라벨링을 의무화하는 움직임도 본격화됐다. 다만 계정명과 IP 변조, 새로운 AI 툴 등 우회 루트가 끊이지 않아 규제 실효성에 한계가 적지 않다.

또, 일부 제작 대행업체들은 영상 제작 노하우 판매 및 대행 요청까지 사업화하는 등 산업 구조 자체가 급변하고 있다. 영화 제작 현장에서도 특수효과팀보다 10배 이상 빠르게 AI 영상이 활용되는 사례가 보고된다. 한편 AI 영상은 스팸 계정, 가짜뉴스 등 인터넷 불법 활동에도 악용되는 부작용이 늘고 있어 기술 윤리·데이터 진본성 검증, 사회적 신뢰망 강화에 대한 목소리가 커지고 있다.

전문가들은 “AI 영상이 문화·경제·정보 생태계 전반을 바꿔놓고 있는 만큼 산업계뿐 아니라 정책·규제 환경 전체가 발빠르게 대응에 나서야 한다”고 진단한다. 산업계는 AI 동영상 시장의 급팽창이 실제 미디어 신뢰와 창작 생태계 유지에 어떤 영향을 줄지 촉각을 곤두세우고 있다.