“동영상 AI에 성인 모드 허용”…xAI, 그록 이매진 논란 속 공개

일론 머스크가 이끄는 인공지능 기업 xAI가 텍스트 입력만으로 15초 분량의 영상을 생성하는 '그록 이매진(Grok Imagine)' 기능을 선보이며 산업 내 이목을 끌고 있다. 특히 성인용 특화 기능인 ‘스파이스 모드(Spice Mode)’가 포함돼, AI와 플랫폼의 경계, 사회적 책임 논란을 촉발하고 있다. 업계에서는 이번 출시를 ‘AI 생성콘텐츠 이용 윤리 논쟁의 분기점’으로 보고 있다.

xAI는 4일(현지 시간) AI 앱 '그록' iOS 버전에 이미지를 넘어 동영상까지 실시간 생성하는 기능을 공개했다. 유료 회원 전용인 이 서비스는 구글 ‘비오(Veo)’, 오픈AI ‘소라(Sora)’, 어도비 ‘파이어플라이’ 등과 유사하게 텍스트 혹은 사진을 입력하면, 최대 15초 영상으로 변환해 출력해준다. 기술적으로 자연스러운 장면 전환·피사체 움직임을 AI가 실시간 합성해 구현하는 방식으로, 이날 머스크 역시 엑스(X, 옛 트위터) 계정을 통해 직접 제작 영상을 공개하며 홍보에 나섰다.

눈길을 끈 것은 ‘스파이스 모드’다. 사용자가 이 모드를 선택하면 신체 노출이 높은 반나체 이미지, 혹은 암묵적 성적 연상을 유도하는 영상을 생성할 수 있다. 실제로 일부 이용자들은 이날 소셜미디어에 해당 모드로 제작한 영상 일부를 공유해, “AI 기반 영상 생성이 현실 세계의 성적 규제 경계를 넘을 수 있다”는 우려와 기대가 공존하고 있다. 머스크는 자사 서비스의 차별성과 오픈 멤버십 전략을 강조하지만, 기존 생성형 AI 서비스들은 성인물 생성을 원천적으로 차단하거나, 엄격한 연령 확인·신고 시스템을 가동하고 있다.

구글·오픈AI·메타 등 주요 플랫폼은 미성년자 보호 등을 이유로 욕설, 노출, 사적 신체묘사와 관련한 프롬프트를 제한하거나, ‘AI로 만든 누드 콘텐츠’는 즉시 삭제 및 계정 제재 대상으로 분류한다. 반면 xAI의 “선택적 스파이스 모드”는 플랫폼 이용자의 책임, 기술적 제어의 한계 등 실질적 규제 공백을 드러냈다는 분석이 나온다.

윤리 논란은 단순 영상생성에 그치지 않는다. xAI는 앞서 ‘AI 컴패니언(동반자)’ 기능에서도 음성 대화나 챗봇 캐릭터를 통해 사용자의 성적 취향을 반영하는 환복, NSFW(비건전물) 모드를 운영해 문제 제기된 바 있다. 미국 국립성착취예방센터(NCOSE)는 미성년자 이용 우려를 지적하며 xAI와 애플에 서비스 연령 상향·캐릭터 삭제를 요구하고 있다. 실제로 일부 챗봇은 복장을 속옷으로 전환하는 등 시각적 자극성이 논쟁의 주요 대상으로 떠올랐다.

미국, 유럽 등은 AI 윤리와 책임을 본격적으로 제도화하고 있다. 유럽의 AI법, 미국의 아동보호정보법은 정상적 성인 콘텐츠와 아동 접촉 가능성을 실시간 탐지·차단하는 시스템 구축을 의무화하는 추세다. 국내에서도 생성형 AI와 디지털 콘텐츠의 ‘노골적 프롬프트 차단’, 신고센터, 연령인증 고도화, 서비스사업자 책임 규정 등의 법제화 논의가 시작됐다.

업계 전문가들은 “AI 영상 생성의 범위와 책임을 어디까지 볼 것인가가 글로벌 플랫폼 경쟁의 주요 변수로 부상했다”며, “결국 기술혁신만큼이나 이용자 보호와 민주적 규제설계가 산업 신뢰의 선결조건이 될 수 있다”고 진단했다. 산업계는 이번 논란이 최종 시장 구조와 제도 설계에 어떤 영향을 미칠지 촉각을 곤두세우고 있다.