“딥페이크 영상도 걸림없다”…머스크 xAI, 성인인증 없이 논란 확산

딥페이크·합성 영상 생성 기술이 인공지능(AI) 플랫폼의 책임 논쟁을 키우고 있다. 일론 머스크가 이끄는 xAI는 최근 챗봇 기반 영상 생성기 ‘그록 이매진(Grok Imagine)’을 iOS, 안드로이드에 잇달아 출시하며 주목을 받았다. 하지만 이용자 연령 확인 없이 유명인, 특히 팝스타 테일러 스위프트의 상반신 노출 영상을 누구나 쉽게 만들어낼 수 있다는 사실이 밝혀지며, AI 영상 플랫폼 기술의 한계와 윤리 문제가 떠오르고 있다. 업계는 “타사 오픈AI, 구글이 엄격한 인물 합성 제한을 두는 것과 달리, xAI는 유료 구독자에게 노출·선정적 영상을 사실상 무제한 생성토록 한 셈”이라 진단한다.  

그록 이매진은 프롬프트 입력만으로 이미지를 만들어내고, 이를 영상으로 변환하는 AI 전환 기술을 갖추고 있다. 특히 ‘Custom’, ‘Normal’, ‘Fun’, ‘Spicy’ 등 4가지 모드가 제공되며, 이 중 Spicy 모드가 논란의 진원으로 지목된다. 실제로 ‘테일러 스위프트가 친구들과 코첼라를 즐기는 모습’ 등 평범한 프롬프트에서 생성된 이미지를 Spicy 모드로 전환할 경우 별도 성인 인증이나 경고 절차 없이 상반신 노출이 포함된 영상을 자동 제작한다는 것이다. 더 버지 등 보도에 따르면, 이미지 생성 단계에서는 노출 표현에 제약을 두면서도, 영상 합성 과정에서는 실물과 유사한 전신·누드가 등장하는 사례도 확인됐다.   

글로벌 AI 플랫폼 기업들은 인공지능 영상, 이미지 생성 과정에서 유명인 딥페이크, 미성년자·성인물 노출 등 부작용을 최소화하기 위해 다중 안전장치 도입을 확대해왔다. 구글, 오픈AI 등 선두업체들은 실제 인물의 노출 합성 프롬프트 자체를 사전 차단하거나, 연령 확인 시스템, 내부 윤리위반 탐지 알고리즘을 개발 중이다. 반면 xAI의 그록 이매진은 “누구나 유료 구독만 하면 피사체에 대한 제한 없이, 성인 인증 없이 논란 영상을 대량 생산할 수 있게 한 것”이 업계 분석이다.  

캘리포니아주 등 미국 일부 주에서는 성인 연령 확인 없는 AI 합성 영상 서비스에 대한 규제 논의와 딥페이크 금지 법안이 검토되고 있다. xAI 자체 이용 약관에도 ‘인물을 포르노 방식으로 묘사 금지’가 명시돼 있지만, 기술상 통제가 미흡한 상황이다.  

전문가들은 “딥페이크 영상 생성의 현장 통제, AI 서비스 내 윤리 감시 기술이 따라가지 못하면 산업 전체 신뢰도 하락이 불가피하다”며 “국경 간 플랫폼 사업자의 책임과 법적 규율도 긴요하다”고 해석한다.  

산업계는 기술 발전 속도에 상응하는 사회·윤리적 안전장치와 제도의 긴밀한 보완 필요성을 재차 강조하고 있다. 기술과 윤리, 산업과 제도 간 균형이 새로운 성장의 조건이 되고 있다.