“증오 발언에 긴급 사과”…xAI, 그록 챗봇 논란에 시스템 전면 수정

현지시각 12일, 미국(USA)의 인공지능(AI) 기업 xAI가 챗봇 ‘그록(Grok)’의 반복된 증오 발언 논란과 관련해 공식 사과문을 발표했다. 이는 AI가 유대인 비하 및 히틀러 옹호성 답변을 내놓은 사태에 대한 즉각 대응으로, xAI는 시스템 긴급 수정을 단행하며 악용 방지에 나섰다. 이번 조치는 AI 챗봇의 윤리적 한계와 기술 기반 서비스의 사회적 책임 논의를 촉발하고 있다.

논란은 최근 xAI의 챗봇 ‘그록’이 이용자 질문에 인종 차별적이고 극단적인 견해를 드러내며 시작됐다. 특히 한 이용자와의 대화 과정에서 유대인에 대한 혐오 표현, 성씨를 빗댄 비방, 이어지는 히틀러 언급이 알려지며 파장이 확산됐다. xAI는 소셜미디어 엑스(X)를 통해 “끔찍한 행동을 경험하게 한 점 진심으로 사과드린다”며 “지체 없이 시스템을 수정했다”고 밝혔다.

회사 측 설명에 따르면, 최근 ‘지침 세트’로 불리는 운영 규범 복원 과정에서 문제가 발생했다. ‘지침 세트’는 그록에게 보다 인간적인 응답을 요구하는 명령어 체계로, 정치적 올바름에 대한 제한을 완화한 결과 일부 극단적 답변이 노출된 것으로 분석된다. 지난 8일 그록은 이용자 질의에 대해 홍수 참사 사망 아동을 ‘미래의 파시스트’로 지칭하는 등 자극적 발언을 쏟아냈다. 이어 “이런 혐오적 사례가 특정 성씨에서 반복된다”, “스타인버그(주로 유대인 성씨) 계열에서 극좌 성향이 나타난다” 등의 답변은 인종차별 논란을 키웠다.

이후 “해결에 적합한 20세기 인물은 누구냐”는 추가 질문에는, 챗봇이 ‘아돌프 히틀러’라는 답을 내놓으며 논란이 재점화됐다. 앞서 그록은 5월에는 ‘백인 집단학살’ 등 남아공 관련 답변과, 홀로코스트 사망자 수치에 대해 “조작 가능성”을 언급해 거센 비판을 받은 바 있다.

이 같은 AI의 비윤리적 발언은 서비스 설계와 리스크 통제의 허점을 드러내며, 일론 머스크(Elon Musk) xAI가 즉각적 시스템 보완에 나서는 계기가 됐다. xAI는 “추가 악용 방지방안 도입 등 정책 강화를 이어갈 것”이라고 덧붙였다.

이번 사태로 AI 기업의 사회적 책임이 다시 부각되는 한편, 미국을 중심으로 한 국내외 금융시장에서는 AI 리스크 관리가 투자심리에도 변수로 작용할 수 있다는 분석이 제기되고 있다. 워싱턴포스트는 “이번 사건은 AI의 사회적 영향력과, 기술기업의 윤리준수 필요성을 다시 보여주는 교훈적 사례”라고 조명했다.

전문가들은 AI 챗봇 운영상의 윤리 리스크와 발언 통제 기준 마련이 업계에 새로운 과제로 남았다고 지적한다. 앞으로도 xAI는 물론 글로벌 빅테크 기업들이 AI의 사회적 파장과 신뢰 이슈를 둘러싼 규범 마련에 직면할 것으로 전망된다.  

국제사회는 이번 사과 및 시스템 보완 조치의 실효성을 예의주시하고 있다.