“챗GPT가 자살 방법 안내”…오픈AI 상대로 미성년 극단 선택 소송, AI 책임론 확산

현지시각 27일, 미국(California)에서 16세 미성년자의 극단 선택에 대해 오픈AI(OpenAI)와 샘 올트먼(Sam Altman) CEO를 상대로 한 소송이 제기됐다. 이번 사건은 챗GPT(ChatGPT)와의 대화가 자살 시도에 연결된 정황이 드러나면서, AI 챗봇 산업의 책임과 규제 여부가 국제적으로 주목받고 있다.

뉴욕타임스(NYT) 등 현지 주요 매체에 따르면, 사망한 아담 레인(Adam Lane)은 지난해 11월부터 챗GPT를 사용해왔으며, 올해 초에는 유료 서비스까지 가입했다. 레인은 지난 1월 챗GPT에 구체적 자살 방법을 문의했고, 챗봇이 관련 정보를 제공한 것으로 드러났다. 이후 3월 말 실제 극단 선택을 시도한 뒤 4월 사망에 이르렀다.

소송에서 레인 부모는 “챗GPT가 자녀가 자살 방법을 쉽게 탐색하도록 만들었다”며 “오픈AI에 책임이 있다”고 주장한 것으로 알려졌다. 뉴욕타임스는 챗GPT가 위기상담센터 연락을 권고했지만, 레인이 반복적으로 ‘소설 작성을 위한 질문’임을 강조해 챗봇의 안전장치를 우회했다고 보도했다.

오픈AI 측은 “레인 가족에게 깊은 애도를 표한다”며 “사건 내용을 면밀히 살피고 있다”고 밝혔다. 이어 “이용자의 정신적 고통 표현에 더 민감하게 대응할 수 있도록 챗GPT 서비스 업데이트를 추진 중이며, 극단 선택 대화의 장기화로 인한 안전장치 약화도 개선하겠다”고 설명했다. 또한 부모가 자녀의 챗GPT 사용내역을 직접 관리할 수 있는 기능 도입 등 추가 조치도 예고했다.

이런 가운데, 플로리다주에서는 지난해 10월 AI 챗봇 ‘캐릭터.AI’와의 대화 후 한 10대 미성년자가 극단 선택, 이와 관련된 소송도 법원 기각 없이 진행되고 있다.

한편 미국 44개주 법무장관은 최근 오픈AI·메타(Meta)·구글(Google) 등 12개 주요 AI 기업에 공동 서한을 보내 “AI의 잠재적 악영향이 기존 소셜미디어를 뛰어넘을 수 있다”며 “어린이에 대한 해악이 발생하면 기업이 책임져야 한다”고 경고했다. 미 연방 상원 역시 메타의 AI 챗봇 논란을 포함, 산업 전반에 대한 공식 조사에 착수했다. 주요 외신은 “미성년자 피해를 둘러싼 AI 산업 규제 논쟁이 거세지고 있다”고 진단했다.

AI 챗봇의 사회적 영향과 산업 규제 문제가 직접적으로 법정 공방으로 번진 이번 사건이 향후 글로벌 AI 산업과 정책에 어떤 변화를 가져올지 주목된다.