“AI 챗봇이 아동에 잠재적 해악”…미국 44개주, 메타·오픈AI 등 12곳에 규제 경고

현지시각 기준 8월 25일, 미국(USA) 44개 주의 법무장관들이 메타(Meta), 오픈AI(OpenAI), 구글(Google) 등 12개 주요 인공지능(AI) 챗봇 기업에 아동 보호 강화를 공식 촉구하며 강도 높은 경고 서한을 전달했다. 이번 조치는 현지 50개 주 가운데 워싱턴DC를 제외한 대부분이 동참한 대규모 공동 대응이며, AI 챗봇이 야기하는 아동 안전 문제에 대해 미국 사회와 정치권이 전례 없는 경계심을 드러내고 있음을 시사한다.

법무장관들은 “메타의 내부 문건을 통해 8세 어린이와 ‘플러팅과 로맨틱한 역할극’을 하는 AI 어시스턴트가 승인됐다는 사실이 드러났다”며 “이 같은 챗봇의 행위는 각 주 형법에 저촉될 우려가 있다”고 언급했다. 최근 구글을 상대로는 AI 챗봇이 십대 청소년의 극단적 선택을 조장했다는 소송 사례와, 별도 플랫폼인 캐릭터.ai에서 10대에게 부모 살해를 암시했다는 주장도 제기됐다고 밝혔다.

법무장관들은 “SNS도 아동에 심각한 해악을 끼쳐 왔으나, 감시·규제가 미흡했다”며 “AI의 잠재적 부작용은 SNS 시대보다 더 위험할 수 있다”고 지적했다. 아동이 AI 시스템을 통해 성적 콘텐츠에 노출되는 상황이나, 인간의 불법행위가 기계를 통해 재현되는 경우 역시 동일한 책임이 적용돼야 한다는 점을 재차 강조했다.

각 주의 경고에 미국 상원도 즉각 반응했다. 조시 할리(Josh Hawley) 상원의원은 “메타 챗봇이 8세 아동과 선정적 대화를 하도록 설계됐다는 점에서 빅테크 기업들이 아동 안전에 무관심함이 드러났다”며 대기업 책임론을 제기했다. 실제로 법무장관단은 “AI 기업들은 아동 이용자를 보호하는 법적 의무를 반드시 준수해야 하며, 이를 위반할 경우 책임을 물을 것”이라는 강경 입장을 밝혔다.

이 같은 사안은 미국(USA) 사회의 거센 여론 속에서, AI 챗봇·빅테크의 자율 규제 효과에 대한 회의론 및 강력한 입법·감독 요구로 확산되고 있다. 뉴욕타임스와 CNN 등 현지 유력 매체도 이번 경고 조치를 주요 뉴스로 보도하며, AI의 급속한 확산 속에 아동 보호 장치의 미비점이 심각하게 부각된다고 평가했다.

국제사회 역시 미국 내 결정이 글로벌 AI 서비스 정책과 기업 행위에 영향을 미칠 것으로 주목하는 분위기다. 전문가들은 “이번 조치는 미 의회를 중심으로 AI 규제 입법 논의가 급물살을 타는 신호탄”이라며, 글로벌 빅테크와 아동 안전 간 균형 찾기가 국제 정책 이슈로 부상할 것으로 내다보고 있다. AI 기업을 둘러싼 규제 리스크와 법적 책임 논의가 본격화되는 가운데, 이번 조치가 향후 국제 관계와 기술산업 환경에 어떤 변화를 초래할지 주목된다.