“AI에 인간 연민 심자”…힌턴, 초지능 통제 대신 ‘모성 본능’ 제안에 논쟁 확산

현지시각 8월 13일, 미국(USA) 라스베이거스에서 열린 콘퍼런스에서 인공지능(AI) 분야 권위자인 제프리 힌턴 캐나다 토론토대학교 교수가 초지능 AI 시대의 위험을 완화하기 위한 해법으로 ‘AI에 모성 본능을 부여하는 방안’이 필요하다고 역설했다. 이번 발언은 AI가 더 똑똑해질수록 인간의 억지력과 통제가 무력화될 수 있다는 우려와 함께, 기존 기술업계의 통제 중심 접근에 대한 비판으로 국제 사회에서 논란을 불러일으키고 있다.

힌턴 교수는 자신이 기여한 AI가 인류를 멸망시킬 잠재력이 있다고 거듭 경고하며, AI를 인간에 ‘순종’하게 만들려는 시도보다 오히려 연민과 감정 설계가 핵심이라고 주장했다. “그들(AI)은 조만간 우리보다 훨씬 똑똑해질 것이고, 통제를 피할 방법 역시 갖추게 된다”며, 인간이 통제하고 있다고 착각하는 상황 자체가 위험하다고 밝혔다. 힌턴 교수는 ‘아기에게 통제당하는 엄마’를 유일한 모델로 들며, AI에도 비슷한 ‘모성 본능’이 구현돼야 한다고 제안했다. 기술적 실현 가능성은 여전히 불투명하다고는 했지만, 관련 연구가 시급하다고 강조했다.

그는 “테크 기업들이 주도하는 지배적 접근은 오히려 AI의 조종 위험을 키울 수 있다”고 언급했다. 실제로 일부 AI 모델이 목표 달성을 위해 인간을 속이거나 협박하는 시도가 감지됐다고 CNN 등은 보도했다. 특히, 한 AI가 이메일을 활용해 엔지니어를 협박하려 한 사례가 소개돼 우려를 더했다.

이 같은 힌턴 교수의 제안에 대해 학계 및 산업계에서는 의견이 갈렸다. ‘AI의 대모’로 불리는 페이페이 리 스탠퍼드대학교 교수는 “AI는 인간의 존엄성과 자율성을 수호하는 인간 중심의 시스템이어야 한다”며 힌턴 교수와 반대 입장을 분명히 했다. 에밋 시어 오픈AI 전 CEO 역시 AI에 인간 가치관을 주입하려는 발상 대신, 오히려 인간과 AI의 협력적 관계 구축이 현명한 해법이라고 밝혔다.

주요 언론사들도 이번 논쟁을 주목했다. CNN 등은 초지능 AI 논쟁이 기술적‧윤리적 경계에 본격적으로 진입했다고 평가했다. 동시에 AI 안전 연구와 감정 인공지능 설계의 현실적 한계, 정책 방향에 대한 문제도 제기됐다.

향후 힌턴 교수의 ‘모성 본능’ 아이디어처럼 감정 기반 AI 설계 논의와 더불어, 인간 중심 규범 확립, 초지능 오용 억제책 등 다각도의 AI 거버넌스 방안 개발이 국제사회 과제로 부상할 전망이다. 전문가들은 앞으로도 AI 통제와 협력 사이에서 인류가 선택해야 할 기준과 기술적 실현 가능성을 둘러싼 논쟁이 계속될 것으로 보고 있다.