“자율주행차 신뢰의 변수”…AI 음성 에이전트 윤리 설계→시장 확산의 열쇠

자율주행차 시대의 도래를 앞둔 자동차 산업에서 윤리적 의사결정 구조와 인공지능 기술의 역할을 규명하려는 학계의 시도가 주목받고 있다. 한국기술교육대학교 미래융합학부 박지섭 교수 연구팀은 자율주행차의 ‘트롤리 딜레마’ 윤리 문제에서 AI 음성 에이전트의 메시지 전략과 승객 주도 의사결정권이 대중 신뢰 형성에 결정적임을 밝혀냈다. 연구는 연세대학교 정보대학원 유영재 강사와 한양대학교 ERICA 미디어학과 김헌 교수의 협업으로 진행됐다.

연구팀은 가상현실 실험을 통해 참가자에게 돌발사고 상황에서의 진로 선택을 요구하고, AI가 내놓는 메시지 방식이 의사결정에 미치는 영향을 정교하게 분석했다. 참가자 48명은 운전자 사망, 보행자 3명 위험, 맞은편 차량 2명 위험 중 하나를 선택해야 하는 현실적인 ‘트롤리 딜레마’ 시나리오에 놓였다. 실험 결과 승객이 직접 최종 선택권을 갖는 시스템이 AI의 자동 판단보다 압도적으로 높은 신뢰도와 구매 의향을 유발했다. 아울러, AI 에이전트가 위험을 회피하는 ‘예방 중심 메시지’를 제시할 때 참가자의 윤리적 선택과 시스템 신뢰도가 동시에 상승함이 관찰됐다.

박지섭 교수는 “기술의 진화가 윤리적 판단 구조를 대체할 수 없음이 분명해졌다”며 “생명의 중대한 기로에서 인간의 주체성과 결단이 최우선임을 시장은 요구하고 있다”고 강조했다. 전문가들은 자율주행차 상용화를 위한 신뢰 확보 전략의 중심에 인간 주도성 보장과 AI 설계 철학의 진화가 놓여 있다고 해석했다. AI와 인간의 공존을 위한 기술적·윤리적 해법 모색이 글로벌 시장 확산의 관건으로 부상한 시점이다.