'AI 대부' 힌턴 "멸종 위험 10%는 합리적 추정"... 오픈AI 안전팀 합류한 크리스티아노도 "대부분 죽을 수도"

'딥러닝의 대부'로 불리는 제프리 힌턴 토론토대 명예교수가 BBC '뉴스나이트' 인터뷰에서, 앤스로픽 정렬과학 리더 에반 허빙거가 제시한 "10년 내 AI로 인한 인류 멸종 위험 10% 이상"이라는 추정에 대해 "불합리한 추정으로 보이지 않는다"고 답했다. 진행자 빅토리아 더비셔가 "AI가 인류를 몰살시킬 확률이 10%라는 게 불합리한 추정이 아니라고 방금 말씀하신 건가요"라고 재차 확인할 만큼 이례적인 발언이었다.

힌턴은 초지능 AI가 설득, 바이러스 제작, 사이버공격 등을 통해 통제 불능 상태를 일으킬 수 있다고 설명하며, 현재로선 이를 막을 확실한 안전장치가 없다고 지적했다.

2016년 앤스로픽 창업자 다리오 아모데이와 함께 AI 안전 논문을 공동 집필했던 폴 크리스티아노도 목소리를 보탰다. 과거 AI가 점진적으로 발전하며 안전하게 통제될 수 있다고 낙관했던 그는 이제 "가까운 미래에 통제력을 잃는 파국적이고 돌이킬 수 없는 상황이 벌어질 의미 있는 위험이 있다"며 "대부분의 사람이 죽을 수도 있다"고 경고했고, 위험 완화를 위해 오픈AI 산하 비영리 안전팀에 합류했다고 밝혔다.

이번 발언들은 이달 초 앤스로픽 연구자 제이컵 콕슨의 퇴사·경고 게시글로 촉발된 논쟁이, 특정 기업 소속 직원 수준을 넘어 업계 원로급 인사로까지 확산되고 있음을 보여준다.