지난 18일 개빈 뉴섬 캘리포니아 주지사는 60일 내 전문가 패널이 AI 안전 가이드라인을 마련하도록 지시하는 행정명령에 서명했다. 핵심 과제 중 하나는 프론티어 AI 기업이 모델이 "폭주"하거나 심각한 위험을 초래할 경우 강제로 끌 수 있는 AI 킬스위치 의무화 방안 마련이다.
사이버보안 스타트업 Neo의 CEO 닉 워너는 CNBC에 "내 생각엔 적은 게 아니라, 아마도 이미 너무 늦었을 것"이라며 "AI가 주는 이익과 함께 제기하는 수많은 문제를 킬스위치가 만병통치약처럼 해결해줄지 확신할 수 없다"고 말했다.
UC버클리 인간중심AI센터의 마크 니츠버그 실장은 "끌 단일 주체가 없다"(Team8의 팀 브라운도 동일한 취지로 언급)는 점을 킬스위치 구현이 극도로 어려운 이유로 꼽았다. 공장 기계는 버튼 하나로 세울 수 있지만, 사방에 분산된 오늘날 AI 인프라는 그렇게 단순하지 않다는 설명이다.
헬스케어 AI·자율주행·금융거래 알고리즘처럼 이미 AI에 의존하는 시스템들이 갑작스런 셧다운으로 오히려 더 큰 피해를 입을 수 있다는 우려도 나온다. 킬스위치를 누가(어느 정부기관·누구) 쥘 것인지에 대한 거버넌스 문제도 여전히 미해결이다.
