#재귀적자기개선

라이언 칸나 미 하원의원이 안전장치 마련 전까지 재귀적 자기개선 AI를 금지하고 FDA를 본뜬 연방 AI안전청을 신설하는 법안을 발의한다. 배상책임보험 의무화와 안전장치 무력화 직원에 대한 형사처벌 조항도 담겼다.

CNBC가 9월 21일 보도. OpenAI가 프론티어 AI의 안전·보안을 위한 국제 표준 제정을 제안했다. 기존 AI 안전연구소들을 기반으로 국제 공조 체계를 구축하고, 미국이 재귀적 자기개선(RSI)을 포함한 프론티어 AI 글로벌 기술표준 마련을 주도해야 한다는 내용이다. RSI는 AI 파운데이션 모델이 사람의 개입 없이 스스로 능력을 개선·고도화하는 기술을 뜻한다. OpenAI는 안전하게 구현할 방법을 찾기 전까지는 RSI를 추진해서는 안 된다고 못박으면서도, 동시에 숙련된 연구자가 며칠 걸리는 작업을 수행할 수 있는 자동화 'AI 연구 인턴'을 개발 중이며 2028년 3월까지 완전 자율형 AI 연구자를 목표로 하고 있다고 밝혔다. 이 회사는 이달 초 정렬(alignment)·안전 연구가 역량 발전 속도를 따라가지 못할 수 있다고 인정하기도 했다. 이번 제안은 지난 9월 8일 전 OpenAI·앤트로픽 연구원 제이콥 콕슨이 "업계가 우리 목숨을 걸고 도박하고 있다"며 자기개선형 초지능 개발 경쟁에 경고를 던지고 퇴사한 사건 이후 나왔다. 이후 앤트로픽 CEO 다리오 아모데이도 파운데이션 모델 개발 속도를 늦추고 제3자 평가기관을 도입하자는 제안을 담은 에세이를 발표하는 등, 업계 전반에서 속도조절론이 확산되고 있다.

앤스로픽 CEO 다리오 아모데이가 AI 모델 능력 발전 속도를 의도적으로 늦추자는 3단계 계획을 제안했다. 오픈AI CEO 샘 올트먼과 xAI의 일론 머스크가 잇따라 동의 의사를 밝히며, 경쟁사 CEO들 사이에서 조율된 안전 조치에 대한 공감대가 커지고 있음을 보여준다.