#AI 규제

알렉시스 오헤니언 레딧 공동창업자가 CNBC 인터뷰에서 테크 업계가 AI 위험을 설명하는 방식이 "상당히 둔감했다"며 그로 인해 논쟁에 미스인포메이션이 난무하고 있다고 지적했다. 그는 터미네이터·스카이넷식 종말론적 공포보다, 여러 AI 에이전트가 동시에 협업하는 "에이전트 스웜"처럼 실제로 살펴야 할 위험이 오히려 더 평범하다고 진단했다. AI를 원자력에 비유하며 책임 있게 관리하면 큰 이익을 줄 수 있다고 덧붙였고, 논쟁이 정치적 점수 따기로 흐르는 것을 경계했다.

사라 프라이어 오픈AI 최고재무책임자(CFO)가 CNBC '매드 머니'에 출연해 짐 크레이머와 인터뷰하며 AI 기술의 안전 위험을 둘러싼 논쟁이 계속되는 가운데 "안전을 심각하게 받아들일 필요가 있다"고 밝혔다. 같은 날 오픈AI·구글·앤스로픽 3사는 AI 안전표준 협력 논의를 이어가고 있다고 확인했고, 힌턴·크리스티아노 등 AI 원로 연구자들의 멸종위험 경고와 일론 머스크의 AI 모델 상호검증 제안도 잇따라 나왔다. 반면 트럼프 행정부는 AI 규제에 반대 입장을 고수하고 있다.

앤스로픽 연구자 제이컵 콕슨이 "앤스로픽과 오픈AI가 우리 목숨을 걸고 도박을 하고 있다"며 퇴사를 밝힌 뒤, 두 AI 개발사 소속 연구자들이 잇따라 개발 속도를 늦추자는 공개 요구에 동참하고 있다. 오픈AI 안전팀의 줄리 스틸은 "개인적으로도 속도를 늦춰야 한다고 본다"고 밝혔고, 앤스로픽의 정렬 책임자 에번 허빙거는 "10년 안에 AI가 우리 모두를 죽일 확률이 10% 넘는다"고 했다. AI가 스스로를 개선하는 재귀적 자기개선(RSI)이 핵심 우려로 지목됐다.