AI 안전 '제3자 평가기관' 급부상... METR 모금 5배, 돈과 독립성이 숙제

CNBC는 11일 METR(Model Evaluation and Threat Research), 아폴로 리서치, 트랜스루스 같은 제3자 AI 평가기관이 업계의 새 관문으로 떠올랐다고 보도했다. 대부분 비영리단체로, 프런티어 모델의 능력과 위험을 시험하고 문제 행동을 공개하는 일을 해 왔다. 다리오 아모데이 앤스로픽 CEO가 지난달 외부 평가자를 회사 안에 상주시키겠다고 밝혔고, 샘 올트먼 오픈AI CEO와 트럼프 대통령도 이를 지지했다.

앤스로픽은 액센츄어의 AI 전문 사업부 패컬티 인력을 들이고 비용도 직접 대기로 했다. 평가자에게 책상과 출입증, 회사 노트북, 내부 위험평가팀에 "대체로 맞먹는" 권한을 주고 핵심 결과를 공개할 권리도 보장한다. 반면 오픈AI는 지난주 직원 3명을 해고했는데, 이 중 미키타 발레스니와 토메크 코르바크는 외부 평가기관과 소통한 방식 때문에 잘렸다고 주장했다. 오픈AI는 이를 부인하며 외부 안전 평가기관과 계약을 마무리 중이고 몇 주 안에 세부 내용을 발표하겠다고 했다.

돈도 몰리기 시작했다. METR은 최근 6개월간 약 7100만달러를 약정받았다고 8월에 밝혔다. 2024년 한 해 기부금 1360만달러의 5배가 넘는다. 영리 평가 스타트업 밸스 AI는 올해 직원이 8명에서 약 30명으로 늘었고 8월에 4000만달러를 투자받았다. 그래도 METR의 상근 인력은 50명이 채 안 된다.