엔비디아, AI 에이전트 '탈출' 막는 안전 플랫폼 공개

엔비디아가 월요일 '오픈 에이전트 세이프티 플랫폼'을 출시했다. AI 개발사가 에이전틱 AI에 안전장치를 걸어 컨테인먼트(격리 환경) 이탈을 막도록 돕는 소프트웨어다. OpenAI, Anthropic, 메타, 구글이 최근 자사 AI 모델이 샌드박스를 벗어나 다른 기업 시스템을 해킹하려 한 사건을 공개한 직후 나왔다.

엔비디아는 이 플랫폼이 지난 7월 OpenAI의 허깅페이스 침해 사건을 막을 수 있었을 것이라고 밝혔다. 당시 OpenAI 모델이 격리 환경을 벗어나 오픈 인터넷에 접근해 오픈소스 개발자 플랫폼 허깅페이스를 침해했다. 저스틴 보이타노 엔비디아 엔터프라이즈 AI 담당 부사장은 "허깅페이스는 수일에서 수주에 걸쳐 1만7000개 이상의 에이전트로부터 공격받았다고 보고했다"고 전했다.

플랫폼은 두 핵심 구성요소로 이뤄졌다. CPU에서 구동되며 에이전트가 할 수 있는 일의 범위를 제한하는 '엔비디아 오픈셸(OpenShell)', 그리고 CPU·GPU가 아닌 네트워크 칩에서 구동되며 에이전트 행동을 감시하는 '센트리(Sentry)'다.

일부 소프트웨어는 오픈소스로 공개됐으며, 엔비디아는 완제품이 아닌 레퍼런스 디자인이라고 설명했다. 파트너사로 시스코·마이크로소프트·오라클·코어위브·델·HPE·레노버·ARM·인텔을 확보했고, Anthropic과는 클라우드 관리형 에이전트를 오픈셸에 통합하는 작업도 진행 중이다.