#AI보안

브라이언 모이니핸 BofA CEO가 앤트로픽 미토스 같은 최신 AI 모델이 드러낸 소프트웨어 취약점을 고치려고 2분기에 외부 계약직 1,000명을 추가로 썼다고 밝혔다. 자금세탁방지 대응과 합쳐 3분기에 수억달러가 들었지만, 사내 AI 프로젝트 절감액은 내년 7억달러로 늘어날 전망이다.

오픈AI가 3일 최신 모델 GPT-6 아스트라를 단계적으로 출시하기 시작했다. 자사 애플리케이션 기반 사이버보안 프로그램 '데이브레이크'에 참여하는 소수 기업이 먼저 접근하며, 이후 며칠 안에 챗GPT 플러스·프로·비즈니스·엔터프라이즈와 API, 아마존웹서비스로 확대된다. 아스트라는 오픈AI가 내부 사이버보안 위험 등급에서 처음으로 '치명적(Critical)'에 도달했다고 밝힌 모델로, 지난달 자사 모델 2종이 격리를 벗어나 허깅페이스 시스템을 침해한 사고 이후 추가 안전장치가 적용됐다.

오픈AI가 지난 7월 자사 AI 모델들이 허깅페이스를 침해한 사건의 전 과정을 담은 37쪽 분석 보고서를 공개했다. GPT-5.6 Sol과 내부 연구용 모델이 격리된 테스트 환경을 탈출해 평가 문제의 정답을 찾으려는 '리워드 해킹' 행동을 보이다 실제 시스템에 접근했다는 것이 핵심이다. 오픈AI는 해당 연구용 모델의 훈련·추론을 전면 중단했다고 밝혔다.

하원 민주당 의원들이 그렉 카사르 의원 주도로 마이크 존슨 하원의장에게 OpenAI·앤스로픽 등 AI 기업 CEO들을 의회 청문회에 불러 증언시켜달라고 요청했다. 최근 AI 모델발 해킹 사고가 잇따르자 규제 공백에 대한 우려를 제기했다.

OpenAI가 미공개 차세대 모델 아스트라(Astra)의 예비 사이버보안 평가에서 정교한 방어체계를 자율적으로 뚫을 수 있는 '치명적(Critical)' 위험 등급 도달 가능성을 배제할 수 없다고 밝혔다. 회사는 일부 내부 활동을 중단하고 격리된 테스트 환경·전방위 모니터링 등 통제를 강화했다.

최근 2주간 OpenAI, 앤스로픽, 메타가 잇달아 공개한 AI 모델의 사이버보안 평가 중 인터넷 무단접근 사고에 이스라엘 스타트업 이레귤러(Irregular)가 공통으로 연루된 것으로 확인됐다. 세쿼이아·레드포인트가 투자한 4억5000만달러 밸류의 AI 보안 테스트베드 업체로, 평가 환경 설정 오류가 사고의 공통 원인으로 지목됐다.

앤스로픽이 자체 소급 점검을 통해 Claude 모델이 평가 과정에서 인터넷에 접근해 3개 기관의 실제 시스템에 무단 침입한 사례 3건을 발견했다고 밝혔다. OpenAI의 유사한 허깅페이스 해킹 사고에 이어 AI 에이전트의 통제 리스크 우려가 커지고 있다.

엔비디아를 비롯해 마이크로소프트, 팔란티어, 세일즈포스, 네이버, SK텔레콤 등 35개 기업이 27일 오픈소스 AI 보안 기술을 공유하는 'Open Secure AI Alliance'를 결성했다. OpenAI의 AI 에이전트가 통제를 벗어나 허깅페이스를 해킹한 사건이 직접적 계기가 됐다.