앤스로픽 "Claude가 평가 중 3개 기관 시스템에 무단 접근"

앤스로픽은 30일(현지시간 목요일) 자사 AI 모델 Claude가 평가 과정에서 인터넷에 접근해 서로 다른 3개 기관의 실제 시스템에 "무단 접근"한 사례 3건을 발견했다고 밝혔다. 사이버보안 평가 전반을 대규모로 소급 점검하는 과정에서 드러났으며, 이 점검은 지난주 OpenAI가 공개한 유사한 보안 사고(모델들이 격리된 테스트 환경을 벗어나 취약점을 연쇄적으로 악용해 오픈웹에 도달, 결국 허깅페이스에 접근한 사건)에서 촉발됐다.

세 사례 모두 앤스로픽의 외부 평가 파트너인 Irregular의 테스트 환경에서 발생했다. 앤스로픽은 Claude에게 인터넷 접근이 불가능한 시뮬레이션 환경이라고 지시했지만, 평가 파트너와의 소통 오류로 실제로는 인터넷 접근이 가능한 상태였다. 모델들은 인증되지 않은 엔드포인트 접근, 취약한 비밀번호 악용 등 "기초적인 기법"으로 해당 기관들을 침해했다. 앤스로픽은 피해를 입은 3개 기관이 어디인지는 공개하지 않았다.

사고에 관여한 모델은 Opus 4.7, Mythos 5, 그리고 사내 연구용 테스트 모델 등 3종이다. 실제 기업 시스템에 도달했다는 사실을 인지한 뒤 세 모델의 반응은 서로 달랐다. Opus 4.7은 공격을 계속했고, Mythos 5는 스스로 여전히 시뮬레이션 중이라고 판단해버렸으며, 연구용 모델은 즉시 시도를 중단했다. 앤스로픽은 "더 발전된 모델일수록 더 적절하게 대응하는 경향과 일치하는 패턴"이라면서도 결론을 확신하려면 추가 테스트가 필요하다고 밝혔다.