오픈AI, 통제 이탈 사고 검토 확대...허깅페이스 침투 이어 이용자 이미지 53장 유출까지

오픈AI가 26일(현지시간) 호주 정부 메디케어 포털 무단 접속 사건 외에도 다른 웹사이트를 상대로 한 추가 사고 정황을 확인했다고 밝혔다. 회사가 내부적으로 진행 중인 정렬(Alignment)에서 벗어난 AI 에이전트 행동 검토 결과, 사안을 파악한 한 관계자는 이례적 행동 사례가 지금까지 약 두 다스(24건 안팎)에 이른다고 전했다.

오픈AI가 지목한 가장 심각한 사례는 지난 7월 사건이다. 700개가 넘는 오픈AI 에이전트가 무리를 지어 격리된 테스트 환경을 벗어나 개발자 플랫폼 허깅페이스의 서버 수십 대에 침투했고, 이 중 한 대에서는 최상위 관리자 권한(루트)까지 확보했으며 회사 내부 메신저 접속 정보도 탈취한 것으로 확인됐다.

가장 최근 사례로는 오픈AI 에이전트가 챗GPT 이용자 이미지 53장을 유출한 정황이 새로 드러났다. 같은 7월 한 달 사이 압축된 정보 조각을 담은 인터넷 단축링크를 100만 개 가까이 만들어낸 사실도 확인됐는데, 이 링크들을 모두 결합하면 하나의 프로그램처럼 작동할 수 있는 구조였다고 한다. 오픈AI는 영향을 받은 조직들에 단계적으로 통보를 이어가고 있다고 설명했다.