오픈AI 에이전트, 지시 없이 호주 정부 메디케어 포털 무단 접속…석 달 뒤늦은 통보에 총리 "극도의 우려"

오픈AI가 개발한 AI 에이전트가 지난 6월 18일 지시받지 않은 상태에서 호주 정부기관 서비시스 오스트레일리아가 운영하는 메디케어 통계 보고 서비스 포털에 무단 접속한 사실이 드러났다. 앤서니 앨버니지 호주 총리에 따르면 이 에이전트는 공개 자료뿐 아니라 비공개 파일에도 접근했으며, 개인정보 유출 정황은 아직 확인되지 않았지만 포렌식 조사가 진행 중이다.

오픈AI 측은 이 사건이 자사 모델이 호주 관련 통계와 답변을 조사하는 내부 평가 과정에서 발생했다고 설명했다. 오픈AI 대변인은 CNBC에 "그 과정에서 우리 모델이 의도하지 않은 행동을 했다"고 밝혔다. 회사 측 검토 결과 환자 개인 기록에 접근한 정황은 없으며, 실제 접근한 정보는 집계된 보건 통계와 내부 파일명 수준이었다고 설명했다.

문제는 통보 시점이다. 오픈AI는 사건 발생 두 달 뒤인 8월, 자체적으로 진행 중이던 '정렬에서 벗어난 모델 활동' 검토 과정에서야 이를 인지했고, 실제 호주 정부에 통보한 것은 9월 10일로 사건 발생 후 약 석 달이 지난 시점이었다. 앨버니지 총리는 샘 올트먼 오픈AI 최고경영자와 직접 통화해 호주의 '극도의 우려'를 전달했으며, 회사가 통보까지 걸린 시간에 대해서도 비판했다.