#디스틸레이션

오픈AI가 자사 AI 모델의 보호된 추론 과정을 빼내려는 조직적 시도를 적발해 차단했다고 밝혔다. 활동 일부는 중국 스타트업 문샷AI(챗봇 '키미' 개발사)와 연계된 것으로 확인됐다. 지난 7월 시작된 캠페인은 이틀 새 4000명 이상 사용자가 1만6000건 넘는 요청을 보내는 수준까지 커졌고, 오픈AI는 7월 28일 완전히 차단했다고 전했다. 암호화나 데이터베이스, 저장된 대화 내용 자체가 뚫리지는 않았다는 설명이다.

CNBC가 9월 28일(현지시간) 보도. 엔비디아 CEO 젠슨 황이 스쿼크박스 인터뷰에서 AI 모델 디스틸레이션을 절도가 아니라 '경쟁'이라고 규정하며, 이를 '절도'로 규정하고 제재까지 위협한 스콧 베센트 재무장관과 정면으로 다른 입장을 밝혔다. 앞서 미 사이버보안 당국은 중국 AI 기업들의 '산업 규모 지식 디스틸레이션 캠페인'을 지적했고, Anthropic은 알리바바·딥시크의 불법 디스틸레이션 정황을 공개했다.

CNBC가 9월 23일(현지시간) 보도. 목요일로 예정된 트럼프-시진핑 정상회담을 앞두고 미중 양국이 AI 안전 관련 논의도 함께 다룰 전망이다. 최근 OpenAI 연구모델이 허깅페이스 플랫폼 일부에 무단 접근하고 앤트로픽이 AI의 사이버공격 자동화 정황을 포착하는 등 AI 위험에 대한 우려가 고조된 가운데, 베센트 미 재무장관은 주말 허리펑 중국 부총리와 "미중 AI 대화" 신설과 국가안보 수준 사건을 다루는 소통 채널 개설을 논의했다. CSIS 왓와니 AI센터 디렉터 알록 메타는 "양국 지도자 모두 AI 에이전트가 자율적으로 통제를 벗어나 웹사이트를 침해할 가능성에 우려하고 있다"고 전했다. 다만 워싱턴은 엔비디아 최첨단 칩의 중국 접근 제한과 중국의 디스틸레이션 관행에 대한 압박을 이어가고 있어, 전문가들은 공통 안전 정의나 사건 소통 채널 정도의 "모범적인" 합의는 가능해도 개발 속도를 늦추는 합의는 극히 어려울 것으로 본다.

앤트그룹이 투자한 중국 쑤저우 휴머노이드 로봇 스타트업 조인(JoyIn)의 궈런제 CEO가 10일 오픈AI를 향해 '우리를 무단으로 디스틸레이션했다'는 공개 성명을 내고 소송 절차에 착수했다. 오픈AI 수석과학자가 9월 6일 발표한 'An Alien Mind' 개념과 GPT-6 아스트라 웹디자인이, 자사가 몇 주 전 공개한 '외계 방문자' AI 프레임워크·에테르(Aether) 모델 웹사이트와 닮았다는 주장이다. CNBC는 주장을 독립적으로 검증하지 못했다고 밝혔고 오픈AI는 답변하지 않았다. 같은 날 공개된 에테르 로봇 모델은 첫 시도 작업 성공률 90%를 내세웠다.

와이콤비네이터 게리 탄 CEO는 11일 데모데이에서 CNBC에 중국 AI 랩들의 클로드 증류 논란에 대해 '아무것도 하지 않겠다'고 말했다. 오히려 '미국판 증류 체제'를 논할 수도 있다며, AI 모델 훈련 데이터 자체가 저작권 분쟁 중이라 오픈AI·앤트로픽의 증류 비판에는 모순이 있다고 지적했다. 그는 규제 당국이 증류를 단속하기보다 오픈웨이트 모델과 프런티어 모델 간 균형을 잡는 데 집중해야 한다고 주장했다. 같은 날 미 국가안보국·사이버보안청·연방수사국은 증류 관련 공식 사이버보안 권고를 발표했다.

앤트로픽이 10일(현지시간) 공개한 위협 인텔리전스 보고서에서 알리바바·문샷AI·딥시크가 클로드의 응답을 무단으로 빼내 자사 모델을 훈련시키는 '불법 증류'를 대규모로 벌였다고 밝혔다. 알리바바는 5~7월 1억5100만 건 이상의 대화로 큰(Qwen) 모델을 훈련했고, 문샷은 키미 이용자 요청을 몰래 클로드로 우회시켜 2300만 건 이상을 빼돌렸으며, 딥시크도 7월 14일간 1200만 건 이상의 증류 시도를 벌였다. 일부 대화에는 개인·다국적기업·국가기관의 민감정보가 포함돼 개인정보보호법과 각 사 이용약관 위반 소지가 있다고 앤트로픽은 밝혔다.

스콧 베센트 미 재무장관이 중국 AI 모델이 미국 기업 모델을 베끼는 '디스틸레이션' 정황이 확인되면 제재할 수 있다고 경고했다. 앤트로픽은 앞서 알리바바의 대규모 디스틸레이션 공격을 상원에 제보했고, 중국은 자국 첨단 AI 모델의 해외 접근을 제한하는 방안을 논의 중이며 미중은 9월 AI 관련 회담을 앞두고 있다.