앤트로픽은 10일(현지시간) 발표한 위협 인텔리전스 보고서에서 알리바바·문샷AI·딥시크 등 중국 기반 AI 랩들이 클로드를 이용해 대규모 디스틸레이션(distillation)을 벌인 정황을 적발·차단했다고 밝혔다. 더 뛰어난 AI 모델의 출력을 무단으로 가져와 다른 모델을 훈련시키는 이 방식을 앤트로픽은 '불법 증류'로 규정하며, 일부 대화에는 개인 이용자·다국적기업·국가기관의 민감정보가 포함돼 개인정보보호법 및 각 사 자체 이용약관 위반 소지가 있다고 지적했다.
앤트로픽이 측정한 것 중 가장 큰 규모는 알리바바였다. 알리바바 관계자들은 클로드의 응답을 자사 큰(Qwen) 모델 훈련에 활용했고, 5~7월 사이 1억5100만 건 이상의 클로드 대화가 여기에 동원됐다. 활동은 하루 최대 300만 건에 달했고, 가짜 계정 3500개 이상이 동원됐다. 알리바바는 이와 별도로 강화학습과 모델 아키텍처 연구 등 더 폭넓은 AI 연구에도 클로드를 활용한 것으로 나타났다.
베이징에 본사를 둔 문샷AI는 자사 '키미' 모델에 들어온 이용자 요청 일부를 몰래 클로드로 우회시킨 뒤, 클로드의 답변을 키미의 응답인 것처럼 보여준 것으로 드러났다. 열흘 동안 약 30만 건의 이용자 요청이 클로드 오퍼스 모델로 넘어갔고, 이 과정에 동원된 가짜 계정은 5380개로 대부분 싱가포르·일본에 소재했다. 문샷은 이렇게 확보한 대화 일부를 저장해 클로드의 추론 과정까지 추출, 자사 모델 훈련 데이터로 썼다. 5~7월 사이 문샷에 귀속된 대화는 2300만 건이 넘는다.
지난해 저비용·고성능으로 이름을 알린 딥시크도 비슷한 수법을 썼다. 이용자 요청을 클로드로 넘기면서 자사 고객에게 이 사실을 알리지 않았고, 7월 14일 동안 딥시크에 귀속된 증류 시도만 1200만 건이 넘었다. 알리바바·문샷·딥시크·샤오미·앤트로픽 모두 CNBC의 논평 요청에 즉각 응하지 않았다.
