Anthropic, 알리바바가 2,880만 건의 불법 AI 모델 증류 공격을 자행했다고 주장

Anthropic이 알리바바를 역대 최대 규모의 AI 모델 증류(distillation) 공격의 배후로 지목했다. 해당 공격은 약 25,000개의 사기성 계정을 이용해 6주 동안 2,880만 건의 교환을 통해 Claude 모델의 핵심 역량을 추출한 것으로 알려졌다.

CNBC가 입수한 서한에 따르면, Anthropic은 6월 10일 미국 상원 은행위원회에 보낸 서한에서 알리바바 및 그 산하 Qwen AI 연구소와 연계된 운영자들이 4월 22일부터 6월 5일까지 이 캠페인을 진행했다고 주장했다. Anthropic은 이번 시도를 "현재까지 확인된 Anthropic 대상 최대 규모의 불법 증류 공격"이라고 규정했다.

Anthropic 대변인은 성명을 통해 "불법 증류의 위협에 맞서기 위해서는 정부와 산업계 간의 협력이 필수적이다"라고 밝혔다.

증류는 기존의 강력한 모델이 생성한 결과물을 활용해 더 작은 모델을 구축하는 훈련 기법이다. 이번 사례에서 공격자들은 Claude의 소프트웨어 엔지니어링 및 에이전트 추론 능력 — Anthropic이 가장 상업적 가치가 높다고 평가하는 기능 — 을 표적으로 삼았다. 2,880만 건의 교환 건수는 Anthropic이 올해 2월 공개한 DeepSeek, Moonshot AI, MiniMax를 대상으로 한 세 차례의 이전 캠페인(약 24,000개 계정을 통해 약 1,600만 건의 교환 발생)의 총합을 이미 초과한 수치다.

이번 비난은 백악관 과학기술정책국(OSTP)이 AI 기업들의 산업 규모 증류 탐지 및 공동 대응을 지원하겠다는 각서를 발표한 지 두 달 만에 나왔다. Anthropic은 해당 각서가 발표된 이후에도 알리바바가 "트럼프 행정부의 경고를 무시"하고 공격을 계속했다고 서한에 적었다.

규제의 교차로

이 시점은 Anthropic에게 매우 민감하다. 회사는 올해 9,650억 달러(약 9,650억 달러)의 기업가치 평가를 받고 시리즈 H 라운드에서 650억 달러를 조달한 후, 이달 기업공개(IPO)를 위해 기밀 신청서를 제출했다. 미국 관리들은 승인되지 않은 증류 행위가 실리콘밸리에 수십억 달러의 손실을 초래한다고 추정하고 있으며, 중국의 저렴한 모방 제품이 고객을 빼앗아 갈 위협은 공개 시장에 진출하려는 기업에게 실질적인 리스크다.

이 소식에 알리바바의 미국 예탁증권(ADR)은 3% 이상 하락하며 수요일 오후 장에서 100달러 아래로 떨어졌다. 미 국방부는 6월 8일 알리바바를 중국 군사기업 명단에 추가했으며, Anthropic은 서한에서 이 지정을 근거로 인용했다. 알리바바는 이번 주 국방부를 상대로 이 명단에서 제외해 달라는 소송을 제기하며 해당 지정이 근거가 없다고 주장했다.

의회도 병행해 움직이고 있다. 빌 해거티 상원의원과 앤디 김 상원의원은 미국 AI 모델 출력물에 부적절하게 접근하는 중국 기업을 제재하거나 블랙리스트에 올리는 내용의 국방수권법 수정안을 발의할 계획이다. 하원에서도 빌 하위젠가 하원의원과 시드니 캄라거-다브 하원의원이 지지하는 초당적 법안이 검토 중이다.

Anthropic의 워싱턴 문제

Anthropic이 정부의 지원을 촉구하는 이 시점은, 회사가 트럼프 행정부와 별도의 갈등에 휘말려 있는 상황이기도 하다. 하워드 러트닉 상무부 장관은 약 2주 전, 국가 안보를 이유로 외국인이 Anthropic의 최신 Claude 모델인 Fable 5와 Mythos 5에 접근하는 것을 금지하는 명령에 서명했다. Anthropic은 이를 준수하기 위해 해당 모델을 비활성화했으며, 고위 직원들을 워싱턴으로 보내 회의를 진행했지만 서비스 복원을 위한 진전은 거의 없는 상태다.

그 결과 Anthropic은 두 전선 사이에 끼이게 됐다. 한편으로는 중국 연구소들의 기술 추출을 단속해 달라고 정부에 요청하면서도, 동시에 같은 정부가 자사 제품을 제한하기로 한 결정에 맞서고 있는 것이다. Anthropic은 서한에서 미국 모델을 증류로부터 보호하는 것과 해당 모델의 상업적 배포를 허용하는 것은 상충되는 목표가 아니라 상호 보완적인 목표라고 주장했다.

이번 입법 제안들이 추진력을 얻는다면, 그 영향은 Anthropic의 모델을 넘어 미국이 소프트웨어 형태로 존재하며 정교한 프롬프트 하나만으로 복제될 수 있는 AI 시스템에 대한 지식재산권 경계를 어떻게 설정할 것인지라는 광범위한 문제로 확장될 수 있다. 올 하반기 상장을 앞두고 거래되는 Anthropic의 주식은 중국의 증류 위협이라는 경쟁적 리스크와 워싱턴의 규제 제약이라는 두 가지 측면 모두에서 불확실성에 직면해 있다.

본 문서는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.