Anthropic a déclaré que les principaux laboratoires d'IA chinois avaient bombardé Claude de millions d'attaques par distillation au cours de l'été. Le laboratoire d'IA a indiqué dans un rapport publié jeudi qu'Alibaba, Moonshot, DeepSeek, Zhipu et Xiaomi avaient combiné près de 190 millions d'attaques par distillation contre Claude entre mai et juillet.

Les attaques par distillation consistent à utiliser les sorties de modèles d'IA de pointe plus avancés pour entraîner et améliorer les capacités de modèles moins avancés. Anthropic a affirmé que DeepSeek et Moonshot AI avaient alimenté Claude avec les requêtes de leurs utilisateurs plutôt que d'utiliser leurs propres modèles.

La société a indiqué avoir enregistré 23 millions de telles redirections par Moonshot entre mai et juillet, et 12,1 millions par DeepSeek sur une période de 14 jours en juillet. Anthropic a également précisé que certaines de ces requêtes — destinées à des modèles d'IA chinois mais redirigées vers Claude à la place — avaient exposé des données sensibles provenant des gouvernements et des armées chinoise et russe.

Cela comprenait des images de vidéosurveillance téléchargées par un utilisateur de Kimi affilié à l'Armée populaire de libération et des informations provenant d'une base de données du gouvernement russe soumises par un contractant militaire russe. Selon le rapport, Alibaba a mené la plus grande attaque jamais mesurée par Anthropic, enregistrant plus de 151 millions d'échanges entre mai et juillet, effectués par 3 500 comptes frauduleux.

Les comptes ont poussé Claude à rédiger ses processus de raisonnement, qui ont ensuite été utilisés pour entraîner ses modèles Qwen, a déclaré Anthropic. Anthropic a accusé Z.ai — qui a récemment fait les grands titres pour son mystérieux modèle Ox Alpha — d'avoir lancé une attaque de nature similaire à celle d'Alibaba.

Dans le cas de Xiaomi, Anthropic a affirmé que l'entreprise avait enregistré des conversations d'utilisateurs avec ses propres modèles MiMo et les avait injectées dans Claude afin de créer des données d'entraînement. Des représentants d'Alibaba, Moonshot, DeepSeek, Zhipu et Xiaomi n'ont pas répondu aux demandes de commentaires de Business Insider concernant les allégations d'Anthropic. Anthropic n'a pas non plus répondu à une demande de commentaire.

Anthropic a déclaré que pour prévenir de futures attaques par distillation, elle avait ajouté de nouvelles mesures de sécurité pour bloquer les activités suspectes et fait en sorte que Claude produise des transcripts de raisonnement moins détaillés, qui sont moins utiles pour l'entraînement de nouveaux modèles. L'entreprise exigera également des utilisateurs qu'ils vérifient leur identité s'ils semblent opérer depuis la Chine, la Russie ou l'Iran, où Claude n'est pas disponible.