Les États-Unis ont désigné six entreprises chinoises que les services de renseignement américains accusent de mener des attaques à l’échelle industrielle pour s’approprier les capacités des modèles d’IA américains de pointe. Selon les autorités américaines, cette pratique permet aux entreprises chinoises de réduire considérablement leurs délais de développement et d’économiser des milliards de dollars en coûts d’entraînement.
Dans une déclaration commune publiée mardi, l’Agence nationale de sécurité (NSA), l’Agence de cybersécurité et de sécurité des infrastructures (CISA) et le Bureau fédéral d’enquête (FBI) ont affirmé que DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun et Z.AI mènent des attaques contre les modèles américains depuis au moins la fin de l’année 2024.
Selon ces agences, ces entreprises ont « probablement » agi « avec la connaissance du gouvernement chinois », en s’appropriant les capacités de modèles américains, notamment des variantes de Claude, GPT, Gemini et Grok.
« Les entreprises chinoises du secteur de l’IA qui procèdent à la distillation de modèles d’IA américains à l’échelle industrielle bénéficient de délais de développement nettement plus courts et de coûts financiers moindres pour l’entraînement de modèles avancés », ont déclaré les agences américaines.
Elles ont appelé toutes les entreprises américaines spécialisées dans l’IA à coopérer avec le gouvernement américain et ses alliés pour contrer ces actions qui, selon Washington, menacent le leadership des États-Unis dans le domaine de l’intelligence artificielle. Pour y parvenir, les agences préconisent des mesures coordonnées à travers tout l’écosystème de l’IA contre une « distillation agressive, malveillante et ciblée à l’échelle industrielle », utilisée pour obtenir des fonctionnalités et des caractéristiques propriétaires limitées des modèles américains de pointe.
Comment les entreprises chinoises obtiennent les données des modèles
D’après les autorités américaines, l’une des méthodes consiste à utiliser des API pour obtenir des réponses de modèles d’IA via l’achat massif de comptes fictifs. Ces réseaux de comptes frauduleux, non associés à de véritables utilisateurs, exécutent « des requêtes hautement coordonnées avec des textes de prompts identiques ou similaires ». Leur nombre peut varier de milliers à des millions de requêtes sur des sujets proches.
Une autre méthode courante consiste à utiliser des techniques de prompt injection pour contourner les protections des modèles. Il s’agit notamment de créer des prompts qui forcent les modèles à révéler leur chaîne de réflexion (chain-of-thought) cachée.
Les agences américaines ont cité en exemple DeepSeek qui, selon elles, utilisait des prompts forçant les modèles à imaginer et à exposer étape par étape les raisonnements internes ayant conduit aux réponses finales.
De nouvelles restrictions pourraient affecter les utilisateurs d’IA
Afin d’encourager les entreprises à lutter collectivement contre ces campagnes, les agences américaines ont recommandé une série de mesures censées compliquer l’accès des entreprises chinoises aux capacités des modèles américains.
Il est notamment conseillé aux entreprises d’améliorer la détection des campagnes sophistiquées utilisant des dizaines de milliers de comptes. Selon les agences, ces campagnes pourraient s’appuyer sur un « marché gris de serveurs proxy » pour contourner les restrictions géographiques et acheminer les requêtes via plusieurs canaux différents afin d’obtenir un accès non autorisé.
Parallèlement, le renforcement de ces mesures de protection pourrait également affecter les utilisateurs ordinaires des services d’IA américains, car les entreprises devront contrôler plus strictement l’accès à leurs modèles.
Source : Ars Technica
