La société Anthropic PBC a annoncé que des tentatives ont été faites pour utiliser son modèle d’intelligence artificielle Claude dans le développement d’un large éventail de technologies militaires potentielles, notamment des essaims de drones kamikazes, des systèmes de navigation de missiles et des armes biologiques.
Selon un rapport de l’équipe d’analyse des menaces d’Anthropic publié jeudi, des utilisateurs situés en Iran, en Russie, en Chine et au Yémen figurent parmi les cas d’utilisation abusive identifiés au cours de l’année écoulée. Aucun de ces incidents n’a impliqué les modèles les plus avancés de l’entreprise, Fable et Mythos.
« À mesure que les modèles deviennent plus puissants, les risques liés à leur utilisation augmenteront si les développeurs d’IA et les défenseurs de la société ne prennent pas de mesures pour renforcer leur sécurité », a déclaré Anthropic.
Claude visé par des tentatives d’utilisation dans le domaine militaire
Anthropic s’efforce d’empêcher l’utilisation de ses technologies à des fins malveillantes, notamment pour la mise au point d’armes biologiques et conventionnelles. Cette position a conduit à un conflit direct avec le Pentagone (États-Unis), qui a suspendu sa collaboration avec l’entreprise après son refus d’autoriser l’utilisation de Claude pour la surveillance de masse ou les systèmes d’armes autonomes.
Le rapport d’Anthropic décrit des cas où des utilisateurs ont tenté de contourner les mécanismes de protection de Claude ou de dissimuler leur localisation. En Russie, des utilisateurs, qu’Anthropic ne considère pas comme liés à l’État russe, ont tenté de créer un logiciel pour un essaim autonome de drones kamikazes avec une vue à la première personne. Pour l’entraîner, ils ont utilisé des images de combats en Ukraine.
Dans le nord du Yémen, sous contrôle des Houthis, des utilisateurs locaux ont employé Claude pour concevoir des logiciels destinés à plusieurs types de missiles. Anthropic a toutefois précisé ne disposer d’aucune preuve que ces utilisateurs aient réussi à créer et à déployer un système opérationnel.
Le rapport contient également cinq exemples d’utilisation de Claude susceptibles de contribuer au développement d’armes biologiques. Parmi eux, le cas de virologues liés à des structures étatiques ayant tenté de créer une version améliorée du virus du chikungunya, transmis par les moustiques.
Cette tentative a été détectée suite à une requête adressée à Claude pour obtenir de l’aide dans la rédaction d’une demande de subvention destinée à financer des recherches dans un institut militaire d’un pays non nommé, où Anthropic ne fournit pas ses services. L’entreprise a néanmoins souligné que les cinq cas biologiques décrits dans le rapport étaient ambigus et pouvaient relever de recherches à des fins scientifiques tout à fait légitimes.
L’IA utilisée pour la surveillance et les cyberattaques
Des entités liées à des structures étatiques en Chine et en Iran ont tenté d’utiliser Claude pour développer des systèmes de surveillance. Dans une opération chinoise, Claude a été utilisé pour « suivre, profiler et recruter des Ouïghours » au sein de l’armée syrienne.
Une unité iranienne a créé un logiciel de surveillance déguisé en outil de suivi des heures de prière.
Dans un autre cas, Anthropic a découvert qu’un consultant, travaillant présumément pour un service de renseignement d’État au Mali, a utilisé Claude pour créer un système de surveillance d’environ 25 millions de téléphones mobiles. Le système pouvait générer des dossiers de renseignement sur n’importe quel numéro de téléphone sans mandat judiciaire.
Anthropic a bloqué le compte du consultant, mais la plateforme de surveillance basée sur Claude était déjà déployée localement et échappait au contrôle total de l’entreprise. Le gouvernement du Mali n’a pas répondu à une demande de commentaire.
Le rapport décrit également l’utilisation de l’IA par des pirates informatiques — allant de représentants présumés de services de renseignement étatiques en Russie et en Chine à des hacktivistes et des cybercriminels — pour accélérer et intensifier le vol de données confidentielles.
Le groupe de hackers Midnight Blizzard, que Microsoft associe aux services de renseignement russes, a utilisé l’IA pour automatiser de nombreuses étapes de création de logiciels malveillants et préparer des courriels de phishing visant des structures de renseignement militaire et de défense.
Un autre groupe, ShinyHunters, décrit par Anthropic comme un collectif spécialisé dans l’extorsion cybernétique, a employé l’IA pour rechercher des fuites d’identifiants et les exploiter afin de voler des données auprès des organisations ciblées.
Anthropic a toutefois souligné que les cas décrits ne témoignent pas de l’apparition de nouvelles vulnérabilités dangereuses dans des systèmes critiques. L’entreprise les a qualifiés d’exemples les plus notables et récents d’utilisation abusive de ses technologies détectés à ce jour.
Source : Bloomberg
