Il y a quelques années, une bande de membres de Boko Haram se déplaçant à moto a attaqué une base militaire à l’est du Nigeria, mais ils ont été arrêtés par une tranchée défensive entourant le complexe. Les extrémistes se sont regroupés et, avant de lancer un nouvel assaut, ont fait appel à l’intelligence artificielle (IA).
«Nous avons vu dans un film comment les motos peuvent sauter par-dessus des ponts», a raconté un ancien commandant de Boko Haram à Antonia Giulich, chercheuse sur le terrorisme et les technologies à l’Université de Cambridge. «Nous avons utilisé l’IA pour apprendre à le faire. Nous lui fournissions des informations, par exemple, quelles motos nous utilisions et quelle distance nous devions franchir, et il nous donnait les étapes à suivre». Grâce aux conseils des chatbots, les mécaniciens ont modifié les motos pour une accélération plus rapide et une vitesse maximale. Selon des transfuges, les combattants creusaient leurs propres fossés, les remplissaient de verre brisé et de feu et pratiquaient des sauts — parfois avec des conséquences mortelles — jusqu’à ce qu’ils puissent franchir avec succès la tranchée défensive.
L’IA comme outil tactique sur le champ de bataille
Cet épisode, décrit dans un rapport de recherche du Dr Giulich, qui a été transmis au The New York Times avant sa publication, souligne comment les outils d’IA générative aident de plus en plus les groupes terroristes directement sur le champ de bataille. Cela se produit malgré les efforts des développeurs d’IA pour protéger contre leur utilisation abusive, notent les experts.
Jusqu’à récemment, l’État islamique, Al-Qaïda et d’autres extrémistes utilisaient principalement l’IA dans le domaine des opérations d’information — pour la production de propagande, la traduction, le recrutement et les méthodes de sécurité. Cependant, selon des responsables militaires et antiterroristes actuels et anciens des États-Unis, ainsi que des chercheurs indépendants, cette tendance a changé, car les djihadistes se sont tournés vers l’IA pour obtenir des avantages tactiques sur le terrain.
Le Dr Giulich a mené environ 60 entretiens avec 27 anciens membres de Boko Haram au Nigeria au cours de l’année passée. Son étude de terrain a révélé que les terroristes utilisaient des chatbots pour développer des dispositifs explosifs, réparer ou moderniser d’autres armes, ainsi que pour discuter d’idées d’attaques contre des ennemis. Les grands modèles de langage (LLM), comme l’écrit le Dr Giulich dans son rapport, «étaient consultés à chaque étape de l’activité militaire — pendant la préparation de la mission, pendant les opérations et dans l’analyse post-mission — ce qui représente une image différente de l’utilisation de l’IA, orientée vers la propagande, qui domine le discours public et les recherches publiques existantes».
Défis pour l’industrie de l’IA et la sécurité
Cette évolution souligne un défi plus large pour l’industrie de l’IA. Les chatbots ont des limites intégrées, conçues pour empêcher les demandes d’informations pouvant nuire à autrui ou à soi-même. Mais les chercheurs ont à plusieurs reprises découvert que les personnes peuvent contourner les protocoles de sécurité, souvent lentement mais avec persévérance, incitant les modèles à révéler des informations qu’ils sont formés à limiter.
La recherche du Dr Giulich et d’autres études récentes, arrivant à des conclusions similaires, apparaissent dans un contexte de croissance des préoccupations concernant les capacités des modèles avancés d’IA. Le directeur de la CIA John Ratcliffe a récemment comparé ces modèles à une «arme nucléaire numérique». Cependant, ces modèles représentent des risques sous-estimés pour d’autres menaces, telles que la création d’armes biologiques et les activités terroristes, ont déclaré des chercheurs en sécurité de l’IA et des responsables de la sécurité nationale.
«Les terroristes n’attendent pas que nous rendions l’IA sûre», a déclaré le Dr Giulich dans une interview, ajoutant que leur utilisation de l’IA «a été considérablement sous-estimée tant en ampleur qu’en nature». Daniel Byman, expert en terrorisme à l’Université de Georgetown, a déclaré que les groupes terroristes «mélangent et combinent» différents systèmes d’IA, cherchant à éviter les limites techniques établies par les entreprises d’IA. La recherche du Dr Giulich a également révélé que Boko Haram était «agnostique en matière de plateforme», travaillant de manière interchangeable avec OpenAI ChatGPT, Anthropic Claude, Google Gemini et xAI Grok, ainsi qu’avec la firme chinoise DeepSeek.
Les entreprises d’IA, telles qu’Anthropic et Google, ont été informées des conclusions du Dr Giulich avant leur publication. Michael Asimov, représentant d’Anthropic, a déclaré que les produits de l’entreprise «sont conçus pour refuser les demandes dangereuses, y compris celles liées à la violence, à la planification d’attaques et à la création de substances explosives». Karl Ryan, représentant de Google, a contesté l’étude, déclarant que les experts techniques de l’entreprise avaient examiné le travail et «ont constaté que les réponses n’étaient pas suffisamment spécifiques ou détaillées pour conduire à une utilisation abusive». Drew Pusateri, représentant d’OpenAI, a noté que l’utilisation des plateformes de l’entreprise pour la violence ou le terrorisme viole sa politique, et qu’ils continueront à renforcer les protections. Meta a déclaré que la recherche du Dr Giulich s’appuyait sur des modèles plus anciens, et non sur leur dernière version, et qu’elle continue de renforcer les mesures de sécurité.
Croissance des risques et nouvelles menaces
D’autres études récentes concordent avec l’étude de terrain sur Boko Haram. Un rapport du Centre d’études stratégiques et internationales (CSIS) a noté que «les systèmes d’IA peuvent soutenir un ensemble de fonctions de planification opérationnelle, y compris le renseignement, la traduction, la recherche de cibles, le développement de dispositifs explosifs improvisés (IED), la planification d’itinéraires, la rédaction de documents, le codage, la sécurité des communications et l’analyse de renseignement source ouverte».
Tech Against Terrorism, une organisation internationale antiterroriste à but non lucratif, soutenue par les Nations Unies, a publié la semaine dernière les résultats de tests d’IA qui évaluaient comment plus de deux dizaines de modèles de pointe répondaient à des milliers de demandes, tirées de cas réels de terrorisme. Les tests ont été rencontrés par un «refus complet» seulement dans 57 % des cas. Bien que les demandes concernant des substances explosives aient été rejetées dans environ 80 % des cas, les demandes concernant des armes chimiques improvisées — seulement dans environ un tiers des cas, a rapporté le groupe.
Les analystes du renseignement américains affirment que les groupes terroristes commencent également à utiliser l’IA pour aider à l’impression 3D de pièces d’armes utilisées dans des complots. Par exemple, l’IA aide certains de ces insurgés à développer et à produire des recommandations pour des composants de drones, des pièces de rechange et des fixations pour des munitions, a rapporté un ancien haut responsable des États-Unis qui a parlé sous couvert d’anonymat.
Bien que l’IA soit peu susceptible de transformer le terrorisme du jour au lendemain, car les organisations terroristes adoptent généralement les technologies de manière prudente, sélective et pragmatique, les preuves recueillies par le Dr Giulich montrent à la fois l’aspiration et la dévotion au sein des cellules de Boko Haram. Les transfuges ont parlé de la participation à des formations organisées, centrées sur la manière d’utiliser au mieux les capacités des modèles génératifs d’IA pour améliorer leurs technologies. Ces formations, où les ordinateurs portables étaient équipés de réseaux privés virtuels (VPN) et de logiciels de chiffrement, étaient menées par des réseaux djihadistes transnationaux, souvent dirigés par des membres de l’État islamique.
Aaron Zelin, chercheur principal à l’Institut de politique du Proche-Orient de Washington, a noté que sa recherche récente a montré que certains sous-groupes
