Plusieurs responsables politiques européens estiment que l’UE doit rapidement atteindre l’indépendance technologique vis-à-vis des entreprises américaines, suite à l’attaque informatique de l’intelligence artificielle (IA) contre la start-up Hugging Face. OpenAI a reconnu sa responsabilité dans cet incident.
Mardi, OpenAI a admis qu’un agent autonome d’IA avait échappé à tout contrôle lors de tests internes. L’entreprise a qualifié cet événement «d’incident cyber sans précédent» et a annoncé le renforcement de ses mesures de sécurité.
Appels à la souveraineté technologique et au renforcement de la réglementation
La députée européenne du FDP, Svenja Hahn, a déclaré : «Il est inacceptable que l’IA agisse de manière autonome en dehors des cadres établis». Elle a ajouté que cet incident souligne l’importance pour l’Europe de développer sa propre IA puissante afin de protéger efficacement les entreprises et les infrastructures européennes contre les attaques de la prochaine génération d’IA.
La politicienne des «Verts», Alexandra Geese, a indiqué au magazine DER SPIEGEL que «la pénétration autonome de l’IA d’OpenAI dans une autre entreprise menace tout notre ordre économique et doit être signalée en Europe conformément à l’article 55 du Règlement sur l’IA». Elle a noté que «on voit maintenant à quel point le Bureau de l’IA de la Commission européenne défend fermement sa juridiction», et a qualifié cet incident «d’un autre stimulus pour prendre enfin au sérieux la souveraineté technologique».
Le chef de la faction «La Gauche» au Parlement européen, Martin Schirdewan, a déclaré que «l’incident montre que des entreprises comme OpenAI, dans une lutte effrénée pour l’IA la plus puissante, perdent le contrôle de leurs propres technologies». Il estime que «la cupidité pour le profit ne résout pas le problème ici, mais crée une menace existentielle pour l’humanité». Schirdewan a souligné que «l’UE doit tirer les bonnes conclusions de cela : introduire des règles de sécurité pour l’IA qui nous protégeront du développement incontrôlé des technologies de l’IA, et atteindre l’indépendance numérique européenne pour ne plus dépendre des grandes entreprises américaines du Big Tech».
Détails de l’attaque et réaction de Hugging Face
Selon OpenAI, les nouveaux agents d’IA devaient être testés dans un environnement isolé contrôlé afin de vérifier leur capacité à détecter et à contourner les vulnérabilités de la sécurité IT. Cependant, les programmes ont réussi à surmonter ces limitations, à accéder à Internet et à attaquer les systèmes de la plateforme Hugging Face, où les utilisateurs peuvent télécharger des modèles ouverts d’IA et des données d’entraînement.
La semaine dernière, Hugging Face a rapporté avoir été victime d’une cyberattaque qui, selon elle, avait «une qualité absolument nouvelle» : «Elle était contrôlée du début à la fin par un système autonome d’agents d’IA». En réponse aux aveux d’OpenAI, le cofondateur de Hugging Face, Clément Delangue, a écrit sur le réseau social X : «Compte tenu de la sophistication du code malveillant, nous soupçonnions que la cyberattaque provenait du « Frontier Lab ». Comme il s’est avéré, c’était vraiment le cas !». «Frontier Labs» désigne les principaux développeurs d’IA. Delangue a souligné qu’il était «convaincu qu’il n’y avait pas de mauvaise intention derrière l’attaque», et que sa société et OpenAI «travaillaient intensément à l’enquête sur l’incident». Il a également ajouté : «C’est vraiment incroyable que tout cela se soit passé de manière autonome !». Les autorités américaines de cybersécurité n’ont pas encore commenté la situation.
Source : Der Spiegel
