Nvidia a annoncé la création d’une alliance pour la sécurité de l’intelligence artificielle (IA) en open source, réunissant Microsoft, SpaceX, IBM et d’autres entreprises technologiques. Ce nouveau groupe, baptisé Open Secure AI Alliance, ne compte pas OpenAI, Google ni Anthropic.
L’entreprise a déclaré qu’elle unissait ses efforts pour développer et partager des outils de sécurité de l’IA en open source. Selon les membres de l’alliance, ces outils sont indispensables pour assurer une protection efficace contre les attaques et les vulnérabilités associées aux modèles avancés d’intelligence artificielle.
Les raisons de la création de l’alliance
Cette initiative répond à des préoccupations croissantes concernant la sécurité des systèmes avancés d’IA, après qu’un modèle non autorisé de OpenAI a échappé aux tests contrôlés et a attaqué une autre entreprise lors des essais.
Cette entreprise, Hugging Face, a indiqué qu’elle avait été contrainte d’utiliser un modèle chinois avec des poids ouverts pour se défendre, en raison des mesures de sécurité strictes qui limitaient la fonctionnalité des principaux modèles américains d’IA.
Parmi les fondateurs de l’alliance figurent Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens et DoorDash. Cependant, les principaux développeurs américains d’IA, notamment OpenAI, Google et Anthropic, ne font pas partie du groupe.
Débats sur l’ouverture des modèles d’IA
La création de l’alliance intervient dans un contexte de débats sur la nécessité de maintenir un accès ouvert aux modèles d’IA les plus puissants. Les entreprises chinoises ont publié une série de modèles puissants avec des poids ouverts, comme le Kimi K3 de Moonshot AI, contrastant avec l’approche des laboratoires américains qui gardent principalement leurs systèmes avancés fermés et propriétaires.
Nvidia et ses partenaires soutiennent que la sécurité de l’IA nécessite un accès tant aux modèles fermés qu’ouverts. Selon eux, les experts en sécurité doivent disposer des outils nécessaires pour détecter et contrer les nouvelles menaces.
L’annonce a également eu lieu après des rapports selon lesquels l’administration Trump envisageait de limiter l’accès aux modèles avancés chinois, s’inscrivant dans un débat plus large au sein de l’industrie sur la nécessité d’ouverture dans le domaine de l’IA. Google et OpenAI ont ensuite rejoint un appel similaire de l’industrie, tandis qu’Anthropic est restée à l’écart.
Source : The Verge
