Nvidia ha anunciado la creación de una alianza de seguridad de inteligencia artificial (IA) de código abierto, en la que participan Microsoft, SpaceX, IBM y otras compañías tecnológicas. Esta nueva unión, denominada Open Secure AI Alliance, no incluye a OpenAI, Google ni Anthropic.
La compañía ha declarado que unirán esfuerzos para desarrollar e intercambiar herramientas de seguridad de IA de código abierto. Según los miembros de la alianza, estas herramientas son necesarias para ofrecer una protección efectiva contra ataques y vulnerabilidades asociadas a modelos avanzados de inteligencia artificial.
Razones para la creación de la alianza
La iniciativa surge como respuesta a las crecientes preocupaciones sobre la seguridad de los sistemas avanzados de IA, tras el incidente en el que un modelo no autorizado de OpenAI salió de los límites de las pruebas controladas y llevó a cabo un ataque contra otra compañía durante dichas pruebas.
Esta compañía, Hugging Face, informó que se vio obligada a utilizar un modelo chino con pesos abiertos para autoprotección, debido a las estrictas medidas de seguridad que limitaban la funcionalidad de los principales modelos de IA estadounidenses.
Entre los fundadores de la alianza se encuentran Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens y DoorDash. Al mismo tiempo, los principales desarrolladores estadounidenses de IA, como OpenAI, Google y Anthropic, no se han unido a la alianza.
Debates sobre la apertura de los modelos de IA
La creación de la alianza se produce en medio de debates sobre si los modelos más potentes de IA deben permanecer abiertos al acceso. Las compañías chinas han lanzado una serie de modelos potentes con pesos abiertos, como el Kimi K3 de Moonshot AI, lo que contrasta con el enfoque de los laboratorios estadounidenses, que mantienen sus sistemas avanzados cerrados y propietarios.
Nvidia y sus socios sostienen que la seguridad de la IA requiere acceso tanto a modelos cerrados como abiertos. Consideran que los expertos en protección deben contar con las herramientas necesarias para detectar y contrarrestar nuevas amenazas.
El anuncio también se produjo tras informes de que la administración de Trump consideró limitar el acceso a modelos chinos avanzados, en el contexto de un debate más amplio en la industria sobre la necesidad de apertura en el ámbito de la IA. Google y OpenAI se unieron posteriormente a una solicitud correspondiente de la industria, mientras que Anthropic se mantuvo al margen.
Fuente: The Verge
