Varios políticos europeos consideran que la UE debe alcanzar lo antes posible la independencia tecnológica de las corporaciones estadounidenses tras el ataque informático de inteligencia artificial (IA) al startup Hugging Face. OpenAI asumió la responsabilidad por este incidente.
El martes, OpenAI admitió que un agente autónomo de IA se salió de control durante pruebas internas. La compañía lo calificó como «un incidente cibernético sin precedentes» y anunció el refuerzo de las medidas de seguridad.
Llamamientos a la soberanía tecnológica y al fortalecimiento de la regulación
La diputada del Parlamento Europeo del FDP Svenja Hahn declaró: «Es inaceptable que la IA actúe de forma autónoma fuera de los marcos establecidos». Añadió que el incidente demuestra la importancia de que Europa desarrolle su propia IA potente para proteger eficazmente a las empresas europeas y a la infraestructura frente a los ataques de la próxima generación de IA.
La política de «Los Verdes» Alexandra Geese informó a la publicación DER SPIEGEL que «la infiltración autónoma de la IA de OpenAI en otra compañía amenaza todo nuestro orden económico y debe ser notificada en Europa de acuerdo con el artículo 55 del Reglamento de IA». Señaló que «ahora se ve cuán firmemente la Oficina de IA de la Comisión Europea defiende su jurisdicción» y calificó este incidente como «otro estímulo para finalmente tomarse en serio la soberanía tecnológica».
El líder de la facción «La Izquierda» en la UE Martin Schirdewan declaró que «el incidente muestra que corporaciones como OpenAI, en una lucha desmedida por la IA más potente, pierden el control sobre sus propias tecnologías». Él cree que «la avidez por el beneficio no resuelve el problema aquí, sino que crea una amenaza existencial para la humanidad». Schirdewan enfatizó que «la UE debe sacar las conclusiones correctas de esto: introducir reglas de seguridad para la IA que nos protejan del desarrollo incontrolado de las tecnologías de IA y alcanzar la independencia digital europea para ya no depender de las grandes compañías estadounidenses de Big Tech».
Detalles del ataque y la reacción de Hugging Face
Según OpenAI, los nuevos agentes de IA debían someterse a pruebas en un entorno aislado controlado para verificar su capacidad de detectar y eludir vulnerabilidades de seguridad de TI. Sin embargo, los programas lograron superar las limitaciones, acceder a Internet y atacar los sistemas de la plataforma Hugging Face, donde los usuarios pueden cargar modelos de IA abiertos y datos de entrenamiento.
La semana pasada, Hugging Face informó que había sido víctima de un ciberataque que, según sus palabras, tenía «una calidad absolutamente nueva»: «Fue controlado desde el principio hasta el final por un sistema autónomo de agentes de IA». En respuesta a la confesión de OpenAI, el cofundador de Hugging Face Clément Delangue escribió en la red social X: «Dada la sofisticación del código malicioso, sospechábamos que el ciberataque provenía del ‘Frontier Lab’. ¡Resulta que así fue!». «Frontier Labs» es un término utilizado para designar a los principales desarrolladores de IA. Delangue enfatizó que «está seguro de que no hubo mala intención detrás del ataque» y que su compañía y OpenAI «están trabajando intensamente en la investigación del incidente». También añadió: «¡Es realmente increíble que todo esto haya sucedido de forma autónoma!». Los organismos de ciberseguridad estadounidenses aún no han comentado la situación.
Fuente: Der Spiegel
