La empresa Anthropic PBC informó que se ha intentado utilizar su modelo de inteligencia artificial Claude para desarrollar una amplia gama de tecnologías militares potenciales, incluidos enjambres de drones kamikaze, sistemas de navegación de misiles y armas biológicas.
Según el informe del equipo de análisis de amenazas de Anthropic publicado el jueves, durante el último año se detectaron casos de uso indebido de los modelos de la compañía por parte de usuarios en Irán, Rusia, China y Yemen. Ninguno de estos casos involucró a los modelos más avanzados de la empresa, Fable y Mythos.
«A medida que los modelos se vuelven cada vez más potentes, los riesgos de su uso aumentarán si los desarrolladores de IA y los defensores de la sociedad no toman medidas para mejorar su seguridad», afirmó Anthropic.
Claude intentaron usar en desarrollos militares
Anthropic busca evitar que sus tecnologías se utilicen con fines malintencionados, como el desarrollo de armas biológicas y convencionales. Esta postura ha generado un conflicto directo con el Pentágono (Estados Unidos), que suspendió su colaboración con la empresa tras su negativa a permitir el uso de Claude para vigilancia masiva o sistemas de armas autónomos.
El informe de Anthropic describe casos en los que los usuarios intentaron eludir los mecanismos de seguridad de Claude o ocultar su ubicación. En particular, usuarios en Rusia, a quienes Anthropic no considera vinculados al Estado ruso, intentaron crear software para un enjambre autónomo de drones kamikaze con visión en primera persona. Para su entrenamiento, utilizaron imágenes de combates en Ucrania.
En el norte de Yemen, bajo control de los hutíes, usuarios locales utilizaron Claude para crear software destinado a varios tipos de misiles. No obstante, Anthropic declaró que no tiene pruebas de que estos usuarios hayan logrado crear y desplegar un sistema funcional.
El informe también incluye cinco ejemplos de uso de Claude que podrían facilitar el desarrollo de armas biológicas. Entre ellos, un caso en el que virólogos vinculados a estructuras estatales intentaron crear una versión mejorada del virus chikungunya, transmitido por mosquitos.
Este intento se detectó tras una consulta a Claude sobre cómo redactar una solicitud de subvención para financiar investigaciones en un instituto militar de un país no revelado, donde Anthropic no presta sus servicios. Al mismo tiempo, la empresa subrayó que los cinco casos biológicos descritos en el informe eran ambiguos y podrían haber estado relacionados con investigaciones con fines científicos legítimos.
La IA se utilizó para vigilancia y ciberataques
Entidades vinculadas a estructuras estatales en China e Irán intentaron utilizar Claude para desarrollar sistemas de vigilancia. En una operación china, Claude se utilizó para «rastrear, perfilar y reclutar uigures» en el ejército sirio.
Una unidad iraní utilizó Claude para crear software de vigilancia disfrazado de herramienta para seguir los horarios de oración.
En otro caso, Anthropic descubrió que un consultor, que presuntamente trabajaba para una agencia de inteligencia estatal en Malí, utilizó Claude para crear un sistema de monitoreo de aproximadamente 25 millones de teléfonos móviles. El sistema podía generar expedientes de inteligencia sobre cualquier número de teléfono indicado sin una orden judicial.
Anthropic bloqueó la cuenta del consultor, pero la plataforma de vigilancia basada en Claude ya había sido desplegada localmente y estaba fuera del control total de la empresa. El gobierno de Malí no respondió a una solicitud de comentarios.
El informe también describe el uso de IA por parte de hackers —desde presuntos representantes de servicios de inteligencia estatales en Rusia y China hasta hacktivistas y ciberdelincuentes— para acelerar y escalar el robo de datos confidenciales.
En particular, el grupo de hackers Midnight Blizzard, que Microsoft vincula con los servicios de inteligencia rusos, utilizó IA para automatizar muchas etapas de la creación de software malicioso y la preparación de correos electrónicos de phishing dirigidos a estructuras de inteligencia militar y defensa.
Otro grupo, ShinyHunters, al que Anthropic describe como una organización dedicada a la extorsión cibernética, utilizó IA para buscar filtraciones de credenciales y aplicarlas posteriormente para robar datos de las organizaciones afectadas.
Al mismo tiempo, Anthropic enfatizó que los casos descritos no indican la aparición de nuevas vulnerabilidades peligrosas en sistemas críticos. La empresa los calificó como ejemplos de la actividad más notable y reciente relacionada con el abuso de sus tecnologías que ha detectado hasta el momento.
Fuente: Bloomberg
