En la Unión Europea, a partir del 2 de agosto, entrarán en vigor nuevos requisitos para etiquetar el contenido creado por inteligencia artificial (IA) y para marcar los deepfakes. Estas medidas forman parte de las disposiciones de transparencia del extenso AI Act. Gracias a estas nuevas normas, los usuarios en la UE recibirán más información sobre cuándo están interactuando con sistemas de inteligencia artificial.
De acuerdo con la ley, los desarrolladores y proveedores de sistemas de inteligencia artificial deben garantizar que los usuarios sean informados sobre la interacción directa con la IA. Además, están obligados a añadir marcas legibles por máquina que permitan identificar el contenido creado o modificado con IA.
Chatbots
Cualquier sitio web, servicio de atención al cliente o institución gubernamental que utilice un chatbot debe informar a los usuarios de que están interactuando con un sistema de inteligencia artificial y no con una persona. La excepción son los casos en los que esto es evidente, por ejemplo, si a los usuarios se les muestra un mensaje como «pregunte a nuestro chatbot de IA para obtener más información» o similar.
Dicho mensaje debe ser claro, comprensible y aparecer en el momento adecuado. Es responsabilidad del proveedor del chatbot asegurar que el usuario reciba esta información. Los nuevos requisitos se aplican a todos los chatbots que comiencen a operar en la UE a partir del 2 de agosto. Para los servicios ya existentes, se ha previsto un período de transición hasta diciembre de 2026, aunque muchos de ellos ya cumplen con estos requisitos.
Contenido creado o modificado por IA
Las nuevas normas también se aplican a imágenes, videos, audios y textos creados o editados con inteligencia artificial. Este contenido debe incluir una marca técnica que permita identificar su origen artificial.
Dicha marca puede tener diferentes formas: datos incrustados en el archivo, información sobre el origen o una marca de agua técnica accesible para herramientas de verificación. Es importante que esta información se conserve incluso después de que el archivo haya sido recortado o modificado de otra manera. Las herramientas de verificación deben poder acceder a estos datos, aunque no es necesario que sean visibles o comprensibles para el usuario común.
Por lo tanto, la mayoría de las fotografías, videos o artículos creados con IA no están obligados a ir acompañados de una leyenda visible «generado por IA». El mismo principio se aplica al contenido original que ha sido modificado con inteligencia artificial.
Deepfakes
Los deepfakes, con excepción de casos específicos de uso personal, artístico, satírico o ficticio, deben estar claramente etiquetados como creados o modificados con IA. Si en un video aparece un político, un hombre de negocios u otra persona conocida que supuestamente se dirige a los espectadores o hace declaraciones, los usuarios deben poder entender que este material fue generado o modificado por inteligencia artificial.
Según el AI Act, un deepfake de audio, similar al falso mensaje de Joe Biden que instaba a los estadounidenses a no votar en las elecciones presidenciales de 2024, debe comenzar con una advertencia formulada en «un lenguaje natural simple y comprensible», indicando que la grabación fue creada con IA. Además, los sistemas de reconocimiento de emociones y categorización biométrica, incluyendo el reconocimiento facial, a partir del 2 de agosto, deben informar a las personas sobre las que se aplican estas tecnologías.
Próximas etapas
La siguiente fase de implementación del AI Act, que cubre herramientas para la selección de personal, puntuación de crédito, educación, aplicación de la ley, control fronterizo e infraestructura crítica, entrará en vigor el 2 de diciembre de 2027. Para estos sectores se prevén requisitos significativamente más estrictos.
Los sistemas que se utilizan como componentes de seguridad en ciertos tipos de productos, incluyendo dispositivos médicos, juguetes o ascensores, estarán sujetos a estas normas a partir del 2 de agosto de 2028. Las multas por incumplimiento de los requisitos pueden alcanzar hasta 35 millones de euros o el 7% de los ingresos anuales globales de la empresa.
Fuente: The Local Europe
