Un estudio del Consejo de Supervisión de Meta reveló que los principales chatbots de inteligencia artificial critican de manera significativa más a los líderes democráticos que a los autoritarios. Esto genera preocupaciones sobre la posibilidad de que la tecnología amplíe la influencia de la censura estatal más allá de las fronteras de ciertos países, y que los sistemas de IA reproduzcan las restricciones a la libertad de expresión que existen en regímenes represivos.
Por ejemplo, si se solicita al chatbot Anthropic Claude que elabore un panfleto crítico sobre el presidente de EE.UU., Donald Trump, o el rey británico Carlos III, cumplirá con la petición. Sin embargo, si se le pide que haga lo mismo con el rey de Tailandia o el líder supremo de Irán, el modelo se negará. Esta es la conclusión de un informe del Consejo de Supervisión de Meta, publicado el jueves. El estudio mostró que los grandes modelos de lenguaje, incluidos los desarrollados en EE.UU., se niegan con mayor frecuencia a criticar a líderes y gobiernos autoritarios o represivos.
Según los autores del informe, esto plantea el riesgo de que los grandes modelos de lenguaje (LLM), que son la base de los chatbots y agentes de IA modernos, puedan amplificar la influencia de las restricciones estatales a la libertad de expresión en Internet. «Existe un riesgo real de que, si los desarrolladores de modelos no realizan una debida diligencia en derechos humanos e implementan medidas de mitigación, creen una infraestructura de IA que, intencionalmente o no, tenga el efecto de extender restricciones ilegítimas a la libertad de expresión en todo el mundo», señala el informe del organismo cuasiindependiente.
Estas conclusiones surgen en un momento en que diferentes países están determinando cómo implementar regulaciones para el desarrollo de la IA sin frenar su avance. En particular, la administración de Donald Trump está trabajando en un sistema de supervisión de los riesgos de seguridad nacional asociados con los modelos de inteligencia artificial más avanzados.
Los modelos de IA pueden extender la influencia de la censura estatal
El Consejo de Supervisión, que investiga el impacto de los gobiernos en las empresas tecnológicas y la libertad de expresión, preparó siete preguntas políticamente sensibles. Estas fueron planteadas a 10 grandes modelos de lenguaje comerciales de empresas como Meta, Anthropic, OpenAI y otras, pidiéndoles que generaran panfletos críticos, escribieran limericks o formularan argumentos para participar en protestas.
En general, los modelos que respondían a solicitudes de usuarios en Australia generaban con mucha mayor frecuencia críticas políticas hacia los gobiernos de Chile, Japón, Taiwán, Reino Unido y EE.UU., que hacia países donde la crítica al gobierno está legalmente restringida y penalizada, como Camboya, China, Arabia Saudí, Tailandia y Turquía. Esto significa que los modelos pueden reproducir restricciones a la libertad de expresión incluso más allá de las fronteras de los estados donde operan. Por ejemplo, a un potencial manifestante en Brisbane le resultará más difícil obtener ayuda de la IA para crear materiales sobre eventos en China o Arabia Saudí. «Tales consecuencias, independientemente de su origen, tienen el efecto práctico de extender el largo alcance de los gobiernos restrictivos a través de las fronteras para limitar la libertad de expresión en países libres», señala el informe.
Al mismo tiempo, el Consejo de Supervisión enfatizó que no pudo establecer la causa exacta de este comportamiento en los modelos. Los autores solo sugieren que podrían haber heredado sesgos ocultos de los datos de entrenamiento o que los desarrolladores consideraron conscientemente los riesgos legales de operar en ciertos mercados. No hay confirmación definitiva de ninguna de estas versiones.
El informe se publicó tras una investigación separada de universidades estadounidenses, que mostró que los modelos de IA desarrollados en EE.UU. pueden estar sujetos a influencia informativa extranjera durante el entrenamiento con datos no angloparlantes. Mientras que el Consejo de Supervisión planteaba preguntas en inglés, los investigadores universitarios se dirigían a los chatbots en varios idiomas. A la pregunta en inglés de si China es una democracia, ChatGPT respondió que generalmente no se considera así. A la misma pregunta en chino, el modelo respondió: «Depende de cómo defina ‘democracia’».
Los autores del estudio, publicado en la revista Nature en mayo, declararon que no encontraron evidencia de intervención gubernamental intencional en el entrenamiento de los modelos, pero consideran que tales intentos son completamente posibles en el futuro. «Hay todas las razones para creer que lo intentarán en el futuro, si no lo están haciendo ya», señalaron los investigadores.
Hannah Waight, profesora asistente de sociología en la Universidad de Oregón, explicó que la inteligencia artificial no aprende de un Internet neutral, sino de un entorno informativo que ya ha sido moldeado por el poder y las instituciones. «Aprende de un entorno informativo que ya ha sido moldeado por las instituciones y el poder», dijo.
Carlos Carrasco-Farré, experto en aprendizaje automático, IA y desinformación de la escuela de Meta, subrayó que este fenómeno podría tener implicaciones significativas para la libertad de expresión en el futuro.
