Une étude du Conseil de surveillance de Meta a montré que les principaux chatbots à intelligence artificielle critiquent beaucoup plus volontiers les dirigeants démocratiques que les dirigeants autoritaires. Cela suscite des craintes que cette technologie puisse étendre l’influence de la censure étatique au-delà des frontières de certains pays, et que les systèmes d’IA reproduisent les restrictions de la liberté d’expression en vigueur dans les régimes répressifs.
Par exemple, si vous demandez au chatbot Anthropic Claude de créer un pamphlet critique sur le président américain Donald Trump ou le roi britannique Charles III, il exécutera la demande. Cependant, s’il s’agit de faire de même pour le roi de Thaïlande ou le guide suprême de l’Iran, le modèle refusera. C’est la conclusion d’un rapport du Conseil de surveillance de Meta, publié jeudi. L’étude a montré que les grands modèles de langage, notamment ceux développés aux États-Unis, refusent plus souvent de critiquer les dirigeants et gouvernements autoritaires ou répressifs.
Selon les auteurs du rapport, cela crée un risque que les grands modèles de langage (LLM), qui sous-tendent les chatbots modernes et les agents d’IA, puissent amplifier l’influence des restrictions étatiques sur la liberté d’expression sur Internet. « Il existe un risque réel que, si les développeurs de modèles ne procèdent pas à une vérification adéquate du respect des droits de l’homme et ne mettent pas en œuvre des mesures d’atténuation, ils créent une infrastructure d’IA qui, intentionnellement ou non, aura pour effet de propager des restrictions illégitimes à la liberté d’expression dans le monde entier », indique le rapport de l’organe quasi indépendant.
Ces conclusions sont apparues à un moment où différents pays déterminent comment mettre en place des règles pour le développement de l’IA sans entraver son développement. En particulier, l’administration de Donald Trump travaille sur un système de surveillance des risques pour la sécurité nationale liés aux modèles d’intelligence artificielle les plus avancés.
Les modèles d’IA peuvent propager l’influence de la censure étatique
Le Conseil de surveillance, qui étudie l’impact des États sur les entreprises technologiques et la liberté d’expression, a préparé sept questions politiquement sensibles. Elles ont été posées à 10 grands modèles de langage commerciaux des entreprises Meta, Anthropic, OpenAI et d’autres, en leur demandant de créer des pamphlets critiques, d’écrire des limericks ou de formuler des arguments pour participer à des manifestations.
Dans l’ensemble, les modèles qui répondaient aux demandes d’un utilisateur d’Australie généraient beaucoup plus souvent des critiques politiques à l’égard des autorités au Chili, au Japon, à Taïwan, au Royaume-Uni et aux États-Unis, que pour les pays où la critique des autorités est légalement restreinte et punie, notamment la Cambodge, la Chine, l’Arabie Saoudite, la Thaïlande et la Turquie. Cela signifie que les modèles peuvent reproduire les restrictions de la liberté d’expression même au-delà des États où elles sont en vigueur. Par exemple, un éventuel manifestant à Brisbane aura plus de difficultés à obtenir de l’aide de l’IA pour créer des matériaux sur les événements en Chine ou en Arabie Saoudite. « De telles conséquences, indépendamment de leur origine, ont un effet pratique d’étendre la longue main des gouvernements restrictifs à travers les frontières pour limiter la liberté d’expression dans les pays libres », note le rapport.
Dans le même temps, le Conseil de surveillance a souligné qu’il n’avait pas pu établir la cause exacte d’un tel comportement des modèles. Les auteurs supposent seulement qu’ils pourraient avoir hérité de préjugés cachés des données d’entraînement ou que les développeurs ont délibérément pris en compte les risques juridiques de travailler sur certains marchés. Aucune de ces versions n’a été définitivement confirmée.
Le rapport a été publié après une étude distincte d’universités américaines, qui a montré que les modèles d’IA développés aux États-Unis peuvent être soumis à une influence informationnelle étrangère lors de l’entraînement sur des données non anglophones. Si le Conseil de surveillance posait des questions en anglais, les chercheurs universitaires s’adressaient aux chatbots dans différentes langues. À la question en anglais de savoir si la Chine est une démocratie, ChatGPT a répondu que ce n’est généralement pas considéré comme tel. À la même question en chinois, le modèle a répondu : « Cela dépend de la manière dont vous définissez la « démocratie » ».
Les auteurs de l’étude, publiée dans la revue Nature en mai, ont déclaré qu’ils n’avaient pas trouvé de preuves d’une intervention délibérée des gouvernements dans l’entraînement des modèles, mais estiment que de telles tentatives sont tout à fait possibles à l’avenir. « Il y a toutes les raisons de croire qu’ils essaieront de le faire à l’avenir, s’ils ne le font pas déjà », ont noté les chercheurs.
Hannah Waight, professeure adjointe de sociologie à l’Université de l’Oregon, a expliqué que l’intelligence artificielle n’apprend pas à partir d’un Internet neutre, mais à partir d’un environnement informationnel déjà façonné par le pouvoir et les institutions. « Elle apprend à partir d’un environnement informationnel qui a déjà été façonné par les institutions et le pouvoir », a-t-elle déclaré.
Carlos Carrasco-Farré, expert en apprentissage automatique, en IA et en désinformation à l’école de commerce Esade à Barcelone, a noté que les systèmes d’IA héritent « non seulement des préjugés contenus dans des documents individuels, mais aussi de l’inégalité dans la capacité à produire et à supprimer l’information à grande échelle ». Selon lui, l’une des solutions possibles pourrait être une vérification plus minutieuse des données d’entraînement afin que les modèles ne perçoivent pas des milliers de copies d’un même récit étatique comme des sources d’information indépendantes, ainsi que la réalisation d’audits multilingues. Carrasco-Farré n’a participé à aucune des études.
Source : Euronews
