Dans l’Union européenne, à partir du 2 août, de nouvelles exigences concernant l’étiquetage du contenu généré par l’intelligence artificielle (IA) et le marquage des deepfakes entreront en vigueur. Ces mesures s’inscrivent dans le cadre des dispositions sur la transparence du vaste AI Act. Grâce à ces nouvelles règles, les utilisateurs de l’UE disposeront de davantage d’informations lorsqu’ils interagiront avec des systèmes d’intelligence artificielle.
Conformément à la loi, les développeurs et fournisseurs de systèmes d’intelligence artificielle doivent informer les utilisateurs de leur interaction directe avec l’IA. De plus, ils sont tenus d’ajouter des marqueurs lisibles par machine permettant d’identifier le contenu créé ou modifié à l’aide de l’IA.
Chatbots
Tout site web, service client ou institution publique utilisant un chatbot doit informer les utilisateurs qu’ils communiquent avec un système d’intelligence artificielle et non avec un humain. Une exception est faite lorsque cela est évident, par exemple, si un message tel que « demandez à notre chatbot IA pour plus d’informations » ou similaire est affiché aux utilisateurs.
Ce message doit être clair, compréhensible et apparaître au moment approprié. C’est au fournisseur du chatbot qu’incombe la responsabilité de s’assurer que l’utilisateur reçoit cette information. Les nouvelles exigences s’appliquent à tous les chatbots qui commenceront à fonctionner dans l’UE à partir du 2 août. Pour les services déjà en place, une période de transition est prévue jusqu’en décembre 2026, bien que beaucoup d’entre eux répondent déjà à ces exigences.
Contenu créé ou modifié par l’IA
Les nouvelles règles concernent également les images, vidéos, audios et textes créés ou édités à l’aide de l’intelligence artificielle. Ce type de contenu doit comporter un marqueur technique permettant d’identifier son origine artificielle.
Ce marqueur peut prendre différentes formes : des données intégrées dans le fichier, des informations sur l’origine ou un filigrane technique accessible aux outils de vérification. Il est essentiel que cette information soit conservée même après que le fichier a été rogné ou modifié. Les outils de vérification doivent être capables d’accéder à ces données, mais elles ne doivent pas nécessairement être visibles ou compréhensibles pour l’utilisateur ordinaire.
Par conséquent, la plupart des photographies, vidéos ou articles générés par l’IA ne sont pas tenus d’être accompagnés d’une mention visible « généré par IA ». Le même principe s’applique au contenu original qui a été modifié à l’aide de l’intelligence artificielle.
Deepfakes
Les deepfakes, à l’exception de certains cas d’utilisation personnelle, artistique, satirique ou fictive, doivent être clairement marqués comme créés ou modifiés à l’aide de l’IA. Si une vidéo met en scène un politicien, un homme d’affaires ou une autre personnalité connue qui s’adresse prétendument aux téléspectateurs ou fait des déclarations, les utilisateurs doivent comprendre que ce matériel a été généré ou modifié par l’intelligence artificielle.
Selon l’AI Act, un deepfake audio, similaire au faux message de Joe Biden appelant les Américains à ne pas voter aux élections présidentielles américaines de 2024, doit commencer par un avertissement, formulé « dans un langage naturel simple et compréhensible », indiquant que l’enregistrement a été créé à l’aide de l’IA. De plus, les systèmes de reconnaissance des émotions et de catégorisation biométrique, y compris la reconnaissance faciale, doivent informer les personnes concernées par l’application de ces technologies à partir du 2 août.
Prochaines étapes
La prochaine étape de mise en œuvre de l’AI Act, qui couvre les outils de recrutement, de notation de crédit, d’éducation, d’application de la loi, de contrôle des frontières et des infrastructures critiques, entrera en vigueur le 2 décembre 2027. Pour ces domaines, des exigences beaucoup plus strictes sont prévues.
Les systèmes utilisés comme composants de sécurité dans certains types de produits, y compris les dispositifs médicaux, les jouets ou les ascenseurs, seront soumis à ces règles à partir du 2 août 2028. Des amendes allant jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial de l’entreprise sont prévues en cas de non-respect des exigences.
Source : The Local Europe
