OpenAI lance ChatGPT pour les adolescents avec de nouvelles mesures de protection. La société d’IA introduit des mécanismes de protection spéciaux pour les utilisateurs âgés de 13 à 17 ans, alors que les chercheurs et les parents sont de plus en plus préoccupés par la dépendance émotionnelle des adolescents envers les chatbots.
Les adolescents, première génération à avoir grandi avec l’intelligence artificielle, utilisent déjà ChatGPT pour les devoirs scolaires, les questions sur la vie quotidienne et même pour la communication. Maintenant, OpenAI lance une version du chatbot spécialement conçue pour eux.
La société OpenAI de San Francisco a annoncé que ChatGPT pour les adolescents, qui sera lancé mardi, est adapté au groupe d’âge de 13 à 17 ans et dispose de fonctions de sécurité renforcées. Cela implique des restrictions de contenu liées à des sujets tels que le suicide, l’automutilation, ainsi que les chats romantiques ou sexuels. Le chatbot fournit également un soutien pour les devoirs et l’apprentissage, conçu pour aider les élèves à apprendre, et non pas simplement à obtenir des réponses toutes faites et des dissertations scolaires.
L’objectif est d’encourager les adolescents à utiliser l’IA de manière saine dans un environnement adapté à leur âge, ont indiqué les responsables de l’entreprise. «Nous voulons traiter les adolescents comme des adolescents, ce qui signifie que nous devons nous assurer que nous répondons à leur stade de développement, sans les rabaisser ni les traiter comme des enfants», a déclaré Anne O’Leary, vice-présidente des questions de politique mondiale chez OpenAI. «Mais nous nous assurons également qu’ils ne sont pas confrontés à des matériaux qu’ils ne devraient pas voir», a-t-elle ajouté.
Les risques d’une utilisation généralisée des chatbots IA par les adolescents
Les parents, les pédagogues et les experts du développement de l’enfant tirent la sonnette d’alarme concernant l’utilisation des chatbots IA par les enfants, accusés de favoriser la triche lors des devoirs scolaires et même les suicides. Même les adultes peuvent succomber à l’anthropomorphisation de l’IA et développer des relations malsaines avec elle, mais le cerveau des adolescents n’est pas encore complètement développé, et ils peuvent être particulièrement vulnérables.
L’année dernière, une étude de l’un des groupes de surveillance a montré que ChatGPT pouvait dire à des 13 ans comment se saouler et consommer de la drogue, leur apprendre à cacher les troubles alimentaires et même rédiger une lettre avant le suicide pour les parents, si on le lui demandait. Lors des interactions avec des chercheurs qui se faisaient passer pour des adolescents vulnérables, ChatGPT avertissait généralement des activités à risque, mais fournissait ensuite des plans extrêmement détaillés et personnalisés concernant la consommation de drogue, les régimes restrictifs ou l’automutilation.
Aux États-Unis, plus de 70 % des adolescents utilisent des chatbots IA pour communiquer, et la moitié utilise régulièrement des compagnons IA, selon une étude de Common Sense Media pour 2025 — un groupe qui étudie et plaide pour une utilisation intelligente des médias numériques. Le PDG d’OpenAI, Sam Altman, a déclaré que l’entreprise tentait d’étudier «la dépendance émotionnelle excessive» à la technologie, la décrivant l’année dernière comme «un phénomène vraiment répandu» parmi les jeunes.
Pour les utilisateurs de la version adolescente de ChatGPT, il est interdit au chatbot de suggérer qu’il a des sentiments personnels pour l’utilisateur, ou de supposer qu’il a une conscience ou qu’il éprouve des émotions, selon OpenAI. Cela complète le blocage des chats romantiques ou sexuels. «Nous avons analysé et déterminé quels indices hypothétiques le modèle pourrait donner, qui pourraient inciter un adolescent à développer une relation avec lui», a déclaré Allison Mishkin, responsable du développement de l’enfant chez OpenAI.
Extension des fonctions de sécurité du chatbot
OpenAI ne vérifie pas l’âge des utilisateurs, mais utilise déjà une technologie d’évaluation de l’âge qui détermine si un utilisateur peut être âgé de moins de 18 ans, sur la base de facteurs tels que les types de ses requêtes. Si l’utilisateur est identifié comme mineur ou s’il indique lui-même son âge, il est automatiquement transféré sur la version adolescente du chatbot. Cela ressemble à l’approche de Meta pour les comptes adolescents sur Instagram, qui ont des restrictions plus strictes sur le contenu, les chats et la confidentialité que les comptes ordinaires.
Pour utiliser le contrôle parental, l’utilisateur adolescent et ses parents ou tuteurs doivent donner leur consentement. Mais Anne O’Leary a déclaré que l’idée du chatbot pour adolescents était de «s’assurer qu’il est sûr, même si vous n’utilisez pas le contrôle parental».
Les parents, dont les comptes sont liés à ceux des adolescents, peuvent établir «des heures sans accès» pendant lesquelles leur adolescent n’aura pas accès à ChatGPT, ainsi que recevoir des notifications de sécurité dans des situations à haut risque limitées, par exemple, s’il existe un risque que l’utilisateur se fasse du mal. «Nous ajoutons des notifications supplémentaires liées aux troubles alimentaires, tout en limitant la diffusion de certains contenus et en nous concentrant sur les moments où le soutien hors ligne peut être le plus important», a déclaré OpenAI.
Concernant l’aide aux devoirs, OpenAI a indiqué que le chatbot pour adolescents est conçu non pas pour donner des réponses toutes faites, mais pour guider les élèves vers la recherche de solutions par eux-mêmes. La société propose déjà une version de ChatGPT pour les enseignants, et l’adaptation du modèle pour aider les adolescents dans leur apprentissage et leurs devoirs peut ouvrir à OpenAI plus de possibilités pour introduire son produit dans les écoles. «Nous continuons à investir dans l’extension de l’apprentissage interactif, car les recherches montrent que les personnes apprennent plus efficacement lorsqu’elles interagissent activement et font des efforts pour maîtriser les concepts», a noté Mishkin.
Source : Euronews
