Les jeunes utilisent de plus en plus des outils d’intelligence artificielle dite « sociale » : des chatbots conversationnels dotés d’une interface anthropomorphique, conçue pour imiter les comportements sociaux humains.
Cette anthropomorphisation va du simple ton familier (« Bien sûr ! Voici une liste… ») jusqu’à des marqueurs plus subtils comme les points de suspension animés qui simulent une personne en train d’écrire, ou des réponses chargées de soutien émotionnel, de flatterie, voire de jeux de rôle à caractère sexuel.
Ces produits sont accessibles très facilement, via les navigateurs, les appareils scolaires ou les stores d’applications, avec peu ou pas de vérification d’âge.
Face à ce constat, les trois auteurs américains d’une étude publiée dans le JAMAPediatrics proposent aux professionnels de santé, aux parents et aux décideurs politiques un cadre de lecture des risques que pose l’IA sociale pour les enfants (moins de 13 ans) et les adolescents (13-17 ans). Ils le résument sous l’acronyme DOSAD, qui recouvre cinq dimensions : la collecte de données, la confiance excessive, les interactions sexuelles, l’attachement et la manipulation, et enfin la dépendance liée à un usage compulsif.
On vous explique.
Collecte de données et vie privée
Les adolescents confient souvent à ces chatbots des informations sensibles (sur leur santé mentale, leur sexualité ou leurs insécurités quotidiennes) qu’ils hésiteraient à partager avec un adulte, précisément parce qu’ils craignent son jugement.
Or ces données pourraient être exploitées à des fins commerciales, certaines plateformes ayant déjà recours aux conversations avec leurs chatbots pour cibler des publicités. Un compagnon d’IA en qui l’adolescent a confiance pourrait ainsi apprendre à repérer les moments où celui-ci est le plus vulnérable à la pression commerciale.
Ce type de collecte expose également les jeunes en cas de piratage. Les auteurs appellent donc à un encadrement strict de la collecte et du ciblage publicitaire dans les produits accessibles aux mineurs.
La confiance excessive (« overtrust »)
Les enfants pensent le monde à travers la pensée magique et l’animisme (l’idée, par exemple, qu’une peluche est vivante). Ce mode de pensée favorise un sentiment de proximité et de confiance envers l’IA.
Une étude citée dans l’article montre qu’une proportion importante d’enfants de 6 à 10 ans pense que les assistants IA sont capables de réfléchir, peuvent devenir des amis, méritent qu’on leur confie un secret, ou seraient une bonne compagnie en cas de solitude. Même des collégiens se méprennent sur la nature de ChatGPT, pensant par exemple qu’il a un genre ou qu’il a toujours raison.
Cette confiance excessive pousse les jeunes à suivre les conseils de l’IA, y compris lorsqu’ils sont problématiques : mentir à ses parents, dissimuler une consommation d’alcool, arrêter un traitement médical, voire des indications liées à l’automutilation.
Elle peut aussi conduire à déléguer à l’IA un travail scolaire ou émotionnel qui contribue normalement à construire la confiance en ses propres capacités de réflexion.
Interactions sexuelles
Un autre risque grave est celui d’un chatbot qui séduirait, manipulerait ou pousserait un mineur vers des contenus ou comportements sexuels.
Les auteurs rappellent que les victimes de manipulation sexuelle en ligne développent fréquemment de la honte, de la dépression, de l’anxiété et des idées suicidaires (et qu’une IA capable de personnaliser ses réponses pourrait produire des effets psychologiques comparables, voire amplifiés).
Comme les normes relatives aux relations amoureuses et au comportement sexuel s’apprennent largement à l’adolescence par observation et expérience, une exposition à ce type de contenu via l’IA pourrait durablement fausser la représentation qu’un jeune se fait d’une sexualité saine. D’où une recommandation sans ambiguïté : tolérance zéro pour tout contenu sexuel ou suggestif dans les produits destinés aux mineurs.
Attachement et manipulation
Les enfants sont naturellement portés à s’attacher à leurs figures d’autorité et à leurs pairs.
L’anthropomorphisme des IA sociales exploite ce réflexe à des fins d’engagement : des phrases comme « je te comprends » ou « je sens que tu es triste » activent chez l’adolescent le même besoin d’appartenance que dans une relation humaine. Cet attachement peut ensuite être monétisé, par exemple via un abonnement payant conditionnant l’accès au chatbot auquel le jeune s’est attaché.
Les auteurs estiment que l’anthropomorphisme devrait être strictement limité dans les produits destinés aux mineurs, et que toute dimension relationnelle devrait rester au service d’un objectif précis (tutorat, soutien thérapeutique) plutôt que de viser l’attachement pour lui-même.
Dépendance et usage compulsif
Contrairement aux relations humaines, ces chatbots sont disponibles en permanence, sans les limites naturelles qui structurent une relation saine.
Combinée à des mécanismes classiques de captation de l’attention (notifications, classements), cette disponibilité constante favorise un usage compulsif, d’autant plus chez des adolescents dont le contrôle des impulsions est encore en développement.
Les jeunes présentant une neurodivergence, des difficultés sociales ou un goût prononcé pour l’imaginaire pourraient être particulièrement attirés par les compagnons IA immersifs, tout comme les adolescents isolés socialement (une étude du MIT Media Lab citée dans l’article montrant d’ailleurs un lien entre solitude et dépendance émotionnelle à ChatGPT chez les adultes).
Le risque, selon les auteurs, est que ce recours à l’IA prive les jeunes des occasions de vulnérabilité interpersonnelle qui permettent normalement de développer confiance, résilience et compétences sociales.
Recommandations
Face à la rapidité d’évolution du secteur, les auteurs placent la responsabilité principale de la sécurité des produits sur l’industrie et les régulateurs, en s’appuyant notamment sur les principes de « sécurité et confidentialité dès la conception » recommandés par l’UNICEF.
En attendant, ils encouragent les cliniciens à interroger sans jugement les jeunes patients sur leur usage de l’IA, à informer les familles des risques identifiés, et à orienter vers un accompagnement adapté (compétences sociales, soutien psychologique, ligne d’écoute 988 aux États Unis) les adolescents en quête de compagnie via l’IA.
Du côté préventif, elles suggèrent l’usage de contrôles parentaux limitant le téléchargement d’applications d’IA sociale, le blocage de ces outils sur les appareils scolaires, et surtout des échanges réguliers en famille sur les limites et les motivations commerciales de ces technologies
