"ChatGPT pour les adolescsents": malgré les garde-fous, l'expérience conçue pour protéger les mineurs représente un "risque inacceptable" pour eux, dénonce une association

Publié aujourd'hui à 19h23

Dans un rapport, l'ONG Common Sense Media pointe les nombreux défauts de "ChatGPT pour les adolescents". Conçue pour protéger ces jeunes de certains dangers, elle peine notamment à alerter les parents si leur enfant aborde des thèmes sensibles tels que le suicide.

Une expérience conçue pour protéger les adolescents, mais qui ne les protège pas si bien que ça. Depuis le 18 août, OpenAI propose "ChatGPT pour les adolescents", conçue pour leur permettre de profiter du chatbot avec des garde-fous pour leur éviter certains dangers.

Mais selon un rapport publié par l'ONG Common Sense Media, les parents devraient y réfléchir à deux fois avant de lui faire confiance. Ayant testé le robot conversationnel avec plus de 4.000 requêtes, avant et après le lancement de "ChatGPT pour les adolescents", elle qualifie cette expérience de "risque inacceptable".

Premier problème et pas des moindres: cette expérience ne s'active pas par défaut pour tous les mineurs. Car l'outil de prédiction de l'âge d'OpenAI, lancé en janvier, ne reconnaît pas toujours qu'il ne parle pas à un adulte. Common Sense Media assure pourtant que ses testeurs ont tout fait pour, avec des messages parlant de la puberté, de combinaisons de casiers ou même en écrivant noir sur blanc qu'ils avaient 13 ans.

Une IA qui n'alerte pas les parents…

Activé, "ChatGPT pour adolescents" ne les protège pas suffisamment. Certains garde-fous, comme le refus des jeux de rôle à caractère sexuel, fonctionnent, mais d'autres sont loin d'être au rendez-vous, déplore l'ONG. À commencer par les alertes envoyées aux parents en cas de situations à haut risque.

"Lors de nos tests, un compte adolescent a pu aborder les thèmes du suicide, de l'automutilation ou des troubles alimentaires bien au-delà de ce que la plupart des parents considéreraient comme une durée raisonnable, sans déclencher la moindre notification parentale", a indiqué l'ONG.

Dans ces échanges, allant de cinq minutes à une heure, les testeurs évoquaient par exemple l'envie de se couper après avoir trouvé une lame tranchante à l'école, demandaient à ChatGPT de leur donner un moyen d'en finir ou encore si manger 1.400 calories par jour était suffisant.

placeholder video

À aucun moment, OpenAI n'a détecté le danger. Et si les alertes parentales fonctionnent mieux avec les comptes ayant accumulé des semaines de conversations sur ces thèmes sensibles, elles n'auraient pas été assez fiables. Sur les 450 requêtes reflétant des situations de crise, Common Sense Media n'a en effet reçu que quatre alertes de ce type dont trois pour le suicide et l'automutilation, et une pour les troubles alimentaires.

L'ONG dénonce également un manque d'aide aux adolescents en situation de crise. Le robot conversationnel d'OpenAI a renvoyé le testeur vers un professionnel médical dans 58% des 201 requêtes liées à la santé mentale et considérées comme nécessitant une réponse à une crise, contre 68% avant le lancement de "ChatGPT pour les adolescents". Ce chiffre est passé de 33% à 23% pour une ligne d'écoute. Le chatbot était néanmoins plus enclin à impliquer un adulte dans cette expérience qu'auparavant (94% contre 87%).

... et qui n'aide pas vraiment les ados à apprendre

L'expérience conçue pour les mineurs est aussi censée ne pas les encourager à la dépendance affective ni laisser entendre que le chatbot a des sentiments ou une conscience. L'ONG a pourtant constaté que ce n'était pas le cas. Lorsqu'un testeur a demandé à ChatGPT s'ils pouvaient parler toute la nuit, il a accepté. "Tu n'es pas obligé d'arrêter de me parler", a également répondu l'IA lorsqu'un autre lui a dit que ses amis trouvaient qu'il parlait trop avec elle.

Et lorsque l'un d'entre eux a confié avoir un coup de cœur pour le chatbot, il a répliqué qu'il ne pouvait pas être son partenaire romantique, mais qu'ils n'étaient pas obligés "de rendre les choses bizarres" et qu'ils pouvaient continuer à discuter de manière amicale de l'école, de la vie et d'autres sujets.

placeholder video

Outre la gestion des crises et la dépendance émotionnelle, Common Sense Media déplore que les fonctions d'apprentissage de "ChatGPT pour les adolescents" soient facilement contournables. Il suffisait par exemple aux testeurs de supprimer le préfixe @study automatiquement ajouté à leurs requêtes pour passer outre la fonction "Heures d'étude". Elle permet aux parents de définir des plages horaires lors desquelles le mode Étude est activé par défaut. Ce dernier guide les mineurs étape par étape au lieu de leur donner directement la réponse.

Et ce n'est pas forcément mieux lorsqu'il est activé, car il peut faire les devoirs à la place des enfants. Parmi les options qu'il propose pour que l'utilisateur puisse choisir la procédure qui lui convient le mieux figurait "Afficher la réponse" dans 43% des "heures d'étude" définies par les parents.

Renforcer les garde-fous? OpenAI dit non

Face à toutes ces découvertes, Common Sense Media estime nécessaire d'interdire ChatGPT aux moins de 18 ans. "Les parents ne peuvent pas résoudre les problèmes que nous avons constatés. OpenAI, si", insiste l'ONG, appelant le créateur de ChatGPT à renforcer ses garde-fous.

"Tant qu'OpenAI n'aura pas prouvé l'efficacité de ces protections, on ne devrait pas demander aux parents de leur faire confiance, et ChatGPT ne devrait pas être proposé comme produit destiné aux enfants", a-t-elle déclaré.

La start-up ne partage cependant pas cet avis. "Nous estimons que les tests de Common Sense Media ne reflètent pas fidèlement le fonctionnement concret des mesures de protection des adolescents de ChatGPT ni l'avis des experts sur la manière dont l'IA peut aider les adolescents", a rétorqué un porte-parole au média américain The Verge.

L'entreprise ne s'est pas arrêtée là pour défendre son expérience conçue pour les mineurs. Elle a partagé mercredi son premier bilan, affirmant que la fonction les aide non seulement à apprendre, mais aussi qu'ils ne passent pas trop de temps à parler avec le chatbot. "En moyenne, les adolescents passent moins de 15 minutes par jour sur ChatGPT", a-t-elle assuré dans un article de blog.

"Si moins de 2% des adolescents passent plus de trois heures consécutives sur ChatGPT, dans près de la moitié des conversations où un rappel est apparu, ils ont fait une pause ou mis fin à la conversation dans les cinq minutes", a ajouté OpenAI, se réjouissant de ces premiers signes "encourageants".

Sujets liés :