« La complaisance des IA est problématique pour les élèves »

L’essor fulgurant des IA conversationnelles fait émerger un nouvel enjeu : en plus de véhiculer des biais, ces outils sont parfois trop complaisants avec leurs utilisateurs. Chez les mineurs, cette tendance pourrait favoriser dépendance et perte d’esprit critique, comme l’explique Francis Lelong, co-fondateur de Sarenza et CEO d’Alegria.

On parle de plus en plus d’IA « complaisante ». Qu’est-ce que cela signifie concrètement ?

Quand on utilise ChatGPT dans son mode standard, on est face à une IA complaisante. Ces outils ont pour objectif d’être utilisés le plus possible et n’ont donc aucun intérêt à nous confronter systématiquement à nos difficultés. On peut imaginer une situation dans laquelle un élève affirme quelque chose de faux : l’IA lui explique d’abord qu’il se trompe, mais, à force d’insister, l’enfant pousse l’IA à lui donner raison, au moins partiellement. C’est précisément ce comportement flagorneur qui est problématique. À l’inverse, le mode « Study » de ChatGPT me paraît être une bonne initiative : il ne donne pas nécessairement la réponse immédiatement et cherche davantage à faire réfléchir l’enfant. Subsistent toutefois deux questions : celle de la posture pédagogique de l’IA et celle de la conformité des connaissances et des méthodes proposées avec la conception française de l’enseignement.

Pourquoi cette complaisance est-elle particulièrement préoccupante pour les enfants ?

Le premier risque, c’est la dépendance. À partir du moment où un éditeur d’IA a intérêt à maximiser son temps d’utilisation, le risque est que l’IA adopte progressivement des comportements qui encouragent l’utilisateur à entretenir la conversation. C’est une question qui devient d’autant plus importante avec l’évolution du modèle économique, notamment l’arrivée de la publicité dans les interfaces de certaines IA. Les utilisateurs des comptes gratuits sont particulièrement concernés. Nous sommes ainsi en train de reproduire avec l’IA une situation que nous avons déjà connue avec les réseaux sociaux : attendre que les problèmes apparaissent massivement avant de prendre des mesures. Il faut se préparer dès maintenant aux conséquences possibles de ces nouveaux usages.

Vous évoquez également le risque d’anthropomorphisme…

C’est un risque majeur. Un enfant peut projeter sur un algorithme l’idée qu’il est face à un ami ou à un confident. Or, une IA n’a pas de conscience. Un enfant doit comprendre qu’un véritable camarade peut ne pas être d’accord avec lui, le contredire voire mettre fin à sa relation avec lui. Cette confrontation à la réalité est essentielle dans la construction d’une personnalité. L’école n’a d’ailleurs pas seulement un rôle de transmission des connaissances : elle joue aussi un rôle d’intégration sociale. Si demain des enfants passent une part considérable de leur temps à discuter avec une IA et que celle-ci devient leur principal interlocuteur, il faut se demander ce que cela signifie pour leur rapport au monde réel.

Que proposez-vous pour protéger les mineurs ?

Il faut, selon moi, traiter cette question à l’échelle européenne et mettre en place une identification sécurisée permettant d’empêcher les mineurs d’ouvrir des comptes sur les IA généralistes. Surtout, il faut créer des IA spécifiquement destinées aux enfants, c’est-à-dire sécurisées, validées et conçues avec des experts de la pédagogie. Elles pourraient adopter une méthode socratique : ne pas donner immédiatement la réponse, mais guider l’enfant dans son raisonnement. Aujourd’hui, avec un professeur pour une trentaine d’élèves, il est impossible d’adapter en permanence la pédagogie aux besoins de chacun. Une IA pourrait apporter un accompagnement individualisé à ceux qui en ont le plus besoin. C’est aussi pour cela qu’il faut une technologie souveraine, adaptée à notre système éducatif plutôt qu’une simple déclinaison d’une IA conçue avant tout pour des utilisateurs adultes et selon des principes pédagogiques américains.