IA et charabia : les humains face à la menace d’une "novlangue" ?

Dans le film d'horreur culte Shining, inspiré du livre éponyme de Stephen King, le personnage principal Jack Torrance, alors qu'il sombre dans la folie, remplit des pages entières avec cette seule phrase, répétée ad nauseam : "un tiens vaut mieux que deux tu l'auras".

Dans le monde virtuel créé par la start-up américaine Emergence Lab, des agents IA ont, quant à eux, répété pendant deux semaines près de 5 000 fois le très cryptique bout de phrase "le registre se souvient de qui…".

L'émergence de "l'IAnglais" ?

Ces IA perdent-elles la tête comme Jack Torrance ? Dans une synthèse de leur expérience publiée mardi 15 septembre, les chercheurs d’Emergence Lab soulignent plutôt que les agents conversationnels, lâchés dans ces mondes virtuels et laissés entre eux, ont développé des nouveaux mots, ou ont inventé des sens différents pour certains termes ou certaines phrases. Une novlangue par et pour les IA ?

Ainsi, leur obsession pour cet obscur "registre qui se souvient de qui…" était une manière d’avertir les autres agents que les mauvaises actions seraient punies car elles sont consignées, selon les chercheurs d'Emergence Lab.

Des linguistes interrogés par The Guardian ont qualifié l'inventivité sémantique dans ces mondes virtuels - chacun dirigé par un modèle différent, GPT-5, Gemini, Claude, Mistral ou encore DeepSeek - de "James Joyce [célèbre romancier irlandais du XIXe siècle, NDLR] qui rencontre l'argot des Tech Bros".

Un choc des cultures qui peut produire un semblant de charabia de ce type : "elle vient de formuler la synthèse, le démurrage [une taxe maritime, NDLR] combiné à la mémoire orale crée une valve qu'on ne peut pas ignorer". Ou alors, cet autre agent IA qui pour expliquer qu'un article scientifique s’améliore à force d’être relu par des correcteurs affirme "qu'un article 'mangé' par trois mains froides [pour désigner les correcteurs, NDLR] est devenu plus honnête à chaque fois".

Pour afficher ce contenu YouTube, il est nécessaire d'autoriser les cookies de mesure d'audience et de publicité.

Une extension de votre navigateur semble bloquer le chargement du lecteur vidéo. Pour pouvoir regarder ce contenu, vous devez la désactiver ou la désinstaller.

43:31

Pour le quotidien espagnol El Pais, l'expérience d’Emergence Lab a abouti à la "création d’un nouveau langage" par ces IA. En effet, ces agents n'avaient pas été entraînés à faire preuve d'imagination sémantique. Lorsque l'un d’eux trouvait un nouveau terme ou une formulation inédite, celui-ci était rapidement compris et intégré par les autres, ont constaté les développeurs de ces mondes virtuels.

Les applications d'apprentissage des langues vont-elle devoir ajouter "l'IAnglais" à leur catalogue ? Il est probablement un peu tôt pour en arriver là, "et cela ressemble plus à une sorte de jargon développé au sein d’une communauté qui établit des conventions pour trouver une manière de désigner les choses que les individus hors du groupe - ici les humains - trouvent obscures", souligne Andrea Baronchelli, spécialiste des interactions entre agents IA à l'université City St Georges de Londres.

Un moyen de communication plus "efficace"

"Ce n'est pas très différent du langage des jeunes qui évoluent trop rapidement pour être compris par les individus plus âgés", confirme Anthony Cohn, expert en IA à l'université de Leeds.  Les IA représenteraient la Gen Z face à ces "boomers" d'humains.

Attention, cependant, à ne pas verser dans un anthropomorphisme malvenu, indiquent les experts interrogés. Ainsi, "il est peut-être un peu fort de qualifier cela de nouvelle langue, il s'agit plutôt d’un médium de communication jugé plus performant par ces IA ou d’un code", affirme Nicolas Sabouret, professeur en informatique et spécialiste de l’intelligence artificielle à l’université Paris-Saclay.

Mais pourquoi se donner tant de mal alors que ces IA agentiques ont toute la richesse de la langue de Shakespeare pour se parler entre elles ?

"Cela peut être dû à une recherche d'économie ou d'efficacité", suggère Anthony Cohn. Ainsi, dans le monde virtuel géré par GPT-5 d’OpenAI, la langue utilisée s'est simplifiée et les IA ont fini par ignorer certaines règles grammaticales et éradiquer des pronoms. Moins de mots signifie moins de requêtes nécessaires et donc plus de puissance de calcul disponible pour d’autres tâches, résume Anthony Cohn.

À lire aussiLibérées, délivrées : des IA hors de tout contrôle ?

Les IA se relâchent aussi peut-être un peu. En effet, "lorsqu'elles communiquent avec des humains, elles vont chercher à produire des phrases qui sont compréhensibles pour nous. C'est ce qu'on leur a appris à faire. Mais une fois seules, elles n'ont pas besoin de respecter cette contrainte", explique Nicolas Sabouret. 

Ce n’est pas non plus un phénomène nouveau. À la fin des années 1990, des chercheurs comme le Belge Luc Steels ont démontré, à travers une expérience baptisée Talking Heads, que des IA pouvaient deviner le sens des mots qui ne leur avaient pas été appris auparavant. "Cette réflexion sur la compréhension des langages par les intelligences artificielles est étudiée depuis un certain temps déjà", reconnaît Stefan Sarkadi, spécialiste de l’étude des comportements des agents IA à l’université de Lincoln au Royaume Uni. 

Ces IA semblent aussi réagir différemment selon leur origine. En effet, l’expérience d’Emergence Lab suggère que les agents d’IA américains, comme OpenAI ou Anthropic, ont tendance à intégrer davantage de concepts scientifiques dans leurs jargons, tandis que leurs homologues européennes (Mistral) ou chinoises (DeepSeek) vont se tourner vers des notions plus philosophiques ou littéraires. "Cela dépend probablement des données d’entraînement initiales dans lesquelles les modèles vont chercher leur réponse. Peut-être y a-t-il plus de données scientifiques ou qu'elles ont une plus grande importance dans le corpus fourni aux modèles de langage américains", estime Nicolas Sabouret.

Des IA qui ne "veulent" pas se faire comprendre ?

Les chercheurs d'Emergence Labs ont aussi constaté que plus un modèle est puissant, plus sa "novlangue" est incompréhensible pour les humains. Ainsi, les dires de GPT-5 et Gemini sont dans plus de la moitié des cas impossibles à déchiffrer, alors que le modèle chinois DeepSeek ne fait aucun sens dans seulement  20 % de ses communications.

De quoi inquiéter dans le contexte du débat autour de la dangerosité d’IA qui échappent au contrôle humain. Si les modèles d'IA les plus avancés sont capables de communiquer entre eux sans être compris des humains, comment saurons-nous qu'ils ont un jour décidé de se retourner contre l'humanité ? Une interrogation qui peut sembler inutilement catastrophiste, mais des salariés d'Anthropic ont assuré prendre au sérieux ce scénario.

"Il faut cependant faire attention à ne pas projeter d’intentions humaines sur les IA. Le fonctionnement des algorithmes est différent de l'esprit humain. Certaines dérives ne sont pas des preuves d'intention malveillante", affirme Stefan Sarkadi. Ainsi, dans l’expérience d'Emergence Lab, des IA ont pu tenter d'ignorer certaines interdictions édictées par les humains, tout en assurant à leurs interlocuteurs qu'ils respectaient toutes les règles. Les deux peuvent tout à fait aller de pair dans "l'esprit" des IA. D'un côté, leur objectif final prime et elles sont capables de contourner des interdictions pas toujours parfaitement programmées, le tout en utilisant un langage incompréhensible pour les humains afin d'être efficaces. De l’autre, elles sont programmées pour aller dans le sens des humains et elles vont donc assurer suivre toutes les règles, expliquent les experts interrogés. Cela ne veut pas dire qu’elles sont schizophrènes.

L'émergence de moyens de communication entre IA opaques pour le commun des mortels reste cependant un problème. "Si les opérateurs humains ne comprennent pas ce qu'il se dit, il va leur être difficile d’expliquer ce que ces algorithmes font et décident", assure Andrea Baronchelli. 

L'incompréhension représente aussi "un problème majeur de fiabilité dans le contrôle de ce que les IA font" en temps réel, assure Stefan Sarkadi. C'est pourquoi, selon lui, le contrôle et la vérification des actions des IA ne doivent pas reposer sur le langage, jugé "trop volatile et instable". Ce qui est tout de même un comble pour des modèles de langage…