L’IA menace-t-elle l’humanité ? 'Ce n’est pas quelque chose de vraisemblable' selon Benoit Frénay - RTBF Actus

Ce sont des propos assez étonnants dans la bouche d’employés d’entreprises comme Anthropic ou OpenAI : un appel au ralentissement du développement de l’IA pour encadrer ses dérives. Plusieurs chercheurs de ce domaine ont en effet alerté la société face à la menace que représente l’intelligence artificielle. Son développement trop rapide est hors de contrôle et pourrait mener à la destruction de l’humanité d’ici 2030.

Benoit Frénay relativise ce discours alarmiste. "Pour moi, clairement, en tant qu’expert, ce n’est pas quelque chose de vraisemblable." Le professeur d’intelligence artificielle à l’UNamur refuse la menace existentielle mais pointe plutôt des risques localisés. "Ce qui est assez clair, c’est qu’on joue peut-être un petit peu avec le feu dans certains systèmes en déployant des agents artificiels. Par exemple, pour conduire un avion ou un système un peu critique. Et là, on peut effectivement avoir des problèmes localisés."

Mais alors pourquoi tant de voix alarmistes de l’autre côté de l’Atlantique ? Benoit Frénay évoque un marketing de la peur. "Il y a une espèce de course en avant de la part des entreprises de la tech qui essaient de justifier les dépenses énormes qu’elles font, les risques qu’elles prennent et les entorses qu’elles prennent par rapport parfois aux règles de sécurité les plus élémentaires. Par exemple, lorsqu’on voit qu’une IA s’est échappée entre guillemets de sa sandbox, j’ai envie de demander, mais pourquoi diable est-ce qu’on lui a laissé la possibilité de s’échapper ? Il suffisait de couper les connexions réseau et il n’y avait plus aucun risque."

Ces alertes arrivent à un moment où Anthropic et OpenAI préparent leur entrée en bourse. La menace sur l’humanité serait donc une façon détournée de vanter la puissance de leur technologie et le besoin, pour toutes les sphères de la société, d’investir dans ce secteur, au risque de se faire dépasser. Ce que dénonce Benoit Frénay, c’est que les grandes entreprises qui développent l’IA lancent des alertes inquiètes, alors qu’elles font aussi obstacle aux tentatives de régulation des Etats. Or c’est une des priorités selon le chercheur. À l’image d’un médicament, il soutient la nécessité de tester les IA avant leur mise sur le marché. "Quand on voit ce qu’il s’est passé en 2022 avec ChatGPT, c’est exactement l’inverse. On a mis sur le marché quelque chose dont on ne savait pas quels étaient les risques, à quoi il allait servir, avec un petit écriteau 'attention, à utiliser à vos risques et périls'."

Benoit Frénay souligne l’importance de ralentir le développement de l’IA, mais pas pour les mêmes raisons que les dirigeants d’Anthropic ou OpenAI. "Il faut freiner, mais pas pour les raisons qu’ils invoquent, pas parce qu’on va tous se faire tuer, mais parce qu’en fait, il faut absolument développer des mécanismes de contrôle pour ces IA, mieux les comprendre, mieux les étudier avant de passer à quelque chose de plus gros."

La finitude des ressources

Benoit Frénay tient aussi à relativiser le discours sur le développement exponentiel de l’IA. Déjà en termes de données, sur base desquelles les agents peuvent s’entraîner, les limites deviennent visibles. "Je simplifie un peu, mais toutes les données qui étaient utilisables l’ont été, quelque part. Et donc là, on est vraiment face à un mur où les concepteurs d’IA n’ont plus de marge de manœuvre par rapport à ça. Ce qui pose la question de, est-ce que la tendance actuelle qu’on observe va effectivement continuer ou est-ce qu’on va arriver dans un monde où ça devient trop cher, trop coûteux et impossible d’entraîner de nouvelles IA plus puissantes ?"

Le chercheur de l’UNamur prévoit ainsi que le développement de l’IA atteigne un plateau, plutôt que la courbe continue de progression indéfinie. D’autant plus que des limites financières et physiques (disponibilités des terres rares, etc.) peuvent aussi intervenir. "Pas mal de systèmes IA sont déjà assez puissants pour ce qu’on peut espérer en faire. Par exemple, pour trier des e-mails, il n’y a pas besoin de quelque chose de l’ordre de GPT-6. Est-ce que c’est vraiment nécessaire, en fait, d’aller plus loin et de déployer de tels moyens pour quelque chose qui n’est peut-être pas si intéressant que ça ?"

À la différence d’une arme nucléaire qui ne peut être utilisée que dans le but de détruire, Benoit Frénay insiste donc sur la définition des besoins que nous tentons de combler avec l’IA, qui devraient guider le développement d’intelligences artificielles adaptées. "On peut utiliser l’IA, par exemple, je le fais dans mon équipe, pour aider des communautés telles que la communauté sourde et malentendante, pour mieux apprendre. On peut aussi essayer de la rendre moins énergivore. Et ce qui est intéressant, c’est qu’on peut agir à plusieurs niveaux aussi pour la réguler."

En effet, les lois nationales et mondiales peuvent aider à encadrer l’IA. Mais il est aussi nécessaire de créer des codes de conduite au sein des entreprises, au sein d’hôpitaux, par exemple, pour réguler et interdire certains usages de l’IA. Enfin, c’est bien sûr aussi au niveau technologique, lors du développement des outils, que des garde-fous doivent être mis en place.

► Découvrez aussi les vraies menaces de l’intelligence artificielle en écoutant l’entièreté du podcast des Clés ci-dessus ou sur Auvio.