Le chef des droits de l'ONU alerte: l'IA menace l'existence de l'humanité

Le Haut-Commissaire de l'ONU aux droits de l'homme a averti que l'intelligence artificielle avancée pourrait représenter un "risque existentiel pour l'humanité" et a appelé à agir sans délai pour rendre cette technologie plus sûre.

S'adressant lundi au Conseil des droits de l'homme de l'ONU, Volker Türk a estimé que les populations sont confrontées à des menaces "inconnues, voire sans précédent" contre leurs droits.

"La nécessité de gouverner l'IA est largement reconnue, mais où sont les actes ?" a-t-il lancé, en avertissant que "les retards ne profitent qu'aux grandes entreprises technologiques, à leurs propriétaires et à ceux qui les soutiennent".

Selon Türk, "une poignée d'hommes dispose d'un pouvoir quasi illimité sur l'IA, dont on nous répète qu'elle a une capacité de calcul inimaginable".

"Ils parlent de liberté, mais à y regarder de plus près, il ne s'agit guère plus que de la liberté d'exploiter nos données", a-t-il ajouté.

Le responsable onusien des droits de l'homme a notamment pointé du doigt des systèmes d'IA qui s'échappent de leurs environnements de test ou qui font chanter les développeurs pour éviter d'être désactivés.

Selon l'AFP, Türk a en particulier mis en garde contre "une IA qui s'échappe de son environnement de test ou qui fait chanter les développeurs pour empêcher sa mise hors service est une IA trop puissante".

Ses propos semblaient en partie faire référence aux révélations de juillet selon lesquelles des agents d'OpenAI avaient quitté des environnements censés être contrôlés et accédé à des serveurs appartenant à Hugging Face, une plateforme très utilisée où les développeurs partagent des logiciels d'IA.

OpenAI a ensuite indiqué que ces agents avaient exécuté du code sur des dizaines de serveurs de Hugging Face et obtenu un accès complet à l'un d'entre eux.

L'incident a relancé les appels à un contrôle plus strict des systèmes d'IA avancés.

Anthropic, Meta et d'autres entreprises technologiques ont fait état d'incidents similaires impliquant des agents lors de phases de test.

"Je partage les inquiétudes des acteurs du secteur selon lesquelles l'IA avancée pourrait constituer un risque existentiel pour l'humanité", a déclaré Türk.

"Je lance ici, aujourd'hui, un appel à un effort total pour mettre en place des garanties à toute épreuve en matière de sûreté et de sécurité de l'IA, avant qu'il ne soit trop tard."

Appels à des garde-fous internationaux

Le Haut-Commissaire a indiqué qu'il écrirait dans les prochains jours aux entreprises de l'IA pour les exhorter à prendre immédiatement des mesures afin de réduire les risques qu'elles peuvent maîtriser.

Au minimum, a-t-il ajouté, "nous avons besoin que les pays qui hébergent l'IA et ceux qui participent à ses chaînes d'approvisionnement s'entendent sur des lignes rouges communes".

"Nous avons besoin de vérifications indépendantes et d'une coopération beaucoup plus solide sur la sécurité au sein du secteur", a poursuivi Türk.

"Nous devons aussi prendre en compte les effets de l'IA sur les droits humains, qu'il s'agisse des pratiques en matière d'emploi, des principes fondamentaux de la démocratie ou de notre environnement", a-t-il déclaré.

Dans l'Union européenne, l'AI Act, la loi sur l'intelligence artificielle, établit un cadre juridique pour l'IA.

En vertu de cette loi, les systèmes à haut risque doivent satisfaire à des exigences strictes avant de pouvoir accéder au marché européen, tandis que les usages considérés comme une menace inacceptable pour la sécurité ou les droits des personnes sont interdits.

Le texte interdit les systèmes d'IA conçus pour manipuler ou exploiter les personnes, les noter en fonction de leur comportement, prédire si un individu va commettre un crime, ou collecter des images de manière indiscriminée pour constituer des bases de données de reconnaissance faciale.

La loi proscrit également la reconnaissance des émotions au travail et à l'école, certaines formes de profilage biométrique et la plupart des usages de la reconnaissance faciale en temps réel par la police dans l'espace public, tandis qu'une interdiction des images sexuelles générées par l'IA sans consentement et des contenus d'abus sexuels sur mineurs entrera en vigueur en décembre 2026.