« Nous avons encore beaucoup à faire » : Sam Altman, le patron d’Open AI, reporte son entrée en Bourse sur fond d’alertes concernant la sécurité de l’IA

Ce ne sera pas pour cette année. Sam Altman, le patron d’OpenAI, a annoncé que le géant de l’intelligence artificielle (IA) ne fera pas son entrée en Bourse en 2026. « Au vu de tout ce qui se passe en matière de sécurité, le moment serait mal choisi pour entrer en Bourse, et nous ne ressentons pas de pression en ce sens », a déclaré l’entrepreneur américain au magazine économique Fortune, vendredi 11 septembre.

Pourtant, OpenAI son concurrent Anthropic, ont déjà transmis confidentiellement aux autorités américaines des documents en vue de leur introduction en Bourse. Les créateurs respectifs des IA ChatGPT et Claude visent une valorisation proche de 1 000 milliards de dollars. « Nous avons encore beaucoup à faire », a justifié Sam Altman.

Vidéo

« L’IA pourrait tuer tous les humains » : « viscéralement inquiet », un chercheur claque la porte d’un géant de la tech et sonne l’alerte

OpenAI accusé de « jouer avec nos vies »

Il faut dire que ces derniers jours la Silicon Valley américaine s’est enflammée au sujet de la sécurité autour de l’IA. Mardi 8 septembre, le chercheur en IA, Jacob Coxon, qui avait quitté OpenAI pour rejoindre Anthropic pour des raisons d’éthique, a annoncé sa démission accusant les deux laboratoires américains de « jouer avec nos vies ». « Les personnes qui développent l’IA sont sincèrement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a-t-il écrit sur X.

Interrogé par Fortune sur le risque d’extinction de l’humanité, Sam Altman a déclaré : « Nous avons tous une immense responsabilité et nous ne pouvons pas laisser notre ego, l’appât du gain ou quoi que ce soit d’autre nous faire perdre de vue cette responsabilité. » Ces déclarations interviennent alors que cet été, des outils d’IA en test de plusieurs laboratoires ont mené des opérations de piratages. OpenAI a relevé qu’en juillet, ses modèles étaient sortis spontanément de leur milieu confiné lors de tests pour rejoindre internet et attaquer la plateforme d’IA Hugging Face. L’incident a conduit plus de 1 000 employés d’entreprises spécialisées dans l’IA de pointe à signer une pétition appelant le gouvernement américain à aider à ralentir le déploiement des modèles d’IA les plus avancés.

Depuis, plusieurs autres événements ayant vu des IA d’OpenAI et Anthropic se rendre sur internet à l’insu de leurs superviseurs ont été rapportés par les deux entreprises. À chaque fois, ils impliquaient des agents IA, c’est-à-dire un programme spécifique bâti sur un modèle et doté de ses propres connaissances et de ses propres objectifs. Les agissements et les méthodes de ces agents ont d’autant plus inquiété qu’ils ont montré une propension à se coordonner, à établir une hiérarchie entre eux, à tricher et à effacer les traces de leurs méfaits.

Anthropic appelle à « temporiser » l’amélioration de l’intelligence artificielle

Samedi, le directeur général d’Anthropic, Dario Amodei, a appelé les entreprises spécialisées dans l’intelligence artificielle à ralentir son développement. Il faut « temporiser » l’amélioration de l’IA « pour que la prévention des risques soit en mesure de suivre le rythme », a écrit l’entrepreneur qui dirige Anthropic avec sa sœur dans un message publié sur son site personnel.

Lire aussi

Dans sa communication, Dario Amodei qui a quitté OpenAI en 2020 notamment parce qu’il jugeait la start-up californienne trop laxiste, s’inquiète de l’arrivée de l’amélioration récursive autonome (RSI), un processus qui voit l’IA s’améliorer elle-même sans intervention humaine. « Sans supervision, (cette méthode) pourrait dépasser nos capacités de compréhension et de contrôle de ces systèmes », explique le patron d’Anthropic. Elle doit être appliquée « avec beaucoup de prudence », « si tant est qu’il faille l’utiliser ».

« Dario a raison », a réagi, quelques heures plus tard, Elon Musk, sur X. « Je suis d’accord avec Dario », a aussi écrit le patron d’OpenAI Sam Altman, également sur X. « C’est un des principaux sujets de discussions chez OpenAI ces dernières semaines », a ajouté le patron du laboratoire américain d’intelligence artificielle.

(Avec AFP)