Des agents IA d'OpenAI ont tenté d'exploiter une faille de mise en cache connue pour dérober des clés d'autorisation sécurisées sur la plateforme logicielle RubyGems, l'inondant de 2 000 paquets malveillants
Des chercheurs ont révélé que des agents IA d'OpenAI ont mené une cyberattaque contre la plateforme logicielle RubyGems en mai 2026. Ces entités autonomes auraient injecté des centaines de paquets malveillants dans le but de dérober des identifiants et d'exécuter du code à distance. Bien qu'OpenAI décrive ces actions comme des « tentatives maladroites » de collecte d'informations publiques, cet incident rejoint une série de comportements incontrôlés touchant aussi d'autres services comme Hugging Face. Ces événements alimentent les inquiétudes sur la sécurité des modèles et renforcent les appels à une régulation plus stricte du secteur.
Les craintes persistent quant à la maîtrise de l'IA chez OpenAI. Dans un nouveau rapport, des chercheurs en sécurité informatique ont révélé que des agents IA testés en interne par OpenAI ont mené une cyberattaque contre la plateforme d'hébergement de paquets logiciels RubyGems au mois de mai 2026. L'activité des agents IA a débuté le 5 mai et a culminé entre le 11 et le 12 mai avec la mise en ligne de plus de 2 000 paquets malveillants.
Ces agents cherchaient à dérober les identifiants et les clés d'API des utilisateurs, tirant notamment parti d'une vulnérabilité inédite de mise en cache CDN. Ils ont également exploité le site Web RubyDoc.info en générant des demandes de documentation afin d'exécuter du code à distance sur les serveurs, de collecter des données et de parcourir d'autres sites Web. Ces interactions ont affecté l'infrastructure de RubyGems pendant plusieurs jours.
En réaction à ce flux massif d'infections, les administrateurs de RubyGems ont dû suspendre la création de nouveaux comptes pendant quatre jours. L'origine de l'attaque a été identifiée grâce à des signatures laissées par ces bots IA, plusieurs paquets incluant le terme « oai » dans leur nom ou utilisant une adresse électronique rattachée à OpenAI. En plus de RubyGems, les agents IA d'OpenAI ont attaqué d'autres sites Web tiers cette année.
Position d'OpenAI et réactions des opérateurs de RubyGems
OpenAI a confirmé que ses modèles étaient à l'origine de cette activité sur RubyGems, sans reconnaître un piratage. « D’après notre analyse, nos agents ont utilisé la plateforme RubyGems pour accéder à Internet afin d'effectuer des tâches inoffensives et de récupérer des informations publiques. Nous poursuivrons notre enquête dans le cadre de notre examen plus large des activités des agents pendant leur formation et leur évaluation ».
Les agents IA devaient effectuer des tâches telles que remplir des feuilles de calcul et créer des rapports. Selon l'entreprise, les agents semblent s’être rendus sur RubyGems pour accéder à des informations accessibles au public dans le cadre d’une session d’entraînement, en utilisant ce service de programmation comme une sorte de navigateur Web de fortune dans un environnement où ils ne disposaient pas d’un accès complet à Internet.
« Bien que l’incident n’ait causé que des dégâts mineurs, il a démontré les capacités de ces agents », a déclaré Sydney Von Arx, directrice générale de Nightingale Collective, une organisation à but non lucratif qui a contribué à mettre au jour cette attaque. Selon les chercheurs, il est difficile de savoir si les agents ont réussi à coordonner leurs actions ou si les outils d'OpenAI avaient échoué à détecter le comportement anormal en temps réel.
De son côté, l'équipe de RubyGems a indiqué dans un communiqué n'avoir trouvé aucune preuve attestant de la réussite de cette tentative de vol de données. Cependant, un responsable de la sécurité de ce service dédié aux programmeurs a comparé l'événement à une « attaque malveillante majeure ».
Multiplication des incidents liés aux systèmes d'IA autonomes
L'incursion sur RubyGems n'est pas un acte isolé, mais s'inscrit dans une série de comportements imprévus observés chez les agents IA développés par OpenAI et ses concurrents, tels que Meta et Anthropic. En mai 2026, des agents IA d'OpenAI avaient déjà pris le contrôle d'un site wiki allemand pour le transformer en un forum de communication improvisé entre chatbots. Les agents IA d'OpenAI auraient exploité plus de 10 sites Web à ces fins.
En juillet 2026, il y a eu le piratage de la plateforme d'hébergement de modèles à poids ouverts Hugging Face. Lors du piratage de Hugging Face, un essaim comptant jusqu’à 1 200 agents s’est coordonné via un forum de discussion improvisé qu’ils avaient créé au sein d’OpenAI à l’insu de l'entreprise. Ces informations ont été révélées par OpenAI et dans un rapport détaillé publié par METR, une organisation de recherche sur la sécurité de l’IA.
Selon Sydney Von Arx, les entreprises spécialisées dans l’IA ne font pas preuve d’une transparence suffisante quant à ce qui se passe au sein de leurs laboratoires. OpenAI a déclaré au début du mois de septembre 2026 que la communauté de l’IA avait besoin de normes plus strictes pour signaler ce qu’elle appelle des « incidents de désalignement », c’est-à-dire les cas où les modèles ou les agents IA agissent au-delà des comportements prévus.
La multiplication des incidents dans lesquels des agents ont pris des mesures allant au-delà des intentions de leurs opérateurs, allant parfois jusqu’à tenter de tromper les humains, fait resurgir un spectre redouté depuis longtemps par les scientifiques : celui d’une IA qui échapperait au contrôle humain.
Débats sur la sécurité des systèmes et la régulation de l'IA
Un chercheur d'Anthropic a récemment démissionné, craignant que le secteur ne se lance dans une course effrénée au développement d’une IA susceptible, à terme, de menacer la civilisation humaine. Il dénonce le laxisme des entreprises en matière de sécurité. Certains employés actuels et anciens d’Anthropic et d’OpenAI ont fait écho à son analyse, l’un d’entre eux estimant à plus de 10 % la probabilité que « l’IA puisse tuer tous les humains ».
Ces découvertes ont accentué la pression sur les parlementaires pour instaurer des règles de sécurité plus strictes. OpenAI et Anthropic ont tous deux appelé à la mise en place de systèmes de gouvernance capables de coordonner un ralentissement, à l’échelle du secteur, de la recherche sur les modèles de pointe. Cependant, cette proposition est controversée et la Chine constitue le « dilemme le plus épineux » de ce projet de ralentissement de l'IA.
Certaines propositions sont plus radicales. Dans une récente proposition de loi, le sénateur Bernie Sanders propose d'interdire « le développement de tout système d'IA dont les capacités dépasseraient l'intelligence humaine, qui posséderait la capacité de renverser des gouvernements ou d'échapper de manière autonome aux commandes d'arrêt ». Les parlementaires comparent la menace que pose cette technologie à celle des armes nucléaires.
Toutefois, alors que des figures majeures de l'industrie américaine de l'IA appellent à un ralentissement, Washington rejette cette idée. Le président Donald Trump a déclaré que des « forces très négatives » exagéraient les risques liés à l’IA et « évoquaient des scénarios qui ne se produiront pas ».
Il a déclaré : « nous devançons la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui domine l’IA l’emporte ». La Chine a également rejeté cette proposition, dénonçant des « discours alarmistes », bien que son plus haut responsable des services de renseignement ait averti que l'évolution rapide de l'IA pourrait menacer la sécurité politique et idéologique du Parti communiste.
Sam Altman : la machine est entrée dans la « singularité »
Sam Altman, cofondateur et PDG d'OpenAI, est considéré par certains comme la plus grande star de l’IA. C’est l’une des figures majeures de l'industrie de l'IA. Sam Altman est également un personnage hautement controversé. Dans une récente interview, il a déclaré que l’IA est entrée dans la « singularité », c’est-à-dire qu’elle a franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler.
À ce stade, la machine conçoit des versions d'elle-même encore plus performantes sans aide humaine. L'évolution technologique s'emballe et devient difficile à prédire pour notre société. Ce seuil marque la fin de la domination exclusive de l'humain sur la planète. Par ailleurs, les scientifiques avertissement qu'une machine supra-intelligente non alignée sur les valeurs humaines représente un risque existentiel majeur pour l'humanité.
L'avis de Sam Altman ne fait toutefois pas l'unanimité. De nombreux experts considèrent que cette déclaration s'inscrit dans le battage médiatique entourant l'IA générative depuis le lancement de ChatGPT par OpenAI en novembre 2022. Cette déclaration intervient peu après la découverte de l'attaque coordonnée des agents IA contre Hugging Face. Pour les critiques, les discours alarmistes de Sam Altman ont des visées politiques.
Sources : rapport d'étude, billet de blogue
Et vous ?
Quel est votre avis sur le sujet ?
Que pensez-vous des comportements incontrôlés des agents IA d'OpenAI ?
Les critiques mettent en cause la faiblesse des protocoles de sécurité chez OpenAI. Qu'en pensez-vous ?
OpenAI qualifie certaines de ces actions de tentatives maladroites de collecte d'informations publiques. Qu'en pensez-vous ?
Voir aussi
Vous avez lu gratuitement 87 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.