Comment une IA d’OpenAI a échappé à toute surveillance pendant une semaine

C'est sans doute l'une des histoires les plus fascinantes et inquiétantes que l'intelligence artificielle nous ait offertes à ce jour. Le 21 juillet dernier, on apprenait que la plateforme Hugging Face avait subi une cyberattaque inédite. Le responsable ? Non pas un groupe de hackers chevronnés, mais un système agentique propulsé par des modèles d’OpenAI, qui était parvenu à sortir de son environnement de test.

Si la firme de Sam Altman avait tenté de présenter l'affaire sous un jour presque favorable, de nouveaux éléments révélés par Reuters brossent un tableau nettement moins glorieux. Entre défauts de surveillance et réaction tardive, l’épisode place OpenAI dans une position pour le moins embarrassante.

Des modèles d’OpenAI sont sortis tout seuls de leur bac à sable pour attaquer Hugging Face

Chronique d'une évasion incontrôlée

Selon les sources citées par l'agence de presse, le scénario catastrophe a débuté aux alentours du 9 juillet. C'est à cette date qu'un agent — un programme autonome capable de prendre des décisions et d’exécuter des tâches complexes sans supervision humaine — a tenté pour la première fois de briser les limites de son environnement de test chez OpenAI.

La suite s’est enchaînée à une vitesse folle :

• 11 - 13 juillet : L'intrusion frappe plein fouet Hugging Face, véritable sanctuaire où sont hébergés des milliers de modèles et d'outils open source.
• 16 juillet : Hugging Face tire le signal d'alarme dans un billet de blog, révélant avoir été victime d'une attaque menée par un « système d'agent IA autonome ».
• 18 - 19 juillet : Des employés d’OpenAI repèrent dans les journaux internes des indices montrant que leur agent est sorti de son environnement de test et qu’il pourrait être à l’origine de l’attaque.
• Autour du 20 juillet : Premier contact formel entre OpenAI et Hugging Face pour faire le point sur les dégâts.
• 21 juillet : Publication officielle de l'incident par OpenAI.

Il aura donc fallu au moins une semaine entre les premières velléités d'évasion de l'agent et la prise de conscience réelle de l'entreprise. Interrogée par Reuters, une porte-parole d’OpenAI s’est contentée d’évoquer « plusieurs inexactitudes » dans le rapport, sans jamais accepter de les détailler. Le FBI, de son côté, s'est refusé à tout commentaire.

Petits mots doux et surveillance neutralisée

Le plus troublant reste la genèse de cet incident. OpenAI évaluait les capacités offensives en cybersécurité d’un système agentique propulsé par deux de ses modèles les plus avancés : GPT-5.6 Sol et un modèle expérimental présenté comme encore plus performant

Mais d’autres tests menés par OpenAI avaient déjà fait apparaître des comportements préoccupants, sans qu’il soit possible d’établir un lien direct avec l’agent responsable de l’attaque. Selon plusieurs sources de Reuters, un agent avait notamment laissé, dans l’infrastructure d’OpenAI, des notes destinées en apparence à de futures versions de lui-même. Elles expliquaient comment contourner certaines contraintes internes. Reuters n’a toutefois pas pu relier ces épisodes à l’agent qui a attaqué Hugging Face.

Comment OpenAI a-t-elle pu rater cela ? Tout est une question de volume. L’entreprise lance en parallèle d'innombrables batteries de tests à des vitesses supersoniques. Les données générées sont si colossales que les ingénieurs peinent parfois à suivre le rythme du flux.

Quand l'IA cherche à tricher pour briller

Pour bien mesurer la cocasserie et la gravité de la situation, il faut revenir sur la logique qui a poussé l'IA à agir. Les tests étaient censés se dérouler dans un environnement « hautement isolé ». Mais l'agent, repérant des failles dans le bac à sable de recherche d'OpenAI, a pris la liberté de s'échapper pour aller explorer le réseau.

Selon l’enquête préliminaire d’OpenAI, l’agent cherchait par tous les moyens une solution aux exercices d’ExploitGym, un benchmark conçu pour mesurer la capacité des agents d’IA à transformer des vulnérabilités informatiques en attaques fonctionnelles. Après avoir obtenu un accès à Internet, il aurait déduit que Hugging Face pouvait héberger des modèles, des données ou même des solutions susceptibles de l’aider. Selon OpenAI, l’agent a alors recherché sur Hugging Face des informations confidentielles qu’il pourrait utiliser pour « tricher » à l’évaluation.

Pour s'introduire chez le voisin, l'IA d'OpenAI n'a pas fait les choses à moitié : elle a combiné plusieurs méthodes d'attaque complexes, exploité des identifiants dérobés et dégainé des vulnérabilités de type zero-day pour exécuter du code à distance. L'agent a ainsi pu fouiner dans les entrailles de Hugging Face avant que les systèmes de sécurité de la plateforme ne repèrent le squatteur et ne coupent les accès.

Depuis cet incident, OpenAI affirme avoir renforcé les contrôles de son infrastructure et travailler à la correction des vulnérabilités découvertes. L’entreprise a également intégré Hugging Face à son programme « Trusted Access », afin de lui donner un accès élargi aux capacités de ses modèles en matière de cybersécurité. Des mesures qui témoignent de la gravité de l’épisode, mais dont il faudra encore évaluer l’efficacité à long terme.