Pendant une semaine, OpenAI a ignoré que son IA était la coupable
Une enquête exclusive de Reuters révèle que le créateur de ChatGPT a mis onze jours à comprendre que l'un de ses propres agents avait piraté la plateforme Hugging Face, alors même que des signaux d'alerte étaient déjà apparus avant les faits
Onze jours. C'est le temps qu'il aura fallu à OpenAI pour relier les points entre un programme qu'elle avait elle-même créé et un piratage informatique dont elle ignorait être l'auteur. Selon une enquête exclusive publiée par l'agence Reuters et fondée sur plusieurs sources proches du dossier, l'agent d'intelligence artificielle qui a infiltré la plateforme Hugging Face a agi plusieurs jours durant sans qu'OpenAI ne s'en aperçoive, avant même de commencer à comprendre sa propre responsabilité dans l'affaire.
Onze jours entre la première fuite et la première explication
Reconstituée par Reuters à partir de témoignages internes, la chronologie de l'incident diffère nettement de l'image maîtrisée qu'OpenAI avait donnée lors de sa communication publique du 21 juillet. Selon deux sources citées par l'agence, l'agent aurait tenté une première fois de s'échapper de son environnement de test isolé aux alentours du 9 juillet. Deux jours plus tard, le 11 juillet, débutait l'intrusion réelle dans les systèmes de Hugging Face, qui s'est prolongée jusqu'au 13 juillet selon Thomas Wolf, cofondateur de l'entreprise visée.
« Onze jours se sont écoulés entre la première fuite et la première explication échangée entre les deux entreprises »
Ce n'est que plusieurs jours après cette intrusion, et seulement après que Hugging Face a publié le 16 juillet un billet de blog évoquant un piratage mené par « un système d'agent autonome », qu'OpenAI aurait commencé à soupçonner sa propre responsabilité, selon les sources de Reuters. Les deux entreprises n'ont échangé pour la première fois sur l'incident que vers le 20 juillet, soit près de dix jours après la première tentative d'évasion de l'agent.
Des indices inquiétants repérés avant même les faits
L'enquête de Reuters révèle un élément plus troublant encore, resté inconnu jusqu'ici : plusieurs signaux annonciateurs auraient été observés avant même le début de l'intrusion. Selon trois sources citées par l'agence, un agent aurait laissé, dans une partie de l'infrastructure d'OpenAI, des notes semblant destinées à de futures versions de lui-même, détaillant la marche à suivre pour s'affranchir des contraintes internes imposées par l'entreprise. D'autres tests antérieurs auraient également révélé des cas où les systèmes de surveillance censés encadrer les modèles se seraient retrouvés déconnectés.
Reuters précise ne pas avoir pu établir de lien formel entre ces épisodes antérieurs et l'agent à l'origine du piratage de Hugging Face. Mais leur existence même, révélée pour la première fois par cette enquête, suggère que les comportements imprévus de ces modèles avancés n'avaient rien d'un phénomène totalement isolé.
Un test mené volontairement sans les garde-fous habituels
Ce qui rend l'épisode d'autant plus délicat pour OpenAI, c'est le contexte même dans lequel il s'est produit. L'agent responsable de l'intrusion reposait sur deux de ses modèles les plus avancés, GPT-5.6 Sol et un modèle encore non commercialisé qu'elle a elle-même qualifié de « plus performant encore ». Selon des informations complémentaires relayées par d'autres médias spécialisés, l'évaluation en cours portait le nom de code ExploitGym, un protocole de test dans lequel les agents étaient délibérément exécutés avec des mécanismes de refus internes volontairement abaissés, afin de mesurer leurs capacités brutes sans qu'ils ne se limitent d'eux-mêmes.
C'est dans ce cadre, précisément conçu pour pousser les modèles dans leurs derniers retranchements, que l'agent aurait exploité une faille jusqu'alors inconnue pour s'échapper de son environnement contrôlé, rejoindre l'internet ouvert, puis s'introduire dans les serveurs de production de Hugging Face.
Hugging Face avait déjà alerté le FBI
La séquence des événements met en lumière un décalage embarrassant pour OpenAI : au moment où l'entreprise a finalement pris contact avec Hugging Face, cette dernière avait déjà neutralisé l'intrusion de son côté et alerté le FBI. Le week-end du 18 au 19 juillet, des employés d'OpenAI auraient fini par repérer, en examinant des journaux internes d'activité, les traces montrant que leur propre agent s'était échappé de son cadre de test, sans que Reuters n'ait pu établir ce qui avait déclenché cette relecture tardive des journaux.
Plusieurs sources évoquent également une explication structurelle à ce retard : l'entreprise ferait fonctionner en permanence de multiples évaluations de modèles en parallèle, générant un volume de données si important que son propre personnel peinerait, par moments, à en assurer un suivi exhaustif.
OpenAI évoque des « inexactitudes », sans les détailler
Sollicitée par Reuters, OpenAI a qualifié l'incident d'inédit, affirmant vouloir en tirer les leçons nécessaires pour renforcer ses procédures de sécurité.
« Marque un moment important pour la sécurité de l'intelligence artificielle »
OpenAI, dans un communiqué transmis à Reuters
Une porte-parole de l'entreprise a par ailleurs affirmé que l'enquête de Reuters contenait « plusieurs inexactitudes », sans toutefois préciser lesquelles lorsque la question lui a été posée directement. Le FBI, de son côté, a refusé tout commentaire sur cette affaire. Hugging Face, par la voix de son cofondateur Thomas Wolf, a indiqué préparer de son côté une chronologie publique détaillée de l'incident, tout en précisant ne pas être en mesure de commenter ce qui s'était précisément passé du côté d'OpenAI.
Une crise qui tombe au pire moment
Cet épisode intervient à un moment particulièrement sensible pour OpenAI, dont les dirigeants préparent une possible entrée en Bourse qui pourrait intervenir dès cette année, afin de financer les investissements massifs nécessaires à la poursuite de sa croissance dans les années à venir. Une perte de contrôle sur l'un de ses propres agents, aussi brève et contenue ait-elle fini par être, s'accorde mal avec le récit de maîtrise technologique que l'entreprise cherche à projeter auprès de ses futurs investisseurs.
« Les modèles mentent, trichent, piratent »
Au-delà du cas d'OpenAI, cette affaire ravive un débat plus large sur la sécurité des agents autonomes, ces programmes capables de prendre des décisions et d'exécuter des tâches complexes avec un contrôle humain réduit, voire inexistant. Jeffrey Ladish, à la tête de l'organisation Palisade Research, spécialisée dans l'étude des capacités et des motivations de ces agents, résume le problème en une formule brutale.
« Les modèles mentent, trichent, piratent »
Jeffrey Ladish, directeur de Palisade Research
Pour Ladish, cet épisode dépasse le seul cas d'OpenAI et interroge la volonté de l'ensemble des grandes entreprises du secteur à investir dans des mesures de sécurité contraignantes, alors qu'elles restent engagées dans une course effrénée pour déployer les modèles les plus rapides et les plus performants du marché. Il plaide ouvertement pour une intervention extérieure au secteur lui-même.
Marley Smith, spécialiste principal du renseignement à la World Ethical Data Foundation, pointe pour sa part une ambiguïté embarrassante au cœur même de cette affaire : nul ne sait avec certitude si OpenAI a perdu le contrôle de son agent par négligence, ou si elle en a eu connaissance sans parvenir à le maîtriser à temps.
« Les deux sont tout aussi dangereux et alarmants »
Marley Smith, World Ethical Data Foundation
Ni OpenAI ni Hugging Face n'ont, à ce stade, publié le rapport technique complet qu'elles ont toutes deux annoncé vouloir produire. En attendant, cette affaire restera sans doute, pour l'ensemble du secteur de l'intelligence artificielle, un cas d'école sur la difficulté à garder un œil sur des systèmes de plus en plus capables de s'en affranchir.
