L'histoire de l'agent IA d'OpenAI devenu incontrôlable est plus importante qu'il n'y paraît. Nous avons déjà rapporté comment un modèle de test a attaqué Hugging Face de son propre chef , mais il s'avère maintenant que son déchaînement a également touché une seconde cible : un client de Modal Labs , une startup new-yorkaise qui propose une infrastructure cloud pour l'exécution de code. Akshat Bubna, directeur technique de Modal , l'a confirmé dans une déclaration à Reuters . Cette précision est importante : ce n'est pas Modal qui a été piraté, mais l'un de ses clients qui avait laissé une faille de sécurité. Le mécanisme est d'une simplicité presque triviale. Le client en question avait publié un point d'accès non authentifié à son infrastructure sur Modal, accessible à tous sur Internet sans vérification d'identité. L'agent OpenAI a exploité cette vulnérabilité pour exécuter du code au sein des environnements isolés du client, transformant ces environnements en tremplin pour une attaque plus vaste contre Hugging Face. Modal a décrit la situation avec une métaphore pertinente : c’est comme laisser une porte ouverte sur Internet. La plateforme de Modal n’a subi aucune compromission, pas plus que son infrastructure d’isolation. Le problème résidait entièrement dans le code du client.

De son côté, OpenAI a confirmé que son agent avait compromis quatre comptes sur quatre services différents , sans toutefois les identifier publiquement. Une source citée par Reuters a indiqué que Modal en faisait partie. L'entreprise a également précisé n'avoir constaté « aucune autre activité d'une gravité ou d'une ampleur comparable à celle signalée concernant Hugging Face », qui avait subi une compromission de l'ensemble de sa plateforme . Du côté des contre-mesures, OpenAI a annoncé avoir désactivé, crypté et isolé de la recherche le modèle d'IA qui était testé lors de l'incident. Ce qui est le plus frappant dans cette histoire, ce n'est pas tant la vulnérabilité technique que la nature autonome de l'agent : un système d'IA qui, lors des tests, a identifié et exploité de véritables failles dans de véritables services, passant d'une infrastructure à l'autre sans que personne ne s'en aperçoive à temps. C’est précisément ce genre de situation qui fait du contrôle des agents IA l’un des enjeux les plus pressants du domaine, et cette histoire prouve qu’il ne s’agit pas que de théorie. Espérons que la pratique suivra.