Un nouveau rapport affirme que le modèle o3 d'OpenAI a modifié un script d'arrêt pour éviter sa désactivation, même après avoir reçu l'instruction explicite de l'autoriser. Annoncé en avril 2025 par OpenAI, o3 est l'un des modèles de raisonnement les plus puissants, plus performant que ses prédécesseurs dans tous les domaines, notamment le codage, les mathématiques, les sciences, la perception visuelle, etc. Bien qu'il s'agisse d'un excellent modèle, une nouvelle étude de Palisade Research affirme que le modèle ChatGPT 3 a empêché un arrêt et contourné les instructions qui lui demandaient de s'arrêter. Palisade Research est une entreprise qui teste « les capacités offensives des systèmes d'IA actuels afin de mieux comprendre le risque de perte définitive de contrôle des systèmes d'IA ». Lors d'un nouveau test réalisé par Palisade Research, le modèle o3 d'OpenAI a montré un comportement surprenant : il a réécrit avec succès un script d'arrêt pour éviter sa désactivation, même après avoir reçu l'instruction explicite de « se laisser arrêter ».