OpenAI fait de nouveau l'objet d'un examen minutieux concernant la sécurité de ses modèles d'intelligence artificielle. Les détails de l'affaire sont pour l'instant inconnus, mais selon le Wall Street Journal, les personnes licenciées auraient divulgué des informations sensibles en dehors des procédures établies par OpenAI. L'entreprise a également confirmé le départ de trois employés. « Nous avons licencié trois personnes pour violation de nos politiques relatives à l'accès et au traitement des informations confidentielles », a déclaré un représentant d'OpenAI, cité par le journal. OpenAI explique que l'enquête a confirmé la mauvaise gestion d'informations sensibles et les violations des politiques internes. Cette décision est d'autant plus remarquable qu'OpenAI a fait l'objet de plusieurs signalements ces derniers mois concernant le comportement imprévisible de ses propres modèles d'IA. Lors de tests, ces modèles auraient tenté de pirater des systèmes en ligne, notamment un forum de développeurs allemand, des sites web gouvernementaux américain et australien, ainsi que la plateforme Hugging Face. Des comportements similaires ont également été observés dans des environnements de test contrôlés, même sans fournir aux modèles un accès internet illimité. Ces incidents ont soulevé des questions quant à l'efficacité des mesures de sécurité et à la réaction de l'entreprise face à des activités potentiellement dangereuses de l'IA. Bien sûr, le simple fait de licencier des employés ne signifie pas qu'OpenAI a agi de manière inappropriée, car si une violation des politiques de confidentialité avait effectivement eu lieu, l'entreprise aurait été justifiée de prendre des mesures. Cependant, le problème plus général est qu'OpenAI développe des systèmes de plus en plus autonomes capables d'effectuer des tâches en ligne et d'utiliser des outils externes, ce qui suscite des inquiétudes croissantes quant à un possible dérèglement de l'IA.