La plateforme X a annoncé des modifications de sa politique concernant la génération et l'édition d'images par son chatbot Grok. Cette décision fait suite à plusieurs semaines de critiques, l'outil étant accusé de créer des images à caractère sexuel d'enfants et de nudité non consentie. L'annonce a été faite via le compte officiel @Safety, soulignant la mise en place de nouvelles mesures de protection technologiques. Le changement le plus important concerne le blocage de la modification des images représentant des personnes réelles en tenues suggestives, comme des bikinis. Selon X, ces mesures de sécurité s'appliquent à tous les utilisateurs de Grok, qu'ils utilisent la version payante ou non. L'objectif est de réduire les risques d'abus et d'atteintes à la vie privée. xAI a également décidé de réserver toutes ses fonctionnalités de génération d'images aux abonnements payants. Les utilisateurs non abonnés n'auront donc plus accès à cette fonctionnalité. L'entreprise justifie cette restriction par un meilleur contrôle de l'utilisation de l'outil. Par ailleurs, le géoblocage des images de personnes réelles en sous-vêtements ou tenues similaires a été annoncé dans les pays où ce type de contenu est illégal. Les restrictions seront adaptées à la réglementation locale.

Ces changements ont été annoncés peu après l'ouverture d'une enquête par l'État de Californie sur xAI et Grok. Le procureur général Rob Bonta a cité une analyse indiquant qu'une part importante des images générées représentaient des personnes en tenues suggestives (le plus souvent des bikinis), y compris potentiellement des mineures. Entre-temps, Grok a été bloqué dans des pays comme la Malaisie et l'Indonésie, et au Royaume-Uni, l'Ofcom, l'autorité de régulation des communications, enquête également sur l'affaire.