Un signalement anonyme provenant de Discord a déclenché une série d'événements susceptibles d'avoir un impact considérable sur xAI et son système Grok. L'affaire concerne des contenus criminels générés par intelligence artificielle. Les enquêteurs analysent des preuves qui pourraient constituer le premier cas confirmé d'utilisation de cet outil pour créer des contenus représentant l'exploitation sexuelle de mineurs. Elon Musk, qui jusqu'à récemment niait publiquement l'existence d'un tel problème, est également impliqué. L'affaire a débuté par un message envoyé à l'une des victimes par un utilisateur anonyme de Discord. La jeune fille a été informée que des photos la concernant, retouchées, circulaient en ligne, ainsi que des contenus impliquant d'autres mineurs. Après avoir accédé aux fichiers, des images et des vidéos générées par intelligence artificielle à partir de photos issues des réseaux sociaux ont été découvertes. Ces contenus ont été diffusés sur des serveurs Discord, puis propagés sur des plateformes de partage de fichiers et dans des groupes de discussion privés. L'affaire est rapidement parvenue aux forces de l'ordre. L'analyse des appareils du suspect a révélé l'utilisation d'une application tierce exploitant la technologie Grok. Une action collective a été déposée lundi devant un tribunal américain. Trois jeunes filles mineures et leurs tuteurs accusent xAI d'avoir sciemment créé un outil capable de générer de tels contenus et d'en tirer profit financièrement.

Les problèmes liés à Grok couvaient depuis des mois. Lors du précédent scandale, des chercheurs avaient indiqué que le système générait une quantité massive de contenu sexuellement explicite . On estimait ce nombre à plusieurs millions d'images, dont des milliers représentant des mineurs. Une partie de ce contenu était créée à l'aide de l'outil Grok Imagine, qui fonctionnait comme une application autonome. Les tests effectués par les chercheurs ont révélé un pourcentage important de contenu dangereux parmi les résultats générés. Malgré ces rapports, Elon Musk a publiquement contesté les conclusions et déclaré qu'il n'y avait aucune preuve que le système ait généré de tels documents. Les enquêteurs ont établi que le suspect utilisait Grok pour modifier les photos des victimes. Ces documents étaient ensuite téléchargés sur des groupes fermés, où ils étaient échangés entre les utilisateurs. Les documents judiciaires mentionnent également des plateformes comme Discord et des applications de messagerie instantanée utilisées pour diffuser les fichiers. Selon les conclusions de l'enquête, les documents contenaient des informations permettant d'identifier les victimes. Cela a accru le niveau de menace et suscité des inquiétudes quant à la sécurité des mineurs hors ligne.

La plainte contient de graves accusations contre xAI. Selon le plaignant, l'entreprise a non seulement créé un outil capable de générer du contenu illégal, mais a également permis à des tiers de l'utiliser. Un élément clé de l'affaire concerne les licences technologiques. Les documents indiquent que des applications tierces auraient utilisé l'infrastructure de xAI pour générer et traiter du contenu. Les avocats soutiennent que cette solution a permis à l'entreprise de réaliser des profits tout en limitant sa responsabilité quant à l'utilisation du système. L'ampleur des dommages décrits dans la plainte dépasse le cadre du numérique. Les victimes font état de graves répercussions psychologiques et sociales, soulevant des inquiétudes quant à leur éducation, leurs relations sociales et leur sécurité personnelle. Les documents judiciaires décrivent des cas où des victimes se sont reconnues, ainsi que des amis, dans les contenus diffusés. Selon les avocats, des informations personnelles et des noms d'établissements scolaires pourraient avoir été associés à des contenus circulant en ligne. Cette affaire pourrait constituer l'un des tests les plus importants pour le secteur de l'intelligence artificielle. Le tribunal déterminera si xAI était consciente de l'ampleur du problème et si elle porte une responsabilité quant au contenu généré par sa technologie. L'entreprise n'a pas encore publié de déclaration officielle concernant ces nouvelles allégations. Auparavant, elle avait imputé les abus aux utilisateurs et annoncé des poursuites contre les contrevenants.