Une décision se prépare au Parlement européen qui pourrait bouleverser une partie du marché de l'intelligence artificielle. Les députés européens ont voté pour interdire les applications qui utilisent l'IA pour générer des images de personnes nues sans leur consentement. Cette mesure fait suite à la controverse entourant les outils développés par xAI. Les commissions du marché intérieur et des libertés civiles du Parlement européen ont approuvé à une large majorité les amendements proposés. 101 députés ont voté pour, contre seulement 9. L'amendement concerne la loi sur l'intelligence artificielle et propose d'interdire les systèmes dits « nudificateurs », c'est-à-dire des solutions capables de créer ou de modifier des images représentant des personnes réelles dans des situations intimes. La nouvelle réglementation vise les plateformes qui permettent la génération de tels contenus, même si elles le font à la demande de l'utilisateur. Au cœur du débat se trouvait le chatbot Grok, développé par la société d'Elon Musk. Cet outil a suscité une vague de critiques après la révélation de sa capacité à générer des images à caractère sexuel réalistes mettant en scène de vraies personnes, y compris des mineurs. Contrairement à de nombreux systèmes concurrents, Grok n'a longtemps pas mis en place de filtres restrictifs pour bloquer ce type de contenu. L'entreprise a alors déclaré que la responsabilité incombait aux utilisateurs, et non à la plateforme elle-même. Cette approche a suscité une vive réaction de la part des autorités de réglementation européennes.

La réglementation proposée marque un tournant dans la philosophie réglementaire. Jusqu'à présent, la responsabilité incombait principalement aux utilisateurs publiant des contenus illégaux. La nouvelle approche transfère cette responsabilité aux créateurs et exploitants de systèmes d'IA. L'Union européenne vise à endiguer le phénomène des deepfakes à caractère sexuellement explicite et des contenus créés sans le consentement des personnes y figurant. Les autorités de réglementation soulignent la difficulté d'identifier les auteurs de ces actes et estiment qu'une solution plus efficace consiste à supprimer les outils qui permettent ces abus. Les problématiques juridiques liées aux solutions d'IA explicable ne se limitent pas à l'Europe. Aux États-Unis, des initiatives législatives émergent et pourraient impacter les entreprises développant des technologies similaires. L'une d'elles, le Take It Down Act, impose des amendes importantes aux plateformes diffusant des contenus illégaux à caractère intime. Parallèlement, des poursuites judiciaires sont engagées concernant l'utilisation de l'IA pour créer des contenus sexuellement explicites impliquant des mineurs.

Les législateurs européens soulignent que le développement des outils d'intelligence artificielle a entraîné une forte augmentation des cas de cyberharcèlement par images. La possibilité de générer des contenus impliquant des enfants est particulièrement préoccupante. Les organisations de défense des droits numériques réclament depuis des mois un renforcement de la réglementation, arguant que celle-ci n'a pas suivi le rythme des évolutions technologiques. La nouvelle réglementation vise à combler cette lacune et à couvrir également les applications moins connues disponibles en ligne. Pour Elon Musk et son entreprise, cela représente un défi de taille. Si l'interdiction entre en vigueur, xAI devra modifier le fonctionnement de Grok sur le marché européen. Le non-respect de la nouvelle réglementation pourrait entraîner des amendes pouvant atteindre 7 % du chiffre d'affaires mondial de l'entreprise. Concrètement, cela pourrait impliquer la mise en place de mesures de sécurité renforcées. Pour Musk, il s'agit donc de trouver un compromis entre sa vision d'une IA ouverte et les exigences des autorités de régulation.