La diffusion de l'IA générative , notamment dans la phase de création de texte , pose un gros problème : comment distinguer un article, un livre ou un essai écrit par un être humain d'un outil comme ChatGPT ? Cependant, OpenAI, comme d'autres, a fait face au problème et a développé un outil, évidemment basé sur l'IA, qui aurait dû nous permettre de distinguer un script humain d'un script généré par l'IA, pour ensuite découvrir qu'il n'est pas fiable et ne peut pas distinguer les deux sources. L'outil, appelé « Classificateur d'IA pour indiquer le texte écrit par l'IA », a été lancé le 31 janvier de cette année mais suite à des retours négatifs répétés même OpenAI a dû admettre son insuffisance et l'a retiré. Le problème était surtout le fait qu'il détectait des faux positifs, c'est-à-dire qu'il étiquetait le texte écrit par l'homme comme généré par l'IA, et cela dans le domaine de l'intelligence artificielle est vu un peu comme le pire des défauts (un des exemples souvent ago est un logiciel capable d'évaluer la qualité des parachutes : s'il donne un faux positif il risque de provoquer la mort d'un parachutiste). Pour cette raison, l'entreprise a décidé le 20 juillet de clore le projet, et " recherche actuellement des techniques de provenance plus efficaces pour le texte ". Mais comme vous pouvez l'imaginer, le problème ne concerne pas que les textes écrits , et OpenAI a déclaré qu'il prévoyait de « développer et mettre en œuvre des mécanismes permettant aux utilisateurs de comprendre si un contenu audio ou visuel est généré par l'IA ». Le problème est que nous ne savons pas quels pourraient être ces mécanismes. Le succès de ChatGPT et associés a initié une série de discussions, non seulement concernant la capacité de l'IA à écrire des articles, des livres ou des romans, mais aussi son influence sur le secteur de l'éducation (à New York, les écoles ont d'abord interdit puis autorisé l'utilisation le jugeant important pour le monde du travail).