YouTube teste une nouvelle solution susceptible d'avoir un impact significatif sur la visibilité des vidéos et les revenus des créateurs. Certains utilisateurs reçoivent désormais des messages leur demandant d'évaluer leur contenu en vue de son utilisation par l'intelligence artificielle (IA). Ce nouveau mécanisme vise à aider à identifier les contenus considérés comme « déchets générés par l'IA ». Concrètement, cela signifie impliquer les spectateurs dans le processus de modération, qui jusqu'à présent reposait principalement sur des algorithmes et des équipes de modération. Le système testé se présente sous forme de fenêtres contextuelles. Il est demandé aux utilisateurs si le contenu qu'ils visionnent semble être une production d'IA de faible qualité. Les réponses vont de « aucun problème » à « signes évidents de mauvaise qualité ». Cette approche pourrait introduire un nouveau facteur dans le classement des vidéos. Les évaluations des spectateurs pourraient déterminer si un contenu est restreint, démonétisé ou moins mis en avant dans les recommandations.

YouTube autorise depuis longtemps l'utilisation d'outils basés sur l'IA. Les créateurs peuvent ainsi utiliser des moteurs vocaux, d'image et de montage pour créer du contenu sans recourir aux processus de production traditionnels. Ces derniers mois, le nombre de ces vidéos a explosé. Nombre d'entre elles sont créées sans contrôle qualité et diffusées à grande échelle. Des études montrent qu'une part importante des contenus courts diffusés sur la plateforme est répétitive ou trompeuse. Cela exerce une pression croissante pour la mise en place de nouvelles méthodes de filtrage. Le système actuel repose sur l'analyse automatisée et la modération humaine. Ces deux approches présentent des limites et sont incapables de faire face à l'ampleur croissante du problème. Il devient de plus en plus difficile de distinguer les contenus générés par l'IA de ceux générés par l'humain, notamment les formes plus sophistiquées comme les deepfakes. Dans ce contexte, l'implication des utilisateurs devrait accroître l'efficacité de la détection des matériaux de faible qualité.

Cette nouvelle approche suscite des interrogations. Les critiques soulignent le risque de subjectivité et les possibilités d'abus. Les spectateurs pourraient être motivés par la sympathie pour le créateur ou, à l'inverse, chercher à nuire aux chaînes concurrentes. La compétence des utilisateurs est également un sujet de préoccupation. Tout le monde n'est pas capable de reconnaître un contenu généré par une IA sophistiquée, dont la crédibilité ne cesse de croître. Certains observateurs pensent que ce test a un autre objectif : la collecte des évaluations des utilisateurs pourrait fournir une quantité considérable de données d’entraînement pour les systèmes d’IA. Ces informations peuvent servir à développer des modèles génératifs et des outils de détection de contenu. Cela soulève la question de savoir si les utilisateurs deviennent, à leur insu, des participants au processus d'apprentissage des algorithmes.