YouTube s'efforce depuis des années de se forger une image de plateforme sûre pour les jeunes utilisateurs, mais le sujet continue de susciter la controverse. Cette fois-ci, il s'agit de la quantité croissante de contenus créés grâce à l'intelligence artificielle et destinés aux enfants. L'impact négatif que ce type de contenu peut avoir sur les jeunes spectateurs est de plus en plus préoccupant. Le problème a pris de l'ampleur après qu'un large groupe d'experts en développement de l'enfant a contacté directement la direction de Google et de YouTube. La lettre, signée par des centaines d'experts, d'organisations et d'établissements d'enseignement, demandait des restrictions, voire la suppression pure et simple, de certains contenus générés par l'IA dans les recommandations destinées aux enfants. Le principal problème soulevé par les auteurs de la lettre ne réside pas seulement dans la qualité de ces films. Ils font remarquer que nombre d'entre eux sont produits en masse et conçus pour attirer l'attention plutôt que pour transmettre un message pertinent. Ces productions sont souvent très simplistes, répétitives et visent uniquement à capter l'attention du spectateur. D'après les experts, cela peut avoir un impact sur le développement des enfants, notamment sur leur concentration et leur capacité à rester attentifs pendant de longues périodes. On craint également que les jeunes enfants aient des difficultés à distinguer le réel du virtuel généré par des algorithmes.

La lettre abordait également la question du temps passé devant les écrans. Les experts estiment que ce type de contenu peut inciter les enfants à privilégier les appareils électroniques au détriment des activités du monde réel. Il a été constaté que le problème pouvait toucher même les très jeunes enfants qui, selon de nombreuses recommandations, ne devraient pas être exposés aux écrans. Les auteurs de la lettre estiment que la situation actuelle s'apparente à une sorte d'expérience dont les effets sont encore mal connus. La plateforme réfute ces allégations et affirme prendre des mesures pour limiter l'ampleur du phénomène. Concernant YouTube Kids, l'accès aux contenus générés par l'IA sera limité aux chaînes vérifiées, et les créateurs seront tenus de signaler l'utilisation de tels outils. L'entreprise souligne également que ses systèmes s'efforcent de détecter et de limiter les contenus de faible qualité produits en masse. Toutefois, certains experts estiment que cela reste insuffisant et que des mesures plus décisives sont nécessaires.

La situation se complexifie lorsqu'on examine les activités de Google. L'entreprise investit dans des projets liés à la création d'animations par intelligence artificielle, ce qui pourrait indiquer qu'elle considère ce domaine comme l'avenir du divertissement pour enfants. Pour les critiques, cela signifie que le développement de tels contenus pourrait s'accélérer encore davantage et que le problème ne fera que s'aggraver. D'un côté, on observe des déclarations de contrôle de la qualité, et de l'autre, des investissements dans le développement de technologies qui alimentent cette situation. Le débat autour des contenus destinés aux enfants intervient à un moment où Google et d'autres géants de la tech sont de plus en plus scrutés quant à leur impact sur les jeunes utilisateurs. On observe une discussion croissante sur la dépendance aux réseaux sociaux et le rôle de ces plateformes dans la formation des comportements. Concrètement, cela signifie que la question des contenus générés par l'IA pourrait devenir de plus en plus importante dans un avenir proche. Il est également possible que de nouvelles réglementations ou directives définissent les contenus accessibles aux enfants.