Más de 200 organizaciones de derechos de la infancia exigen conjuntamente a YouTube que prohíba completamente la entrada de "contenido basura" generado por IA en plataformas infantiles

TechFlow de Deep Tide, 02 de abril, según informa Fortune: más de 200 organizaciones y expertos de defensa de los derechos de la niñez, incluidos el sindicato de maestros de Estados Unidos y la Association of Consultants (Asociación de Consultores), enviaron una carta conjunta al CEO de YouTube, Neal Mohan, y al CEO de Google, Sundar Pichai, en la que exigen que la plataforma prohíba por completo los “videos basura” de baja calidad generados por IA (AI slop) en YouTube Kids.

La carta conjunta fue impulsada por la organización de defensa de los derechos de la niñez Fairplay. Entre los académicos destacados que también firmaron se encuentra Jonathan Haidt, autor de The Anxious Generation (La generación ansiosa). En la carta se señala que una gran cantidad de contenidos de video producidos en masa por IA saturan la plataforma YouTube Kids. Estos videos tienen costos de producción bajos, el contenido es absurdo o no significa nada, pero los algoritmos están diseñados para seguir atrayendo la atención y “secuestrarla” de los niños. La investigación de Fairplay encontró que los principales canales de basura generada por IA dirigida a niños tienen ingresos anuales superiores a 4,25 millones de dólares, mientras que en los videos de YouTube Kids dirigidos a menores de 8 años, solo aproximadamente el 5% corresponde a contenido de alta calidad.

Rachel Franz, responsable del proyecto Fairplay, afirmó que el contenido generado por IA distorsiona la realidad, provoca confusión y afecta el desarrollo del conocimiento que los niños tienen del mundo. Además, el algoritmo de la plataforma continúa recomendando dicho contenido a usuarios de menor edad, por lo que les resulta prácticamente imposible evitarlo. La alianza planteó varias exigencias de reforma estructural, entre ellas: prohibir por completo el contenido generado por IA en YouTube Kids; marcar explícitamente los videos generados por IA en toda la plataforma; prohibir que los algoritmos recomienden contenido de IA a usuarios menores de 18 años; ofrecer interruptores de contenido de IA para padres con desactivación predeterminada; y detener las inversiones en proyectos de contenido de IA dirigidos a niños (como el estudio de entretenimiento infantil Animaj, apoyado por el Google AI Futures Fund).

Un portavoz de YouTube respondió que la plataforma tiene estándares estrictos para los contenidos de YouTube Kids. Indica que el contenido generado por IA ya se ha limitado a un pequeño número de canales de alta calidad y que están desarrollando una función de etiquetas de IA especializada, pero no proporcionó un calendario concreto de puesta en marcha. El CEO de YouTube, Neal Mohan, ya había incluido previamente “gestionar el contenido basura de IA” como una de las principales prioridades en su carta pública anual.