Una nueva investigación de The New York Times revela la rapidez con la que YouTube inunda sus feeds con vídeos extraños generados por IA, dirigidos a los más jóvenes. Tras un solo vídeo de CoComelon, más del 40 % de los cortos recomendados en una sesión de 15 minutos contenían imágenes sintéticas.
El algoritmo promueve contenido de canales que afirman enseñar a los niños pequeños sobre el alfabeto y los animales. Pero los clips en sí mismos suelen ser absurdos, con caras deformadas, partes del cuerpo extra y texto ilegible. Ninguno dura más de 30 segundos.
Los expertos afirman que el formato no deja espacio para la repetición ni la estructura narrativa, ambas esenciales para el aprendizaje de los niños pequeños a través de los medios. Sin embargo, los videos acumulan millones de visualizaciones.
Los creadores, muchos de ellos operando de forma anónima, han convertido las herramientas de IA en una fuente de ingresos fiable. La barrera es baja, la rentabilidad es alta y el feed no para de inundarse.
El algoritmo prioriza la cantidad sobre la calidad
Los reporteros realizaron el análisis durante varias semanas, viendo canales populares como CoComelon y Ms. Rachel desde un navegador privado. Luego, revisaron los cortos recomendados de YouTube en intervalos de 15 minutos para ver qué aparecía.
En una sesión posterior a un video de "Wheels on the Bus", más del 40 % de las recomendaciones mostraron indicios de generación de IA . Algunos clips llevaban la etiqueta de "contenido alterado o sintético" de YouTube. Otros requirieron un detector de IA para su confirmación, ya que las imágenes eran lo suficientemente fluidas como para evitar la detección casual.
Los mismos videos y canales aparecieron repetidamente en varias sesiones. Esto sugiere que el algoritmo promueve activamente este contenido en lugar de filtrarlo. Muchas cuentas producen estos clips varias veces al día, optimizados para obtener el máximo de visualizaciones con el mínimo esfuerzo.
Dentro de la economía creadora que alimenta el feed
Muchas de las cuentas de YouTube que producen contenido infantil generado por IA operan de forma anónima. No incluyen información de contacto y ofrecen pocos detalles identificables sobre quién las gestiona. La barrera de entrada es notablemente baja.
Los creadores se autodidactas utilizan herramientas fáciles de conseguir, como Whisk y Runway de Google, a menudo siguiendo tutoriales en línea. Algunos canales se presentan como educativos, con animales animados y canciones para cantar, diseñadas para atraer a padres que buscan contenido educativo para niños pequeños.
El incentivo financiero impulsa una producción rápida. Un video de Halloween con animales espeluznantes acumuló más de 370 millones de visualizaciones. Las cuentas publican múltiples videos al día, optimizados para alcanzar el máximo alcance con el mínimo esfuerzo. La fórmula funciona: capta la atención rápidamente, sé breve y deja que el algoritmo se encargue de la distribución.
YouTube reacciona, pero los padres se quedan vigilando la transmisión
Después de que el Times compartiera ejemplos con YouTube y solicitara comentarios, la plataforma suspendió los cinco canales citados de su Programa de Socios. Estas cuentas ya no pueden generar ingresos publicitarios ni aparecer en YouTube Kids. La compañía también eliminó tres videos hiperrealistas de la aplicación infantil y un clip por infringir las políticas de seguridad infantil.
Pero la respuesta fue reactiva, no proactiva. YouTube exige a los creadores que divulguen contenido realista generado por IA, pero esa norma no aplica a los videos animados para niños. Por lo tanto, la responsabilidad recae en los padres, una tarea que incluso los expertos consideran abrumadora a medida que las herramientas mejoran.
Algunas familias ahora crean sus propias listas de reproducción con contenido verificado o eliminan la aplicación por completo. La Academia Americana de Pediatría aconseja a los padres evitar el contenido generado por IA o altamente sensacionalista. Detectarlo sigue siendo la parte difícil.
Una investigación descubre que YouTube ofrece una basura de inteligencia artificial sin sentido a niños pequeños y preescolares apareció primero en Digital Trends .