YouTube les dice a los creadores que comiencen a etiquetar contenido de IA “realista”

YouTube está tomando medidas para intentar ayudar a los espectadores a comprender mejor si lo que están viendo ha sido creado, total o parcialmente, por IA generativa.

"La IA generativa está transformando la forma en que los creadores se expresan, desde ideas de guiones gráficos hasta experimentar con herramientas que mejoran el proceso creativo", dijo YouTube en un mensaje compartido el lunes. "Pero los espectadores cada vez quieren más transparencia sobre si el contenido que ven está alterado o es sintético".

Parte del esfuerzo para reforzar la confianza en la popular plataforma de streaming incluye el lanzamiento de una nueva herramienta que requiere que los creadores informen a los espectadores cuando aparece contenido de apariencia realista (definido por YouTube como "contenido que un espectador podría confundir fácilmente con una persona, lugar o persona real"). evento”) se realiza con medios alterados o sintéticos, incluida la IA generativa.

YouTube ofreció ejemplos de contenido que los creadores deberían marcar como modificados:

• Usar la imagen de una persona realista: alterar digitalmente el contenido para reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un video.
• Alterar imágenes de eventos o lugares reales: como hacer que parezca como si un edificio real se incendiara o alterar un paisaje urbano real para que parezca diferente de la realidad.
• Generar escenas realistas: mostrar una representación realista de eventos ficticios importantes, como un tornado que avanza hacia una ciudad real.

Si un creador marca el contenido de esa manera, la divulgación se mostrará como una etiqueta. YouTube dijo que para la mayoría de los videos, la etiqueta aparecerá en la descripción ampliada del video, pero para el contenido que involucre temas más delicados (como salud, noticias, elecciones o finanzas) aparecerá en el video mismo para aumentar su prominencia.

YouTube agregó que no exige a los creadores que revelen contenido "que sea claramente poco realista, esté animado, incluya efectos especiales o haya utilizado inteligencia artificial generativa para ayudar en la producción".

Además, la empresa propiedad de Google dice que los creadores no están obligados a resaltar todos los casos en los que se ha utilizado IA generativa en el proceso de producción más amplio. Por ejemplo, no es necesario revelar cuándo se ha utilizado la tecnología para crear guiones, ideas de contenido o subtítulos automáticos.

Las nuevas etiquetas comenzarán a implementarse en todas las plataformas de YouTube en las próximas semanas.

Y una advertencia para los creadores de YouTube que intentan eludir el requisito de resaltar voluntariamente el contenido alterado: YouTube dijo que en el futuro "considerará medidas de cumplimiento para los creadores que constantemente opten por no revelar esta información". Añadió que incluso puede colocar una etiqueta en el contenido en los casos en que un creador no lo haya hecho, "especialmente si el contenido alterado o sintético tiene el potencial de confundir o engañar a las personas".