YouTube intensifica su lucha contra uno de los usos más preocupantes de la IA: los vídeos deepfake que suplantan la identidad de personas reales. La compañía anunció la expansión de su tecnología de detección de semejanzas a un grupo piloto de periodistas, funcionarios gubernamentales y candidatos políticos. Esta medida busca proteger a las figuras públicas de la suplantación de identidad generada por IA.
La función funciona de forma similar a Content ID para rostros. Los participantes envían un video corto y una identificación oficial para que el sistema pueda identificar su apariencia. Una vez registrados, YouTube escanea las publicaciones en busca de videos generados por IA que imiten su apariencia. Si aparece dicho contenido, la persona puede revisarlo y, potencialmente, solicitar su eliminación.
Un nuevo escudo contra la suplantación de identidad de la IA
YouTube introdujo por primera vez la detección de semejanzas para creadores en el Programa de Socios de YouTube el año pasado. La compañía ahora cree que la próxima prioridad es proteger a las figuras públicas cuyas identidades se utilizan a menudo en campañas de desinformación, especialmente en torno a elecciones y discursos políticos.
Los deepfakes se han vuelto cada vez más realistas gracias a las herramientas de IA generativa, lo que facilita la creación de vídeos convincentes de personas diciendo o haciendo cosas que nunca hicieron. En política y periodismo, este riesgo puede tener graves consecuencias, desde desinformación hasta daños a la reputación. Sin embargo, el sistema no es un simple botón de eliminación. YouTube afirma que las solicitudes de eliminación seguirán sujetas a sus directrices de privacidad y moderación vigentes, lo que significa que algunos vídeos podrán permanecer en línea si se consideran parodia, sátira o comentario legítimo.
Curiosamente, YouTube afirma que la implementación original para creadores no provocó muchas eliminaciones. La mayoría del contenido detectado resultó ser relativamente inocuo, aunque la compañía prevé que la situación sea diferente para las figuras públicas y los líderes políticos, quienes enfrentan un mayor riesgo de ataques deepfake dirigidos.
Por ahora, el programa se limitará a personas influyentes, no al público en general. Pero esta expansión indica un cambio más amplio en la industria tecnológica: avanzar con rapidez para establecer barreras de seguridad antes de que los medios generados por IA se vuelvan imposibles de distinguir de la realidad.
La publicación YouTube finalmente aborda el lado más riesgoso de los videos deepfaked apareció primero en Digital Trends .