¿Puede Deepfake engañar al reconocimiento facial? ¡Un nuevo estudio dice que sí!
Los videos deepfakes y generados por IA llegaron para quedarse. Pero en los últimos años, han crecido en calidad y cantidad, haciendo que mucha gente se preocupe por la seguridad nacional y la privacidad personal.
Aún así, no importa cuánto los usuarios anónimos en línea intentaron hacer que sus videos falsos fueran realistas, nunca pudieron pasar del software avanzado de reconocimiento facial. Hasta ahora.
API de reconocimiento facial engañoso
Investigadores de la Universidad Sungkyunkwan en Suwon, Corea del Sur, probaron la calidad de la tecnología deepfake actual . Probaron las API de Amazon y Microsoft utilizando software de generación de video deepfake de código abierto y de uso común para ver qué tan bien funcionan.
Los investigadores utilizaron rostros de celebridades de Hollywood. Para crear deepfakes sólidos, el software necesita muchas imágenes de alta calidad desde diferentes ángulos de las mismas personas, que son mucho más fáciles de adquirir de celebridades en lugar de personas comunes.
Los investigadores también decidieron utilizar la API de Microsoft y Amazon como puntos de referencia para su estudio, ya que ambas compañías ofrecen servicios de reconocimiento facial de celebridades. Utilizaron conjuntos de datos disponibles públicamente y crearon poco más de 8.000 deepfakes. De cada video de deepfake, extrajeron múltiples fotografías y las enviaron a las API en cuestión.
Con Azure Cognitive Services de Microsoft, los investigadores pudieron engañar al sistema el 78 por ciento de las veces usando deepfakes. Los resultados de Amazon fueron ligeramente mejores, con el 68 por ciento de las caras enviadas identificadas como reales.
¿Qué pasa con los detectores Deepfake?
Los detectores de deepfake funcionan más o menos de la misma manera que lo hace el deepfake. Los detectores son software que se entrenó utilizando modelos de aprendizaje automático sobre cómo detectar videos deepfake.
Pero en lugar de centrarse en crear un video hiperrealista para engañar a los detectores, los deepfakes ahora pueden incluir ejemplos de adversarios en cada cuadro para confundir al sistema de inteligencia artificial. De hecho, los ataques deepfake de este tipo tienen tasas de éxito que oscilan entre el 78 y el 99 por ciento .
Se está poniendo peor
Los deepfakes son una aplicación de aprendizaje automático . Para crear uno que sea incluso remotamente convincente, necesita cientos de imágenes del rostro de la misma persona desde diferentes ángulos y mostrando diversas emociones.
Debido a la necesidad de cantidades masivas de datos, uno pensaría que solo las personas con una gran presencia en línea están en riesgo, como las celebridades y los políticos. Pero ese ya no es el caso.
Según Deeptrace, la cantidad de deepfakes en línea aumentó en un 330 por ciento en menos de un año, desde octubre de 2019 hasta junio de 2020. Sin mencionar que el software y los algoritmos que usan los fabricantes de deepfake se están volviendo más fuertes y más disponibles y accesibles.
¿Quién corre el riesgo de sufrir deepfakes?
Cuando las deepfakes se generalizaron por primera vez, las principales preocupaciones eran la privacidad y la seguridad nacional . La gente temía que ya no se pudiera confiar en las imágenes de vídeo de políticos y funcionarios del gobierno.
Pero si bien sería irresponsable ignorar la pose de deepfake del riesgo de seguridad, varias encuestas encontraron que los fabricantes de deepfake no están tan interesados en perturbar la política por el momento. La mayoría de los videos de deepfakes en línea se pueden dividir en dos categorías: videos divertidos de entrevistas a celebridades y películas y material pornográfico.
Si bien el estudio reciente se realizó utilizando caras de celebridades para garantizar que los deepfakes fueran de alta calidad para engañar a las API, eso no significa que no puedas hacer deepfakes con menos datos. Claro, es posible que no tengan la oportunidad de engañar a los sistemas avanzados de reconocimiento facial, pero pueden ser lo suficientemente convincentes como para engañar a otras personas.
Hoy en día, los deepfakes de cualquier persona con presencia social se pueden hacer de forma convincente. Todo lo que necesitan son algunas fotos tuyas y tal vez un video en el que aparezcas. El deepfake resultante puede ser de baja calidad, pero aún es factible y puede ser dañino.
El futuro aún es desconocido
Hay muchas predicciones contradictorias con respecto al estado de los deepfakes, ya que no desaparecerán pronto.
Algunos esperan un futuro cibernético apocalíptico en el que no puedas confiar en ninguna grabación que encuentres en línea. Otros son más optimistas, comparan los deepfakes con la animación y dicen que puede tener futuro en la producción de contenido.