Microsoft está distribuyendo una herramienta de detección de deepfake
Dado que los deepfakes son potencialmente devastadores para la reputación de alguien y muy difíciles de detectar cuando se hacen correctamente, son un problema de seguridad importante. Ahora, Microsoft apunta a ayudar a detener los deepfakes lanzando una herramienta que puede detectarlos.
La amenaza que plantean los deepfakes es tan importante que hizo que Facebook prohibiera todo el contenido deepfake . Sin embargo, el mayor obstáculo es cómo se hacen los deepfakes para que parezcan convincentes; como tal, localizar y confirmar un deepfake es muy difícil.
Como se informó en Microsoft On the Issues , la compañía quiere cambiar eso con su nueva herramienta. Se llama Microsoft Video Authenticator y analiza videos para buscar las "costuras" dejadas por la creación de deepfake. Estas uniones son invisibles para los ojos humanos, pero una computadora puede detectarlas mediante un análisis cuadro por cuadro.
Para evitar que los agentes malintencionados realicen ingeniería inversa en la tecnología, Microsoft Video Authenticator no será un lanzamiento público. En cambio, Microsoft está distribuyendo su sistema a organizaciones políticas y de noticias. De esa manera, esas organizaciones pueden usar la herramienta para separar lo real de lo falso.
Sin embargo, Microsoft ha anunciado una segunda tecnología para identificar deepfakes. La empresa propone un sistema en el que un creador de contenido puede etiquetar sus videos con una "firma" única. Si se edita el video, generará una firma diferente a la original, identificando así un deepfake.
La autora de Deep Fakes and the Infocalypse, Nina Schick, dijo lo siguiente:
El único uso realmente generalizado que hemos visto hasta ahora es en la pornografía no consensuada contra las mujeres.
Pero se espera que los medios sintéticos se vuelvan omnipresentes en unos tres a cinco años, por lo que debemos desarrollar estas herramientas en el futuro.
Sin embargo, a medida que las capacidades de detección mejoren, también lo hará la capacidad de generación; nunca será el caso de que Microsoft pueda lanzar una herramienta que pueda detectar todo tipo de manipulación de video.
Los deepfakes son un problema importante para la credibilidad de los medios, y las empresas necesitan una forma de diferenciar lo que es real de lo que es ficción. Microsoft ha lanzado una herramienta para ayudar a detectar videos editados. Sin embargo, aún está por verse si la herramienta será suficiente o no para mantenerse al día con los desarrolladores de deepfake.
Si no está seguro de qué son los deepfakes y por qué son importantes, definitivamente vale la pena tomarse un tiempo para aprender sobre ellos. Los deepfakes están a punto de convertirse en el equivalente de esta década a las imágenes de "Photoshopping" y pueden causar graves daños si se usan con malicia.