Detectar una imagen generada por IA es cada vez más difícil. OpenAI quiere cambiar eso y, para lograrlo, se ha asociado con Google .
OpenAI ha anunciado una importante actualización sobre cómo gestiona la procedencia del contenido, que es simplemente una forma elegante de decir cómo se puede saber de dónde proviene una imagen y si fue generada por inteligencia artificial.
La actualización consta de tres partes clave: conformidad con la C2PA, una nueva colaboración con Google para la aplicación de marcas de agua y una herramienta pública que puedes utilizar para verificar las imágenes tú mismo.
¿Qué es lo que realmente está cambiando?
Desde 2024, OpenAI añade metadatos, denominados Credenciales de Contenido, a las imágenes generadas por sus herramientas. Estos metadatos están integrados en todas las imágenes generadas e indican cómo se crearon. La empresa se ha convertido en un Generador Conforme a la C2PA, lo que significa que otras plataformas pueden leer y encontrar esta información de forma fiable cuando se encuentran con contenido generado por OpenAI.
La noticia más importante es la colaboración con Google. OpenAI ahora incorpora la marca de agua SynthID de Google DeepMind a las imágenes generadas mediante ChatGPT y la API de OpenAI. A diferencia de los metadatos, que se pueden eliminar al hacer una captura de pantalla o volver a subir una imagen, SynthID inserta una marca de agua invisible directamente en la imagen. Está diseñada para resistir las transformaciones que normalmente borran la detección basada en metadatos.
Los dos sistemas funcionan conjuntamente. Los metadatos contienen información detallada sobre el origen de la imagen, mientras que la marca de agua actúa como respaldo en caso de que los metadatos no se conserven.
¿Cómo se puede comprobar si una imagen ha sido generada por IA?
OpenAI está presentando una herramienta de verificación pública en openai.com/verify. Puedes subir una imagen y la herramienta comprobará si contiene las marcas de agua Content Credentials y SynthID para determinar si se generó con las herramientas de OpenAI.
Una advertencia importante: si la herramienta no encuentra marca de agua ni metadatos, no podrá afirmar con certeza que la imagen no ha sido generada por IA. Esto se debe a que la marca de agua y los metadatos aún pueden ser falsificados.
Además, no todas las empresas de IA generativa se han asociado con Google para incluir SynthID en sus imágenes. A menos que SynthID o alguna herramienta similar sea adoptada universalmente por todos los modelos de IA generativa , ninguna herramienta de verificación puede garantizar al 100 % que una imagen no haya sido generada por IA.
Aun así, es un paso en la dirección correcta. Las imágenes generadas por IA se han convertido en un caos y se utilizan ampliamente con fines maliciosos. Se necesita urgentemente un sistema para reconocerlas, y me alegra que Google y OpenAI estén allanando el camino para ello.