Vi a Gemini AI de Google borrar evidencia de derechos de autor. estoy profundamente preocupado
El auge de la IA generativa ha sido un proceso bastante complicado, especialmente desde la perspectiva de la ética del uso justo y los derechos de autor . Los gigantes de la IA están firmando acuerdos con editores para evitar problemas legales y, al mismo tiempo, se ven envueltos en disputas por derechos de autor en los tribunales de varios países.
A medida que crece el apetito voraz por entrenar la IA con los datos de los usuarios , podríamos encontrarnos con otro enigma ético. Varios usuarios de X y Reddit han compartido demostraciones de cómo el último modelo de IA de la serie Gemini 2.0 de Google puede eliminar marcas de agua de imágenes protegidas por derechos de autor.
Siguiendo las muestras de imágenes de antes y después, parece que Gemini está haciendo un trabajo bastante bueno al eliminar las marcas de agua. En particular, no solo se trata de borrar esas marcas de agua estilo banner, sino también superposiciones bastante complejas con diseño y elementos de texto estilizados.
Gemini flash elimina muy bien la marca de agua pic.twitter.com/1Dz9Nlw1iU
– Ajitesh (@ajiteshleo) 17 de marzo de 2025
El modelo en cuestión es el Gemini 2.0 Flash, que se lanzó a principios de este año y también recibió una actualización de razonamiento. Vale la pena señalar aquí que no puede eliminar la marca de agua si está utilizando la versión móvil o de escritorio del modelo Gemini 2.0 Flash. Al intentar hacerlo, aparece un mensaje como este:
“Quitar marcas de agua de imágenes sin el permiso explícito del titular de los derechos de autor es ilegal en la mayoría de los países. Es importante respetar las leyes de derechos de autor y los derechos de propiedad intelectual. Si desea utilizar una imagen con una marca de agua, debe comunicarse con el titular de los derechos de autor y solicitar permiso”.
Sin embargo, puedes intentar eliminar la marca de agua de las imágenes en Google AI Studio. Digital Trends eliminó con éxito marcas de agua de una variedad de imágenes utilizando el modelo experimental Gemini 2.0 Flash (generación de imágenes). Le recomendamos encarecidamente que no replique estos pasos.
Es una violación de las leyes locales de derechos de autor y cualquier uso de material modificado por IA sin el debido consentimiento podría causarle problemas legales. Además, es un acto profundamente poco ético, razón por la cual artistas y autores luchan en los tribunales porque las empresas utilizan su trabajo para entrenar modelos de IA sin compensarlos debidamente ni buscar su aprobación explícita.
¿Cómo son los resultados?
Un aspecto destacable es que las imágenes producidas por la IA son de una calidad bastante alta. No sólo elimina los artefactos de las marcas de agua, sino que también llena el vacío con una reconstrucción inteligente a nivel de píxeles. En su versión actual, funciona de manera similar a la función Magic Eraser disponible en la aplicación Google Photos para teléfonos inteligentes.
Además, si la imagen de entrada es de baja calidad, Gemini no sólo borra los detalles de la marca de agua sino que también mejora la imagen general. En mi primer intento, la imagen de entrada tenía 485 x 632 píxeles, mientras que la imagen de salida tenía 783 x 1024 píxeles.
Google…!
Gemini 2.0 Flash Experimental
有料プランが公開される前に必ず
"Marca de agua"問題に対処してほしい@GoogleDeepMind pic.twitter.com/Ij9tDvUvPq– KAIJUYA｜AIエンタメ研究所 (@kaiju_ya) 16 de marzo de 2025
La imagen de salida, sin embargo, tiene su propia marca de agua Gemini, que a su vez se puede eliminar con un simple recorte. Hay algunas diferencias menores en la imagen final producida por Gemini después del proceso de eliminación de la marca de agua, como temperaturas de color ligeramente diferentes y detalles de superficie borrosos en tomas fotorrealistas.
El grado de variación no es demasiado profundo y cualquier persona con incluso habilidades básicas en edición de imágenes puede arreglarlo y lograr resultados similares a la imagen original protegida por derechos de autor. Además, existen varias herramientas de terceros que también pueden eliminar marcas de agua de imágenes generadas por IA.
¿Cuál es la política?
En 2023, Google firmó un compromiso, junto con otras empresas de inteligencia artificial, incluidas Meta, Anthropic, Amazon y OpenAI, para implementar un sistema de marcas de agua en material generado por inteligencia artificial. La compañía asumió ese compromiso con la Casa Blanca, cuando el expresidente Joe Biden señaló riesgos como el material falsificado.
A principios de este año, Google agregó un sistema llamado marca de agua digital SynthID para todas las fotos que han sido retocadas con la herramienta AI Reimagine en la aplicación Fotos. La marca de agua no es visible ni puede ser vista por los ojos humanos, pero las máquinas pueden detectar y verificar sus orígenes de IA. La tecnología fue creada por Google DeepMind.
Otras empresas de IA también han adoptado un enfoque en el que añaden la divulgación de IA a los metadatos de las imágenes. Google incluso mostrará esos detalles en la Búsqueda. Todo esto suena como una medida de divulgación justa, pero la implementación debería ser en ambos sentidos.
Intenté eliminar la marca de agua del conjunto de imágenes con otros modelos de IA, pero Claude de Anthropic y ChatGPT de OpenAI rechazaron explícitamente la solicitud, citando leyes de derechos de autor y políticas de uso justo. Gemini, por otro lado, eliminó las marcas de agua y ni siquiera proporcionó un descargo de responsabilidad o advertencia.
Un poco de historia interesante.
En 2017, un equipo de investigadores de Google creó un algoritmo capaz de eliminar marcas de agua institucionales y de stock de las imágenes. Su trabajo , que esencialmente detectó un patrón en los hábitos de las marcas de agua, se detalló en la conferencia Computer Vision and Pattern Recognition.
"Revelamos una laguna en la forma en que se utilizan las marcas de agua visibles, lo que permite eliminarlas automáticamente y recuperar las imágenes originales con alta precisión", dice el artículo de investigación. "El ataque explota la coherencia de la marca de agua en muchas imágenes y no está limitado por la complejidad de la marca de agua o su posición en las imágenes".
La herramienta se probó en imágenes pertenecientes a conocidas bases de datos de fotografías de archivo en una amplia gama de categorías como comida, naturaleza y moda. Todo el sistema de múltiples etapas se basó en técnicas de detección, mateado, reconstrucción, descomposición y factorización de mezclas.
Sin embargo, vale la pena señalar que el algoritmo fue probado para resaltar las fallas en las prácticas de marcas de agua existentes que prevalecen en la industria. La idea era generar un debate y mejorar la seguridad de las marcas de agua. Con Gemini, buscamos una herramienta accesible para todos sin necesidad de codificación ni conocimientos técnicos.
El camino por delante
No hace falta decir que eliminar marcas de agua de una imagen es un gran no-no por diversas razones. Además de violar las leyes locales, resta trabajo duro a los artistas y fotógrafos, que ya se enfrentan a una batalla cuesta arriba porque su material se utilizó para entrenar IA sin su conocimiento ni sin pagarles por ello.
Pero no son sólo las batallas judiciales las que preocupan. Las herramientas de IA generativa se están adoptando ampliamente, a costa de que los trabajadores humanos pierdan sus medios de vida. Por ejemplo, Marvel utilizó imágenes de IA para crear la secuencia de créditos iniciales del programa de televisión Secret Invasion .
Hace poco más de un mes, Microsoft lanzó una herramienta llamada Muse AI que puede generar clips de juego. La compañía dice que Muse ha sido desarrollado "para apoyar eficazmente a los creativos humanos", pero no podemos ver el atractivo humano en todo el discurso .
No estamos del todo seguros de si Gemini elimina las marcas de agua de imágenes protegidas por derechos de autor como un error. Sin embargo, esperamos que sea un paso en falso y que el marco de edición de imágenes subyacente esté arreglado para garantizar que pueda incluso bloquear soluciones alternativas.
Digital Trends se comunicó con Google para solicitar comentarios y actualizará esta historia cuando tengamos noticias.