Google acaba de interrumpir la búsqueda

Aranzulla de Los Pobres
Las descripciones generales de IA se muestran en la Búsqueda de Google.
Google

Las descripciones generales de Google AI se anunciaron hace un par de semanas en Google I/O y ya han demostrado ser bastante controvertidas. El objetivo es proporcionar respuestas de alta calidad a sus preguntas resumidas de la web, pero una serie de hilos recientes de X (anteriormente Twitter) muestran cuán grande es el fracaso que ya se ha demostrado.

La respuesta que se volvió viral involucra una receta de pizza muy dudosa. Como se informó, cuando se le pide a Google una respuesta al problema de que "el queso no se pega a la pizza", AI Overview sugiere agregar pegamento no tóxico a la pizza para evitar que el queso se resbale. Las palabras exactas que dio la descripción general de AI son las siguientes: "También puedes agregar aproximadamente 1/8 de taza de pegamento no tóxico a la salsa para darle más pegajosidad". ¿De dónde obtuvo la información como fuente la descripción general de Google AI ? Un comentario de Reddit de 11 años de este hilo , en lo que claramente era una broma.

Las palabras “el queso no se pega a la pizza” generaron esta respuesta inesperada y divertida, e Internet se está divirtiendo con eso. Desde entonces, la respuesta de Google AI Overview se ha vuelto viral, y alguien incluso probó pizza con pegamento solo para dejar claro el punto.

Cabe señalar que hemos visto un aumento masivo en Reddit y las publicaciones en foros que aparecen más arriba en las búsquedas de Google. También vale la pena señalar que Reddit firmó recientemente un acuerdo de 60 millones de dólares para permitir que Google entrene a sus modelos en el contenido de Reddit. No es difícil conectar los puntos sobre cómo pudo haber sucedido esto.

Sin embargo, no es sólo Reddit. Se publicó en línea otra descripción general de la IA con una respuesta a "cuántas piedras debo comer cada día", que extrae información directamente de The Onion.

Parte del problema es la convicción absoluta con la que AI Overviews ofrece sus respuestas. No muestra un enlace a un artículo de Onion y le permite hacer la adjudicación. En cambio, trata cada fuente como si fuera Wikipedia y entrega información con total confianza.

Google afirma que sus descripciones generales de IA brindan a los usuarios información de alta calidad y que este tipo de errores son poco comunes. Aquí está la respuesta oficial proporcionada a Digital Trends por Google: “La gran mayoría de las descripciones generales de IA brindan información de alta calidad, con enlaces para profundizar en la web. Muchos de los ejemplos que hemos visto han sido consultas poco comunes y también hemos visto ejemplos que fueron manipulados o que no pudimos reproducir. Realizamos pruebas exhaustivas antes de lanzar esta nueva experiencia y, al igual que con otras funciones que lanzamos en la Búsqueda, agradecemos los comentarios. Estamos tomando medidas rápidas cuando corresponde según nuestras políticas de contenido y utilizando estos ejemplos para desarrollar mejoras más amplias en nuestros sistemas, algunas de las cuales ya han comenzado a implementarse”.

Parece que algunas de estas descripciones generales de la IA serán difíciles de corregir si no se pueden reproducir. Las “mejoras más amplias” tendrán que ser la solución, y dado que Google dice que ya están en proceso, es de esperar que pronto comencemos a ver algunas búsquedas mejores. Habrá que ver si Google responde a la situación más allá de esa afirmación. Después de recibir comentarios negativos sobre su generación de imágenes en Gemini a principios de este año, Google tuvo que disculparse y eliminarlo para solucionar sus problemas.

Sin embargo, por ahora, ambos son buenos recordatorios de cuán cuidadosos debemos ser cuando confiamos en los motores de inteligencia artificial para obtener información. Google AI Overview comenzó a implementarse para todos en los EE. UU. a principios de este mes y próximamente habrá más países. Pero con respuestas como esta, es posible que haya más personasbuscando una forma de desactivarlo de lo que Google esperaba.