Google elimina los resúmenes de salud de IA tras revelarse errores médicos riesgosos
Todos hemos pasado por eso. Sientes un dolor extraño en el costado o recibes un resultado confuso del médico, y lo primero que haces es abrir Google. No buscas un título de medicina; solo quieres una respuesta rápida a "¿estoy bien?". Pero recientemente, Google tuvo que frenar sus resúmenes de búsqueda con IA porque, al parecer, pedir consejo médico a un robot podría ser peligroso.
Google eliminó discretamente de sus resultados de búsqueda una serie de resúmenes de salud generados por IA después de que una investigación revelara que proporcionaban información inexacta y, francamente, alarmante. Todo esto comenzó después de que un informe de The Guardian señalara que estas " Resúmenes de IA " (los recuadros de colores que aparecen al principio de la búsqueda) proporcionaban datos incompletos.
El ejemplo más claro fue el de los análisis de sangre del hígado.
Si le pedías a la IA "rangos normales", simplemente te daba una lista de números. No preguntaba si eras hombre o mujer. No preguntaba por tu edad, etnia ni historial médico. Simplemente daba una cifra fija. Los expertos médicos analizaron esto y básicamente dijeron: "Esto es peligroso".
El problema no es solo que la IA se equivocara , sino que era peligrosamente engañosa. Imaginemos a alguien con una enfermedad hepática en fase inicial consultando los resultados de sus pruebas. La IA le dice que sus cifras están dentro del rango "normal" que extrajo de un sitio web al azar. Esa persona podría pensar: "Bueno, entonces estoy bien" y saltarse una cita de seguimiento. En realidad, una cifra "normal" para una persona de 20 años podría ser una señal de alerta para una de 50. La IA carece de la sutileza necesaria para detectarlo, y esa falta de contexto puede tener graves consecuencias en el mundo real.
La respuesta de Google fue bastante estándar: eliminaron las consultas específicas marcadas e insistieron en que su sistema suele ser útil. Pero aquí está el truco: organizaciones de salud como el British Liver Trust descubrieron que, si simplemente reformulabas la pregunta ligeramente, volvía a aparecer la misma información errónea. Es como un juego de golpear topos digital. Corriges un error y la IA genera uno nuevo cinco segundos después.
La verdadera cuestión aquí es la confianza.
Dado que estos resúmenes de IA se ubican en la parte superior de la página, encima de los enlaces a hospitales o revistas médicas, transmiten una imagen de autoridad. Estamos acostumbrados a confiar en el primer resultado. Cuando Google presenta una respuesta en un pequeño recuadro, nuestro cerebro inconscientemente la trata como la respuesta "correcta". Pero no lo es. Es solo un motor de predicción que intenta adivinar qué palabras vienen a continuación.
Por ahora, esto es una gran llamada de atención. La IA es excelente para resumir un correo electrónico o planificar un itinerario de viaje, pero cuando se trata de tu salud, claramente no está lista para su máximo potencial. Hasta que estos sistemas puedan comprender el contexto, o hasta que Google establezca límites más estrictos, probablemente sea más seguro ignorar al robot y hacer clic en un enlace real de un médico de verdad. La velocidad es buena, pero la precisión es lo único que importa cuando se trata de tu salud.
La publicación Google elimina los resúmenes de salud de IA después de que se expusieran errores médicos riesgosos apareció primero en Digital Trends .