Gigantes tecnológicos como Meta, Google y X están invirtiendo fuertemente en herramientas de IA diseñadas para detectar noticias falsas. Suena alentador, pero según un nuevo estudio de la Universidad de Montreal, estas herramientas presentan serias desventajas que se esconden tras cifras de precisión que parecen impresionantes.
El investigador doctoral Dorsaf Sallami examinó los sistemas de inteligencia artificial para la detección de noticias falsas y descubrió que, en realidad, no verifican nada. Calculan probabilidades basándose en sus datos de entrenamiento. Piénselo menos como un periodista que verifica una noticia y más como un espejo que refleja todo lo que se muestra, incluyendo los mismos sesgos y puntos ciegos.
Según Dorsaf Sallami, un sistema que alcanza una precisión del 95% en un laboratorio todavía puede fallar en el mundo real, y esa brecha constituye un problema grave.
El problema del sesgo del que nadie habla
Más allá de la precisión, Sallami descubrió que muchos de estos sistemas conllevan sesgos arraigados que, en general, pasan desapercibidos. Algunos modelos tienden a señalar a las mujeres como fuentes de desinformación. Otros presentan sesgos contra fuentes no occidentales o reproducen prejuicios políticos.
También existe un problema más profundo con el entrenamiento de estos sistemas. Se basan en etiquetas de organizaciones de verificación de datos, muchas de las cuales carecen de transparencia y algunas son empresas con fines de lucro. Todo el sistema se basa en cimientos inestables.
Si a eso añadimos el auge de herramientas como ChatGPT , que hacen que producir contenido falso sea más fácil que nunca, los sistemas de detección entrenados incluso hace unos meses pueden volverse obsoletos rápidamente.
Un mejor enfoque
La solución de Sallami es Aletheia, una extensión del navegador que explica por qué un contenido puede ser sospechoso, en lugar de simplemente indicar si es verdadero o falso. En las pruebas, alcanzó un 85 % de fiabilidad, superando a muchas herramientas existentes. Lo que la diferencia es su filosofía. En lugar de darte un veredicto y esperar que confíes en él, Aletheia te muestra su eficacia.
Extrae evidencia de fuentes en línea disponibles, la presenta en un lenguaje sencillo y permite a los usuarios tomar la decisión final. Incluso incluye una transmisión en vivo de verificaciones de datos recientes y un foro comunitario donde los usuarios pueden compartir y debatir sus hallazgos. La conclusión es simple: la IA debe facilitar su juicio, no reemplazarlo.
Los detectores de noticias falsas con inteligencia artificial no son tan buenos como crees apareció primero en Digital Trends .