La IA generativa vuelve a desvariar, esta vez en documentos judiciales federales.

Qué sucedió: Pues bien, está empezando a ocurrir. Tribunales de todo el mundo están recibiendo documentos legales de abogados que están llenos de… bueno, mentiras inventadas por IA .

• Estamos hablando de casos judiciales totalmente inventados, citas falsas y referencias que simplemente no existen.
• Un científico de datos y abogado francés llamado Damien Charlotin ha estado investigando este fenómeno. Encontró al menos 490 documentos judiciales en los últimos seis meses que contenían estas "alucinaciones" de IA.
• La mayoría son de Estados Unidos, donde los jueces han estado reprendiendo (e incluso multando) a los abogados por presentar estas tonterías generadas por IA .
• En un caso importante, un abogado de MyPillow presentó un escrito que contenía casi 30 citas falsas. ¡Qué horror!

Por qué esto es un asunto importante: Esto no es solo un problema de abogados; es un gran dilema para todos .

• Todos estamos empezando a utilizar estas herramientas de IA para todo: redactar informes, resumir reuniones, realizar investigaciones.
• El problema es que la IA es increíblemente buena para parecer segura de sí misma, incluso cuando está completamente equivocada. Te da una respuesta que parece plausible, pero que simplemente es… falsa.
• Como dijo Charlotin, “la IA puede ser una gran ventaja, pero también tiene sus inconvenientes”. Incluso personas inteligentes y experimentadas se dejan engañar por ella , y eso supone un riesgo enorme para cualquier empresa que dependa del trabajo generado por IA sin verificarlo dos veces.

¿Por qué debería importarme?: Mire, sea usted profesor, abogado o gerente, la IA se está convirtiendo en parte de su trabajo. Es inevitable. Pero, como advierten los expertos, no puede usar estas herramientas a ciegas.

• Maria Flynn, directora ejecutiva de Jobs for the Future, citada en el informe de AP, lo expresó a la perfección: tratar a la IA como una “asistente, no como un sustituto”.
• Aún así, debes ser la persona que esté al tanto. Debes verificar los hechos, asegurarte de no infringir las leyes de privacidad y, por favor, no subas datos confidenciales de tu empresa.
• Como dijo otro abogado: “La gente da por sentado que algo es correcto porque suena lógico, pero esa suposición puede salirle cara”. Puede costarle su reputación, su trabajo o incluso meterle en problemas legales.

¿Qué sigue?: En resumen, todos necesitamos aprender a usar la IA de forma más inteligente. ¡Rápido!

• Se insta a las empresas a que capaciten a sus equipos sobre este tema: cómo comprobar su funcionamiento, cómo usarlo de forma segura y qué no hacer.
• Se está convirtiendo en una habilidad laboral básica. Como dijo Flynn: «El mayor escollo es no aprender a usar la IA en absoluto». El futuro no se trata de que la IA reemplace a las personas, sino de que las personas sepan usar la IA de forma responsable.