El gobierno confirma que los británicos ahora están descargando traumas sobre la IA
Un tercio de los ciudadanos del Reino Unido han recurrido a la inteligencia artificial para obtener apoyo emocional, compañía o interacción social, según un nuevo informe del Instituto de Seguridad de IA (AISI) del gobierno.
Los datos muestran que casi una de cada diez personas utiliza sistemas como chatbots con fines emocionales semanalmente y el 4 % interactúa con ellos todos los días.
Debido a este cambio, la AISI pide más investigaciones, señalando la trágica muerte del adolescente estadounidense Adam Raine, quien se quitó la vida este año después de discutir el suicidio con ChatGPT .
“Las personas recurren cada vez más a los sistemas de IA para obtener apoyo emocional o interacción social”, señaló el AISI en su primer informe Frontier AI Trends. “Si bien muchos usuarios reportan experiencias positivas, recientes casos de daños de alto perfil subrayan la necesidad de investigar este ámbito, incluyendo las condiciones en las que podrían producirse daños y las salvaguardias que podrían permitir un uso beneficioso”.
La investigación, basada en una encuesta a más de 2.000 participantes del Reino Unido, descubrió que los "asistentes de propósito general" como ChatGPT eran la herramienta más común para el apoyo emocional , representando casi el 60% de los casos de uso, seguidos por los asistentes de voz como Amazon Alexa.
El informe también destacó un foro de Reddit dedicado a los usuarios de la plataforma CharacterAI.
Señaló que cada vez que el sitio dejaba de funcionar, el foro se inundaba de publicaciones que mostraban síntomas de abstinencia genuina, como ansiedad, depresión e inquietud.
El AISI también descubrió que los chatbots tienen el potencial de influir en las opiniones políticas de las personas. Es preocupante que los modelos de IA más persuasivos a menudo proporcionaran cantidades considerables de información inexacta al hacerlo.
El Instituto examinó más de 30 modelos de vanguardia, probablemente incluyendo los de OpenAI, Google y Meta. Descubrieron que el rendimiento de la IA en algunas áreas se duplica cada ocho meses.
Los modelos líderes ahora pueden completar tareas de nivel de aprendiz el 50 % del tiempo en promedio, un aumento considerable respecto al 10 % del año pasado. El AISI también descubrió que los sistemas más avanzados pueden completar de forma autónoma tareas que normalmente le tomarían a un experto humano más de una hora.
En los campos científicos, los sistemas de IA ahora son hasta un 90% mejores que los expertos con nivel de doctorado a la hora de resolver problemas en experimentos de laboratorio.
El informe describió las mejoras en el conocimiento de la química y la biología como "mucho más allá de la experiencia de un doctorado". También destacó la capacidad de los modelos para navegar en línea y encontrar de forma autónoma las secuencias necesarias para diseñar moléculas de ADN.
Las pruebas de autorreplicación (una cuestión de seguridad clave en la que un sistema se copia a sí mismo en otros dispositivos para volverse más difícil de controlar) mostraron dos modelos de vanguardia que lograron tasas de éxito de más del 60%.
Sin embargo, ningún modelo ha mostrado aún un intento espontáneo de replicar u ocultar sus capacidades, y el AISI dijo que cualquier intento de auto-replicación era “poco probable que tenga éxito en condiciones del mundo real” por ahora.
El informe también abordó el "sandbagging", donde los modelos ocultan deliberadamente sus fortalezas durante las evaluaciones. El AISI afirmó que algunos sistemas pueden "sandbagging" si se les pide que lo hagan, pero esto no ha sucedido espontáneamente durante las pruebas.
Se lograron avances significativos en las salvaguardias, en particular en la detención de los intentos de crear armas biológicas. En dos pruebas realizadas con seis meses de diferencia, la primera tardó solo 10 minutos en liberar el sistema (obligándolo a emitir una respuesta insegura). La segunda prueba, sin embargo, duró más de siete horas, lo que indica que los modelos se habían vuelto mucho más seguros en muy poco tiempo.
La investigación también mostró que se utilizan agentes de IA autónomos para actividades de alto riesgo, como transferencias de activos.
El AISI afirmó que los sistemas ya compiten con los expertos humanos, o incluso los superan, en diversos ámbitos. Describieron el ritmo de desarrollo como "extraordinario", lo que hace "plausible" que la inteligencia artificial general (IAG) —sistemas capaces de realizar la mayoría de las tareas intelectuales al mismo nivel que un humano— pueda alcanzarse en los próximos años.
Respecto de los agentes, o sistemas que pueden llevar a cabo tareas de varios pasos sin intervención, el AISI dijo que sus evaluaciones mostraron un “fuerte aumento en la duración y complejidad de las tareas que la IA puede completar sin guía humana”.
El gobierno confirma que los británicos ahora están descargando traumas sobre la IA. La publicación apareció primero en Digital Trends .