Este juego de ciencia ficción predijo nuestro panorama actual de IA hace cuatro años
Como muchos otros, actualmente estoy fascinado, y un poco aterrorizado, por los rápidos avances en IA . Si bien parece que la tecnología podría usarse para bien, varias aplicaciones me dejan preocupado. Los sitios web han reemplazado a los escritores humanos con robots propensos a errores, Hollywood se niega a proteger su talento creativo de la tecnología y los juegos generados por IA como Sumner han levantado banderas rojas sobre el plagio de bots. Aunque lo que más me preocupa en los últimos meses es la existencia de la terapia de IA.
Actualmente hay un puñado de servicios disponibles que automatizan la terapia de alguna manera. Woebot es un "agente conversacional automatizado" que se está posicionando como una herramienta de salud mental personal. Los usuarios pueden registrarse todos los días para tener conversaciones breves con un chatbot que les enviará consejos y videos de bienestar. Wysa , por otro lado, empareja a los usuarios con un profesional de la salud mental humana y un entrenador de inteligencia artificial que los ayuda a superar sus emociones. Teniendo en cuenta cuánto se basa la terapia tradicional en la conexión con una persona real, la idea de automatizarla parece una receta para el desastre.
Hay una razón por la que todo esto me intriga especialmente. Eso se debe a una pequeña novela visual llamada Eliza . Lanzada en 2019, la joya independiente predijo silenciosamente el inquietante movimiento de AI hacia el espacio de la salud mental. Es una excelente historia de advertencia sobre las complejidades de la automatización de la conexión humana, una de la que los empresarios tecnológicos podrían aprender mucho.
Bienvenido a Elisa
Ambientada en Seattle, Eliza sigue a un personaje llamado Evelyn Ishino-Aubrey que comienza a trabajar en una nueva empresa tecnológica creada por una megacorporación ficticia similar a Apple llamada Skandha. La empresa ha creado una aplicación de asesoramiento virtual, llamada Eliza, que ofrece sesiones de terapia guiadas por IA a los usuarios a un precio relativamente asequible.
Sin embargo, Eliza no es solo un chatbot sin rostro. Para conservar el elemento humano de la terapia cara a cara, la aplicación emplea representantes humanos que se sientan con los clientes en persona y leen las respuestas generadas por el bot en tiempo real. Skandha afirma que su metodología se reduce a una ciencia, por lo que los representantes tienen prohibido desviarse del guión de ninguna manera. Simplemente están ahí para agregar una cara tangible a los consejos que escupe la máquina.
El juego resiste la tentación de presentar esa idea como un concepto distópico exagerado. En cambio, opta por un tono basado en el realismo, no muy diferente al de Her de Spike Jonze . Eso le permite hacer algunas preguntas serias y matizadas sobre la automatización de las interacciones humanas que se adelantaron a su tiempo. La historia de cinco horas pregunta si una aplicación de inteligencia artificial como esa es un beneficio neto, haciendo que algo tan costoso como la terapia sea más accesible, o simplemente una decisión comercial explotadora de una gran tecnología que intercambia la interacción humana por ganancias fáciles.
Los jugadores exploran esas preguntas a través de los sistemas de novelas visuales de Eliza . La interacción es mínima aquí, ya que los jugadores simplemente eligen opciones de diálogo para Evelyn. Sin embargo, eso tiene un gran impacto en sus sesiones. A lo largo de la historia, Evelyn se encuentra con un puñado de clientes recurrentes suscritos al servicio. Algunos simplemente están ahí para monólogo sobre el drama de bajo riesgo en su vida, pero otros vienen al servicio con problemas más serios. No importa la gravedad de la situación individual de uno, Eliza escupe el mismo guión plano para que Evelyn lo lea, haciendo algunas preguntas que se repiten a lo largo de las sesiones y prescribiendo ejercicios de respiración y medicamentos.
Cuanto más invierte Evelyn en la vida de sus clientes, más comienza a ver los límites de la tecnología. Algunos de los consejos de Eliza no son una solución única para todos los problemas, y los clientes más problemáticos comienzan a suplicar ayuda real de un ser humano real. Los jugadores tienen la opción de salirse del guión y dejar que Evelyn tome el asunto en sus propias manos, un movimiento que tiene serias implicaciones tanto para su trabajo como para el bienestar de sus clientes.
No siempre es la respuesta correcta. Si bien algunos de sus consejos brindan a los clientes la ayuda que necesitan, otros se encuentran en una espiral aún mayor. Sus palabras pueden torcerse de formas que no esperaba, algo contra lo que el algoritmo seguro de Eliza está diseñado para protegerse. ¿Es más seguro apegarse al guión esterilizado o al menos intentar hacer una conexión real? ¿Y la tecnología como esta finalmente daña más de lo que ayuda, o viceversa?
Eliza no responde a esas preguntas, dejando que los jugadores las mastiquen. Es un cuestionamiento reflexivo de la tecnología moderna que solo se vuelve más apremiante dado el surgimiento de servicios como Wysa, que se acercan peligrosamente a la tecnología ficticia del juego. Tanto si eres un partidario de las herramientas de IA como ChatGPT como si estás firmemente en contra de ellas, Eliza te proporcionará una historia de advertencia reflexiva sobre los límites tanto de las máquinas como de los humanos.
Eliza está disponible para PC y Nintendo Switch.