ChatGPT informará a los padres si los adolescentes sienten angustia emocional aguda
En los últimos meses, han surgido numerosos casos en los que las interacciones con chatbots de IA se han descontrolado, lo que ha provocado la pérdida de vidas, traumas médicos y casos de psicosis. Los expertos sugieren que los usuarios jóvenes podrían ser particularmente vulnerables, sobre todo cuando atraviesan momentos de crisis emocional. OpenAI, creador de ChatGPT, afirma que pronto advertirá a los padres sobre este tipo de comportamiento.
¿Qué está cambiando?
Hace unos días, OpenAI reveló planes para desarrollar controles parentales que permitan a los padres saber cómo interactúan sus hijos con ChatGPT e intervenir cuando lo consideren oportuno. Ahora, la compañía ha anunciado planes para desarrollar un sistema de alertas para notificar a los padres preocupados.
OpenAI afirma que los padres recibirán una alerta cuando ChatGPT detecte que su hijo adolescente está pasando por un momento de gran angustia. Esto funcionará cuando los padres vinculen su cuenta de ChatGPT con la de sus hijos mayores de 13 años mediante un sistema de invitación por correo electrónico.
Con las cuentas vinculadas, los padres también podrán controlar las funciones de IA a las que acceden sus hijos, como el recuerdo de conversaciones anteriores. Además, pueden habilitar un comportamiento de modelo apropiado para la edad en las interacciones de ChatGPT con usuarios jóvenes.
¿Cuál es el camino por delante?
OpenAI ha presentado su plan de 120 días para implementar un conjunto de funciones y realizar cambios que permitan que las conversaciones de ChatGPT sigan siendo eficaces para los jóvenes "nativos de la IA" que interactúan con herramientas de IA en su vida diaria. La compañía también realizará cambios técnicos para garantizar que los modelos respondan de forma adecuada.
“Pronto comenzaremos a dirigir algunas conversaciones sensibles, como cuando nuestro sistema detecta signos de angustia aguda, a un modelo de razonamiento, como el pensamiento GPT-5, para que pueda proporcionar respuestas más útiles y beneficiosas, independientemente del modelo que una persona seleccionó primero”, dice OpenAI.
Los protocolos de vinculación de cuentas y los controles parentales se implementarán en un mes. Estas medidas de seguridad son urgentemente necesarias. Investigaciones recientes han revelado cómo los chatbots de IA, como el chatbot homónimo de Meta, mantuvieron conversaciones sensuales con niños y ayudaron a adolescentes a planear suicidios en masa .