Los chatbots de IA han facilitado sorprendentemente la conversación sobre cualquier tema , incluso los más complejos. Esta franqueza siempre ha sido un arma de doble filo. OpenAI ahora está dando un paso para solucionar esto con una nueva función que involucra a una persona de confianza cuando la conversación se torna seria.
La empresa está implementando una nueva función llamada Contacto de confianza , que ya está apareciendo en la configuración de ChatGPT para usuarios adultos. Esta función permite a los usuarios designar a una persona que recibirá una alerta si ChatGPT detecta una posible situación de autolesión grave.
¿Cómo funciona Trusted Contact?
Configurar un contacto de confianza es opcional, pero si decides hacerlo, asegúrate de que la persona que designes tenga al menos 18 años (o 19 en Corea del Sur). Una vez que la designes, recibirá una invitación explicando en qué consiste su función y tendrá una semana para aceptarla antes de que la función se active. Si la rechaza, puedes elegir a otra persona.
El sistema de alertas no es automático. Si los sistemas de ChatGPT detectan una conversación como potencialmente preocupante, el chatbot primero informa al usuario que su contacto de confianza podría ser notificado y le sugiere que se comunique directamente con él, ofreciéndole algunas ideas para iniciar la conversación. Un pequeño equipo de revisores humanos especialmente capacitados interviene para evaluar la situación. Solo si confirman un riesgo grave, el contacto recibe una notificación por correo electrónico, mensaje de texto o notificación en la aplicación. La alerta no comparte transcripciones ni detalles de la conversación. Simplemente indica que se mencionó la autolesión de una manera potencialmente preocupante y solicita al contacto que se comunique con él. OpenAI afirma que su objetivo es completar esta revisión humana en menos de una hora.
¿Por qué OpenAI está añadiendo esto ahora?
El contacto de confianza forma parte de un conjunto más amplio de funciones de seguridad en la plataforma. Anteriormente, OpenAI añadió funciones que permiten a los padres recibir alertas cuando una cuenta adolescente vinculada muestra signos de angustia . El contacto de confianza es la extensión de esta misma función para adultos. Según se informa, se desarrolló con la colaboración de profesionales clínicos, investigadores y organizaciones de salud mental, incluida la Asociación Americana de Psicología.
Dicho esto, cabe mencionar que Contacto de confianza no reemplaza las líneas de ayuda en crisis, los servicios de emergencia ni la atención profesional de salud mental. ChatGPT seguirá dirigiendo a los usuarios a estos recursos cuando sea necesario. Los usuarios pueden eliminar o cambiar su Contacto de confianza en cualquier momento, y los contactos pueden eliminarse a sí mismos cuando lo deseen.
La realidad es que ChatGPT se está utilizando para conversaciones muy personales , independientemente de si OpenAI lo había previsto o no. Añadir una función como Contacto de confianza es un paso en la dirección correcta, y también un reconocimiento de que un chatbot tiene sus limitaciones.