Sam Altman quiere que ChatGPT sea más atrevido. OpenAI planea lanzar un "modo para adultos" que permitirá a los usuarios tener conversaciones de texto explícitas con el chatbot . Suena bastante sencillo, pero el lanzamiento no ha sido nada fácil.
En octubre, Altman publicó en X que la función se lanzaría en diciembre. Sin embargo, el lanzamiento se retrasó después de que OpenAI declarara que la empresa estaba teniendo problemas con la verificación de edad.
Un nuevo informe del WSJ afirma que esto podría ser solo una parte de la historia. Cuando Sam Altman hizo el anuncio, no se lo había comunicado a su propio equipo. El anuncio tomó por sorpresa tanto a los empleados como a los ejecutivos de OpenAI, y el lanzamiento prometido para diciembre se frustró rápidamente.
¿Está ChatGPT realmente preparado para esto?
OpenAI creó un consejo asesor de psicólogos y neurocientíficos para orientar el desarrollo responsable de la IA. Cuando el consejo descubrió que la empresa seguía adelante con el modo para adultos a pesar de sus objeciones, no les hizo ninguna gracia.
Su mayor preocupación era la excesiva dependencia emocional del chatbot. Un miembro del consejo mencionó casos en los que usuarios se habían suicidado tras establecer vínculos intensos con la IA y advirtió que OpenAI corría el riesgo de crear un "entrenador de suicidios atractivo". Es una frase que nadie espera oír, pero aquí estamos.
También existe un problema más práctico. El sistema de verificación de edad que OpenAI creó para evitar que los menores accedieran a contenido para adultos los clasificaba erróneamente como adultos en aproximadamente el 12 % de los casos. Con cerca de 100 millones de usuarios menores de 18 años cada semana, esto significa que potencialmente millones de niños se escapan del control cada semana.
¿Qué sucede ahora?
OpenAI ha retrasado el lanzamiento sin confirmar una nueva fecha, alegando que necesita más tiempo para perfeccionar la experiencia. Cuando finalmente se lance, la compañía planea limitar el modo para adultos al texto, sin imágenes eróticas, voz ni generación de vídeo.
La compañía también afirmó que entrena a sus modelos para disuadir a los usuarios de establecer relaciones exclusivas con el chatbot y recordarles que deberían cultivar relaciones en el mundo real. Queda por ver si esto será suficiente para acallar el creciente coro de críticos internos y externos.
Personalmente, quiero que los modelos de IA se mantengan lo más alejados posible de la generación de contenido erótico hasta que existan medidas de seguridad efectivas. Ya vimos el caos que provocó Grok al permitir a los usuarios desnudar a cualquier persona . No queremos que se repita algo similar o peor.
El artículo titulado "El próximo modo de chat erótico de ChatGPT corre el riesgo de exponer a millones de niños a contenido para adultos" apareció primero en Digital Trends .