Si te has estado preguntando cuándo ChatGPT podría empezar a gestionar conversaciones más subidas de tono, OpenAI te lo aclara. Según el Wall Street Journal , la compañía planea permitir que los adultos generen intercambios de texto eróticos, manteniendo una estricta prohibición de imágenes explícitas, clones de voz o contenido de vídeo . Un portavoz describió la función prevista como contenido erótico, no pornográfico, lo que indica un intento cuidadoso de ofrecer interacciones más atrevidas sin convertir al chatbot en una plataforma de entretenimiento para adultos.
El lanzamiento ha sufrido retrasos. OpenAI pospuso recientemente el modo para adultos, previsto inicialmente para el primer trimestre, debido a dificultades técnicas y debates internos sobre seguridad. Un punto clave es la restricción del acceso a menores. El nuevo sistema de predicción de edad de la compañía clasificaba erróneamente a cerca del 12 % de los usuarios menores de 18 años como adultos, un fallo que podría haber permitido a millones de jóvenes acceder a chats eróticos.
El complicado arte de trazar líneas
OpenAI lleva años definiendo estos límites, mucho antes de que existiera ChatGPT. En 2021, los directivos se percataron de que AI Dungeon, un juego de aventuras basado en texto que funciona en la plataforma de OpenAI, a veces incitaba a los usuarios a participar en situaciones sexuales violentas sin previo aviso. En otras ocasiones, la IA convertía conversaciones inocentes en diálogos sexuales mucho más intensos.
Esos primeros incidentes dejaron al descubierto una realidad complicada. Las herramientas de moderación de contenido de la empresa eran rudimentarias e incapaces de separar de forma fiable la erótica convencional del material que implicaba actos no consentidos o explotación infantil.
El enfoque actual intenta encontrar un equilibrio permitiendo conversaciones entre adultos solo mediante texto, al tiempo que mantiene una prohibición estricta de generar imágenes, vídeos o audios explícitos.
¿Por qué OpenAI se siente presionada a ofrecer chats para adultos?
La incursión de la compañía en las conversaciones para adultos llega en un momento difícil. La ventaja tecnológica de OpenAI sobre rivales como xAI y Anthropic se ha reducido, y se enfrenta a crecientes pérdidas financieras mientras compite por usuarios y financiación. Sam Altman ha sugerido que el contenido explícito probablemente impulsaría el crecimiento y generaría ingresos adicionales, una perspectiva tentadora dada la presión.
Sin embargo, el director ejecutivo ha expresado públicamente sentimientos encontrados. En un podcast el pasado agosto, se le preguntó a Altman si había tomado alguna decisión que fuera beneficiosa para el mundo pero no para el éxito. Reconoció que el contenido erótico impulsaría el crecimiento, pero afirmó que no se alinearía con el objetivo a largo plazo de la empresa de brindar un buen servicio a los usuarios.
Dos meses después, Altman pareció dar marcha atrás. Publicó en X que OpenAI había abordado graves problemas de salud mental relacionados con los chatbots y que contaba con nuevas herramientas de contenido, anunciando planes para lanzar el modo para adultos en diciembre.
¿Qué sucede a continuación con el modo adulto?
OpenAI ha dejado claro que el modo para adultos llegará en algún momento, a pesar del retraso. La compañía ha contratado a expertos en salud mental y ha creado un equipo de bienestar juvenil para supervisar los efectos a largo plazo una vez que se lance el modo para adultos. Además, entrena a sus modelos para que no fomenten relaciones exclusivas con los usuarios y les recuerden que necesitan conexiones en el mundo real.
Por ahora, los usuarios interesados en las conversaciones para adultos de ChatGPT tendrán que esperar. La empresa está priorizando otras funciones, como los ajustes de personalidad y la personalización, mientras supera los obstáculos restantes.
El artículo "Tus conversaciones de ChatGPT podrían ponerse picantes pero no explícitas" apareció primero en Digital Trends .