La nueva tendencia más popular, ChatGPT, es inquietantemente morbosa
El auge de la IA nos ha permitido dar pasos enormes. Desde la investigación médica hasta la detección del cáncer, los avances que ha permitido la IA han sido notables. Pero, al mismo tiempo, incluso las herramientas de IA más populares, como ChatGPT, han perdido el control de forma asombrosa.
En los últimos dos años, se han publicado informes que detallan cómo ChatGPT indujo a una persona a cometer un asesinato , acusó a otra de matar a sus hijos y la indujo a una espiral de teorías conspirativas . Parece que la próxima tendencia es usar ChatGPT para escribir obituarios de seres queridos. O incluso crear un negocio aprovechando la enorme demanda.
ChatGPT, para los muertos entre nosotros
Según un informe de The Washington Post , las funerarias utilizan ChatGPT para "escribir obituarios constantemente sin informar a sus clientes". Por supuesto, deben hacerlo con mucha cautela, ya que ChatGPT convertirá los obituarios en relatos poco realistas de cómo una persona falleció entre sus seres queridos o cómo partió pacíficamente del plano terrenal.
"No sabemos si fue una muerte pacífica, aunque nos gustaría imaginarlo", declaró un empleado anónimo de una funeraria. Pero no solo las funerarias y algunos emprendedores tecnológicos utilizan la IA para escribir obituarios, cobrando por ello. La gente común también la usa y parece estar muy satisfecha.
Una residente de Nevada que usó ChatGPT para escribir el obituario de su madre declaró al medio que "estaría muy contenta con el resultado final". Tiene planes aún más ambiciosos para el futuro, cuando tenga que escribir el obituario de su padre.
"Esta vez voy a usar el modo Investigación Profunda. Va a ser un éxito", dijo la persona, según The Post. Algunas personas que hablaron con el periodista argumentaron que no es fácil expresar los sentimientos en momentos de profundo dolor, y que herramientas de inteligencia artificial como ChatGPT facilitaban la redacción de un obituario.
Todo vale con la muerte y los negocios.
Curiosamente, parece que usar herramientas de IA como ChatGPT no es solo una decisión personal ni una maniobra disimulada de algunas funerarias. Es un negocio en auge, y existen numerosas empresas que ofrecen servicios de "IA para obituarios" a cambio de un precio.
Una de esas empresas es CelebrateAlly, fundada por un exempleado de Microsoft, que cobra a sus clientes 5 dólares por 100 créditos. Un obituario suele costar 10 créditos, lo que significa que puedes escribir un nuevo panegírico en honor a tu ser querido fallecido por tan solo cincuenta centavos cada uno.
La compañía incluso permite a los usuarios elegir entre ChatGPT y el modelo de IA Claude de Anthropic para cambiar el tono o el contenido del obituario. Sin embargo, la tecnología subyacente tiene sus fallos y, si se ignora, puede dar lugar a situaciones inusuales. A continuación, un fragmento del informe:
Con la instrucción de escribir un obituario "divertido" para una persona falsa, vivaz, divertida y llena de fe, la herramienta de IA afirmó que el hombre había "nacido en un día frío", "vivió según las palabras del gran Groucho Marx", "inspiró a todos" y murió en un "abrazo soleado", a pesar de no haber recibido ninguna de esas informaciones. En otras indicaciones, inventó apodos, preferencias y eventos vitales falsos, e incluso declaró que el hombre había fundado un teatro comunitario y había sido mentor de un "joven comediante… que posteriormente realizó giras nacionales".
ChatGPT no es la única herramienta que inventa cosas . La IA Gemini de Google le dijo a alguien que añadiera pegamento a su pizza . La IA de Microsoft no es la excepción . Investigaciones recientes indican que depender demasiado de las herramientas de IA provoca un deterioro cognitivo y dificulta la investigación real . Algunos expertos también están preocupados por profundos problemas psicológicos y morales.
Las aplicaciones de IA como Character AI y Nomi han dado lugar a un segmento de usuarios obsesionados con sus parejas generadas por IA, a costa de las conexiones humanas reales. Algunos incluso embarazan a sus parejas de IA y se sumergen en su propia realidad digital, mientras pagan cientos de dólares a las empresas de IA que las desarrollan.