Facebook podría tener chatbots, y eso podría ser un problema
El propietario de Facebook, Meta, planea introducir chatbots con distintas personalidades en su aplicación de redes sociales. El lanzamiento podría llegar tan pronto como este septiembre y sería un desafío para rivales como ChatGPT , pero existe la preocupación de que podría haber serias implicaciones para la privacidad de los usuarios.
La idea proviene del Financial Times , que informa que la medida es un intento de impulsar el compromiso con los usuarios de Facebook. La nueva herramienta podría hacer esto proporcionando nuevas capacidades de búsqueda o recomendando contenido, todo a través de debates similares a los humanos.
Según fuentes citadas por el Financial Times, los chatbots asumirán diferentes personajes, incluido “uno que emula a Abraham Lincoln y otro que aconseja sobre opciones de viaje al estilo de un surfista”.
Esta no sería la primera vez que vemos a los chatbots asumir sus propias personalidades o conversar al estilo de las personas famosas. El chatbot Character.ai , por ejemplo, puede adoptar docenas de personalidades diferentes, incluidas las de celebridades y figuras históricas.
Preocupaciones sobre la privacidad
A pesar de la promesa que podrían mostrar los chatbots de Meta, también han surgido temores sobre la cantidad de datos que probablemente recopilarán, especialmente considerando que Facebook tiene un historial pésimo en la protección de la privacidad del usuario.
Ravit Dotan, un asesor e investigador de ética de IA, fue citado por el Financial Times diciendo: “Una vez que los usuarios interactúan con un chatbot, realmente expone muchos más de sus datos a la empresa, para que la empresa pueda hacer lo que quiera con esos datos. .”
Esto no solo plantea la posibilidad de violaciones de privacidad de gran alcance, sino que también permite la posibilidad de "manipulación y empujón" de los usuarios, agregó Dotan.
un gran riesgo
Otros chatbots como ChatGPT y Bing Chat han tenido un historial de "alucinaciones" o momentos en los que comparten información incorrecta, o incluso información errónea. El daño potencial causado por la desinformación y el sesgo podría ser mucho mayor en Facebook, que tiene casi cuatro mil millones de usuarios, en comparación con los chatbots rivales.
Los intentos anteriores de Meta con los chatbots han tenido malos resultados, y BlenderBot 2 y BlenderBot 3 de la compañía se convirtieron rápidamente en contenido engañoso y discurso de odio incendiario. Eso podría no dar a los usuarios muchas esperanzas para el último esfuerzo de Meta.
Con septiembre acercándose rápidamente, es posible que no tengamos mucho tiempo para ver si Facebook es capaz de superar estos obstáculos, o si tendremos otro lanzamiento plagado de alucinaciones similar a los sufridos en otras partes de la industria. Pase lo que pase, será interesante verlo.