Microsoft puede haber sabido sobre las respuestas desquiciadas de Bing Chat hace meses

Bing Chat AI de Microsoft ha tenido un comienzo difícil, pero parece que Microsoft pudo haber sabido de los problemas mucho antes de su debut público. Una publicación de soporte en el sitio web de Microsoft hace referencia a respuestas "groseras" del bot de chat "Sidney", que es una historia que hemos estado escuchando durante la última semana. Aquí está el problema: la publicación se realizó el 23 de noviembre de 2022.

La revelación proviene de Ben Schmidt , vicepresidente de diseño de información de Nomic, quien compartió la publicación con Gary Marcus , un autor que cubre IA y fundador de Geometric Intelligence. La historia cuenta que Microsoft probó Bing Chat, llamado Sidney, según la publicación, en India e Indonesia en algún momento entre noviembre y enero antes de hacer el anuncio oficial.

Una publicación de la comunidad sobre Bing Chat.

Le pregunté a Microsoft si ese era el caso y compartió la siguiente declaración:

“Sydney es un antiguo nombre en clave para una función de chat basada en modelos anteriores que comenzamos a probar hace más de un año. Los conocimientos que reunimos como parte de eso han ayudado a informar nuestro trabajo con la nueva vista previa de Bing. Seguimos ajustando nuestras técnicas y estamos trabajando en modelos más avanzados para incorporar los aprendizajes y los comentarios para que podamos ofrecer la mejor experiencia de usuario posible. Continuaremos compartiendo actualizaciones sobre el progreso a través de nuestro blog.

La publicación inicial muestra al bot de IA discutiendo con el usuario y estableciéndose en las mismas formas de oración que vimos cuando Bing Chat dijo que quería "ser humano ". Más adelante en el hilo, otros usuarios intervinieron con sus propias experiencias, volviendo a publicar el ahora infame emoji sonriente con el que Bing Chat sigue la mayoría de sus respuestas.

Para empeorar las cosas, el cartel inicial decía que pedían comentarios e informar sobre el chatbot, dando cierta credibilidad a que Microsoft estaba al tanto de los tipos de respuestas que su IA era capaz de hacer.

Eso va en contra de lo que dijo Microsoft en los días posteriores a la explosión del chatbot en los medios. En un anuncio que cubre los próximos cambios en Bing Chat , Microsoft dijo que el "entretenimiento social", que presumiblemente se refiere a las formas en que los usuarios han tratado de engañar a Bing Chat para que responda provocativamente, era un "nuevo caso de usuario para el chat".

Microsoft ha realizado varios cambios en la IA desde su lanzamiento, incluida una reducción considerable de la duración de las conversaciones. Este es un esfuerzo por frenar los tipos de respuestas que vimos circular unos días después de que Microsoft anunciara por primera vez Bing Chat. Microsoft dice que actualmente está trabajando para aumentar los límites de chat .

Aunque la historia detrás de las pruebas de Bing Chat de Microsoft sigue en el aire, está claro que la IA estuvo en la planificación durante un tiempo. A principios de este año, Microsoft realizó una inversión multimillonaria en OpenAI tras el éxito de ChatGPT , y Bing Chat se basa en una versión modificada del modelo GPT de la empresa. Además, Microsoft publicó un blog sobre "IA responsable" solo unos días antes de anunciar Bing Chat al mundo.

Hay varias cuestiones éticas en torno a la IA y su uso en un motor de búsqueda como Bing, así como la posibilidad de que Microsoft se apresurara a lanzar Bing Chat antes de que estuviera listo y supiera de lo que era capaz. La publicación de soporte en cuestión se actualizó por última vez el 21 de febrero de 2023, pero el historial de la pregunta inicial y las respuestas muestran que no se han revisado desde la fecha de publicación original.

Es posible que Microsoft decidiera seguir adelante de todos modos, sintiendo la presión del próximo Google Bard y el aumento trascendental de la popularidad de ChatGPT.