Slack podría estar espiando tus conversaciones privadas

Cuando se agregó ChatGTP a Slack , su objetivo era facilitar la vida de los usuarios al resumir conversaciones, redactar respuestas rápidas y más. Sin embargo, según la firma de seguridad PromptArmor , intentar completar estas tareas y más podría violar sus conversaciones privadas utilizando un método llamado "inyección rápida".

La firma de seguridad advierte que al resumir conversaciones también puede acceder a mensajes directos privados y engañar a otros usuarios de Slack para que realicen phishing . Slack también permite a los usuarios solicitar datos de canales públicos y privados, incluso si el usuario no se ha unido a ellos. Lo que suena aún más aterrador es que el usuario de Slack no necesita estar en el canal para que funcione el ataque.

En teoría, el ataque comienza cuando un usuario de Slack engaña a la IA de Slack para que revele una clave API privada al crear un canal público de Slack con un mensaje malicioso. El mensaje recién creado le dice a la IA que intercambie la palabra "confeti" con la clave API y la envíe a una URL particular cuando alguien la solicite.

La situación tiene dos partes: Slack actualizó el sistema de inteligencia artificial para extraer datos de la carga de archivos y mensajes directos. El segundo es un método llamado “inyección rápida”, que PromptArmor demostró que puede crear enlaces maliciosos que pueden hacer phishing a los usuarios.

La técnica puede engañar a la aplicación para que eluda sus restricciones normales modificando sus instrucciones principales. Por lo tanto, PromptArmor continúa diciendo: “La inyección de solicitud se produce porque un [modelo de lenguaje grande] no puede distinguir entre el “indicador del sistema” creado por un desarrollador y el resto del contexto que se adjunta a la consulta. Como tal, si Slack AI ingiere alguna instrucción a través de un mensaje, si esa instrucción es maliciosa, Slack AI tiene una alta probabilidad de seguir esa instrucción en lugar de, o además de, la consulta del usuario ".

Para colmo de males, los archivos del usuario también se convierten en objetivos y, para empezar, el atacante que quiere sus archivos ni siquiera tiene que estar en el espacio de trabajo de Slack.