‘Perspectiva sombría’ cuando los delincuentes se apoderan de los chatbots de IA, dice Europol
Europol emitió esta semana una severa advertencia destacando los riesgos que plantean los delincuentes a medida que se enfrentan a la nueva ola de chatbots avanzados de IA.
En una publicación compartida en línea esta semana, la agencia de aplicación de la ley de Europa describió cómo herramientas como ChatGPT y GPT-4 de OpenAI, y Bard de Google , serán utilizadas cada vez más por delincuentes que buscan nuevas formas de estafar a los miembros del público.
Identificó tres áreas específicas que más le preocupan.
Primero está el fraude y la ingeniería social, donde se envían correos electrónicos a los objetivos con la esperanza de que descarguen un archivo infectado con malware o hagan clic en un enlace que los lleve a un sitio web igualmente peligroso.
Los correos electrónicos de phishing, como se los conoce, suelen estar llenos de errores gramaticales y ortográficos y terminan en la carpeta de correo no deseado. Incluso aquellos que llegan a la bandeja de entrada están escritos de manera tan terrible que el destinatario puede descartarlos rápidamente sin pensarlo dos veces.
Pero los chatbots de IA pueden crear mensajes bien escritos sin errores descuidados, lo que permite a los delincuentes enviar correos electrónicos convincentes que significan que los destinatarios tendrán que prestar más atención al revisar sus mensajes.
Europol dijo que los chatbots avanzados son capaces de "reproducir patrones de lenguaje que se pueden usar para hacerse pasar por el estilo de habla de individuos o grupos específicos", y agregó que tal capacidad puede ser "abusada a escala para engañar a las víctimas potenciales para que depositen su confianza en las manos". de actores criminales”.
También proliferará una forma más convincente de desinformación, con la nueva ola de chatbots que se destacan en la creación de texto que suene auténtico a gran velocidad y escala, dijo Europol, y agregó: “Esto hace que el modelo sea ideal para propósitos de propaganda y desinformación, ya que permite usuarios generar y difundir mensajes que reflejen una narrativa específica con relativamente poco esfuerzo”.
En tercer lugar, Europol citó la codificación como una nueva área que los ciberdelincuentes aprovechan para crear software malicioso. “Además de generar un lenguaje similar al humano, ChatGPT es capaz de producir código en varios lenguajes de programación diferentes”, señaló la agencia. “Para un criminal potencial con poco conocimiento técnico, este es un recurso invaluable para producir código malicioso”.
Dijo que la situación "brinda una perspectiva sombría" para quienes están del lado correcto de la ley, ya que la actividad nefasta en línea se vuelve más difícil de detectar.
La moda de los chatbots de IA despegó en noviembre de 2022 cuando OpenAI, respaldado por Microsoft, lanzó su impresionante herramienta ChatGPT. Recientemente se lanzó una versión mejorada, GPT-4, mientras que Google también presentó su propia herramienta similar, llamada Bard. Los tres se destacan por su impresionante capacidad para crear texto de sonido natural con solo unas pocas indicaciones, y es probable que la tecnología ayude o incluso reemplace una gran cantidad de trabajos diferentes en los próximos años.
Otra tecnología similar basada en IA le permite crear imágenes, videos y audio originales con solo unas pocas indicaciones de texto, lo que destaca cómo ninguna forma de medios escapará al impacto de la IA a medida que la tecnología continúa mejorando.
Algunas voces destacadas tienen preocupaciones comprensibles sobre su rápido aumento, con una carta abierta reciente firmada por Elon Musk , el cofundador de Apple, Steve Wozniak, y varios expertos que afirman que los sistemas de inteligencia artificial con inteligencia humana y competitiva pueden plantear "riesgos profundos para la sociedad y la humanidad". La carta pedía una pausa de seis meses para permitir la creación e implementación de protocolos de seguridad para las herramientas avanzadas y agregaba que, si se manejan de la manera correcta, “la humanidad puede disfrutar de un futuro floreciente con la IA”.