Un hacker convirtió una popular herramienta de inteligencia artificial en una máquina de ciberdelincuencia
La compañía detrás del popular chatbot de inteligencia artificial Claude ha emitido una advertencia escalofriante sobre el creciente uso de herramientas de inteligencia artificial por parte de los ciberdelincuentes a medida que la tecnología se vuelve cada vez más sofisticada.
En su último informe de Inteligencia de Amenazas, Anthropic detalló el caso reciente de cómo un hacker utilizó sus herramientas de IA para lanzar un ciberataque dirigido a numerosas empresas y organizaciones.
Según Anthropic, el hacker utilizó un agente de codificación de IA (en este caso, Claude Code), una herramienta capaz de escribir, editar y ejecutar código con una mínima intervención humana.
Dijo que durante el último mes, el pirata informático utilizó el agente para automatizar el "reconocimiento, la recolección de credenciales y la penetración de la red a gran escala", robando datos confidenciales de al menos 17 empresas y organizaciones de los sectores gubernamental, sanitario, de emergencia e instituciones religiosas.
El perpetrador pudo obtener registros personales de las personas, incluidos datos de salud, información financiera y credenciales gubernamentales antes de exigir pagos de rescate mientras amenazaba con exponer los datos en línea si no se cumplían las demandas.
El agente de inteligencia artificial de Claude incluso analizó los datos financieros robados para calcular el monto de rescate adecuado (en algunos de los ataques se exigieron hasta 500.000 dólares) y también creó notas de rescate "visualmente alarmantes" que aparecían en las pantallas de las computadoras de los objetivos.
Anthropic dijo que la audaz operación demuestra “una evolución preocupante en el ciberdelito asistido por IA” y “representa un cambio fundamental en cómo los ciberdelincuentes pueden escalar sus operaciones” ahora que la IA se puede utilizar para automatizar gran parte del proceso de piratería, aunque bajo dirección humana.
Aunque no está claro si alguno de los objetivos en este caso particular pagó, Anthropic afirmó haber tomado medidas para prevenir este tipo de uso indebido. Sin embargo, añadió que es probable que este método de ataque se vuelva cada vez más común "a medida que la IA reduce las barreras de entrada para las operaciones sofisticadas de ciberdelincuencia".
Su último informe de Threat Intelligence también destacó cómo agentes norcoreanos han estado utilizando a Claude para conseguir de forma fraudulenta puestos de trabajo remotos en empresas tecnológicas estadounidenses de la lista Fortune 500, y otro caso en el que un ciberdelincuente utilizó sus herramientas de inteligencia artificial para crear y comercializar diversos productos de ransomware, vendiéndolos a otros ciberdelincuentes por hasta 1.200 dólares cada uno.
Muchos hackers llevan años utilizando la IA de alguna forma. Sin embargo, chatbots como ChatGPT, lanzado en 2022, han facilitado el lanzamiento de ataques, y ahora el auge de los agentes de IA representa una amenaza aún mayor. Afortunadamente, las empresas de ciberseguridad también están aprovechando la misma tecnología que explotan los atacantes para construir una línea de defensa crucial, aunque es evidente que mantener el ritmo es una batalla constante.