Microsoft convierte la herramienta de evaluación de seguridad de Counterfit AI en código abierto
Microsoft ha convertido su herramienta de evaluación de riesgos de seguridad de inteligencia artificial, Counterfit, en código abierto, lo que permite a cualquiera comenzar a usar la herramienta de forma gratuita. Actualmente, las organizaciones pueden usar Counterfit para automatizar las evaluaciones de riesgos de seguridad, asegurando que la protección que están usando esté a la altura.
Microsoft lanza Counterfit como herramienta de código abierto
Microsoft desarrolló originalmente Counterfit como una herramienta interna que podía evaluar rápidamente la seguridad de la inteligencia artificial y los sistemas de aprendizaje automático. Comenzó como una colección de scripts antes de transformarse rápidamente en una automatización genérica de IA que un operador puede usar para "atacar múltiples sistemas de IA" a la vez.
Microsoft ahora usa regularmente Counterfit como una herramienta central en las operaciones de su equipo rojo de inteligencia artificial. Como Counterfit es independiente del entorno, el modelo y los datos, la herramienta puede ofrecer una evaluación precisa sin impedancia.
La herramienta en sí está diseñada para que la utilicen profesionales de la seguridad. Counterfit utiliza flujos de trabajo similares a otras herramientas populares del equipo rojo como Metasploit o PowerShell Empyre, con un amplio soporte para scripts, algoritmos de ataque precargados, escaneo de vulnerabilidades, registro avanzado y más, al que se accede a través de la línea de comandos.
Microsoft ha trabajado extensamente con profesionales de la seguridad y grandes organizaciones para desarrollar Counterfit mejor también. En el blog de seguridad de Microsoft , Matilda Rhode, investigadora senior de ciberseguridad de Airbus, dijo:
La IA se utiliza cada vez más en la industria; Es vital mirar hacia adelante para asegurar esta tecnología, particularmente para comprender dónde se pueden realizar los ataques al espacio de características en el espacio del problema. El lanzamiento de herramientas de código abierto de una organización como Microsoft para que los profesionales de la seguridad evalúen la seguridad de los sistemas de IA es bienvenido y es una clara indicación de que la industria se está tomando este problema en serio.
Puede encontrar Microsoft Counterfit de código abierto en su GitHub oficial.
¿Por qué es útil Counterfit?
Incluso para una empresa del tamaño de Microsoft, realizar evaluaciones de seguridad efectivas no es fácil, especialmente cuando esas empresas son enormes líderes de Fortune 500, gobiernos, organizaciones sin fines de lucro y más. Un estudio anterior de Microsoft encontró que un gran número de empresas no pueden probar sus sistemas de inteligencia artificial con precisión.
Descubrimos que 25 de 28 empresas indicaron que no cuentan con las herramientas adecuadas para proteger sus sistemas de inteligencia artificial y que los profesionales de la seguridad buscan orientación específica en este ámbito.
Counterfit facilita la realización de esas evaluaciones, automatizando el proceso de análisis y pruebas.
Además, un estudio de Gartner publicado recientemente enumeró la adopción de la seguridad de la inteligencia artificial como una de las medidas de seguridad más importantes que una empresa puede tomar para mejorar la protección. El mismo estudio señaló que "para 2024, las organizaciones que implementen controles dedicados de gestión de riesgos de IA evitarán con éxito los resultados negativos de IA con el doble de frecuencia que las que no lo hagan".
En resumen, Counterfit se convierte en una herramienta de evaluación de seguridad de inteligencia artificial de código abierto que debería ayudar a hacer del mundo un lugar un poco más seguro.