Se suponía que las herramientas de codificación de IA harían que el desarrollo de software fuera más rápido y sencillo. Lo lograron, pero quizás demasiado bien. La gente escribe código más rápido que nunca, y esto ha generado un nuevo conjunto de problemas para las empresas.
Según The New York Times , una empresa de servicios financieros comenzó a usar Cursor, una herramienta de codificación con inteligencia artificial, y pasó de producir 25 000 a 250 000 líneas de código al mes. Esto suena a éxito, pero generó un retraso de un millón de líneas de código sin revisar.
“La enorme cantidad de código que se entrega y el aumento de las vulnerabilidades es algo con lo que no pueden seguir el ritmo”, dijo Joni Klippert, directora ejecutiva de StackHawk, una empresa emergente de seguridad que trabaja con la firma.
El problema se ha extendido por todo Silicon Valley. Las empresas ahora producen más código del que pueden revisar con su personal, y esa brecha se está convirtiendo en un riesgo de seguridad.
Entonces, ¿cuál es el problema?
El rol responsable de detectar errores en el código generado por IA se denomina ingeniero de seguridad de aplicaciones. Sin embargo, no hay suficientes. «No hay suficientes ingenieros de seguridad de aplicaciones en el mundo para cubrir las necesidades de las empresas estadounidenses», afirmó Joe Sullivan, asesor de Costanoa Ventures.
No se trata solo de un problema de personal. Las herramientas de programación de IA funcionan mejor en portátiles personales que en servidores seguros de la empresa, lo que significa que los ingenieros descargan bases de código completas en sus dispositivos personales. Si se pierde un portátil, también se pierde una gran cantidad de datos confidenciales.
¿Realmente más IA es la solución?
Como era de esperar, Silicon Valley opina así. Empresas como Anthropic, OpenAI y Cursor ya están desarrollando herramientas de revisión basadas en IA para detectar errores en el código generado por inteligencia artificial. Cursor incluso adquirió una startup de revisión de código para integrar esta funcionalidad en su producto.
Como lo expresó el jefe de ingeniería de Cursor: “La fábrica de desarrollo de software se averió. Estamos intentando reorganizar las piezas de alguna manera”.
Tengo mis dudas. Si bien la IA eventualmente podrá detectar errores en el código, la revisión humana seguirá siendo necesaria antes del lanzamiento final. Recientemente, un código de IA provocó una interrupción en Amazon , lo que resultó en la pérdida de más de 100 000 pedidos y 1,6 millones de errores.
Ninguna empresa quiere que eso suceda, y no estoy seguro de que los revisores de código basados en IA sean la solución.