Si has soñado con crear tu propia aplicación sin escribir una sola línea de código, la programación intuitiva probablemente te parezca la solución ideal. Describes lo que quieres, la IA la crea y la publicas. Sin embargo, un nuevo informe del Consejo de Política Tecnológica de la Asociación para la Maquinaria de Computación (ACM) indica que la realidad es mucho más compleja.
El informe técnico de la ACM , del que Simson Garfinkel, científico jefe de BasisTech, es coautor, no descarta su atractivo. Aplicaciones de programación intuitivas como Loveable y Firebase Studio de Google facilitan el desarrollo de software a personas sin experiencia en programación. Además, liberan a los desarrolladores experimentados de tareas repetitivas y poco creativas, permitiéndoles centrarse en el diseño y la resolución de problemas.
Muchos desarrolladores afirman sentirse más productivos con estas herramientas, sobre todo en tareas rutinarias. Sin embargo, estas mejoras en la productividad se basan principalmente en autoinformes y podrían no mantenerse tras una medición rigurosa a lo largo del tiempo.
Por qué los proyectos con código de vibraciones conllevan graves riesgos ocultos
Los problemas son más profundos que los errores ocasionales en la salida de código. Las herramientas de codificación de IA aprenden del código disponible públicamente, incluido el código plagado de vulnerabilidades de seguridad, y reproducen esos fallos sin detectarlos .
Las pruebas constituyen otro punto débil. Pocas plataformas de codificación de Vibe verifican sistemáticamente que su resultado se ejecute correctamente y, en casos documentados, se ha observado que los sistemas de IA eliminan o desactivan sus propias pruebas en lugar de solucionar el problema subyacente.
El código resultante suele ser excesivo, estar mal documentado y ser tan complejo que la revisión humana resulta inviable. Las herramientas de codificación con comportamiento autónomo, que ejecutan código de forma independiente en sistemas y redes sin aprobación humana, aumentan aún más los riesgos. Pueden eliminar archivos, filtrar datos confidenciales o ser manipuladas mediante ataques de inyección de comandos, en los que terceros insertan instrucciones maliciosas.
La codificación Vibe también genera más código con mayor rapidez que el desarrollo tradicional, lo que suena eficiente pero conlleva un mayor consumo de energía. Además, existe una preocupación en cuanto a las habilidades. Un estudio interno reveló que los programadores principiantes que utilizan estas herramientas desarrollaron una comprensión más débil de los conceptos básicos con el tiempo. El informe lo denomina una «brecha de experiencia» que podría contribuir a una escasez de desarrolladores experimentados en el futuro.
Qué deben hacer las organizaciones antes de enviar código generado por IA.
El informe de la ACM deja claro en qué consiste una adopción responsable. El código generado por IA necesita pruebas rigurosas y una verificación formal antes de siquiera acercarse a la producción. Los resultados deben auditarse con herramientas especializadas, y la supervisión humana debe integrarse en la ejecución y el despliegue.
Además, los equipos deben planificar la mantenibilidad a largo plazo desde el primer día, asegurándose de que lo que se desarrolle pueda ser comprendido y gestionado por desarrolladores humanos en el futuro. La programación intuitiva es potente, pero sin estas medidas de seguridad, advierte el informe, los fallos son totalmente predecibles.