Google DeepMind ha lanzado un nuevo agente de inteligencia artificial denominado CodeMender, diseñado para detectar y corregir de forma autónoma vulnerabilidades críticas en el código de software. En los últimos seis meses, este sistema ha logrado aportar 72 soluciones de seguridad a proyectos de código abierto establecidos.

La identificación y corrección de vulnerabilidades es un proceso conocido por su complejidad y el tiempo que requiere, incluso con métodos automatizados tradicionales como el fuzzing. La investigación de Google DeepMind, que incluye proyectos de inteligencia artificial como Big Sleep y OSS-Fuzz, ha demostrado ser efectiva en la detección de nuevas vulnerabilidades de día cero en código bien auditado. Sin embargo, este éxito genera un nuevo cuello de botella: a medida que la inteligencia artificial acelera el descubrimiento de fallos, la carga sobre los desarrolladores humanos para corregirlos se intensifica. CodeMender fue creado para enfrentar este desbalance.

Este agente de IA actúa de manera autónoma y adopta un enfoque integral para solucionar problemas de seguridad en el código. Sus capacidades son tanto reactivas, permitiéndole parchear vulnerabilidades recién descubiertas al instante, como proactivas, ya que puede reescribir código existente para eliminar clases enteras de fallas de seguridad antes de que sean explotadas. Esto permite que los desarrolladores humanos y los mantenedores de proyectos dediquen más tiempo a construir nuevas funcionalidades y mejorar el rendimiento del software.

El sistema se basa en las avanzadas capacidades de razonamiento de los recientes modelos Gemini Deep Think de Google. Esta base permite al agente depurar y resolver problemas de seguridad complejos con un alto grado de autonomía. Para lograr esto, el sistema cuenta con un conjunto de herramientas que le permiten analizar y razonar sobre el código antes de implementar cualquier cambio. Además, CodeMender incluye un proceso de validación para garantizar que las modificaciones realizadas sean correctas y no introduzcan nuevos problemas, conocidos como regresiones.

A pesar de los avances rápidos en los modelos de lenguaje, un error en la seguridad del código puede tener consecuencias costosas. Por ello, el marco de validación automática de CodeMender resulta esencial. Este sistema verifica que cualquier cambio propuesto solucione la causa raíz de un problema, sea funcionalmente correcto, no rompa pruebas existentes y respete las pautas de estilo de codificación del proyecto. Solo los parches de alta calidad que cumplan con estos rigurosos criterios son presentados para revisión humana.

Para mejorar la efectividad en la corrección de código, el equipo de DeepMind desarrolló nuevas técnicas para el agente de IA. CodeMender utiliza análisis de programas avanzados, empleando herramientas como análisis estático y dinámico, pruebas diferenciales, fuzzing y solucionadores SMT. Estas herramientas le permiten examinar sistemáticamente patrones de código, flujo de control y flujo de datos para identificar las causas fundamentales de fallas de seguridad y debilidades arquitectónicas.

El sistema también opera con una arquitectura de múltiples agentes, donde se despliegan agentes especializados para abordar aspectos específicos de un problema. Por ejemplo, una herramienta de crítica basada en un modelo de lenguaje grande revela las diferencias entre el código original y el modificado, lo que permite al agente principal verificar que sus cambios propuestos no introduzcan efectos secundarios no deseados y corregir su enfoque cuando sea necesario.

En un ejemplo práctico, CodeMender abordó una vulnerabilidad que indicaba un desbordamiento de búfer en la pila. Aunque el parche final solo requería cambiar unas pocas líneas de código, la causa raíz no era inmediatamente obvia. Utilizando herramientas de depuración y búsqueda de código, el agente determinó que el verdadero problema era una gestión incorrecta de la pila con elementos de XML durante el análisis, ubicado en otra parte de la base de código.

En otro caso, el agente ideó un parche no trivial para un problema complejo relacionado con la duración de vida de un objeto, modificando un sistema personalizado para generar código C dentro del proyecto objetivo. Más allá de simplemente reaccionar a errores existentes, CodeMender está diseñado para fortalecer proactivamente el software contra futuras amenazas.

El equipo implementó el agente para aplicar anotaciones de -fbounds-safety a partes de libwebp, una biblioteca de compresión de imágenes ampliamente utilizada. Estas anotaciones indican al compilador que agregue verificaciones de límites al código, lo que puede prevenir que un atacante explote un desbordamiento de búfer para ejecutar código arbitrario. Este trabajo es particularmente relevante dado que una vulnerabilidad de desbordamiento de búfer en libwebp, registrada como CVE-2023-4863, fue utilizada por un actor de amenazas en un exploit de iOS sin clic hace varios años. DeepMind señala que con estas anotaciones en su lugar, esa vulnerabilidad específica, junto con la mayoría de los otros desbordamientos de búfer en las secciones anotadas, habrían quedado inexplorables.

La corrección proactiva de código por parte del agente implica un sofisticado proceso de toma de decisiones. Al aplicar anotaciones, puede corregir automáticamente nuevos errores de compilación y fallas en las pruebas que surgen de sus propios cambios. Si sus herramientas de validación detectan que una modificación ha roto la funcionalidad, el agente se autocorrige basándose en el feedback y intenta una solución diferente.

A pesar de estos prometedores resultados iniciales, Google DeepMind adopta un enfoque cauteloso y deliberado en su implementación, con un fuerte enfoque en la fiabilidad. Actualmente, cada parche generado por CodeMender es revisado por investigadores humanos antes de ser enviado a un proyecto de código abierto. El equipo está aumentando gradualmente sus envíos para garantizar alta calidad y para incorporar sistemáticamente el feedback de la comunidad de código abierto.

De cara al futuro, los investigadores planean contactar a los mantenedores de proyectos críticos de código abierto con parches generados por CodeMender. Al iterar sobre el feedback de la comunidad, esperan eventualmente liberar CodeMender como una herramienta disponible públicamente para todos los desarrolladores de software. El equipo de DeepMind también tiene la intención de publicar artículos técnicos e informes en los próximos meses para compartir sus técnicas y resultados. Este trabajo representa los primeros pasos en la exploración del potencial de los agentes de IA para corregir proactivamente el código y mejorar fundamentalmente la seguridad del software para todos.