Hack The Box (HTB), conocido por su formación en ciberseguridad, lanzó el HTB AI Range, una plataforma diseñada para que las organizaciones evalúen agentes de seguridad autónomos basados en inteligencia artificial en condiciones realistas, aunque bajo la supervisión de profesionales de ciberseguridad. Este entorno tiene como objetivo permitir a los usuarios medir la eficacia de la inteligencia artificial y los equipos mixtos de humanos e IA en la defensa de infraestructuras.

Los modelos de IA presentan vulnerabilidades que se suman a las ya existentes en la tecnología de la información tradicional. Por lo tanto, antes de desplegar herramientas de ciberseguridad basadas en IA, HTB propone un entorno de pruebas donde los agentes de IA y los defensores humanos puedan colaborar bajo presión real para evaluar sus capacidades en ciberseguridad.

El HTB AI Range simula la complejidad empresarial con miles de objetivos ofensivos y defensivos que se actualizan continuamente. La plataforma se alinea con marcos de ciberseguridad reconocidos, como el MITRE ATT&CK, las directrices NIST/NICE y el OWASP Top 10. En un reciente ejercicio de captura de bandera (CTF) donde participaron IA y humanos, los agentes autónomos lograron resolver 19 de los 20 desafíos básicos. Sin embargo, en desafíos más complejos que requerían múltiples pasos, los equipos humanos superaron a los agentes de IA. Esto indica que la inteligencia artificial enfrenta dificultades con la complejidad y las operaciones en múltiples etapas, lo que subraya el valor continuo de la experiencia humana, especialmente en trabajos críticos o complicados.

Las empresas pueden utilizar el HTB AI Range para validar la efectividad de sus medidas de seguridad ante ataques impulsados por IA, proporcionar a sus equipos de ciberseguridad experiencia con amenazas basadas en IA y desarrollar herramientas de ciberseguridad más resistentes fundamentadas en la IA autónoma. Estas prácticas podrían servir para justificar inversiones en ciberseguridad ante los tomadores de decisiones financieras, según sugiere Hack The Box.

El HTB AI Range permite la prueba y validación continua de las defensas de ciberseguridad, lo que, según la empresa, resulta más efectivo a largo plazo que las auditorías estáticas o los ejercicios de pruebas de penetración, acercándose así a un modelo de gestión continua de exposición a amenazas (CTEM). Además, HTB planea lanzar una certificación de Red Teamer de IA a principios del próximo año para cuantificar las habilidades necesarias para fortalecer las defensas de IA.

En la actualidad, es prudente considerar los rangos de ciberseguridad basados en IA como parte de una oferta de seguridad y resiliencia en capas. A medida que la inteligencia artificial madura y marcos como MITRE ATLAS ganan popularidad, herramientas como el HTB AI Range podrían convertirse en componentes estándar en los programas de seguridad empresarial.

“Hack The Box es donde los agentes de IA y los humanos aprenden a operar juntos bajo presión real”, afirmó Gerasimos Marketos, director de producto de Hack The Box. “Estamos abordando la urgente necesidad de validar continuamente los sistemas de IA en contextos operativos realistas donde las apuestas son altas y la supervisión humana sigue siendo vital. El HTB AI Range hace esto posible”.

Por su parte, Haris Pylarinos, CEO y fundador de Hack The Box, destacó: “Durante más de dos años, hemos estado avanzando en caminos de aprendizaje impulsados por IA, laboratorios e investigaciones donde máquinas y humanos compiten, colaboran y co-evolucionan. Con HTB AI Range, no estamos reaccionando al auge de la IA en ciberseguridad; estamos definiendo cómo evoluciona la defensa junto a ella. Así es como avanza la ciberseguridad: no a través del miedo, sino a través del dominio”.