En el actual entorno de la ciberseguridad, se desata una nueva carrera armamentista, donde la inteligencia artificial (IA) emerge como el arma más poderosa. Esta tecnología presenta un dilema: actúa como un escudo potente para quienes defienden sistemas, pero también se convierte en una herramienta peligrosa para aquellos que buscan atacarlos. En este complejo escenario, es crucial contar con un conocimiento profundo tanto de la tecnología como de las intenciones de quienes buscan abusar de ella.
Para obtener una perspectiva de primera mano, tuvimos la oportunidad de hablar con Rachel James, Ingeniera Principal de Inteligencia de Amenazas de IA y ML en la reconocida empresa biofarmacéutica AbbVie. James comparte que, además de la IA que sus herramientas actuales ofrecen, su equipo utiliza análisis de modelos de lenguaje grande (LLM) para examinar una gran cantidad de alertas de seguridad. Su objetivo es identificar patrones, detectar duplicados y descubrir brechas peligrosas en sus defensas antes de que un atacante las aproveche.
“Utilizamos esta tecnología para determinar similitudes, duplicaciones y realizar análisis de brechas”, explica James, quien también menciona que el siguiente paso es integrar más datos sobre amenazas externas. “Estamos buscando mejorar esto con la integración de inteligencia de amenazas en nuestra próxima fase”, agrega.
Una pieza central de esta operación es una plataforma especializada de inteligencia de amenazas llamada OpenCTI, que les permite construir una imagen unificada de las amenazas en medio de un mar de ruido digital. La IA actúa como el motor que hace posible este esfuerzo en ciberseguridad, organizando grandes volúmenes de texto desordenado y no estructurado en un formato estándar conocido como STIX.
El gran objetivo, según James, es conectar este núcleo de inteligencia con todas las áreas de operación de seguridad de la empresa, desde la gestión de vulnerabilidades hasta el riesgo de terceros. Sin embargo, aprovechar este poder requiere una dosis saludable de precaución. James, como contribuyente clave a una importante iniciativa de la industria, es plenamente consciente de los riesgos involucrados. “No puedo dejar de mencionar el trabajo de un grupo excepcional del cual formo parte: el ‘OWASP Top 10 para GenAI’, que proporciona una base para entender las vulnerabilidades que la IA generativa puede introducir”, señala.
Más allá de las vulnerabilidades específicas, James destaca tres compromisos fundamentales que los líderes empresariales deben enfrentar: aceptar el riesgo que conlleva la naturaleza creativa pero a menudo impredecible de la IA generativa; lidiar con la falta de transparencia en cómo la IA llega a sus conclusiones, un problema que se intensifica a medida que los modelos se vuelven más complejos; y la dificultad de evaluar correctamente el retorno de inversión de cualquier proyecto de IA, donde la exageración puede llevar a sobreestimar los beneficios o subestimar el esfuerzo necesario en un campo que avanza rápidamente.
Para fortalecer la postura de ciberseguridad en la era de la IA, es fundamental comprender al atacante. Aquí es donde entra en juego la amplia experiencia de James. “Este es realmente mi campo de especialización; tengo un trasfondo en inteligencia de amenazas cibernéticas y he realizado una extensa investigación sobre el interés, uso y desarrollo de IA por parte de actores de amenazas”, comenta.
James sigue de cerca las conversaciones y el desarrollo de herramientas de los adversarios a través de canales de código abierto y sus propias colecciones automatizadas de la dark web, compartiendo sus hallazgos en su GitHub llamado cybershujin. Su trabajo también implica involucrarse directamente en el desarrollo de técnicas de entrada adversarial. “Como líder de la entrada sobre Inyección de Prompt para OWASP y coautora de la Guía para Red Teaming de GenAI, también dedico tiempo a desarrollar técnicas por mí misma y mantengo una red de expertos en este campo”, agrega.
Entonces, ¿qué significa todo esto para el futuro de la industria? Para James, el camino a seguir es claro. Ella señala un paralelismo fascinante que descubrió hace años: “El ciclo de vida de la inteligencia de amenazas cibernéticas es casi idéntico al ciclo de vida de la ciencia de datos, fundamental para los sistemas de IA y ML”. Esta alineación representa una oportunidad masiva. “Sin duda, en términos de los conjuntos de datos con los que podemos trabajar, los defensores tienen una oportunidad única de capitalizar el poder del intercambio de datos de inteligencia y la IA”, afirma.
Su mensaje final ofrece tanto aliento como advertencia para sus colegas en el mundo de la ciberseguridad: “La ciencia de datos y la IA serán parte de la vida de cada profesional de la ciberseguridad en el futuro, ¡abrácenlo!”. Rachel James compartirá sus perspectivas en la próxima exposición de IA y Big Data en Europa, que se llevará a cabo en Ámsterdam el 24 y 25 de septiembre de 2025. No te pierdas su presentación del segundo día sobre ‘De la Teoría a la Práctica – Integrando la Ética de la IA a Gran Escala’.
