En una impactante exposición en la oficina de Google en Singapur, Mark Johnston, director de la Oficina de CISO de Google Cloud para Asia Pacífico, reveló un dato alarmante: tras cinco décadas de evolución en ciberseguridad, los defensores siguen perdiendo la batalla. Johnston mencionó que en el 69% de los incidentes en Japón y Asia Pacífico, las organizaciones se enteraron de sus propias brechas de seguridad a través de entidades externas. Esta estadística pone de manifiesto que muchas empresas ni siquiera pueden detectar cuándo han sido vulneradas.

Durante la mesa redonda titulada “Ciberseguridad en la Era de la IA”, que tuvo lugar durante una hora, se realizó un análisis honesto sobre cómo las tecnologías de inteligencia artificial de Google Cloud intentan revertir décadas de fracasos defensivos, a pesar de que las mismas herramientas de IA también empoderan a los atacantes con capacidades sin precedentes.

La crisis de la ciberseguridad no es algo nuevo. Johnston recordó las palabras del pionero en ciberseguridad, James B. Anderson, quien en 1972 observó que “los sistemas que utilizamos realmente no se protegen a sí mismos”. Este desafío ha persistido a lo largo de los años, a pesar de los avances tecnológicos. Según Johnston, lo que Anderson afirmó hace más de 50 años sigue siendo relevante hoy en día, ya que los problemas de seguridad fundamentales continúan sin resolverse.

Las vulnerabilidades básicas agravan este desafío. Los datos de inteligencia sobre amenazas de Google Cloud indican que más del 76% de las brechas se originan en errores básicos, como configuraciones incorrectas y compromisos de credenciales que han afectado a las organizaciones durante años. Un ejemplo reciente citado por Johnston fue el de Microsoft SharePoint, un producto comúnmente utilizado que sufrió una vulnerabilidad de día cero y fue atacado de manera continua.

En este contexto, Kevin Curran, miembro senior del IEEE y profesor de ciberseguridad en la Universidad de Ulster, describió el panorama actual como una “carrera armamentista de alto riesgo”, donde tanto los equipos de ciberseguridad como los actores de amenazas utilizan herramientas de IA para superarse mutuamente. Curran explicó que para los defensores, la IA representa un activo valioso, ya que las empresas han implementado herramientas de IA generativa y automatización para analizar grandes volúmenes de datos en tiempo real y detectar anomalías. Sin embargo, estas mismas tecnologías benefician a los atacantes, quienes pueden agilizar ataques de phishing, automatizar la creación de malware y escanear redes en busca de vulnerabilidades.

La naturaleza de doble uso de la IA genera lo que Johnston denomina “el dilema del defensor”. Las iniciativas de Google Cloud en IA buscan inclinar la balanza a favor de los defensores. Johnston argumentó que la IA ofrece la mejor oportunidad para cambiar el dilema del defensor y dar a los defensores una ventaja decisiva sobre los atacantes. La estrategia de la compañía se centra en innumerables casos de uso de IA generativa en defensa, que abarcan desde el descubrimiento de vulnerabilidades hasta la generación de código seguro y la respuesta a incidentes.

Uno de los ejemplos más destacados de defensa impulsada por IA es la iniciativa “Big Sleep” de Project Zero, que utiliza modelos de lenguaje grandes para identificar vulnerabilidades en código real. Johnston compartió métricas impresionantes, señalando que “Big Sleep encontró una vulnerabilidad en una biblioteca de código abierto utilizando herramientas de IA generativa, siendo esta la primera vez que creemos que una vulnerabilidad fue detectada por un servicio de IA”. La evolución del programa demuestra las capacidades crecientes de la IA, ya que el mes pasado se anunciaron más de 20 vulnerabilidades encontradas en diferentes paquetes, y en agosto se registraron 47 vulnerabilidades detectadas por esta solución.

El avance de la seguridad ha pasado de un análisis manual a un descubrimiento asistido por IA, lo que Johnston describe como un cambio de “operaciones de seguridad manuales a semi-autónomas”, donde “Gemini” se encarga de la mayoría de las tareas del ciclo de vida de seguridad, delegando aquellas que no puede automatizar con suficiente confianza.

Sin embargo, esta automatización también introduce nuevas vulnerabilidades. Al ser consultado sobre los riesgos de depender en exceso de los sistemas de IA, Johnston reconoció el desafío: “Hay potencial para que este servicio sea atacado y manipulado. Actualmente, no existe un marco adecuado para autorizar que la herramienta utilizada no haya sido alterada”. Curran respalda esta preocupación, advirtiendo que el riesgo para las empresas radica en que sus equipos de seguridad se vuelvan demasiado dependientes de la IA, lo que podría dejar a los sistemas vulnerables a ataques y subestimar la importancia del juicio humano.

La implementación en el mundo real de estas tecnologías incluye salvaguardias prácticas para abordar una de las características más problemáticas de la IA: su tendencia a generar respuestas irrelevantes o inapropiadas. Johnston ilustró este desafío con un ejemplo concreto de desajustes contextuales que podrían crear riesgos comerciales. “Si tienes una tienda minorista, no deberías recibir consejos médicos”, explicó, destacando cómo los sistemas de IA pueden desviarse inesperadamente hacia dominios no relacionados. Esta imprevisibilidad representa un riesgo significativo para las empresas que implementan sistemas de IA orientados al cliente, donde respuestas fuera de contexto podrían confundir a los clientes, dañar la reputación de la marca o incluso generar exposición legal.