La seguridad de los sistemas de inteligencia artificial (IA) bajo las condiciones actuales y futuras se ha convertido en un tema crucial para las organizaciones. Un reciente eBook titulado “AI Quantum Resilience”, publicado por Utimaco, revela que las empresas consideran los riesgos de seguridad como el principal obstáculo para adoptar efectivamente la IA en los datos que poseen.
El valor de la IA depende en gran medida de la información acumulada por una organización. Sin embargo, existen riesgos de seguridad asociados a la construcción y entrenamiento de modelos con esos datos. Estos riesgos se suman a las amenazas más conocidas a la propiedad intelectual que surgen en el punto de inferencia, como el prompt engineering.
Los autores del eBook sostienen que las organizaciones deben gestionar las amenazas en cada etapa del desarrollo e implementación de la IA. Al mismo tiempo, las empresas deben estar preparadas para modificar sus protocolos de seguridad, cambios que se volverán obligatorios si las herramientas de descifrado impulsadas por la computación cuántica se vuelven fácilmente accesibles para actores maliciosos.
Utimaco identifica tres áreas críticas bajo amenaza: los datos de entrenamiento pueden ser manipulados por actores maliciosos, lo que degrada la salida de los modelos de maneras difíciles de detectar; los modelos pueden ser extraídos o copiados, erosionando los derechos de propiedad intelectual; y los datos sensibles utilizados durante el entrenamiento o la inferencia pueden ser expuestos.
Los autores del informe advierten que la criptografía de clave pública actual se volverá vulnerable en la próxima década, un periodo en el que podrían emerger sistemas cuánticos capaces. Independientemente del cronograma, se cree que grupos bien organizados actualmente recopilan datos cifrados y los almacenan para descifrarlos cuando las instalaciones cuánticas estén disponibles. Cualquier conjunto de datos con sensibilidad a largo plazo, como los datos de entrenamiento de modelos, registros financieros o propiedad intelectual, puede requerir protección contra futuros descifrados.
Por lo tanto, Utimaco sugiere una migración hacia la criptografía resistente a la computación cuántica, lo que impactará en los protocolos, la gestión de claves, la interoperabilidad del sistema y el rendimiento. Esta migración, según se estima, tomará varios años. Los autores del informe proponen un concepto llamado ‘crypto-agility’, que se define como la capacidad de cambiar algoritmos criptográficos sin rediseñar los sistemas subyacentes. Este enfoque se basa en el principio de la criptografía híbrida, que combina algoritmos establecidos con métodos post-cuánticos, como los sugeridos por NIST.
Los autores del eBook coinciden en que la criptografía por sí sola no aborda todas las áreas de riesgo posibles. Se aboga por el uso de dispositivos de confianza basados en hardware que pueden aislar claves criptográficas y operaciones sensibles del entorno de trabajo normal. Si las empresas están desarrollando sus propias herramientas y procesos de IA, la protección en este sentido debe extenderse a lo largo de todo el ciclo de vida de la IA, desde la ingesta de datos hasta el entrenamiento, despliegue de modelos e inferencia en producción.
Las claves de hardware utilizadas para cifrar datos y firmar modelos pueden generarse y almacenarse dentro de un entorno seguro. De esta manera, se puede verificar la integridad del modelo antes de su despliegue, y los datos sensibles procesados durante la inferencia permanecen protegidos. Los enclaves basados en hardware aíslan las cargas de trabajo de modo que incluso los administradores del sistema con privilegios suficientes no puedan acceder a los datos que se están procesando.
Los módulos de hardware pueden verificar que el enclave de datos se encuentra en un estado de confianza antes de liberar las claves, un proceso de atestación externa que ayuda a crear una “cadena de confianza” desde el hardware hasta la aplicación. La gestión de claves basada en hardware produce registros a prueba de manipulaciones que cubren el acceso y las operaciones, apoyando marcos de cumplimiento como la EU AI Act.
Muchos de los riesgos inherentes a los sistemas de IA son bien conocidos, si no se han explotado ya. El riesgo que presenta la computación cuántica para descifrar datos que actualmente se consideran seguros no es inmediato, pero sus implicaciones deberían influir en las decisiones sobre datos e infraestructura que se tomen hoy, según Utimaco. Se aboga por un fortalecimiento de los controles a lo largo del ciclo de vida de desarrollo y despliegue de la IA, la introducción de ‘crypto-agility’ para permitir la transición hacia una seguridad post-cuántica y el establecimiento de mecanismos de confianza basados en hardware siempre que se manejen activos de alto valor.
