La nueva norma ETSI EN 304 223 establece requisitos de seguridad fundamentales para la inteligencia artificial que las empresas deben integrar en sus marcos de gobernanza. A medida que las organizaciones incorporan el aprendizaje automático en sus operaciones centrales, este estándar europeo establece disposiciones concretas para asegurar los modelos y sistemas de IA. Se trata del primer estándar europeo aplicable a nivel global en ciberseguridad para IA, que ha obtenido la aprobación formal de las Organizaciones Nacionales de Normalización, fortaleciendo así su autoridad en los mercados internacionales.

Este estándar se presenta como un punto de referencia necesario junto a la Ley de IA de la UE. Reconoce que los sistemas de IA enfrentan riesgos específicos, como la susceptibilidad a la contaminación de datos, la ofuscación de modelos y la inyección indirecta de comandos, que a menudo se pasan por alto con las medidas de seguridad tradicionales de software. La norma abarca desde redes neuronales profundas y la IA generativa hasta sistemas predictivos básicos, excluyendo únicamente aquellos utilizados estrictamente para la investigación académica.

Una de las dificultades persistentes en la adopción de la IA por parte de las empresas es determinar quién asume el riesgo. La norma ETSI resuelve este dilema al definir tres roles técnicos principales: Desarrolladores, Operadores de Sistema y Custodios de Datos. En muchas empresas, estas funciones se entrelazan. Por ejemplo, una empresa de servicios financieros que ajusta un modelo de código abierto para la detección de fraudes actúa tanto como Desarrollador como Operador de Sistema. Este doble estatus activa obligaciones estrictas, exigiendo a la firma asegurar la infraestructura de despliegue y documentar el origen de los datos de entrenamiento y la auditoría del diseño del modelo.

La inclusión de los 'Custodios de Datos' como un grupo de interés distinto impacta directamente en los Directores de Datos y Análisis (CDAOs). Estas entidades controlan los permisos y la integridad de los datos, un rol que ahora conlleva responsabilidades de seguridad explícitas. Los Custodios deben asegurarse de que el uso previsto de un sistema esté alineado con la sensibilidad de los datos de entrenamiento, situando efectivamente a un guardián de seguridad dentro del flujo de trabajo de gestión de datos.

El estándar de ETSI deja en claro que la seguridad no puede ser un aspecto añadido en la etapa de despliegue. Durante la fase de diseño, las organizaciones deben realizar modelados de amenazas que aborden ataques nativos de IA, como la inferencia de membresía y la ofuscación de modelos. Una de las disposiciones exige a los desarrolladores restringir funcionalidades para reducir la superficie de ataque. Por ejemplo, si un sistema utiliza un modelo multimodal pero solo requiere procesamiento de texto, las modalidades no utilizadas (como el procesamiento de imágenes o audio) representan un riesgo que debe ser gestionado.

Este requerimiento obliga a los líderes técnicos a reconsiderar la práctica común de desplegar modelos de base masivos y de propósito general, donde un modelo más pequeño y especializado sería suficiente. El documento también impone una gestión de activos rigurosa. Los Desarrolladores y Operadores de Sistema deben mantener un inventario exhaustivo de activos, incluyendo interdependencias y conectividad. Esto apoya el descubrimiento de IA sombra; los líderes de TI no pueden asegurar modelos que no saben que existen.

Además, el estándar exige la creación de planes de recuperación ante desastres específicos adaptados a ataques de IA, asegurando que se pueda restaurar un “estado conocido” si un modelo se ve comprometido. La seguridad de la cadena de suministro presenta un punto de fricción inmediato para las empresas que dependen de proveedores externos o repositorios de código abierto. La norma ETSI requiere que si un Operador de Sistema decide usar modelos o componentes de IA que no están bien documentados, debe justificar esa decisión y documentar los riesgos de seguridad asociados.

En la práctica, los equipos de adquisiciones ya no pueden aceptar soluciones “caja negra”. Los desarrolladores deben proporcionar hashes criptográficos para los componentes del modelo para verificar su autenticidad. Cuando los datos de entrenamiento se obtienen públicamente (una práctica común para los Modelos de Lenguaje Grande), los desarrolladores deben documentar la URL de origen y la fecha de adquisición. Esta trazabilidad es necesaria para investigaciones posteriores a incidentes, especialmente al intentar identificar si un modelo fue sometido a contaminación de datos durante su fase de entrenamiento.

Si una empresa ofrece una API a clientes externos, debe aplicar controles diseñados para mitigar ataques enfocados en la IA, como la limitación de tasas para prevenir que adversarios puedan desensamblar el modelo o abruman las defensas para inyectar datos contaminados. El enfoque de ciclo de vida se extiende a la fase de mantenimiento, donde el estándar trata las actualizaciones importantes, como el reentrenamiento con nuevos datos, como el despliegue de una nueva versión. Bajo el estándar de IA de ETSI, esto activa un requerimiento para pruebas y evaluaciones de seguridad renovadas.

La monitorización continua también se formaliza. Los Operadores de Sistema deben analizar registros no solo para verificar el tiempo de actividad, sino para detectar “desviaciones de datos” o cambios graduales en el comportamiento que podrían indicar una violación de seguridad. Esto transforma la monitorización de IA de una métrica de rendimiento a una disciplina de seguridad. El estándar también aborda la fase de “Fin de Vida”. Cuando un modelo es descontinuado o transferido, las organizaciones deben involucrar a los Custodios de Datos para asegurar la eliminación segura de datos y detalles de configuración. Esta disposición previene la fuga de propiedad intelectual sensible o datos de entrenamiento a través de hardware desechado o instancias en la nube olvidadas.

La supervisión ejecutiva y la gobernanza son cruciales. Cumplir con el estándar ETSI EN 304 223 requiere una revisión de los programas de capacitación en ciberseguridad existentes. La norma exige que la capacitación se adapte a roles específicos, asegurando que los desarrolladores comprendan la codificación segura para IA, mientras que el personal general permanezca consciente de amenazas como la ingeniería social a través de salidas de IA. “El estándar ETSI EN 304 223 representa un avance significativo en el establecimiento de una base común y rigurosa para asegurar los sistemas de IA”, afirmó Scott Cadzow, presidente del Comité Técnico de ETSI para la Seguridad de la Inteligencia Artificial. “En un momento en que la IA se integra cada vez más en servicios e infraestructuras críticas, la disponibilidad de una guía clara y práctica que refleje tanto la complejidad de estas tecnologías como las realidades de su despliegue no puede subestimarse. El trabajo realizado para entregar este marco es el resultado de una colaboración extensa y significa que las organizaciones pueden tener plena confianza en sistemas de IA que son resilientes, confiables y seguros por diseño.” Implementar estas bases en el estándar de seguridad de IA de ETSI proporciona una estructura para una innovación más segura. Al exigir trazabilidad documental, definiciones claras de roles y transparencia en la cadena de suministro, las empresas pueden mitigar los riesgos asociados con la inteligencia artificial.