OpenAI presentó su nuevo marco de gobernanza, diseñado para ayudar a las empresas a implementar inteligencia artificial (IA) de manera segura y conforme a la normativa. Este marco, denominado Frontier Governance Framework (FGF), proporciona una guía estructurada para escalar el uso de modelos de lenguaje a gran escala, garantizando que los despliegues sean seguros y cumplan con las regulaciones.

Marco de gobernanza y su importancia en la IA

El FGF documenta cómo OpenAI aborda la evaluación y mitigación de riesgos sistémicos. Este marco se alinea con el Código de Práctica de IA de la UE y la California Transparency in Frontier AI Act (TFAIA), ofreciendo un modelo práctico que detalla cómo deben estructurarse los sistemas internos y las canalizaciones de despliegue para soportar modelos de aprendizaje automático de alta capacidad de manera segura.

Evaluación de riesgos y categorización de amenazas

La estructura del marco define el riesgo sistémico como aquellos riesgos materiales previsibles que pueden causar daños severos. Esto incluye situaciones donde un modelo puede contribuir a más de 50 muertes o causar daños materiales superiores a $1 mil millones en un solo incidente. Aunque estos escenarios son extremos, su codificación permite a los equipos de despliegue implementar salvaguardas adecuadas.

OpenAI clasifica las amenazas en diferentes dominios, como ofensivas cibernéticas, riesgos químicos, biológicos, radiológicos y nucleares (CBRN), manipulación dañina y pérdida de control. Esta categorización ayuda a los equipos de seguridad interna a establecer límites definidos para sus modelos, asegurando que se mantenga un control adecuado.

Desafíos de integración y seguridad de la información

OpenAI alinea su seguridad interna con estándares como ISO 27001 y SOC 2 Tipo II. Para proteger los pesos de modelo no liberados, la empresa utiliza cifrado para datos en reposo y en tránsito, autenticación multifactor y protocolos estrictos de aprobación. Al replicar esta configuración, las empresas pueden establecer una base segura para sus operaciones internas.

La integración de modelos en entornos de datos corporativos a menudo lleva a los equipos de ingeniería a depender de Generación Aumentada por Recuperación y bases de datos vectoriales densas. Asegurar estas bases de datos contra intentos de extracción de datos requiere un esfuerzo computacional dedicado, donde cada solicitud de API pasa por clasificadores de seguridad antes de acceder a la base de datos vectorial.

Importancia del monitoreo y la auditoría externa

OpenAI también busca la opinión de expertos externos y evaluadores independientes para mantener la precisión de las líneas base de riesgo. Estos expertos ayudan a probar las salvaguardas para modelos que se aproximan a un nuevo nivel de riesgo y proporcionan opiniones independientes al Grupo Asesor de Seguridad interno. Las empresas pueden beneficiarse de auditorías externas para verificar que sus despliegues de modelos se mantengan dentro de umbrales de riesgo aceptables.

Finalmente, OpenAI documenta sus resultados de mitigación en un Informe de Modelo de Seguridad y Seguridad, comprometiéndose a evaluar cada seis meses si es necesario actualizar estos informes para sus modelos más capaces, especialmente si sus capacidades cambian materialmente o si las integraciones aumentan el riesgo.