El Departamento del Tesoro de EE.UU. presentó un conjunto de documentos orientados al sector de servicios financieros que proponen un enfoque estructurado para manejar los riesgos asociados a la inteligencia artificial (IA) en sus operaciones y políticas. Esta iniciativa incluye el Marco de Gestión de Riesgos de IA para Servicios Financieros (FS AI RMF) y un Manual que detalla dicho marco, desarrollado a partir de la colaboración de más de 100 instituciones financieras y organizaciones del sector, junto con la participación de reguladores y organismos técnicos.

El objetivo del FS AI RMF radica en ayudar a las instituciones financieras a identificar, evaluar, gestionar y gobernar los riesgos que surgen de los sistemas de IA, permitiendo que las empresas continúen adoptando tecnologías de IA de manera responsable. Este marco sectorial se presenta como una extensión del marco general de gestión de riesgos de IA del NIST, incorporando controles específicos y directrices prácticas adaptadas a las particularidades del sector financiero.

Los sistemas de IA introducen riesgos que los marcos de gobernanza tecnológica existentes no abordan adecuadamente. Entre estos riesgos se encuentran el sesgo algorítmico, la falta de transparencia en los procesos de decisión, las vulnerabilidades cibernéticas y las complejas interdependencias entre sistemas y datos. Los modelos de lenguaje (LLMs) generan preocupaciones debido a que su comportamiento puede resultar difícil de interpretar o predecir. A diferencia del software tradicional, que es determinista, la salida de una IA varía según el contexto.

A pesar de que las instituciones financieras ya operan bajo un marco regulatorio extenso y cuentan con guías generales como el marco de gestión de riesgos de IA del NIST, la aplicación de estos marcos generales en las operaciones del sector financiero carece de los detalles que reflejan las prácticas del sector y las expectativas regulatorias. Por ello, el FS AI RMF se posiciona como un complemento al marco de NIST, ofreciendo controles adicionales específicos del sector y directrices prácticas para su implementación.

El manual detalla cómo las empresas pueden evaluar su madurez actual en IA e implementar controles para limitar sus riesgos. Su propósito es promover prácticas de IA consistentes y responsables, al mismo tiempo que apoya la innovación dentro del sector.

La estructura central del FS AI RMF conecta la gobernanza de IA con los procesos más amplios de gobernanza, riesgo y cumplimiento que ya afectan a las instituciones financieras. El marco incluye cuatro componentes principales. El primero es un cuestionario sobre la etapa de adopción de IA que permite a las organizaciones determinar la madurez de su uso de IA. El segundo es una matriz de riesgos y controles, que contiene un conjunto de declaraciones de riesgo y objetivos de control alineados con las etapas de adopción.

El manual explica cómo aplicar el marco, mientras que una guía de referencia de objetivos de control proporciona ejemplos de controles y evidencia de apoyo. El marco define un total de 230 objetivos de control organizados de acuerdo con cuatro funciones adaptadas del marco de gestión de riesgos de IA del NIST: gobernar, mapear, medir y gestionar. Cada función contiene categorías y subcategorías que describen elementos de la gestión y gobernanza efectiva de riesgos de IA.

El cuestionario sobre la etapa de adopción determina el grado en que una organización está utilizando IA. Algunas empresas dependen de modelos predictivos tradicionales en aplicaciones limitadas, mientras que otras implementan IA en procesos comerciales clave; otras simplemente utilizan IA en roles orientados al cliente. Este cuestionario ayuda a las organizaciones a determinar su posición actual en el espectro del uso de IA, evaluando factores como el impacto comercial de la IA, los arreglos de gobernanza, los modelos de implementación, el uso de proveedores de IA externos, los objetivos organizacionales y la sensibilidad de los datos.

Basado en esta evaluación, las organizaciones se clasifican en cuatro etapas de adopción de IA: etapa inicial: organizaciones que tienen poco o ningún despliegue operativo de IA; etapa mínima: uso limitado de IA en áreas de bajo riesgo o sistemas aislados; etapa en evolución: organizaciones que ejecutan sistemas de IA más complejos, incluyendo aplicaciones que involucran datos sensibles o servicios externos; etapa integrada: donde la IA desempeña un papel significativo en las operaciones comerciales y la toma de decisiones.

Estas etapas ayudan a las instituciones a enfocar sus esfuerzos en controles apropiados para su nivel de madurez. Una empresa en una etapa temprana no necesita implementar todos los controles de inmediato, pero a medida que la IA se integre más, el marco introduce controles adicionales para abordar niveles crecientes de riesgo.

Los objetivos de control para cada etapa de adopción de IA abordan temas de gobernanza y operativos, incluyendo la gestión de calidad de datos, el monitoreo de equidad y sesgo, controles de ciberseguridad, la transparencia en los procesos de decisión de IA y la resiliencia operativa. El manual proporciona ejemplos de posibles controles y tipos de evidencia que las instituciones pueden utilizar para demostrar su cumplimiento. Cada empresa debe determinar los controles que mejor se adapten a su situación.

El marco recomienda mantener procedimientos de respuesta a incidentes específicos para los sistemas de IA y crear un repositorio central para el seguimiento de incidentes relacionados con IA, procesos que ayudarán a las organizaciones a detectar fallas y mejorar la gobernanza con el tiempo.

El marco incorpora principios de IA confiable, definidos como validez y fiabilidad, seguridad y resiliencia, responsabilidad, transparencia, explicabilidad, protección de la privacidad y equidad. Estos principios proporcionan una base para evaluar los sistemas de IA a lo largo de todo su ciclo de vida. En términos simples, las instituciones financieras deben garantizar que las salidas de IA sean fiables, que los sistemas estén protegidos contra amenazas cibernéticas y que las decisiones puedan ser explicadas cuando afecten a los clientes o tengan relevancia regulatoria.

Para los líderes de instituciones financieras de cualquier nación, el FS AI RMF ofrece una guía para integrar la IA en los marcos de gestión de riesgos existentes. Subraya la necesidad de coordinación entre las diferentes funciones comerciales dentro de la organización. Los equipos de tecnología, los oficiales de riesgo, los especialistas en cumplimiento y las unidades comerciales deben participar en el proceso de gobernanza de IA. Adoptar IA sin fortalecer las estructuras de gobernanza podría exponer a las instituciones a fallas operativas, escrutinio regulatorio o daños a la reputación. Por el contrario, las empresas que establecen procesos de gobernanza claros tendrán más confianza al implementar sistemas de IA.

El manual enmarca la gestión de riesgos de IA como una entidad en evolución. A medida que las tecnologías de IA se desarrollan y las expectativas regulatorias cambian, las instituciones deberán actualizar sus prácticas de gobernanza y evaluaciones de riesgo en consecuencia. Para los tomadores de decisiones del sector financiero, el mensaje es claro: la adopción de IA debe avanzar en sintonía con la gobernanza de riesgos. Un marco estructurado como el FS AI RMF proporciona una hoja de ruta para lograr esta integración.