E.SUN Bank se unió a IBM para desarrollar un marco de gobernanza de inteligencia artificial (IA) destinado al sector bancario. Este esfuerzo responde a una transformación más amplia en la industria financiera, donde muchas entidades ya emplean IA para la detección de fraudes y la evaluación de créditos, así como para gestionar consultas de servicio al cliente.

El nuevo desafío radica en cómo administrar estos sistemas de manera que cumplan con las normativas legales y de riesgo. A medida que las instituciones bancarias implementan IA, surgen preguntas críticas: ¿cómo debe evaluarse un modelo antes de su lanzamiento? ¿Quién asume la responsabilidad si se toma una decisión errónea? ¿Y cómo pueden demostrar a los reguladores que sus sistemas son equitativos y seguros?

Para abordar estas inquietudes, E.SUN Bank y IBM Consulting han creado un marco de gobernanza de IA para la banca. Este proyecto incluye un documento técnico que detalla cómo las entidades financieras pueden establecer controles internos sobre los sistemas de IA. Según el comunicado de prensa de las compañías, el trabajo se adapta a estándares globales como el EU AI Act y la norma ISO/IEC 42001 para servicios financieros.

El marco define cómo los bancos pueden revisar los modelos de IA antes de su implementación y establece pautas para el monitoreo posterior a su entrada en producción. Incluye reglas sobre el uso de datos y la realización de revisiones de riesgo. E.SUN Bank aseguró que este marco tiene como objetivo ayudar a las instituciones financieras a introducir sistemas de IA mientras mantienen la gobernanza y la supervisión regulatoria adecuadas.

Actualmente, muchas entidades operan con herramientas de IA limitadas. El siguiente paso es escalar esos sistemas a operaciones centrales como préstamos y pagos, siempre dentro de los límites regulatorios. La gestión del riesgo de IA se convierte en una prioridad para las entidades financieras, ya que el sector bancario se basa en la confianza y los reguladores exigen un seguimiento de cómo se toman las decisiones.

Los modelos de IA a menudo funcionan como cajas negras, lo que dificulta explicar cómo llegan a un resultado. Esto puede generar problemas en áreas como decisiones crediticias o detección de fraudes. Los reguladores en diversas regiones han comenzado a prestar atención a estos riesgos. La EU AI Act, adoptada en 2024, impone estrictas normas a los sistemas de IA utilizados en sectores de alto riesgo como el financiero. La ley exige a las empresas evaluar riesgos y documentar los datos de entrenamiento, así como monitorear el comportamiento de los modelos de IA tras su implementación.

Los estándares globales también están tomando forma. La norma ISO/IEC 42001, publicada en 2023, establece cómo las organizaciones pueden construir sistemas de gestión para la IA, enfocándose en la supervisión y el monitoreo de modelos. Además, aborda cómo las organizaciones deben gestionar los datos de IA, con el objetivo de ofrecer a las empresas una forma estructurada de manejar la IA en toda la compañía, en lugar de tratar cada modelo como una herramienta independiente.

El proyecto de E.SUN Bank con IBM se basa en ambos marcos y busca demostrar cómo estas reglas pueden aplicarse en las operaciones bancarias diarias. A lo largo de los años, los bancos han utilizado el aprendizaje automático principalmente en análisis de riesgo y detección de fraudes. Sin embargo, los modelos de IA más recientes están ampliando el uso de esta tecnología, aplicándose ahora en atención al cliente y revisión de documentos, así como en sistemas de conocimiento interno.

Esta expansión plantea nuevas necesidades de gobernanza. Un sistema que sugiere respuestas a consultas de clientes puede parecer de bajo riesgo, pero un modelo que ayuda a aprobar préstamos o detectar fraudes puede tener efectos financieros directos. El marco de gobernanza creado por E.SUN Bank y IBM establece un proceso para rastrear esos riesgos, asegurando que los modelos sean revisados antes de su lanzamiento y que sus resultados sean monitoreados después de su implementación.

El proyecto también produce un documento técnico que explica los pasos en mayor detalle, describiendo cómo los bancos pueden clasificar los sistemas de IA según su nivel de riesgo y aplicar diferentes niveles de supervisión. Esta iniciativa en E.SUN Bank refleja una tendencia en el ámbito financiero global, donde muchas entidades ahora consideran la gobernanza como un paso clave antes de escalar la IA en sus operaciones.

Las encuestas de la industria sugieren que la adopción de IA en los servicios financieros ya es generalizada. Un informe de 2024 de NVIDIA reveló que aproximadamente el 91% de las empresas del sector financiero estaban evaluando o utilizando IA. Los usos comunes incluyen detección de fraudes y modelado de riesgos, y más del 70% de las instituciones financieras planean aumentar su inversión en IA, especialmente en monitoreo de cumplimiento y análisis de riesgos.

Al mismo tiempo, los reguladores están prestando más atención a este tema. Las autoridades de varias regiones han advertido a los bancos sobre la necesidad de rastrear cómo los sistemas automatizados afectan decisiones como la aprobación de créditos y la detección de fraudes. Esta presión ha llevado a las entidades a invertir más en sistemas de supervisión internos, enfocándose no solo en la precisión del modelo, sino también en las fuentes de datos y la lógica de decisión.

La necesidad de gobernanza puede influir en la rapidez con la que los bancos adoptan nuevas herramientas. Sin reglas claras, muchas empresas dudan en avanzar más allá de pequeños experimentos. Un marco estructurado puede ayudarles a expandir proyectos de IA mientras cumplen con las exigencias regulatorias. Esa es la idea detrás del proyecto de E.SUN Bank, que busca combinar estándares globales con flujos de trabajo bancarios para establecer cómo se puede implementar la IA bajo una supervisión clara.

Según el anuncio de las empresas, IBM afirmó que el marco fue desarrollado para ayudar a las instituciones financieras a gestionar los riesgos de IA a medida que amplían su uso en la banca. Este esfuerzo también refleja el creciente papel de la gobernanza en la IA empresarial. Los primeros proyectos de IA se centraron en construir modelos y mejorar el rendimiento, pero hoy el enfoque se desplaza hacia cómo se gestionan esos sistemas a lo largo del tiempo. A medida que más bancos incorporan la IA en sus operaciones centrales, esta cuestión puede convertirse en tan importante como la tecnología misma.