SAP sostiene que la gobernanza de la inteligencia artificial en las empresas asegura márgenes de ganancia al sustituir con control determinista las conjeturas estadísticas. Por ejemplo, si se le pide a un modelo de consumo que cuente las palabras de un documento, es común que falle en un diez por ciento. Manos Raptopoulos, Presidente Global de Éxito del Cliente en Europa, APAC, Medio Oriente y África en SAP, observa que la brecha operativa entre lo casi perfecto y lo perfecto es absoluta. "La distancia entre un 90% y un 100% de precisión no es incremental. En nuestro mundo, es existencial", señala Raptopoulos.

A medida que las organizaciones implementan modelos de lenguaje de gran tamaño en entornos productivos, Raptopoulos destaca que los criterios de evaluación han cambiado formalmente hacia la precisión, gobernanza, escalabilidad e impacto tangible en los negocios. El desafío apremiante que enfrentan las juntas corporativas se centra en la evolución de herramientas pasivas a actores digitales activos, una transición que Raptopoulos identifica como el momento principal de gobernanza y que será uno de los temas centrales en la AI & Big Data Expo de América del Norte de este año.

Los sistemas de IA agentiva ahora poseen la capacidad de planificar, razonar, orquestar con otros agentes y ejecutar flujos de trabajo de manera autónoma. Dado que estos sistemas interactúan directamente con datos sensibles e influyen en decisiones a gran escala, Raptopoulos advierte que no gobernarlos de la misma manera que se hace con una fuerza laboral humana expone a la organización a riesgos operativos severos. Él advierte que la proliferación de agentes reflejará las crisis de TI en la sombra de la última década, aunque los riesgos son categóricamente más altos.

Establecer la gestión del ciclo de vida de los agentes, definir límites de autonomía, hacer cumplir políticas e instituir un monitoreo continuo del rendimiento son requisitos obligatorios, según su marco. La integración de bases de datos vectoriales modernas, que mapean las relaciones semánticas del lenguaje empresarial, con arquitecturas relacionales heredadas exige un capital de ingeniería inmenso. Los equipos deben restringir activamente el bucle de inferencia del agente para evitar que alucinaciones contaminen los caminos de ejecución financiera o de la cadena de suministro. Establecer estos parámetros estrictos incrementa la latencia computacional y los costos de cómputo de los hiperescaladores, alterando las proyecciones iniciales de pérdidas y ganancias.

Cuando un modelo autónomo requiere consultas constantes y de alta frecuencia a la base de datos para mantener salidas deterministas, los costos asociados por token se multiplican rápidamente. La gobernanza se convierte en una restricción de ingeniería dura en lugar de una simple lista de verificación de cumplimiento. Raptopoulos sostiene que las juntas corporativas deben resolver tres cuestiones básicas antes de implementar modelos agentivos: identificar quién asume la responsabilidad por un error del agente, establecer trazas de auditoría para decisiones de la máquina y definir los umbrales exactos para la escalación humana. La fragmentación geopolítica complica la respuesta a estas preguntas. Las infraestructuras de nube soberanas, los modelos de IA y los mandatos de localización de datos son realidades regulatorias en mercados importantes como Nueva York, Frankfurt, Riad y Singapur.

Las empresas deben integrar el control determinista directamente en la inteligencia probabilística. Raptopoulos considera que este requisito es un mandato del C-suite, no un proyecto de TI. La estructuración de la inteligencia relacional para las operaciones comerciales depende completamente de la calidad de los datos y procesos sobre los que operan, representando lo que Raptopoulos llama el momento de la base de datos. Los datos maestros fragmentados, los sistemas comerciales aislados y los entornos ERP excesivamente personalizados introducen una imprevisibilidad peligrosa en los peores momentos.

Raptopoulos explica que si un agente autónomo depende de fundamentos fragmentados para proporcionar una recomendación que afecte el flujo de caja, las relaciones con los clientes o las posiciones de cumplimiento, el daño operativo resultante se escala instantáneamente. Extraer valor tangible para la empresa requiere avanzar más allá de los modelos de lenguaje genéricos entrenados con textos de internet. La verdadera inteligencia empresarial, según Raptopoulos, debe estar fundamentada en datos corporativos propietarios, incluyendo pedidos, facturas, registros de la cadena de suministro y publicaciones financieras incrustadas directamente en los procesos de negocio.

Él argumenta que los modelos de fundación relacional optimizados específicamente para datos comerciales estructurados superarán continuamente a los modelos genéricos en pronósticos, detección de anomalías y optimización operativa. La fricción operativa de hacer que un entorno ERP excesivamente personalizado sea inteligible para un modelo de fundación detiene muchas implementaciones. Los equipos de ingeniería de datos gastan ciclos excesivos sanitizando datos maestros fragmentados simplemente para crear una base para que la IA ingiera. Cuando un modelo relacional necesita interpretar con precisión registros complejos y propietarios de la cadena de suministro junto con datos de facturas en bruto, los pipelines de datos subyacentes deben operar con cero latencia.

Si la ingestión de datos falla, las capacidades predictivas del modelo se degradan instantáneamente, convirtiendo al agente en un peligro funcional para el negocio. Integrar la arquitectura heredada con IA relacional moderna requiere una revisión profunda de los pipelines de datos profundamente arraigados. Los equipos de ingeniería enfrentan el desafío de indexar décadas de datos de planificación mal clasificados para que los modelos de incrustación puedan generar representaciones vectoriales precisas. Siguiendo la lógica de Raptopoulos, las juntas deben evaluar si su estado de datos actual está genuinamente preparado, en lugar de simplemente superponer inteligencia probabilística sobre fundamentos disjuntos.

La interacción de las aplicaciones empresariales está pasando de interfaces estáticas a experiencias generativas, un desarrollo que Raptopoulos señala como el momento de interacción del empleado. En lugar de navegar manualmente por ecosistemas de software complejos, los empleados expresarán su intención al sistema. Raptopoulos ofrece el ejemplo de un usuario que instruye al software para preparar un informe para la visita de su cliente de mayores ingresos esa semana. Los agentes de IA luego orquestan los flujos de trabajo necesarios, ensamblan el contexto circundante y presentan acciones recomendadas. Sin embargo, Raptopoulos enfatiza que la adopción entre la fuerza laboral sigue siendo condicional a la confianza. Los empleados solo abrazarán a estos compañeros digitales cuando sientan que las salidas del sistema respetan los límites de gobernanza establecidos, reflejan reglas comerciales auténticas y ofrecen ganancias de productividad demostrables.