Para salvaguardar los márgenes empresariales, los líderes de negocios deben invertir en una gobernanza sólida de la inteligencia artificial que les permita gestionar de manera segura la infraestructura de IA. Al momento de evaluar la adopción de software empresarial, se observa un patrón recurrente que marca la evolución de la tecnología en diversas industrias. Según Rob Thomas, Vicepresidente Senior y Director Comercial de IBM, el software generalmente pasa de ser un producto independiente a convertirse en una plataforma y, posteriormente, en una infraestructura fundamental, lo que transforma completamente las reglas de gobernanza.
En la etapa inicial del producto, ejercer un control corporativo estricto puede parecer muy beneficioso. Los entornos de desarrollo cerrados permiten iteraciones rápidas y gestionan de manera eficiente la experiencia del usuario final, concentrando el valor financiero dentro de una única entidad corporativa. Este enfoque funciona adecuadamente durante los ciclos de desarrollo iniciales. Sin embargo, el análisis de IBM pone de manifiesto que las expectativas cambian drásticamente cuando una tecnología se consolida como una capa fundamental.
Una vez que otros marcos institucionales, mercados externos y sistemas operativos amplios dependen del software, los estándares prevalentes se adaptan a esta nueva realidad. En la escala de infraestructura, adoptar la apertura deja de ser una postura ideológica y se convierte en una necesidad práctica. Actualmente, la inteligencia artificial está cruzando este umbral dentro de la arquitectura empresarial. Los modelos de IA se integran cada vez más en las formas en que las organizaciones protegen sus redes, generan código fuente, toman decisiones automatizadas y crean valor comercial.
La reciente vista previa limitada del modelo Claude Mythos de Anthropic resalta esta realidad para los ejecutivos empresariales que manejan riesgos. Anthropic informa que este modelo específico puede descubrir y explotar vulnerabilidades de software a un nivel que rivaliza con el de pocos expertos humanos. En respuesta a esta capacidad, Anthropic lanzó el Proyecto Glasswing, una iniciativa restringida diseñada para proporcionar estas capacidades avanzadas primero a los defensores de redes.
Desde la perspectiva de IBM, este desarrollo obliga a los responsables de tecnología a enfrentar vulnerabilidades estructurales inmediatas. Si los modelos autónomos tienen la capacidad de escribir exploits y moldear el entorno de seguridad general, Thomas señala que concentrar el conocimiento de estos sistemas en un pequeño número de proveedores de tecnología conlleva una grave exposición operativa. A medida que los modelos alcanzan el estatus de infraestructura, el problema principal ya no es solo lo que estas aplicaciones de aprendizaje automático pueden ejecutar. La prioridad se convierte en cómo se construyen, gobiernan, inspeccionan y mejoran activamente estos sistemas a lo largo del tiempo.
A medida que los marcos subyacentes crecen en complejidad e importancia empresarial, mantener tuberías de desarrollo cerradas se vuelve cada vez más difícil de justificar. Ningún proveedor único puede anticipar con éxito cada requisito operativo, vector de ataque adversarial o modo de falla del sistema. Implementar estructuras de IA opacas introduce una gran fricción en la arquitectura de red existente. Conectar modelos propietarios cerrados con bases de datos vectoriales empresariales establecidas o lagos de datos internos altamente sensibles a menudo genera enormes cuellos de botella en la resolución de problemas.
Cuando ocurren salidas anómalas o aumentan las tasas de alucinación, los equipos carecen de la visibilidad interna necesaria para diagnosticar si el error se originó en el pipeline de generación aumentada por recuperación o en los pesos del modelo base. Integrar arquitecturas heredadas en las instalaciones con modelos en la nube altamente restringidos también introduce una latencia severa en las operaciones diarias. Cuando los protocolos de gobernanza de datos empresariales prohíben estrictamente el envío de información sensible de clientes a servidores externos, los equipos tecnológicos deben intentar eliminar y anonimizar conjuntos de datos antes de procesarlos. Esta constante sanitización de datos genera una gran carga operativa.
Además, los costos de computación que aumentan asociados con las llamadas API continuas a modelos cerrados erosionan los márgenes de beneficio que estos sistemas autónomos deberían mejorar. La opacidad impide que los ingenieros de red dimensionen con precisión las implementaciones de hardware, forzando a las empresas a entrar en costosos acuerdos de sobreaprovisionamiento para mantener la funcionalidad básica.
La necesidad del código abierto en la IA para la resiliencia operativa es evidente. Restringir el acceso a aplicaciones poderosas es un instinto humano comprensible que se asemeja a la cautela. Sin embargo, como señala Thomas, a gran escala de infraestructura, la seguridad generalmente mejora a través de un riguroso escrutinio externo en lugar de un estricto ocultamiento. Esta es la lección perdurable del desarrollo de software de código abierto.
El código abierto no elimina el riesgo empresarial. En cambio, IBM sostiene que cambia activamente la forma en que las organizaciones gestionan ese riesgo. Una base abierta permite a una mayor cantidad de investigadores, desarrolladores corporativos y defensores de la seguridad examinar la arquitectura, descubrir debilidades subyacentes, probar supuestos fundamentales y fortalecer el software en condiciones del mundo real. Dentro de las operaciones de ciberseguridad, una amplia visibilidad rara vez es el enemigo de la resiliencia operativa. De hecho, la visibilidad frecuentemente sirve como un requisito estricto para lograr esa resiliencia.
Las tecnologías consideradas altamente importantes tienden a ser más seguras cuando poblaciones más grandes pueden desafiarlas, inspeccionar su lógica y contribuir a su mejora continua. Thomas aborda uno de los mitos más antiguos sobre la tecnología de código abierto: la creencia de que inevitablemente descompone la innovación corporativa. En la práctica, la infraestructura abierta tiende a elevar la competencia en el nivel superior de la tecnología. Los sistemas abiertos transfieren valor financiero en lugar de destruirlo. A medida que las bases digitales comunes maduran, el valor comercial se desplaza hacia la implementación compleja, la orquestación del sistema, la confiabilidad continua, los mecanismos de confianza y la experiencia en dominios específicos. La posición de IBM sostiene que los ganadores comerciales a largo plazo no son aquellos que poseen la capa tecnológica base, sino las organizaciones que saben aplicarla de manera más efectiva.
