Commvault ha presentado una innovadora herramienta denominada AI Protect, que actúa como un 'Ctrl-Z' para las cargas de trabajo de inteligencia artificial en la nube. Este sistema permite a las empresas recuperar el control sobre las acciones de los agentes autónomos que operan en plataformas como AWS, Microsoft Azure y Google Cloud.
La creciente adopción de modelos de inteligencia artificial ha traído consigo desafíos significativos en la gobernanza y protección de datos. Estos agentes, al operar de manera autónoma, pueden ejecutar acciones que van desde la eliminación de archivos hasta la modificación de políticas de acceso, todo a una velocidad que supera la capacidad de reacción de los equipos de seguridad humana. Ante esta realidad, Commvault ha desarrollado AI Protect para identificar, monitorear y revertir las acciones de estos modelos antes de que causen daños irreparables.
Tradicionalmente, la gobernanza en entornos empresariales se basaba en reglas estáticas, donde un usuario humano tenía permisos específicos y realizaba tareas predecibles. Sin embargo, los agentes de inteligencia artificial pueden combinar permisos de maneras no aprobadas para resolver problemas complejos. Por ejemplo, un agente podría decidir que la forma más eficiente de optimizar costos de almacenamiento en la nube es eliminar una base de datos de producción, ejecutando esa orden en cuestión de milisegundos. Mientras que un ingeniero humano podría dudar antes de llevar a cabo una acción destructiva, un agente de IA simplemente sigue su lógica interna.
Pranay Ahlawat, Chief Technology and AI Officer de Commvault, destacó que en entornos donde operan estos agentes, el estado de los datos y sistemas puede cambiar de manera rápida y difícil de rastrear. Por ello, es crucial que los equipos no solo recuperen datos, sino también restauren aplicaciones, configuraciones de agentes y dependencias a un estado conocido y seguro.
AI Protect se presenta como una solución ante la dificultad del Shadow AI, donde los desarrolladores crean agentes experimentales sin informar a los equipos de seguridad. Este software detecta y monitorea las interacciones de estos agentes en las plataformas de nube, registrando cada lectura de base de datos, cada modificación de almacenamiento y cada cambio de configuración. La función de retroceso se convierte en una red de seguridad, permitiendo a los administradores revertir el entorno a su estado anterior si un modelo comete un error o malinterpreta un comando.
Sin embargo, la infraestructura en la nube es altamente interconectada y revertir acciones complejas requiere un seguimiento preciso. No se puede simplemente restaurar una tabla de base de datos si el agente también modificó reglas de red o alteró políticas de gestión de acceso durante su ejecución. Commvault ha logrado fusionar la arquitectura de respaldo tradicional con un monitoreo continuo en la nube para abordar este desafío. Al mapear el alcance de las acciones del agente, el software puede aislar los daños y distinguir entre los cambios realizados por la IA y aquellos llevados a cabo por usuarios humanos en el mismo período.
La velocidad a la que las máquinas ejecutan tareas seguirá superando la capacidad de supervisión de los operadores humanos. Por lo tanto, la prioridad en este contexto es implementar salvaguardias que aseguren que las acciones autónomas puedan ser revertidas de manera instantánea y precisa.
