En el vertiginoso mundo de la inteligencia artificial, la empresa Wiz ha revelado que muchas compañías líderes en el sector están dejando de lado prácticas básicas de seguridad. Un alarmante 65 por ciento de las 50 principales firmas de IA analizadas por Wiz han expuesto secretos verificados en GitHub, incluyendo claves de API, tokens y credenciales sensibles, a menudo ocultos en repositorios de código que las herramientas de seguridad estándar no revisan.

Glyn Morgan, gerente de país para el Reino Unido e Irlanda en Salt Security, calificó esta tendencia como un error básico y prevenible. 'Cuando las empresas de IA exponen accidentalmente sus claves de API, cometen un fallo de seguridad evidente y evitable', afirmó. 'Es el ejemplo clásico de gobernanza combinada con una configuración de seguridad, dos de las categorías de riesgo que OWASP señala. Al introducir credenciales en repositorios de código, le entregan a los atacantes un boleto dorado para acceder a sistemas, datos y modelos, eludiendo las capas defensivas habituales.'

El informe de Wiz también destaca el creciente riesgo de seguridad en la cadena de suministro. Este problema no solo afecta a los equipos de desarrollo internos; a medida que las empresas se asocian cada vez más con startups de IA, pueden heredar su postura de seguridad. Los investigadores advierten que algunas de las filtraciones encontradas 'podrían haber expuesto estructuras organizativas, datos de entrenamiento o incluso modelos privados.'

Las implicaciones financieras son significativas. Las empresas analizadas que presentaron filtraciones verificadas tienen una valoración combinada de más de 400 mil millones de dólares. El informe, que se centró en compañías listadas en el Forbes AI 50, proporciona ejemplos concretos de los riesgos: LangChain fue identificado como uno de los casos donde se expusieron múltiples claves de API de Langsmith, algunas con permisos para gestionar la organización y listar a sus miembros. Este tipo de información es altamente valorada por los atacantes para realizar reconocimientos.

Además, se descubrió una clave de API de nivel empresarial para ElevenLabs en un archivo de texto sin formato. Una empresa no identificada del AI 50 tuvo un token de HuggingFace expuesto en un fork de código eliminado. Este único token 'permitía acceso a alrededor de 1,000 modelos privados'. La misma compañía también filtró claves de WeightsAndBiases, exponiendo los 'datos de entrenamiento de muchos modelos privados.'

El informe de Wiz sugiere que este problema es tan prevalente porque los métodos tradicionales de escaneo de seguridad ya no son suficientes. Confiar en escaneos básicos de los repositorios principales de GitHub de una empresa es un 'enfoque comoditizado' que pasa por alto los riesgos más severos. Los investigadores describen la situación como un 'iceberg', donde los riesgos más obvios son visibles, pero el mayor peligro reside 'debajo de la superficie'.

Para descubrir estos riesgos ocultos, los investigadores adoptaron una metodología de escaneo tridimensional que llaman 'Profundidad, Perímetro y Cobertura': Profundidad: su escaneo profundo analizó el 'historial completo de commits, el historial de commits en forks, forks eliminados, registros de flujo de trabajo y gists', áreas que la mayoría de los escáneres 'nunca tocan'. Perímetro: el escaneo se amplió más allá de la organización central de la empresa para incluir a miembros y contribuyentes de la organización. Estos individuos podrían 'inadvertidamente introducir secretos relacionados con la empresa en sus propios repositorios públicos'. El equipo identificó estas cuentas adyacentes rastreando a los contribuyentes de código, seguidores de la organización e incluso 'correlaciones en redes relacionadas como HuggingFace y npm.' Cobertura: los investigadores buscaron específicamente nuevos tipos de secretos relacionados con la IA que los escáneres tradicionales suelen pasar por alto, como claves para plataformas como WeightsAndBiases, Groq y Perplexity. Esta superficie de ataque ampliada es particularmente preocupante dado el aparente bajo nivel de madurez en seguridad de muchas empresas de rápido crecimiento.

El informe señala que cuando los investigadores intentaron divulgar las filtraciones, casi la mitad de las divulgaciones no lograron llegar al objetivo o no recibieron respuesta. Muchas empresas carecían de un canal oficial de divulgación o simplemente no resolvieron el problema una vez notificado. Los hallazgos de Wiz sirven como una advertencia para los ejecutivos de tecnología empresarial, destacando tres acciones inmediatas para gestionar tanto el riesgo de seguridad interno como el de terceros.

Los líderes de seguridad deben considerar a sus empleados como parte de la superficie de ataque de la empresa. El informe recomienda crear una política de miembros del Sistema de Control de Versiones (VCS) que se aplique durante la incorporación de empleados. Esta política debería exigir prácticas como el uso de autenticación multifactor para cuentas personales y mantener una estricta separación entre la actividad personal y profesional en plataformas como GitHub. El escaneo interno de secretos debe evolucionar más allá de simples verificaciones de repositorios. El informe insta a las empresas a imponer el escaneo de secretos públicos de VCS como una 'defensa innegociable'. Este escaneo debe adoptar la mentalidad de 'Profundidad, Perímetro y Cobertura' para encontrar amenazas ocultas bajo la superficie. Este nivel de escrutinio debe extenderse a toda la cadena de suministro de IA. Al evaluar o integrar herramientas de proveedores de IA, los CISO deben investigar sus prácticas de gestión de secretos y divulgación de vulnerabilidades. El informe señala que muchos proveedores de servicios de IA están filtrando sus propias claves de API y deberían 'priorizar la detección de sus propios tipos de secretos.'

El mensaje central para las empresas es que las herramientas y plataformas que definen la próxima generación de tecnología se están construyendo a un ritmo que a menudo supera la gobernanza de seguridad. Como concluye Wiz, 'Para los innovadores en IA, el mensaje es claro: la velocidad no puede comprometer la seguridad'. Para las empresas que dependen de esa innovación, la misma advertencia se aplica.