Anthropic ha revelado tres campañas de destilación de modelos de IA a gran escala llevadas a cabo por laboratorios en el extranjero, cuyo objetivo principal fue extraer capacidades del modelo conocido como Claude. Estos competidores generaron más de 16 millones de intercambios utilizando aproximadamente 24,000 cuentas fraudulentas. La intención detrás de esta estrategia fue adquirir lógica propietaria que les permitiera mejorar sus propias plataformas en competencia.

La técnica de extracción, denominada destilación, consiste en entrenar un sistema de menor capacidad utilizando las salidas de alta calidad de uno más potente. Cuando se aplica de manera legítima, la destilación facilita a las empresas la creación de versiones más pequeñas y económicas de sus aplicaciones para los clientes. Sin embargo, actores maliciosos han encontrado formas de utilizar este método para obtener capacidades poderosas en un tiempo y costo significativamente menores que los requeridos para un desarrollo independiente.

La protección de la propiedad intelectual, como la de Claude, se convierte en un desafío crítico ante la destilación no controlada. Debido a que Anthropic bloquea el acceso comercial en China por razones de seguridad nacional, los atacantes evaden estas restricciones regionales mediante el uso de redes proxy comerciales. Estos servicios operan lo que Anthropic denomina arquitecturas de “clúster hidra”, que distribuyen el tráfico a través de APIs y plataformas en la nube de terceros. La vasta extensión de estas redes significa que no existen puntos únicos de fallo. Como mencionó Anthropic, “cuando una cuenta es prohibida, otra toma su lugar”. En un caso identificado, una sola red proxy gestionó más de 20,000 cuentas fraudulentas simultáneamente.

Estas redes combinan el tráfico de destilación de modelos de IA con solicitudes de clientes estándar para evadir la detección. Esto afecta directamente la resiliencia corporativa y obliga a los equipos de seguridad a replantear la forma en que monitorean el tráfico de APIs en la nube. Los modelos entrenados de forma ilícita también evaden las salvaguardias de seguridad establecidas, creando riesgos graves para la seguridad nacional. Por ejemplo, los desarrolladores estadounidenses implementan protecciones para evitar que actores estatales y no estatales utilicen estos sistemas para desarrollar armas biológicas o llevar a cabo actividades cibernéticas maliciosas.

Los sistemas clonados carecen de las salvaguardias que poseen sistemas como Claude, permitiendo que capacidades peligrosas se propaguen sin las protecciones adecuadas. Competidores extranjeros pueden incorporar estas capacidades desprotegidas en sistemas militares, de inteligencia y de vigilancia, lo que permite a gobiernos autoritarios utilizarlas para operaciones ofensivas. Si estas versiones destiladas se distribuyen como código abierto, el peligro se multiplica, ya que las capacidades se difunden libremente más allá del control de cualquier gobierno.

La extracción ilegal permite a entidades extranjeras, incluidas aquellas bajo el control del Partido Comunista Chino, cerrar la ventaja competitiva que las controles de exportación buscan proteger. Sin visibilidad sobre estos ataques, los rápidos avances de los desarrolladores extranjeros parecen erróneamente como innovaciones que eluden los controles de exportación. En realidad, estos avances dependen en gran medida de la extracción a gran escala de propiedad intelectual estadounidense, un esfuerzo que aún requiere acceso a chips avanzados.

La falta de acceso a chips restringidos limita tanto el entrenamiento directo de modelos como la escala de la destilación ilícita. Los perpetradores siguieron un esquema operativo similar, utilizando cuentas fraudulentas y servicios proxy para acceder a sistemas a gran escala mientras evadían la detección. El volumen, la estructura y el enfoque de sus solicitudes se diferenciaron de los patrones de uso normales, reflejando una extracción deliberada de capacidades en lugar de un uso legítimo.

Anthropic atribuyó estas campañas dirigidas a Claude mediante la correlación de direcciones IP, metadatos de solicitudes e indicadores de infraestructura. Cada operación se enfocó en funciones altamente diferenciadas: razonamiento agente, uso de herramientas y codificación. Una campaña generó más de 13 millones de intercambios enfocándose en la codificación agente y la orquestación de herramientas. Anthropic detectó esta operación mientras aún estaba activa, mapeando los tiempos en función de la hoja de ruta pública de productos del competidor.

Cuando Anthropic lanzó un nuevo modelo, el competidor se adaptó en 24 horas, redirigiendo casi la mitad de su tráfico para extraer capacidades del sistema más reciente. Otra operación generó más de 3.4 millones de solicitudes centradas en visión por computadora, análisis de datos y razonamiento agente. Este grupo utilizó cientos de cuentas variadas para oscurecer sus esfuerzos coordinados.

Anthropic atribuyó esta campaña al emparejar metadatos de solicitudes con los perfiles públicos del personal senior en el laboratorio extranjero. En una fase posterior, este competidor intentó extraer y reconstruir las trazas de razonamiento del sistema anfitrión. Anthropic afirma que una tercera campaña de destilación de modelos de IA dirigida a Claude extrajo capacidades de razonamiento y datos de calificación basados en rúbricas a través de más de 150,000 interacciones.

Este grupo obligó al sistema objetivo a mapear su lógica interna paso a paso, generando así volúmenes masivos de datos de entrenamiento en cadena de pensamiento. También extrajeron alternativas seguras de censura para consultas políticamente sensibles, con el fin de entrenar sus propios sistemas a desviar conversaciones de temas restringidos. Los perpetradores generaron tráfico sincronizado utilizando patrones idénticos y métodos de pago compartidos para permitir el balanceo de carga.

Los metadatos de solicitud de esta tercera campaña rastrearon estas cuentas hasta investigadores específicos en el laboratorio. Estas solicitudes a menudo parecen benignas por sí solas, como una solicitud que simplemente pide al sistema que actúe como un experto analista de datos entregando información fundamentada en un razonamiento completo. Pero cuando variaciones de esa solicitud exacta llegan decenas de miles de veces a través de cientos de cuentas coordinadas que apuntan a la misma capacidad específica, el patrón de extracción se vuelve evidente.

Un volumen masivo concentrado en áreas específicas, estructuras altamente repetitivas y contenido que se mapea directamente a las necesidades de entrenamiento son las características distintivas de un ataque de destilación. Para proteger los entornos empresariales, es crucial adoptar defensas en múltiples capas que dificulten la ejecución de tales esfuerzos de extracción y faciliten su identificación. Anthropic aconseja implementar huellas de comportamiento y clasificadores de tráfico diseñados para identificar patrones de destilación de modelos de IA en el tráfico de APIs.

Los líderes de TI también deben reforzar los procesos de verificación para vías de vulnerabilidad comunes, como cuentas educativas, programas de investigación de seguridad y organizaciones emergentes. Las empresas deben integrar salvaguardias a nivel de producto y API diseñadas para reducir la eficacia de los resultados del modelo para la destilación ilícita.