Los hackers respaldados por estados están aprovechando herramientas avanzadas para intensificar sus ciberataques, utilizando modelos como Gemini de Google para llevar a cabo sus campañas. Según un nuevo informe del Grupo de Inteligencia de Amenazas de Google (GTIG), estos actores de amenazas provenientes de Irán, Corea del Norte, China y Rusia han comenzado a incorporar inteligencia artificial en el ciclo de ataque, que abarca desde la reconocimiento y la ingeniería social hasta el desarrollo de malware.

El reporte trimestral de seguimiento de amenazas de inteligencia artificial, publicado hoy, revela cómo los atacantes respaldados por gobiernos han comenzado a utilizar la IA para mejorar sus estrategias. “Para los actores de amenazas respaldados por gobiernos, los modelos de lenguaje grande se han vuelto herramientas esenciales para la investigación técnica, la segmentación y la generación rápida de engaños sofisticados,” afirmaron los investigadores de GTIG.

En el sector de la defensa, el grupo iraní APT42 utilizó Gemini para potenciar sus operaciones de reconocimiento y ingeniería social. Esta agrupación generó direcciones de correo electrónico que parecían oficiales y realizó investigaciones para establecer pretextos creíbles al acercarse a sus objetivos. APT42 creó personajes y escenarios diseñados para aumentar la interacción con sus víctimas, traduciendo entre idiomas y utilizando frases naturales y nativas que lograron sortear las banderas rojas de phishing tradicionales, como la gramática deficiente o la sintaxis torpe.

Por su parte, el grupo respaldado por Corea del Norte, UNC2970, que se enfoca en la defensa y en hacerse pasar por reclutadores corporativos, utilizó Gemini para perfilar objetivos de alto valor. Su reconocimiento incluyó la búsqueda de información sobre grandes empresas de ciberseguridad y defensa, mapeando roles técnicos específicos y recopilando información sobre salarios. “Esta actividad difumina la línea entre la investigación profesional rutinaria y el reconocimiento malicioso, a medida que el actor reúne los componentes necesarios para crear personas de phishing personalizadas y de alta fidelidad,” destacó GTIG.

Por otro lado, se observó un aumento en los intentos de extracción de modelos, también conocidos como “ataques de destilación”, que buscan robar propiedad intelectual de los modelos de IA. Una campaña dirigida a las capacidades de razonamiento de Gemini involucró la recopilación y uso de más de 100,000 prompts diseñados para coaccionar al modelo a producir procesos de razonamiento. La variedad de preguntas sugiere un intento de replicar la capacidad de razonamiento de Gemini en lenguas no inglesas en diversas tareas.

GTIG también detectó muestras de malware, rastreadas como HONESTCUE, que utilizan la API de Gemini para externalizar la generación de funcionalidades. Este malware está diseñado para eludir la detección tradicional basada en redes y el análisis estático mediante un enfoque de ofuscación en múltiples capas. HONESTCUE funciona como un marco de descarga y lanzamiento que envía prompts a través de la API de Gemini y recibe código fuente en C# como respuesta.

Asimismo, se identificó COINBAIT, un kit de phishing cuya construcción probablemente fue acelerada por herramientas de generación de código de IA. Este kit, que se hace pasar por un importante intercambio de criptomonedas para la recolección de credenciales, fue creado utilizando la plataforma impulsada por IA, Lovable AI.

En una campaña de ingeniería social innovadora, Google observó cómo los actores de amenazas abusaron de las funciones de compartir del público de servicios de IA generativa, como Gemini, ChatGPT, Copilot, DeepSeek y Grok, para distribuir contenido engañoso que contenía malware ATOMIC dirigido a sistemas macOS. Los atacantes manipularon modelos de IA para crear instrucciones que parecían realistas para tareas informáticas comunes, incrustando scripts de línea de comandos maliciosos como “solución”. Al crear enlaces compartibles a estas transcripciones de chat de IA, los actores de amenazas utilizaron dominios de confianza para alojar su primera etapa de ataque.

Las observaciones de GTIG en foros subterráneos en inglés y ruso indican una demanda persistente de herramientas y servicios habilitados por IA. Sin embargo, los hackers patrocinados por estados y los ciberdelincuentes enfrentan dificultades para desarrollar modelos de IA personalizados, dependiendo en cambio de productos comerciales maduros a los que acceden a través de credenciales robadas. Un kit de herramientas, “Xanthorox”, se publicitó como una IA personalizada para la generación autónoma de malware y el desarrollo de campañas de phishing, pero la investigación de GTIG reveló que no era un modelo exclusivo, sino que estaba impulsado por varios productos comerciales de IA, incluidos Gemini, accedidos mediante claves API robadas.

Google ha tomado medidas contra los actores de amenazas identificados, desactivando cuentas y activos asociados con actividades maliciosas. La compañía también aplicó inteligencia para fortalecer tanto los clasificadores como los modelos, permitiéndoles rechazar asistencia con ataques similares en el futuro. “Estamos comprometidos a desarrollar IA de manera audaz y responsable, lo que significa tomar medidas proactivas para interrumpir actividades maliciosas desactivando los proyectos y cuentas asociadas con actores maliciosos, mientras mejoramos continuamente nuestros modelos para hacerlos menos susceptibles al uso indebido,” afirma el informe.

A pesar de estos desarrollos, GTIG enfatizó que ningún actor de amenazas persistente o de operaciones de información ha logrado habilidades innovadoras que alteren fundamentalmente el panorama de amenazas. Los hallazgos subrayan el papel en evolución de la IA en la ciberseguridad, mientras tanto defensores como atacantes compiten por utilizar las capacidades de esta tecnología.