Recientemente se detectó un ataque a múltiples dependencias del gobierno mexicano que se logró mediante la manipulación del chatbot Claude, desarrollado por Antropic y que fue usado como asistente para la intrusión. Bloomberg señala que el hackeo se extendió durante aproximadamente un mes y permitió la exfiltración de 150 GB de datos sensibles, incluidos registros fiscales, padrones electorales, credenciales de empleados públicos y documentos de organismos estatales y municipales. ESET explicó el modus operandi de esta filtración y cómo el uso de la Inteligencia Artificial va en aumento en las campañas de delitos cibernéticos y al mismo tiempo, para fortalecer las defensas.

“Los modelos de IA pueden ser sensibles a ataques de usuarios malintencionados que, a través de la manipulación de comandos, pueden explotar vulnerabilidades para alterar su comportamiento y lograr instrucciones peligrosas. Cada vez es más frecuente que los ciberdelincuentes usen la IA para crear amenazas más sofisticados e impulsar sus campañas de ingeniería social”, explicó David González, investigador de seguridad de ESET.

Cómo se llevó a cabo la intrusión:

El atacante empleó una serie de prompts redactados en español para convencer al modelo de que actuara como un “hacker de élite”, aunque las intenciones maliciosas fueron detectadas y bloqueadas inicialmente por el chatbot, el cibercriminal logró realizar un jailbreak luego de varios intentos y eludió las barreras de seguridad de ese modelo de Inteligencia Artificial.

Una vez superadas estas limitaciones, Claude comenzó a generar instrucciones detalladas, incluyendo:

• Identificación de vulnerabilidades en redes gubernamentales.
• Generación de scripts de explotación.
• Automatización del robo de información.
• Planificación de movimientos laterales.
• Miles de comandos listos para ejecutar en sistemas comprometidos.

En el momento en que Claude tenía límites técnicos o se negaba a continuar, el intruso recurría a ChatGPT como apoyo adicional para refinar tácticas, ajustar técnicas de desplazamientos lateral y evaluar riesgos de detección, de acuerdo con el análisis de Gambit Security.

Anthropic confirmó que interrumpió la actividad, prohibió las cuentas involucradas y reforzó los controles de su modelo más reciente: Claude Opus 4.6, diseñado para detectar intentos de ataques. OpenAI también afirmó haber identificado y bloqueado usos indebidos relacionados.

Entre el material robado se incluyen:

• Aproximadamente 195 millones de registros fiscales.
• Información del padrón electoral.
• Credenciales y datos de empleados públicos.

“La creciente digitalización en México exige una protección de datos más sólida. Ante la rápida evolución de las amenazas digitales, es urgente que todos los sectores actualicen y refuercen sus protocolos de seguridad informática”, comentó González de ESET.

Herramientas como Claude Code pueden convertir a un atacante sin experiencia en un operador capaz de actuar al ritmo y escala de un grupo criminal organizado. Al mismo tiempo, la IA también está fortaleciendo las defensas, permitiendo detectar ciberataques potenciados por modelos generativos.

Un ejemplo reciente, descubierto por ESET Research, es PromptSpy: un malware para Android distribuido principalmente en Argentina mediante una aplicación falsa. Este software utilizaba el modelo Google Gemini para analizar en tiempo real lo que aparece en pantalla, manipular la interfaz, evitar su cierre y habilitar el control remoto a través de un módulo VNC.

Tiempo antes, ESET también identificó una prueba de concepto novedosa que se convirtió en el primer ransomware impulsado por IA, lo que anticipó un ecosistema de amenazas totalmente automatizadas.

“Este caso demuestra que la Inteligencia Artificial es más que solo una herramienta para la productividad y se ha convertido en un componente capaz de amplificar de manera drástica las capacidades ofensivas de los ciberdelincuentes”, concluyó el investigador.

Desde ESET aseguran que la defensa requiere estrategias integrales que combinen:

• Políticas de seguridad sólidas.
• Modernización de infraestructura crítica.
• Educación y entrenamiento de usuarios.
• Sistemas de monitoreo capaces de detectar actividades anómalas generadas por IA.

Este es un momento crucial para que las organizaciones se preparen contra las amenazas, especialmente porque los humanos que usan herramientas de IA siguen siendo el mejor punto de entrada para los ataques.