El tráfico de GenAI creció más del 890% en 2024. Como resultado, los incidentes de pérdida de datos relacionados con estas herramientas se multiplicaron por 2,5 en lo que va de 2025, representando ya el 14% de todos los incidentes de seguridad en entornos SaaS, como los servicios de correo electrónico, el almacenamiento o la colaboración en la nube.

Así lo reveló el nuevo informe “The State of Generative AI 2025” de Unit 42, el equipo de inteligencia de amenazas de Palo Alto Networks. El estudio está basado en el análisis de más de 7.000 organizaciones a nivel mundial.

En México, el uso de GenAI también ha escalado rápidamente. Las organizaciones utilizan en promedio más de 60 aplicaciones de este tipo, siendo Grammarly (66,9%) y ChatGPT (12,1%) las más utilizadas por volumen de transacciones. Por volumen de datos, ChatGPT lidera con un 37,6%, seguido de cerca por Grammarly (31,3%) y Microsoft Power Apps (15,5%).

“El uso de herramientas GenAI sin conocimiento del departamento de TI, conocidas como ‘Shadow AI’, representa un nuevo desafío para las organizaciones. En México, donde estas tecnologías se adoptan rápidamente, es clave establecer políticas claras de uso y mecanismos de control que les permitan aprovechar sus beneficios sin comprometer la seguridad”, dijo Daniela Menéndez, Country Manager de Palo Alto Networks México.

El uso no autorizado de las herramientas de GenAI puede parecer inofensivo, desde un colaborador que redacta un correo electrónico con la ayuda de la IA, un estudiante que consulta un chatbot para resolver una tarea, hasta un desarrollador que genera código con una herramienta gratuita. Sin embargo, cuando estas acciones se llevan a cabo sin la supervisión y los controles adecuados, pueden llevar a la exposición de información confidencial, incumplimientos regulatorios o incluso la pérdida de propiedad intelectual.

¿Cómo protegerse del uso incontrolado de GenAI?

Para mitigar los riesgos asociados con el uso de GenAI, los especialistas recomiendan adoptar una estrategia de seguridad integral que combine diferentes capas de protección. Estos incluyen controles de acceso condicional, que le permiten restringir el uso de las aplicaciones de GenAI en función del perfil del usuario, el tipo de dispositivo o el nivel de riesgo de la herramienta. Por ejemplo, un empleado legal podría tener acceso limitado a ciertas plataformas de IA para evitar que servicios no autorizados procesen documentos confidenciales.

También destaca la importancia de implementar la inspección de contenidos en tiempo real, una medida que permite detectar y bloquear el uso indebido de datos sensibles -como información financiera, propiedad intelectual o datos personales- antes de que se envíen a plataformas externas. Esto es especialmente relevante en entornos SaaS donde los datos fluyen constantemente.

El enfoque Zero Trust complementa esta estrategia asumiendo que ninguna interacción es segura de forma predeterminada. Esto permite identificar y detener amenazas sofisticadas que podrían estar ocultas incluso en las respuestas generadas por IA, como enlaces maliciosos o instrucciones manipuladas.

Por último, la formación continua del personal es clave. No basta con tener tecnología avanzada; los usuarios deben comprender los riesgos y saber cómo usar estas herramientas de manera segura y responsable.

Con la creciente digitalización en sectores como la salud, la educación, la manufactura y los servicios financieros, México se posiciona como un mercado estratégico para la adopción segura de GenAI. Con una estrategia integral como la que propone la Unidad 42, este tipo de incidentes se pueden prevenir antes de que ocurran. En este sentido, Palo Alto Networks hace un llamamiento a las organizaciones para que no dejen que la velocidad de la innovación supere sus capacidades de protección.