La Inteligencia Artificial (IA) ha transformado el panorama tecnológico, ofreciendo oportunidades sin precedentes para automatizar, optimizar y fortalecer procesos en diversas áreas. Pero también presenta desafíos significativos, especialmente en la ciberseguridad. El amplio conocimiento y entendimiento de esta coyuntura es crucial para los Chief Information Officers (CIO), con el fin de proteger a sus organizaciones en un entorno digital en constante evolución.
Y es que Gartner predice que en 2025 la Inteligencia Artificial generativa (GenAI) será un compañero de trabajo para el 90% de las organizaciones de todo el mundo; y en el 2026, más del 80% habrán utilizado interfaces de programación de aplicaciones (API) o modelos de GenAI, y/o desplegado de aplicaciones habilitadas para GenAI en entornos de producción, frente a menos del 5% en el 2023.
Tal panorama consolida a la ciberseguridad como punto crítico para el flujo de operaciones, ya que el número de ciberataques irá incrementándose, así como la sofisticación y la creación de nuevas técnicas cada vez más avanzadas, como el polimorfismo y ataques multifacéticos, a fin de evadir las medidas de seguridad tradicionales. Estos ataques pueden combinar ingeniería social, malware, explotación de vulnerabilidades y otros métodos, complicando aún más la detección y mitigación.
De acuerdo con el estudio Cyber Security: What to Expect in 2024, de Bridewell, para los delincuentes de baja habilidad, la IA continuará creando códigos y correos electrónicos de phishing más sofisticados, utilizando datos vulnerados para definir un ataque altamente dirigido, además de crear malware polimórfico, que muta con cada infección para hacer que la detección sea una tarea difícil.
Es un tipo de virus camaleónico, que se adapta aprendiendo de los datos de ataque, explotando vulnerabilidades, y evolucionando constantemente sus tácticas para superar la detección.
Frente a este panorama, ¿cuáles son los desafíos de los CIO?
Para contrarrestar las amenazas, éstas son algunas de las recomendaciones propuestas por la empresa IQSEC:
- Sistemas de IA ágiles. Los CIO deben asegurarse de que los sistemas de IA implementados sean lo suficientemente ágiles para adaptarse y actualizarse continuamente. La capacidad de estos sistemas para manejar grandes volúmenes de datos y detectar anomalías en tiempo real es crucial para enfrentar la evolución constante de las tácticas de los atacantes.
- Gestión de datos y calidad de la información. Otro desafío significativo es la gestión de datos y la calidad de la información. Los modelos de IA dependen de datos de alta calidad para entrenar y operar de manera efectiva. Sin embargo, la falta de datos precisos y relevantes, así como la información manipulada o falsificada, puede afectar negativamente el rendimiento de los sistemas de inteligencia artificial.
- Gobernanza de datos. Los CIO deben garantizar que se implementen procesos robustos de gobernanza de datos para asegurar que éstos sean precisos, actualizados y relevantes. Además, la capacidad de los sistemas de IA para resistir la falsificación de datos es crucial, con el fin de mantener la integridad y la efectividad de las soluciones de seguridad.
- Privacidad y seguridad de datos. La privacidad y la seguridad de los datos son preocupaciones importantes. Las brechas de seguridad y la manipulación de datos pueden comprometer la integridad de los sistemas de IA y la protección de la información personal. Los CIO deben implementar prácticas de cifrado, anonimización y modelos federados para proteger los datos y mantener la confianza de los usuarios.
Aunque la regulación de la IA es un área en evolución que presenta tanto oportunidades como desafíos, existen normativas como la Ley Federal de Protección de Datos Personales en Posesión de Particulares o el Reglamento General de Protección de Datos en la Unión Europea, que abordan aspectos clave de la privacidad. Es importante que los CIO estén al tanto de las regulaciones locales e internacionales que afectan el uso de la IA en ciberseguridad.
La adopción de estándares técnicos y buenas prácticas respaldadas por organizaciones como la ISO desempeña un papel fundamental en este proceso. La norma ISO/IEC 42001, diseñada específicamente para el manejo seguro y responsable de la Inteligencia Artificial, proporciona un marco robusto para las organizaciones que buscan integrar esta tecnología de manera ética y efectiva. Al adherirse a estos estándares, las empresas no sólo cumplen con las exigencias regulatorias, sino que también fortalecen la confianza tanto de los usuarios como de las partes interesadas en la aplicación de IA.
En suma, la clave para los CIO está en una planificación estratégica integral que aproveche las capacidades de la IA de manera responsable y efectiva, asegurando que la innovación tecnológica vaya de la mano con la ciberseguridad robusta, la ética y la formación continua del personal especializado.
Por Manuel Moreno, Chief Information Security Officer (CISO) en IQSEC.
