Aunque están surgiendo nuevos riesgos de ciberseguridad, debido a la proliferación de la Inteligencia artificial (IA) y la IA generativa (Gen AI), estas tecnologías representan un cambio transformador en el fortalecimiento de las estrategias de ciberdefensa a largo plazo para predecir, detectar y responder a las amenazas. Dos tercios de las organizaciones están dando prioridad a la IA dentro de sus operaciones de seguridad.

Así lo señala el reciente informe del Instituto de Investigación Capgemini, Nuevas defensas, nuevas amenazas: lo que la IA y la IA generativa aportan a la ciberseguridad.

Según el informe, las organizaciones consideran a la IA como una tecnología estratégica para reforzar sus estrategias de seguridad, la creciente adopción de la IA generativa en diversos sectores aumenta la vulnerabilidad.

La IA generativa introduce tres áreas principales de riesgo para las organizaciones: ataques más sofisticados con más adversarios, la expansión de la superficie de ciberataques y un aumento de las vulnerabilidades en todo el ciclo de vida de las soluciones IA generativa personalizadas. Estos riesgos también se ven agravados por el uso indebido de la IA y la IA Gen por parte de los empleados, que puede aumentar significativamente el riesgo de fuga de datos. 

Dos de cada tres organizaciones desconfían de una mayor exposición a las amenazas 

Casi todas las organizaciones encuestadas (97%) afirman haber sufrido brechas o problemas de seguridad relacionados con el uso de IA generativa en el último año. Ya que ésta también conlleva a riesgos adicionales, como alucinaciones, generación de contenidos sesgados, dañinos o inapropiados y ataques de inyección de instrucciones.

Dos de cada tres organizaciones (67%) están preocupadas por el envenenamiento de datos y la posible filtración de datos sensibles a través de los conjuntos de datos de entrenamiento utilizados para entrenar los modelos de IA generativa. 

Además, la capacidad de Gen AI para generar contenido sintético altamente realista plantea riesgos adicionales: más de dos de cada cinco organizaciones encuestadas (43%) afirmaron haber sufrido pérdidas económicas derivadas del uso de deepfakes.  

Además, casi 6 de cada 10 empresas creen que necesitan aumentar su presupuesto de ciberseguridad para reforzar sus defensas. 

IA y la Gen AI, primordiales para detectar y responder a los ataques 

Después de encuestar a 1,000 organizaciones que han considerado la IA para la ciberseguridad o que ya la están utilizando, los datos concluyeron que la mayoría confía en la IA para reforzar la seguridad de sus datos, aplicaciones y nubes debido a la capacidad de la tecnología para analizar rápidamente grandes cantidades de datos, identificar patrones y predecir posibles brechas.

Más del 60% de ellas informaron de una reducción de al menos el 5% en el tiempo de detección, y casi el 40% afirmaron que su tiempo de corrección se redujo en un 5% o más tras implementar la IA en sus centros de operaciones de seguridad (SOC).  

Tres de cada cinco organizaciones encuestadas (61%) creen que la IA es esencial para una respuesta eficaz ante las amenazas, ya que les permite aplicar estrategias de seguridad proactivas contra ciberdelincuentes cada vez más sofisticados. Además, la misma proporción de encuestados prevé que la IA generativa reforzará las estrategias proactivas de defensa a largo plazo, anticipando una detección más rápida de las amenazas.

Más de la mitad de ellos cree también que la tecnología permitirá a los analistas de ciberseguridad concentrarse más en la estrategia para combatir los desafíos.  

“El uso de la IA y la IA generativa ha demostrado hasta ahora ser un arma de doble filo. Aunque introduce riesgos sin precedentes, las organizaciones confían cada vez más en la inteligencia artificial para una detección más rápida y precisa de los incidentes cibernéticos”, señaló Marco Pereira, Director Global de Ciberseguridad, Cloud y Servicios de Infraestructura de Capgemini.

Añadió que la IA y la IA generativa proporcionan a los equipos de seguridad nuevas y potentes herramientas para mitigar estos incidentes y transformar sus estrategias de defensa.

Para asegurarse de que representan una ventaja real frente a la evolución de la sofisticación de las amenazas, las organizaciones deben mantener y priorizar el monitoreo continuo del panorama de seguridad, construir la infraestructura de gestión de datos necesaria, marcos y directrices éticas para la adopción de IA, y “establecer programas sólidos de formación y concientización de los empleados”, finalizó el directivo.