Los avances en inteligencia artificial generativa y el fácil acceso a las aplicaciones desde cualquier dispositivo de cómputo con conexión a internet, han llevado a la proliferación del llamado “deepfake” (contenido audiovisual sintéticamente creado que puede ser prácticamente indistinguible de la realidad); sin embargo, este progreso también ha desatado preocupaciones sobre su impacto negativo en la sociedad, que va desde la desinformación hasta la comisión de fraude digital.

Tan solo en el ámbito político global, su uso ya ha revelado los efectos negativos potenciales y las consecuencias graves que ocasionan. Desde videos manipulados que muestran a figuras políticas pronunciando discursos falsos hasta campañas electorales plagadas de narrativas engañosas, los deepfakes han demostrado ser tanto una herramienta de entretenimiento como un arma de manipulación con el poder de socavar la confianza en los procesos democráticos. Además, la rapidez con la que se propagan en línea agrava aún más el problema, convirtiéndose en una fuente de desinformación masiva y manipulación.

El hecho cobra una relevancia particular tratándose de un año electoral que abarca los cinco continentes. De acuerdo con The Economist, se anticipa que más de la mitad de la población mundial, en más de 70 países incluyendo Estados Unidos, Chile, México, Brasil, India, Taiwán y Reino Unido, participará este 2024 en un número sin precedentes de elecciones en todo el mundo; unos comicios que, sin duda, definirán el futuro del planeta y la humanidad para el próximo periodo. ¡Imagine cómo los deepfakes están influyendo para moldear nuestro futuro!

A pesar de las iniciativas internacionales para combatir la desinformación en línea, la detección de deepfake malicioso sigue siendo un desafío importante. Nos encontramos en una era donde fabricar una realidad alterada es cada vez más fácil y accesible, lo que aumenta la confusión entre lo auténtico y lo falso para el público, una situación que se complica más cuando figuras y grupos de autoridad, como gobiernos, partidos políticos y candidatos, respaldan estas narrativas manipuladas en un intento de influir en los votantes.

Sin embargo, el fuerte impacto de esta tecnología no se limita a la esfera política. De acuerdo con Pavel Goldman-Kalaydin, jefe de AI/ML en Sumsub, “los deepfakes representan una seria amenaza para la seguridad empresarial y la privacidad individual. Estas tecnologías permiten la suplantación de identidad, lo que abre la puerta a una amplia gama de actos fraudulentos y delitos”.

El papel de instituciones y personas contra el fraude deepfake

Si las consecuencias observadas en el ámbito electoral no son lo bastante impactantes, recordemos que recientemente un empleado de finanzas pagó más de $25 millones de dólares a estafadores que usaron deepfake para hacerse pasar por el CFO de la compañía, en una videollamada. La estafa se descubrió cuando el empleado verificó con la oficina central de la corporación.

Este caso ilustra cómo los deepfakes pueden ser utilizados para perpetrar fraudes y delitos graves, aprovechando la capacidad de la tecnología para generar contenido convincente y engañoso. Y su uso va en aumento, pues según el Reporte de fraude de identidad 2023 de Sumsub, los países con mayor crecimiento de deepfakes en la región de Latinoamérica, entre 2022 y 2023, fueron: Brasil 830%, Argentina 770%, México 700%, Colombia 530% y Chile 500%. Estos datos indican que se trata de una amenaza real y urgente, que requiere una acción concertada tanto a nivel individual como institucional.

Pero ¿cómo detectar deepfake? Para Pavel Goldman-Kalaydin, de Sumsub, “es fundamental que las empresas y las autoridades implementen medidas de seguridad robustas para la detección y prevención de la manipulación de identidad mediante un deepfake. Hoy en día, una solución KYC (Conoce a tu Cliente) por sí sola no resuelve todos los problemas de cumplimiento y riesgo, ya que se requiere supervisar todo el recorrido del usuario. Esto significa verificar las transacciones de los usuarios, detectar patrones inusuales a tiempo y mucho más. Para ello, las empresas necesitan herramientas fiables para la supervisión de las transacciones, la prevención del fraude y el cumplimiento de regulaciones como la Travel Rule.

Además, Goldman-Kalaydin enfatizó el papel de las personas, al indicar que “deben ser conscientes de los riesgos asociados con los deepfakes y tomar precauciones para proteger su información personal y financiera, a través de prácticas de seguridad cibernética sólidas, el uso de contraseñas seguras y la verificación de identidad en las comunicaciones en línea”.

Estrategias de defensa contra el fraude digital relacionado con el deepfake

Debido a que, en esta era digital, la información fluye a través de múltiples plataformas en línea, la proliferación de deepfakes representa una seria amenaza para la seguridad y la integridad de las empresas y sus usuarios. Estas sofisticadas manipulaciones de contenido audiovisual pueden ser utilizadas para engañar a clientes, dañar la reputación corporativa e incluso cometer fraudes financieros.

Ante este desafío, las empresas deben estar preparadas para defenderse contra los deepfakes. Sumsub, una plataforma de ciclo completo para la verificación de identidad en línea, que combina reconocimiento facial, verificación de documentos y detección de fraudes en tiempo real; explora algunas estrategias clave que las empresas pueden implementar para protegerse contra esta forma emergente de manipulación digital.

Uso de aprendizaje automático e IA. Los algoritmos de machine learning e inteligencia artificial, como la detección de vida (Liveness) de Sumsub, pueden superar a los humanos en la detección de fotografías y videos mejorados. En respuesta a la creciente amenaza deepfakes, la empresa ha realizado importantes actualizaciones en su solución interna liveness, una herramienta de biometría facial y parte integral del flujo KYC para las empresas, a fin de detectar fraudes con la última tecnología de inteligencia artificial.

Análisis de comportamiento. Este proceso monitorea patrones inusuales de comportamiento, como múltiples cuentas abiertas con el mismo número de Seguro Social o inconsistencias en la información de identidad. A menudo implica automatización y machine learning, rastreando patrones de comportamiento que los humanos pasarían por alto y detectando anomalías tanto a nivel individual como en toda la organización.

Detección de redes de fraude. Ayuda a descubrir conexiones ocultas, detectar anomalías y analizar el comportamiento en cada etapa del recorrido del usuario. Una plataforma de detección de redes de fraude basada en inteligencia artificial puede descubrir patrones interconectados de actividad sospechosa, lo que permite detectar una red fraudulenta completa en lugar de un solo estafador.

Desde la manipulación de la opinión pública hasta la comisión de fraudes financieros, los deepfakes pueden tener consecuencias devastadoras si no se abordan de manera adecuada. La batalla contra esta tecnología no se puede ganar simplemente mediante su regulación o prohibición, requiere un enfoque multifacético que combine la innovación tecnológica con la responsabilidad individual y la colaboración entre gobiernos, empresas y la sociedad civil.

En el caso de las empresas, es fundamental que implementen medidas sólidas de seguridad y adopten tecnologías avanzadas para verificar la identidad de las personas y protegerse contra la manipulación de deepfakes. “La inversión en soluciones de verificación de identidad robustas es fundamental para proteger los intereses comerciales y la reputación de una empresa, pero también para salvaguardar la confianza del cliente y mantener la integridad en un mundo cada vez más digitalizado y vulnerable a la manipulación”, sugirió Goldman-Kalaydin.