Argentina acaba de anunciar el Gemelo Digital Social: una inteligencia artificial que promete optimizar políticas públicas cruzando bases de datos de salud, economía y geografía de sus ciudadanos. La pregunta no es si funciona. La pregunta es a quién sirve.

El uso de la inteligencia artificial en la construcción del poder del Estado apenas comienza, y este anuncio es uno de sus ejemplos más reveladores. De acuerdo con la información oficial, el Gemelo Digital Social utilizará modelos predictivos para “comprender, predecir y optimizar decisiones de políticas públicas” a partir de bases de datos sociales, económicas y geográficas de los argentinos. La vaguedad del anuncio es un síntoma del problema central que plantea esta iniciativa. Centraré mi el análisis en el aspecto del poder.

En primer lugar, el Gemelo Digital Social es una estrategia de vigilancia estructural de los ciudadanos. Bajo la idea de una base de datos integradora, busca construir “modelos” de poblaciones y simular conductas humanas. Algo semejante a lo que ya opera la herramienta ELITE de la empresa Palantir en Estados Unidos: un sistema que cruza datos de salud, GPS, cámaras y expedientes migratorios para producir listas de “objetivos” de deportación, utilizado por el ICE durante la administración Trump. Ese es el antecedente más próximo —y más inquietante— del modelo argentino.

Un segundo riesgo es que esta información derive en un “tablero social” con el que se pueda “medir el puntaje” de cada ciudadano. Una especie de crédito social —similar al que opera en China, o al que la serie Black Mirror retrató como distopía— donde una calificación algorítmica determina el acceso a privilegios, beneficios sociales o simplemente a una mejor calidad de vida. El uso de esta información en un país latinoamericano con contrapesos legales y políticos débiles abre la puerta para que los algoritmos no solo analicen comportamientos ciudadanos, sino que los condicionen.

Un tercer riesgo es la soberanía de los datos extraídos. Si el gobierno argentino contrata los servicios de Palantir —empresa norteamericana con contratos activos con el Pentágono y agencias de inteligencia de Estados Unidos—, los datos de los ciudadanos argentinos migrarían hacia servidores extranjeros. Esta extracción y centralización de información sensible para construir un “mapa operativo de la sociedad argentina” rebasa los límites legales y políticos establecidos. A ello se suma un cuarto riesgo: la dependencia tecnológica. Argentina no cuenta con el conocimiento técnico suficiente para operar, mantener y modificar de forma autónoma un sistema como èste. Esa dependencia es también una cesión de soberanía.

Estos elementos apuntan a una conclusión: el Gemelo Digital Social es una decisión ideológica. Como se ha analizado en este espacio al revisar el manifiesto de Palantir —un documento en que la empresa expone su visión del papel de la tecnología en el poder del Estado—, la inteligencia artificial no es neutral. La advertencia del Papa León XIV resulta aquí pertinente: quien controla la IA “impone su visión moral como infraestructura invisible” de sistemas y decisiones. El Gemelo Digital Social es, precisamente, esa infraestructura: la herramienta a través de la cual el Estado ve, entiende, clasifica y controla su población.

El Gemelo Digital Social argentino no es solo un problema argentino. Es la señal de lo que viene si los países de la región normalizan la vigilancia algorítmica sin marcos legales robustos, sin auditorías independientes y sin contrapesos legales. La región no puede darse el lujo de aprender tarde esta lección.

El autor de la columna TecnoGob, Rodrigo Sandoval Almazán, es Profesor de Tiempo Completo SNI Nivel 2 de la Universidad Autónoma del Estado de México. Lo puede contactar en tecnogob@pm.me y en la cuenta de Threads @horus72.