Hace unas semanas se dió a conocer el primer acuerdo para regular el desarrollo de Inteligencia Artificial (IA) en el mundo. El impulsor fue el presidente de Estados Unidos, Joe Biden, y lo apoyaron las empresas desarrolladoras de IA como Google, Inflection, Meta, Amazon, Anthropic, Microsoft y OpenAI. ¿Qué consecuencias tiene esto en el mundo? ¿Cómo entenderlo?

Le cuento primero sobre el acuerdo. Lo podríamos resumir en cuatro grandes rubros:

• Seguridad: se negoció que los desarrollos de IA deben resistir ataques informáticos y ser capaz de recuperarse de ellos, además de operar sin dañar a las personas o al medio ambiente.

• Integridad: los desarrollos de IA deben evitar discriminar o sesgar a las personas, ser transparentes y respetar los derechos humanos.

• Responsabilidad: debe identificar a las personas y las organizaciones que desarrollan, implementan y utilizan esta tecnología para hacerla responsable de posibles fallos.

• Beneficios para todos: debe utilizarse para abordar “los problemas más apremiantes del mundo” como la pobreza, las enfermedades y el cambio climático.

Sin duda es un acuerdo lleno de buenas intenciones. Le da un respiro a las organizaciones civiles preocupadas por la falta de un “control”en este tema. Sin embargo, no se habla de sanciones si alguien falla. Tampoco es una ley, ni un decreto como se estila en ese país. Es apenas un manifiesto donde se sientan las bases de lo que podrían ser leyes en el futuro, pero con varias ausencias importantes.

Una primera ausencia son los algoritmos. Se habla de la Inteligencia Artificial (IA) de manera genérica, del bien común, de los derechos humanos, pero el corazón de esta tecnología son los algoritmos, si estos no se hacen públicos, no son controlados ni vigilados, de nada sirve cualquier “supuesta” regulación que se enfoque en las consecuencias.

Otra ausencia es la falta de una legislación que garantice la protección de los datos personales, que son el insumo clave de cualquier algoritmo de inteligencia artificial. Si bien ya existen varios controles para estos datos –como el RGPD en Europa– su libre uso en las grandes bases de datos para entrenar algoritmos aún sigue sin regularse.

Finalmente, este primer acuerdo sólo incluye a las empresas que están desarrollando IA en Estados Unidos. Se olvida que existen otros actores –menos avanzados– tanto en Europa como en Asia, pero fundamentalmente en China, cuyos avances en IA se desconocen, pero que están muy cerca de lo que ocurre en Estados Unidos. Ellos no tendrán estas mismas limitaciones ni compromisos y podrán desarrollar sin obstáculos éticos o legales.

La carrera por lograr el liderazgo de las tecnologías desarrolladas con IA en el mercado mundial está en marcha. Quienes sean los primeros en producir servicios y productos masivos tendrán una ventaja incomparable sobre el resto; por eso es que la batalla es dura e incierta, nos tocará verla desde nuestras computadoras, porque no podremos hacer mucho para determinar quien ganará.

_________________________

El autor de la columna “Tecnogob”, Rodrigo Sandoval Almazán, es Profesor de Tiempo Completo SNI Nivel 2 de la Universidad Autónoma del Estado de México. Lo puede contactar en [email protected] y en la cuenta de Twitter @horus72.