El desarrollo de la inteligencia artificial (IA) en el mundo tiene grandes desafíos que enfrentar. Uno de ellos es la ausencia de normas, leyes o reglamentos que controlen estos desarrollos y su industria, que puedan perjudicar a los seres humanos.

En estos días, el presidente estadounidense Joe Biden, publicó una carta de derechos de la inteligencia artificial para su país. No es una ley todavía, pero es el inicio de lo que pueden llegar a ser muchas normas indispensables en esta materia.

Su propuesta de derechos de inteligencia artificial propone cinco areas; comento brevemente cada una de ellas a reserva de ampliarlas en futuras colaboraciones.

La primera área es: sistemas seguros y efectivos. Esto se refiere a los sistemas automatizados o de IA. La propuesta plantea que se deba consultar a todas las partes interesadas para identificar preocupaciones, riesgos e impactos; que se sometan a pruebas previas antes de ser públicos y tener una supervisión permanente.

Estos sistemas no deben diseñarse para poner en peligro la seguridad de las comunidades, por el contrario, deben servir para proteger a las personas de daños o impactos no deseados; ademas realizar informes y evaluaciones periódicos sobre su seguridad que deben hacerse públicos.

Una segunda área, por demás urgente, es la protección contra discriminación algorítmica. Es decir, que el desarrollo de los algoritmos no debe perjudicar a las personas en función de su raza, color, etnia, sexo (incluidos el embarazo, el parto y las condiciones médicas relacionadas, la identidad de género, la condición de intersexualidad y la orientación sexual), religión, edad, origen nacional, discapacidades. Se exige mucha atención para diseñar sistemas de forma equitativa, que puedan ser supervisados y monitoreados a través de pruebas de disparidad públicas y que permitan corregir errores.

La tercera area es sobre la protección de datos. En este sentido hay un par de cosas novedosas, por ejemplo, que los sistemas automatizados o de IA deberán solicitar permiso para recoger y usar datos personales. La otra es que sólo se recopilen datos estrictamente necesarios para una función concreta. Todo esto debe darse con una solicitud de consentimiento con características como: “breves, comprensibles en lenguaje sencillo” y la opción de no compartir los datos. Respecto de los datos sensibles, se sugiere que deben estar protegidos éticamente y por prohibiciones de uso distinto al diseñado. Además de que “la vigilancia y control continuos no deben utilizarse en la educación, el trabajo, la vivienda y en otros contextos que pueda limitar los derechos o las oportunidades de acceso”. Todo un tema al que debemos regresar después.

La cuarta área se refiere a la documentación de los sistemas automatizados. Los desarrolladores deberán proporcionar documentación en lenguaje sencillo y accesible sobre el funcionamiento de los sistemas y un aviso de qué sistemas están en uso. Es decir, no se puede usar un sistema de IA sin notificarle a los usuarios. Estos avisos deberán estar actualizados y el usuario debe saber cómo y por qué un resultado le afecta. Además de aportar explicaciones válidas y útiles.

Esto me recuerda a los aspirantes de las universidades en Australia y Estados Unidos que fueron seleccionados por un sistema de IA que afirmaba no eran aptos para concluir sus estudios. Ahora, dichas instituciones tendrán que informar a sus alumnos sobre el uso de estos sistemas.

La quinta y última área es la más original de todas: la alternativa humana. Como parte del derecho de IA, se puede optar por una alternativa humana en la medida de lo posible. Es decir, si no queremos que el robot médico nos examine, debemos tener la opción de que sea un doctor humano, sin que ello vaya en contra de nuestros derechos o limite el acceso a medicamentos o pago de un seguro.

La carta de derechos de IA que propone Biden con sus cinco áreas: sistemas automáticos seguros y efectivos; protección contra discriminación algorítmica; privacidad de los datos; documentación explicada y alternativa humana, son fundamentales para comenzar una discusión profunda y una normatividad detallada.

Aunque esta carta todavía no es ley, abre la posibilidad de construir los primeros esfuerzos hacia una reglamentación pionera en este problema.

___________________

El autor de la columna “Tecnogob”, Rodrigo Sandoval Almazán, es Profesor de Tiempo Completo SNI Nivel 2 de la Universidad Autónoma del Estado de México. Lo puede contactar en [email protected] y en la cuenta de Twitter @horus72.