La Inteligencia Artificial (IA) y subdisciplinas, como el machine learning, ofrecen un enorme potencial positivo para la humanidad, las empresas y los servicios públicos que corren a lo largo de sectores industriales, economías y sociedades. Estas tecnologías también crean nuevos retos para las organizaciones, usuarios y otras partes interesadas que las despliegan, utilizan o se ven afectadas por ellas.

El desarrollo y uso de soluciones de IA debe basarse en principios como la transparencia, equidad, rendición de cuentas, privacidad, seguridad y fiabilidad; estándares que a su vez se traducen en prácticas de trabajo concretas como las que se sugieren a continuación.

Transparencia

A menudo, los usuarios no tienen claridad sobre la forma en que se utiliza o interviene la IA en la toma de decisiones. Las prácticas transparentes, como informar a los usuarios cuándo se usa la IA para tomar decisiones que les afectan de forma material y consecuente, generan confianza en el uso de la tecnología y ofrecen a las personas más opciones al interactuar con herramientas que aprovechan la IA.

Se debe informar a la gente, según proceda, sobre cuándo y cómo se emplea la IA en las tecnologías, la intención de la IA, la clase de modelo, el uso y la demografía de los datos, así como los controles de seguridad, privacidad y derechos humanos aplicados al uso de una manera accesible, transparente y comprensible.

Equidad

La IA crea la posibilidad de que los sistemas tecnológicos arraiguen o amplifiquen prejuicios o estereotipos humanos perjudiciales. Al mismo tiempo, ofrece la oportunidad de comprender mejor, así como de mitigar los prejuicios y los resultados discriminatorios en la toma de decisiones, lo que da lugar a una tecnología que puede promover la inclusión o impulsar resultados más equitativos.

Para tomar mejores decisiones hay que asegurarse de que los datos de entrenamiento representan la demografía de los individuos o grupos en todo el espectro de diversidad al que se aplicará la IA. Un paso importante en este proceso es realizar pruebas para promover resultados positivos en todos los grupos demográficos, lingüísticos y geográficos.

Rendición de cuentas

La rendición de cuentas sobre las soluciones de IA y los equipos que las desarrollan es esencial para el desarrollo y operación responsables a lo largo del ciclo de vida de la IA. Las herramientas de IA suelen tener más de una aplicación, incluidos casos de uso no previstos y usos que podrían no haber sido considerados en el momento del desarrollo. Las empresas que crean, despliegan y utilizan soluciones de IA deben asumir la responsabilidad de su trabajo en este ámbito mediante la aplicación de una gobernanza y controles adecuados que garanticen que sus soluciones de IA funcionan según lo previsto y ayuden a evitar un uso inadecuado.

Proporcionar canales de comunicación para que los usuarios expresen sus preocupaciones aumenta el nivel de comodidad con la IA y cumple una función útil para que las empresas mejoren continuamente sus modelos.

Las medidas de rendición de cuentas deben incluir la documentación de los casos de uso de la IA, la realización de evaluaciones de impacto y la supervisión adecuada por parte de un grupo de líderes multifuncionales.

Privacidad

Las aplicaciones de la IA utilizan a menudo datos personales que podrían afectar la intimidad de las personas y a las libertades civiles si no se gestionan adecuadamente. Cuando la IA utiliza datos personales o toma decisiones en nombre de una persona o sobre una persona, deben diseñarse controles de privacidad en la tecnología de apoyo para garantizar que el uso de dichos datos esté permitido, se ajuste a los fines, sea proporcional y justo. Estos controles deben mantenerse durante todo el ciclo de vida de los datos y de la solución.

Además, se deben incorporar prácticas de ingeniería de privacidad en el ciclo de vida de una solución, las cuales sirven para diseñar, construir y operar características, funcionalidades y procesos que mejoran la privacidad en los productos y servicios.

Seguridad

Los sistemas de IA deben ser resistentes y estar protegidos frente a agentes malintencionados mediante el uso de controles seguros del ciclo de vida de desarrollo similares a los utilizados en el desarrollo de software estándar.

La protección contra las amenazas a la seguridad incluye probar la resistencia de los sistemas de IA frente a ciberataques, compartir información sobre vulnerabilidades y ciberataques, y proteger la privacidad, integridad y confidencialidad de los datos personales.

Fiabilidad

La eficacia de las soluciones de IA se mide por la fiabilidad con la que la solución produce un resultado deseado, basado en el conjunto de datos en el que se ha entrenado y los datos de los que aprende continuamente.

Una de las ofertas clave de las soluciones de IA es una mayor precisión, que sólo puede lograrse si las soluciones se prueban sistemáticamente y se diseñan para producir resultados reproducibles.

Como parte de la evaluación del impacto de la IA, deben revisarse las soluciones basadas en ésta para determinar si se han incorporado los controles adecuados en su ciclo de vida para mantener la coherencia del propósito y la intención al operar en diferentes condiciones y casos de uso. Cuando se identifique que una solución de IA tiene un impacto potencial en la seguridad o representa un uso de riesgo mayor, se deberían llevar a cabo validaciones y pruebas adicionales, e imponer controles adicionales.

La industria de la tecnología tiene una larga historia de creación de soluciones como una fuerza para el bien en la sociedad. Se debe seguir innovando en su oferta de productos y servicios con soluciones seguras que satisfagan las necesidades de las empresas y aporten valor empresarial, además de cumplir las normas más estrictas de transparencia, imparcialidad, responsabilidad, privacidad, seguridad y fiabilidad.

Lo anterior debe ser parte del compromiso de las compañías del sector de respetar los derechos humanos, fomentar la innovación y reflejar su propósito de impulsar un futuro inclusivo para todos.

Por Ramón Villavicencio, Líder de Ingeniería en Cisco México.