Las policías alrededor del mundo cada vez usan más tecnología. El reconocimiento facial es la que más se usa en países como: Argentina, Inglaterra, Estados Unidos, Francia, Alemania.

En esta colaboración, analizaré la aplicación de la policía de Minnesota, donde ocurrió el trágico incidente de George Floyd en mayo del 2020. A raíz de ese evento, la policía contrató los servicios de Intrepid Technologies, una empresa que ha desarrollado “Respuesta Intrépida” (Intrepid Response).

Se trata de una app para descargarse en cualquier teléfono celular, pero que usan policías. Con ella toman fotos de personas arrestadas o participantes de manifestaciones, que son etiquetadas con ubicación, fecha, hora, tipo de evento y se guardan para ser analizadas por algoritmos.

La base de datos de rostros con personas retratadas por policías son compartidas en otras corporaciones policiacas en Estados Unidos como parte de la Operación Red de Seguridad (Operation Safety Net). Esto permite que al momento de tener un evento de este tipo se puedan reconocer los rostros de los implicados casi de manera inmediata y cruzarlos con cámaras de seguridad.

De esta manera, el policía sólo tiene abrir la aplicación y apuntar al rostro de la persona para que el software lo reconozca, le proporcione los datos y le muestre dónde ha participado y si cometió algún delito.

 En realidad “Respuesta Intrépida” es un gran avance en materia de seguridad, ya que permite la cooperación entre agencias, clasificación de la información y una respuesta rápida para identificar rostros. Sin embargo, el uso ético tiene al menos tres problemas que vale la pena analizar.

El primero es la violación de la privacidad y la intimidad de las personas. El recolectar los rostros de personas sin su consentimiento, para guardarlos en una base de datos de la policía debería ser un delito. Imagine por un momento que usted camina por una calle cercana a alguna protesta, su rostro es captado por una de estas cámaras, archivado y catalogado como uno de los “presentes”. Meses después va a renovar su licencia de conducir y aparece como uno de los delincuentes potenciales y por ello le niegan la renovación.

La posibilidad de “compartir” la información se convierte en una bendición para la policía, pero una maldición para los ciudadanos. ¿Es posible acceder a esa base de datos para ver si aparece nuestra cara?

El segundo problema es la falta de una normatividad que resguarde la información, proteja su uso, manejo y distribución. Si algún hacker roba la base de datos, puede hacer mal uso de ella, comercializar los datos e incluso extorsionar con ellos.

La ausencia de leyes para permitir la toma de fotografías con fines de catalogación policial, debe tener ciertas limitaciones: edad, sexo, que permitan ciertas garantías de privacidad e intimidad para las personas.

Finalmente, el tercer problema son los algoritmos que analizan esta información. Es vital que el algoritmo de “Respuesta Intrépida” fuera del dominio público para probarlo y evitar cualquier sesgo. Por ejemplo, que esté proporcionando información incorrecta de los lugares o las personas de raza blanca, en contraste con las personas afroamericanas o de otras razas.

Es cierto que tanto Facebook, Google y Amazon han desarrollado algoritmos para analizar el reconocimiento facial. Facebook entrenó su algoritmo con los rostros de las fotografías de los perfiles de sus usuarios, pidiendo que “etiquetaran” con los nombres de amigos y familiares para que pudieran ser reconocidos. Nunca se tuvo control de qué se hizo con dicha información y si fuera posible editarla o manipularla.

Lo mismo puede suceder con los registros policiacos donde aparezcan los rostros de las personas en una manifestación. Este es uno de los temas de la siguiente generación de leyes que urgen en materia de tecnología, esperamos que cuando lleguen a nuestro país, no nos tome por sorpresa y estemos listos.

_____________________

El autor de la columna “Tecnogob”, Rodrigo Sandoval Almazán, es Profesor de Tiempo Completo SNI Nivel 2 de la Universidad Autónoma del Estado de México. Lo puede contactar en tecnogob@pm.me y en la cuenta de Twitter @horus72.