En Dubai, Emiratos Árabes, en las oficinas de policía se pueden encuentrar robots de forma humana que atienden usuarios. Los “agentes” de policía dan indicaciones, reciben denuncias y asesoran ciudadanos. La antropomorfización de las máquinas con rostro humano ayuda a aumentar la confianza y propiciar la interacción. Aún falta mucho para que persigan criminales o sean detectives que resuelvan muertes misteriosas, pero lo cierto es que los robots han llegado a la administración pública.

Estamos muy lejos de tener los robots que vemos en las películas, pero es claro que vamos en esa dirección. A pesar de ello, una encuesta realizada en 27 países europeos en el 2014, reportó que el 50% de los encuestados no querían que hubiera robots en la educación (Bogue 2014). Sin duda, esta opinión ha cambiado en los años recientes.

Con la pandemia del COVID-19, la interacción con robots aumentó en temas de salud. Muchos hospitales en Europa tenían robots que tomaban temperatura y daban instrucciones, repartían turnos de espera o ayudaban a comunicar a los pacientes internados con sus familiares a través de videoconferencias. Muchos robots sustituyeron a enfermeros y trasladaron materiales, muestras de pacientes y equipo. Estos primeros intentos para reducir el riesgo humano y capacitar a los robots en tareas rutinarias o de alto contagio demuestran su utilidad y valor.

El tema de la robotización de los servicios públicos es demasiado amplio para una sola colaboración, habría que analizar cada servicio público para introducir estas tecnologías. En esta ocasión, centraré la discusión tan sólo en una parte del tema ético relacionado con la salud: ¿Qué tanto debe integrarse un robot en el cuidado de los enfermos y de los ancianos?

Aporto tres ideas que intentan dar respuesta a esta interrogante o al menos que apoyen la discusión del tema.

La primera idea sobre los robots enfermeros es que deben estar programados bajo una perspectiva del cuidado humano. La construcción de algoritmos que permitan las tareas rutinarias de cuidado, administrar medicamentos, vigilar signos vitales, entre otras, deben estar diseñadas para optimizar la vida humana. Esto puede originar un conflicto entre los pacientes que sienten disminuida su libertad o controladas sus alternativas por una máquina que carece de sentimientos y sólo aporta argumentos para justificar su conducta.

La segunda idea es que los robots deben conocer las limitaciones de privacidad e intimidad de los pacientes o ancianos que cuiden. En este sentido surge la pregunta, ¿a quién debe responder un robot enfermero: a su paciente o a su médico?

Veamos un caso: el paciente es un anciano que no se ha tomado la medicina y le pide al robot que guarde el “secreto”, éste en su programación debe obedecerlo para cuidar su privacidad o intimidad pero iría en contra de su programación de salvaguardar su vida. ¿Qué hacer en ese caso? ¿Cuál dirección de programación debe prevalecer? Otros casos como el compartir resultados de análisis clínicos que comprometan la integridad de las personas, su vida íntima o su personalidad. Son dilemas éticos qué considerar para diseñar robots que cumplan estas tareas.

La tercera idea, los robots enfermeros estarán supervisados por humanos en un proceso de aprendizaje. Esta fase de “prueba” o supervisión, podrá ser igual o mejor que la de probar medicamentos. Una vez que los robots pasen las pruebas de entrenamiento, podrán ser utilizados en el sector público. Esto podrá reducir errores y aumentar los ahorros. No es lo mismo detener la aplicación de un medicamento en 1000 hospitales con un correo electrónico y juntas de personal, a enviar una instrucción a 10,000 robots que en un segundo actualizan la información y dejaran de aplicar un medicamento en ese instante. Esta posibilidad de “control inmediato” o actualización y supervisión debe ser obligatoria por ley tanto para la industria robótica como el sector público y privado que los adquiera para garantizar la calidad de los mismos.

En suma, los robots para salud pública requieren el diseño de políticas públicas y leyes que permitan tanto el crecimiento de esta industria robótica, como regular su interior (los algoritmos) y su diseño respondiendo a consideraciones éticas y de libertades humanas. Tendremos que llegar a estos consensos y acuerdos antes de permitir que las máquinas decidan sobre nuestra salud.

_______________________

El autor de la columna “Tecnogob”, Rodrigo Sandoval Almazán, es Profesor de Tiempo Completo SNI Nivel 2 de la Universidad Autónoma del Estado de México. Lo puede contactar en tecnogob@pm.me y en la cuenta de Twitter @horus72.