Los ataques contra los teléfonos celulares, el robo de identidad, la falsificación de datos personales y el acoso digital son hechos cada vez más frecuentes. Al parecer la tecnología de información aumenta los riesgos en lugar de disminuirlos. En lugar de sentirnos más protegidos con el celular, somos más vulnerables por todos los datos que conocen de nosotros.

Además, la violencia ha llegado a las redes sociales. Los mecanismos para amenazar e incluso lastimar aparecen en computadoras y teléfonos celulares de los que dependemos tanto. ¿Qué hacer? ¿Cómo controlar la violencia en las redes sociales? ¿Es posible controlar la violencia digital con Inteligencia Artificial? ¿Es viable detener la violencia digital a cambio de nuestros datos privados?

Me gustaría analizar algunas de estas interrogantes no con el afán de darle respuesta, lo cual me parece imposible por ahora, sino entender su problemática y limitaciones. Por ejemplo: ¿Cómo controlar la violencia en las redes sociales? Una respuesta es con tecnología, limitando el acceso, identificando palabras clave, ubicando y denunciando las personas que promuevan la violencia. Estas acciones ya las realiza Google, Meta, Twitter a través de algoritmos entrenados para ello.

No obstante, parece insuficiente. Hay quienes “escapan” a esta vigilancia tecnológica. Ante ello, surgen estas preguntas: ¿Sólo unos cuantos, calificados, deberán tener acceso a las redes sociales? ¿Cómo capacitar para que sólo algunos las puedan usar? Si restringimos esta libertad, nos convertimos en porteros de las redes sociales, que permitimos el paso a unos y rechazamos a otros. El debate sobre este tema puede seguir.

Analicemos la segunda interrogante: ¿Es posible controlar la violencia digital con Inteligencia Artificial? La respuesta es que sí es posible entrenar algoritmos que puedan enviar respuestas automáticas, masivas o localizadas para vulnerar o censurar a quienes envíen mensajes que promuevan la violencia física o mental para neutralizarlos.

El problema es ¿quién será el responsable de hacerlo? ¿Quién debe vigilar las redes? En este momento no existe una de Internet policía internacional, dado que es un problema global, que vigile las redes y pueda censurar o castigar a quienes violen las reglas. Por otro lado, existe también la limitante de quien desarrolle el código para combatir estos contenidos maliciosos, deberá asegurarse de actualizarlo frecuentemente y evitar compartirlo para que no puedan evadirlo. Lo que nos lleva a pensar que sólo pueda ser el gobierno tanto el dueño como el administrador de un programa de este tipo, junto con los dueños de las plataformas de redes sociales. Entonces, ¿a qué gobierno le podemos dar este privilegio?

Finalmente, cualquier control sobre la violencia digital, ya sea verbal, auditiva o por imágenes debe tener acceso a los datos personales para determinar qué personas son las responsables de tales actos y sancionarlos conforme a la ley. Ello implica mayor acceso a la privacidad de los datos personales en todos los niveles, más cambios legales y autorizaciones que muchos países no están dispuestos a promover y que complican la problemática.

Sin embargo, la violencia digital se puede combatir con una mayor educación sobre el uso de Internet y las redes; la capacitación tanto a padres como maestros para identificar a quienes fomenten la violencia y terminar con el problema de raíz. Las redes sociales digitales son solamente una herramienta que potencia un mal mayor, que les aporta a sus usuarios una plataforma para realizar sus acciones delictivas. Todos estamos obligados a combatirlos para mantener un espacio público donde podamos convivir como humanidad.

______________________________

El autor de la columna “Tecnogob”, Rodrigo Sandoval Almazán, es Profesor de Tiempo Completo SNI Nivel 2 de la Universidad Autónoma del Estado de México. Lo puede contactar en tecnogob@pm.me y en la cuenta de Twitter @horus72.