En la era de la tecnología actual, la ética en el desarrollo y uso de chatbots e inteligencia artificial (IA) es un tema crucial. Con la rápida evolución de estas herramientas y su creciente integración en diversas industrias, surge la necesidad de establecer regulaciones que guíen su implementación de manera responsable y segura para los usuarios y las empresas.

Sobre este tema, Sinch, empresa en comunicaciones en la nube, destacó la importancia de la regulación en los campos de la IA, la tecnología y los chatbots. Contrariamente a lo que muchos puedan pensar, los chatbots no son una tecnología tan nueva. Aunque su uso comercial se ha popularizado en los últimos años, algunas empresas llevan más de dos décadas trabajando con ellos.

Actualmente, estas nuevas tecnologías son más potentes y evolucionan a un ritmo acelerado, lo que dificulta su adaptación segura y regulada en diversos ámbitos.

Las regulaciones siempre tienen un impacto en el despliegue de las nuevas tecnologías, estableciendo las bases sobre cómo hacerlo de manera responsable y segura. Actualmente, no existe una autoridad que regule todos los aspectos de la IA y los chatbots. Sin embargo, cada vez más empresas están desarrollando sus propias directrices en campo, adoptando enfoques para garantizar el buen uso de las tecnologías.

De acuerdo con Fábio Costa, Head of Artificial Intelligence Center of Excellence en Sinch,  la falta de regulación local no impide que las empresas se preocupen por ser éticas en el uso de la IA en sus operaciones. “La ausencia de regulación puede impactar significativamente el mercado de la propiedad intelectual, ya que gran parte de los contenidos de texto, audio y video se generan con base en fuentes reales y hoy en día no existe una ley ni protección de estos contenidos originales. Al final del día, independientemente de si las regulaciones tienen algún efecto en la velocidad de implementación de las tecnologías, son necesarias, ya que se debe tener cuidado con la gestión de la información”.

En países como México, donde la regulación de la IA está rezagada en comparación con regiones como la Unión Europea (UE), existe una necesidad urgente de desarrollar marcos regulatorios sólidos. La colaboración con organizaciones internacionales y la adopción de normas internacionales pueden ser clave para establecer un marco jurídico y ético sólido que proteja tanto a los usuarios como a las empresas.

En la legislación de la UE, las personas deben supervisar los sistemas de IA, no por automatización, para evitar resultados perjudiciales. “Sin embargo, destaco que los beneficios del uso de la IA hoy en día ya son enormes, desde la detección de fraudes, la automatización de tareas, el descubrimiento de medicamentos y curas para enfermedades, características de accesibilidad y para generar amenidades sin las que hoy ni siquiera podemos vivir”, indicó Fábio Costa.

“En México ya hay varias propuestas. En mi opinión, tiene que haber organizaciones que puedan sentar las bases de la mano de las organizaciones internacionales. Si el Parlamento Europeo ya está trabajando en estos marcos, es necesario adaptarlos en México lo antes posible”, comentó Jaime Palacios, Country Leader y director de Soporte LATAM de Sinch.

La regulación desempeña un papel clave en la incorporación de las nuevas tecnologías, sentando las bases para su uso ético y seguro. El ritmo del desarrollo tecnológico suele superar la velocidad del regulatorio, lo que plantea desafíos en cuanto a adaptación y aplicación efectiva de los lineamientos existentes.

Llevar a cabo los procesos de manera responsable es un paso pequeño pero importante. En materia de protección de datos, Sinch sabe lo importante que es ofrecer protección a sus clientes, a pesar de no contar con leyes que puedan regular su uso. No obstante, existen formas de garantizar esta protección cuando se trata del uso de la IA en los chatbots, ya que ahora existen protocolos que brindan mayor seguridad a las empresas y usuarios, como, por ejemplo:

“El uso de la IA es un camino sin retorno, pero la orientación y las buenas prácticas sobre sus usos son fundamentales dado el potencial y el impacto que puede causar. Si las empresas no hacen las cosas bien, pueden cometer un grave error y hacer retroceder a sus empresas cinco años en términos de reputación y confianza que los clientes depositan en ellas. Las cosas hay que hacerlas con responsabilidad y con un análisis adecuado, y socios estratégicos que te guíen para implementar tecnología a tu favor, asegurando la protección de tus consumidores”, concluyó Jaime Palacios.