Contenido Exclusivo

¿Quiénes son los Mejores 20 CISO de México 2024?

La noche del pasado viernes 27 de septiembre CIO...

VIDEO: Escalabilidad, seguridad y latencia: los 3 desafíos de la IA en redes de datos

Emilio Madero, Vicepresidente Ejecutivo de Marketing en Cirion Technologies,...

Regulación y uso ético de la inteligencia artificial en chatbots y tecnología

En la era de la tecnología actual, la ética en el desarrollo y uso de chatbots e inteligencia artificial (IA) es un tema crucial. Con la rápida evolución de estas herramientas y su creciente integración en diversas industrias, surge la necesidad de establecer regulaciones que guíen su implementación de manera responsable y segura para los usuarios y las empresas.
Sobre este tema, Sinch, empresa en comunicaciones en la nube, destacó la importancia de la regulación en los campos de la IA, la tecnología y los chatbots. Contrariamente a lo que muchos puedan pensar, los chatbots no son una tecnología tan nueva. Aunque su uso comercial se ha popularizado en los últimos años, algunas empresas llevan más de dos décadas trabajando con ellos.
Actualmente, estas nuevas tecnologías son más potentes y evolucionan a un ritmo acelerado, lo que dificulta su adaptación segura y regulada en diversos ámbitos.
Las regulaciones siempre tienen un impacto en el despliegue de las nuevas tecnologías, estableciendo las bases sobre cómo hacerlo de manera responsable y segura. Actualmente, no existe una autoridad que regule todos los aspectos de la IA y los chatbots. Sin embargo, cada vez más empresas están desarrollando sus propias directrices en campo, adoptando enfoques para garantizar el buen uso de las tecnologías.
De acuerdo con Fábio Costa, Head of Artificial Intelligence Center of Excellence en Sinch,  la falta de regulación local no impide que las empresas se preocupen por ser éticas en el uso de la IA en sus operaciones. “La ausencia de regulación puede impactar significativamente el mercado de la propiedad intelectual, ya que gran parte de los contenidos de texto, audio y video se generan con base en fuentes reales y hoy en día no existe una ley ni protección de estos contenidos originales. Al final del día, independientemente de si las regulaciones tienen algún efecto en la velocidad de implementación de las tecnologías, son necesarias, ya que se debe tener cuidado con la gestión de la información”.
México y la regulación de la Inteligencia Artificial
En países como México, donde la regulación de la IA está rezagada en comparación con regiones como la Unión Europea (UE), existe una necesidad urgente de desarrollar marcos regulatorios sólidos. La colaboración con organizaciones internacionales y la adopción de normas internacionales pueden ser clave para establecer un marco jurídico y ético sólido que proteja tanto a los usuarios como a las empresas.
En la legislación de la UE, las personas deben supervisar los sistemas de IA, no por automatización, para evitar resultados perjudiciales. “Sin embargo, destaco que los beneficios del uso de la IA hoy en día ya son enormes, desde la detección de fraudes, la automatización de tareas, el descubrimiento de medicamentos y curas para enfermedades, características de accesibilidad y para generar amenidades sin las que hoy ni siquiera podemos vivir”, indicó Fábio Costa.
“En México ya hay varias propuestas. En mi opinión, tiene que haber organizaciones que puedan sentar las bases de la mano de las organizaciones internacionales. Si el Parlamento Europeo ya está trabajando en estos marcos, es necesario adaptarlos en México lo antes posible”, comentó Jaime Palacios, Country Leader y director de Soporte LATAM de Sinch.
¿Cuál es el beneficio de la regulación?
La regulación desempeña un papel clave en la incorporación de las nuevas tecnologías, sentando las bases para su uso ético y seguro. El ritmo del desarrollo tecnológico suele superar la velocidad del regulatorio, lo que plantea desafíos en cuanto a adaptación y aplicación efectiva de los lineamientos existentes.
Llevar a cabo los procesos de manera responsable es un paso pequeño pero importante. En materia de protección de datos, Sinch sabe lo importante que es ofrecer protección a sus clientes, a pesar de no contar con leyes que puedan regular su uso. No obstante, existen formas de garantizar esta protección cuando se trata del uso de la IA en los chatbots, ya que ahora existen protocolos que brindan mayor seguridad a las empresas y usuarios, como, por ejemplo:
  • Certificaciones ISO para el cuidado de la información: ISO 27001, ISO 27701 e ISO 27018 para garantizar que la información que viaja a través de sistemas viaja de forma segura.
  • Ley Federal de Protección de Datos Personales en Posesión de los Particulares (LFPDPPP): Encargada de proteger los datos personales y garantizar la privacidad.
“El uso de la IA es un camino sin retorno, pero la orientación y las buenas prácticas sobre sus usos son fundamentales dado el potencial y el impacto que puede causar. Si las empresas no hacen las cosas bien, pueden cometer un grave error y hacer retroceder a sus empresas cinco años en términos de reputación y confianza que los clientes depositan en ellas. Las cosas hay que hacerlas con responsabilidad y con un análisis adecuado, y socios estratégicos que te guíen para implementar tecnología a tu favor, asegurando la protección de tus consumidores”, concluyó Jaime Palacios.

Lo Más Reciente

Napse tiene nuevo director general para América Latina

Napse, empresa desarrolladora de soluciones tecnológicas omnicanal y de...

Tenable facilita la gestión y cumplimiento de PCI DSS 4.0

La reciente entrada en vigencia de la versión 4.0...

2024: El día en que el mundo tecnológico empresarial se detuvo

recuperación de desastreEl apagón de CrowdStrike el 19 de...

El 98% de las empresas aumentaron sus precauciones de seguridad tras evento de CrowdStrike

El incidente de CrowdStrike, que ocasionó que en julio...

Newsletter

Recibe lo último en noticias e información exclusiva.

Mireya Cortés
Mireya Cortés
Editora CIO Ediworld Online. La puedes contactar en mcortes@ediworld.com.mx

Napse tiene nuevo director general para América Latina

Napse, empresa desarrolladora de soluciones tecnológicas omnicanal y de comercio unificado para el retail, nombró a Jorge Fernando Bayá como su nuevo director general...

Tenable facilita la gestión y cumplimiento de PCI DSS 4.0

La reciente entrada en vigencia de la versión 4.0 del Estándar de Seguridad de Datos de la Industria de Tarjetas de Pago (PCI DSS)...

2024: El día en que el mundo tecnológico empresarial se detuvo

recuperación de desastreEl apagón de CrowdStrike el 19 de julio de 2024 marcó un momento clave para la industria de TI, paralizando infraestructuras críticas...