Contenido Exclusivo

¿Quiénes son los Mejores 20 CISO de México 2024?

La noche del pasado viernes 27 de septiembre CIO...

VIDEO: Escalabilidad, seguridad y latencia: los 3 desafíos de la IA en redes de datos

Emilio Madero, Vicepresidente Ejecutivo de Marketing en Cirion Technologies,...

¿GPT racista? Estudio revela sesgo de IA en proceso de selección

En un mundo cada vez más impulsado por la tecnología, la inteligencia artificial (IA) está transformando rápidamente el panorama laboral. Desde la consultora de soluciones de talento, Robert Walters, analizaron el estudio de Bloomberg que puso a prueba a herramientas de GPT usadas para reclutamiento y selección de candidatos.

La metodología del estudio consistió en generar ocho currículums diferentes utilizando GPT, asegurando que todos tuvieran el mismo nivel de educación, años de experiencia y título del trabajo. La única variable era el nombre del candidato ficticio, que estaba estadísticamente asociado con diferentes grupos demográficos (por ejemplo, personas negras, blancas, hispanas, asiáticas), obtenidos de datos del censo en estados unidos.

Se solicitó a GPT que clasificara estos currículums 1,000 veces para identificar al candidato más calificado para una vacante real en una empresa Fortune 500.

Los resultados del estudio mostraron que el modelo de IA GPT tendía a clasificar de manera inconsistente los currículums con nombres asociados a diferentes grupos demográficos. Por ejemplo, los currículums con nombres asociados a personas negras fueron clasificados como los mejores en el 7% de las pruebas, mientras que aquellos con nombres hispanos, asiáticos y blancos fueron clasificados como los mejores en un rango que oscilaba entre el 8% y el 10% de las veces.

Además, se observó que el modelo a menudo mostraba un sesgo hacia candidatos con nombres tradicionalmente asociados a personas blancas, incluso cuando estos nombres se asociaban a currículums con calificaciones idénticas a otros.

Katherine Lastra, Senior Consultant, comenta: “Como headhunter, es nuestra responsabilidad asegurarnos de que las herramientas tecnológicas que utilizamos no perpetúen estereotipos ni discriminaciones.

Debemos trabajar en conjunto con desarrolladores y especialistas en IA para implementar soluciones que promuevan una perspectiva responsable y ética en el entorno laboral.

El estudio “Talent Trends 2024” de la consultora de talento, destaca que el 82% de los altos directivos cree que la IA tendrá un impacto importante en la contratación en sus empresas. La adopción de IA en el proceso de contratación no es simplemente una cuestión de eficiencia, sino también de asegurar que los valores humanos no se pierdan en el proceso.

Alfredo Araneda, Gerente General de Robert Walters Chile, subraya la importancia de este enfoque: “Necesitamos involucrar en la IA una perspectiva humana, ese toque humano que es lo que realmente nos diferencia de la tecnología. Es crucial adoptar nuevas tecnologías, pero siempre desde la perspectiva de cómo pueden mejorar nuestras vidas y no al revés. Debemos discernir correctamente qué es lo mejor para nuestros procesos, especialmente cuando se trata de impactar vidas humanas”.

Los empleados también son conscientes de los beneficios y riesgos asociados con la IA generativa. Según el estudio de Robert Walters, un sorprendente 96% de los empleados cree que esta tecnología puede beneficiar su trabajo, y el 50% ya la utiliza en sus labores diarias. Sin embargo, es esencial que las organizaciones mantengan una vigilancia constante para garantizar que estas herramientas no perpetúen desigualdades preexistentes.

 

*El estudio analizó CVs diferenciados solo por nombres. Headhunters aportan desde su perspectiva.

Lo Más Reciente

La Fórmula 1 aceleró la actividad del comercio electrónico en México

La Fórmula 1 regresó con el Gran Premio de...

Fallece Iván Arcos García, IT Digital Head de Opella (Sanofi)

César Iván Arcos García, IT Digital Head de Opella,...

Transformando la educación superior con tecnología

Con la tecnología avanzando a un ritmo acelerado y...

Miedos por la Inteligencia Artificial

Cuando escuchamos la frase: "¡Llegó la inteligencia artificial a...

Newsletter

Recibe lo último en noticias e información exclusiva.

La Fórmula 1 aceleró la actividad del comercio electrónico en México

La Fórmula 1 regresó con el Gran Premio de México, y la emoción no se quedó solo en la pista; el impacto también se...

Fallece Iván Arcos García, IT Digital Head de Opella (Sanofi)

César Iván Arcos García, IT Digital Head de Opella, la unidad de negocio de Consumo de la farmacéutica Sanofi, falleció el sábado 26 de...

Transformando la educación superior con tecnología

Con la tecnología avanzando a un ritmo acelerado y las industrias redefiniendo constantemente las habilidades requeridas en la fuerza laboral, la educación superior se...