Contenido Exclusivo

¿Quiénes son los Mejores 20 CISO de México 2024?

La noche del pasado viernes 27 de septiembre CIO...

VIDEO: Escalabilidad, seguridad y latencia: los 3 desafíos de la IA en redes de datos

Emilio Madero, Vicepresidente Ejecutivo de Marketing en Cirion Technologies,...

¿GPT racista? Estudio revela sesgo de IA en proceso de selección

En un mundo cada vez más impulsado por la tecnología, la inteligencia artificial (IA) está transformando rápidamente el panorama laboral. Desde la consultora de soluciones de talento, Robert Walters, analizaron el estudio de Bloomberg que puso a prueba a herramientas de GPT usadas para reclutamiento y selección de candidatos.

La metodología del estudio consistió en generar ocho currículums diferentes utilizando GPT, asegurando que todos tuvieran el mismo nivel de educación, años de experiencia y título del trabajo. La única variable era el nombre del candidato ficticio, que estaba estadísticamente asociado con diferentes grupos demográficos (por ejemplo, personas negras, blancas, hispanas, asiáticas), obtenidos de datos del censo en estados unidos.

Se solicitó a GPT que clasificara estos currículums 1,000 veces para identificar al candidato más calificado para una vacante real en una empresa Fortune 500.

Los resultados del estudio mostraron que el modelo de IA GPT tendía a clasificar de manera inconsistente los currículums con nombres asociados a diferentes grupos demográficos. Por ejemplo, los currículums con nombres asociados a personas negras fueron clasificados como los mejores en el 7% de las pruebas, mientras que aquellos con nombres hispanos, asiáticos y blancos fueron clasificados como los mejores en un rango que oscilaba entre el 8% y el 10% de las veces.

Además, se observó que el modelo a menudo mostraba un sesgo hacia candidatos con nombres tradicionalmente asociados a personas blancas, incluso cuando estos nombres se asociaban a currículums con calificaciones idénticas a otros.

Katherine Lastra, Senior Consultant, comenta: “Como headhunter, es nuestra responsabilidad asegurarnos de que las herramientas tecnológicas que utilizamos no perpetúen estereotipos ni discriminaciones.

Debemos trabajar en conjunto con desarrolladores y especialistas en IA para implementar soluciones que promuevan una perspectiva responsable y ética en el entorno laboral.

El estudio “Talent Trends 2024” de la consultora de talento, destaca que el 82% de los altos directivos cree que la IA tendrá un impacto importante en la contratación en sus empresas. La adopción de IA en el proceso de contratación no es simplemente una cuestión de eficiencia, sino también de asegurar que los valores humanos no se pierdan en el proceso.

Alfredo Araneda, Gerente General de Robert Walters Chile, subraya la importancia de este enfoque: “Necesitamos involucrar en la IA una perspectiva humana, ese toque humano que es lo que realmente nos diferencia de la tecnología. Es crucial adoptar nuevas tecnologías, pero siempre desde la perspectiva de cómo pueden mejorar nuestras vidas y no al revés. Debemos discernir correctamente qué es lo mejor para nuestros procesos, especialmente cuando se trata de impactar vidas humanas”.

Los empleados también son conscientes de los beneficios y riesgos asociados con la IA generativa. Según el estudio de Robert Walters, un sorprendente 96% de los empleados cree que esta tecnología puede beneficiar su trabajo, y el 50% ya la utiliza en sus labores diarias. Sin embargo, es esencial que las organizaciones mantengan una vigilancia constante para garantizar que estas herramientas no perpetúen desigualdades preexistentes.

 

*El estudio analizó CVs diferenciados solo por nombres. Headhunters aportan desde su perspectiva.

Lo Más Reciente

¿Cómo convertirse en el mejor líder o gerente?

Ya sea que se cumpla el papel de líder...

Cómo reinventar la experiencia del pasajero de avión mediante el análisis de datos

La creciente demanda de viajes aéreos y la intensificación...

La IA humanizada impulsará las operaciones del futuro

La inteligencia artificial (IA) se presenta a menudo como...

Cómo la IA y el machine learning están trabajando para lograr la previsibilidad

En el contexto de la logística moderna, la previsión...

Newsletter

Recibe lo último en noticias e información exclusiva.

¿Cómo convertirse en el mejor líder o gerente?

Ya sea que se cumpla el papel de líder o gerente en una organización, lo importante es reconocer que debe existir un equilibrio y...

Cómo reinventar la experiencia del pasajero de avión mediante el análisis de datos

La creciente demanda de viajes aéreos y la intensificación de la competencia han llevado a las empresas de la industria aérea, especialmente a las...

La IA humanizada impulsará las operaciones del futuro

La inteligencia artificial (IA) se presenta a menudo como una solución mágica para los negocios. Pero la realidad es más matizada. La IA no...