pipette
ENEnglish

Automating inequality? Gender bias in AI-mediated labor markets

Kenza Elass, Germain Gauthier, Debora Nozza, Paola Antonia Profeta

Revista con revisión por paresUso en el mundo real

En palabras de los autores

Generative AI is rapidly entering labor markets, with large language models (LLMs) now used to help write CVs and evaluate applicants. We study the risks this creates in a series of audit experiments in which applicant gender is randomly assigned while all other information is held constant. We find that LLMs generate gender-stereotypical CVs and exhibit gender bias in screening scores and wage recommendations. Screening scores track occupational gender segregation, penalizing women in male-dominated occupations and favoring them in female-dominated ones. Wage recommendations track occupational gender wage gaps when gender is explicit in the prompt, though this gradient weakens under name-based gender signaling and is sensitive to the LLMs being used. These disparities arise through two channels: evaluation bias, when identical CV content is evaluated differently by gender, and generation bias, when gendered content produced by the model affects later evaluation. Because the same systems shape both CV content and its subsequent assessment, these channels can reinforce one another. Taken together, our findings identify measurable risks of algorithmic amplification in AI-mediated job search.

Resultado principalLimitación que admiten los autores

En palabras simples Resumen con IA

Los investigadores probaron si los modelos de lenguaje de inteligencia artificial muestran sesgo de género en solicitudes de empleo. Asignaron género al azar a solicitantes idénticos en experimentos. Los modelos produjeron currículos con estereotipos de género y dieron puntajes sesgados. Las mujeres fueron penalizadas en trabajos dominados por hombres y favorecidas en los dominados por mujeres. El sesgo vino de cómo se escribieron los currículos y cómo se juzgaron, lo cual puede reforzarse mutuamente.

Escrito por Kimi K2.5 usando solo el abstract de arriba. Jev verificó que cada oración esté respaldada por las oraciones del abstract que cita y eliminó las que no. Pasá el cursor por una oración para ver de dónde sale.

Apareció: miércoles, 18 de noviembre. Proceedings of the National Academy of Sciences. Revista con revisión por pares.

DOI: 10.1073/pnas.2534118123