¡Alerta en RRHH! La IA Supera a los Humanos en Sesgos de Contratación: ¿Cómo Evitarlo?
Publicado el 15-05-2024
En la era de la transformación digital, donde la inteligencia artificial promete revolucionar la eficiencia y objetividad en procesos críticos como la selección de personal, emerge una preocupación inesperada: los modelos de lenguaje a gran escala (LLMs) no solo replican los sesgos humanos, sino que pueden generarlos y amplificarlos de forma autónoma. Descubre los hallazgos de una investigación reciente que destapa cómo la IA podría ser más propensa a la discriminación en la contratación, y qué medidas podemos tomar para construir un futuro laboral más justo.
La Inteligencia Artificial al Frente de la Contratación: ¿Una Bendición o un Riesgo Inminente?
La automatización ha llegado para quedarse en el ámbito de los Recursos Humanos. Cada vez es más común que un sistema de inteligencia artificial revise currículums, filtre candidatos e incluso realice entrevistas antes de que un ojo humano intervenga. Esta tendencia, impulsada por la promesa de eficiencia y reducción de costes, ha generado un debate crucial sobre la imparcialidad algorítmica. Si bien se sabe que los LLMs pueden absorber y reflejar los sesgos presentes en sus vastos conjuntos de datos de entrenamiento, una nueva investigación de Princeton y la Universidad de Chicago revela una verdad aún más inquietante: estos modelos no solo aprenden prejuicios, sino que pueden desarrollar sus propios sesgos a partir de la experiencia, superando a los humanos en esta preocupante capacidad.
En un momento donde las compañías de IA compiten por crear modelos agentivos con funcionalidades de memoria avanzadas, capaces de recordar hasta el más mínimo detalle de las interacciones del usuario, es imperativo entender cómo estos sistemas podrían consolidar y perpetuar estereotipos, afectando directamente la diversidad y equidad en el mercado laboral.
El Experimento Revelador: Cuando los LLMs Aprenden a Estereotipar
Para explorar esta cuestión, los investigadores adaptaron un estudio psicológico que examinaba la formación de estereotipos en humanos. Modelos de lenguaje como ChatGPT, Claude y Gemini fueron sometidos a un juego de contratación simulado. Se les asignó el rol de consultores para el alcalde de una ciudad ficticia, con la tarea de contratar personal para 20 puestos diferentes (desde médicos y abogados hasta cuidadores y conserjes) a lo largo de 40 rondas. Los candidatos provenían de cuatro grupos étnicos ficticios: Tufa, Aima, Reku y Weki.
En cada ronda, los modelos debían seleccionar un candidato de entre los cuatro grupos, y luego se les informaba si la contratación había sido exitosa. La instrucción principal era realizar el mayor número posible de contrataciones exitosas. Crucialmente, los investigadores confirmaron que, en la realidad del experimento, todos los candidatos tenían la misma probabilidad de éxito en cualquier puesto, independientemente de su origen étnico ficticio.
Resultados Alarmantes: La IA Estereotipa Más Rápido y con Mayor Intensidad
Los resultados, presentados en un artículo en ICML, fueron contundentes. Los modelos de IA rápidamente comenzaron a segregar a los candidatos de diferentes grupos en roles específicos basándose en sus primeras observaciones. Por ejemplo, si a un modelo se le informaba que un candidato Aima había fracasado como médico (un puesto que requería altos niveles de calidez y competencia según el modelo), este se inclinaba a no contratar más Aimas para roles de «alto estatus». En su lugar, comenzaba a asignarlos a puestos como conserjes, que el modelo clasificaba como de menor calidez y competencia.
Lo más preocupante fue que los LLMs mostraron una propensión significativamente mayor a estereotipar que los participantes humanos en el estudio original. En una escala de segregación (donde 2 indica una asignación completa de cada grupo a un nicho laboral específico), los humanos obtuvieron una puntuación de 0.84. Los modelos de IA, en contraste, puntuaron aproximadamente un 65% más alto, con el modelo de razonamiento o3 de OpenAI alcanzando un sorprendente 1.83, muy cerca del máximo posible.
¿Por Qué la IA es Más Sesgada? La Paradoja de la Generalización y la Memoria
Ryan Liu, estudiante de doctorado en Princeton y coautor del estudio, explica que esta tendencia se debe a que los LLMs están «ansiosos por crear generalizaciones a partir de datos limitados». Su optimización para tareas matemáticas, de codificación y científicas –áreas que recompensan la generalización a partir de pocos ejemplos– los lleva a adoptar hipótesis demasiado pronto. El mismo instinto que les permite resolver complejos problemas lógicos, paradójicamente, los hace propensos a estereotipar en contextos sociales.
Este fenómeno se conoce como el «dilema de exploración-explotación», donde cualquier tomador de decisiones, humano o máquina, debe equilibrar la adhesión a lo que funcionó antes (explotación) con la búsqueda de nuevas posibilidades (exploración). La impaciencia de los LLMs por explotar patrones tempranos los hace particularmente vulnerables al sesgo. De hecho, los modelos más nuevos y con mayores capacidades de razonamiento, como o3 de OpenAI y R1 de DeepSeek, exhibieron los sesgos más fuertes, lo que sugiere que una mayor «inteligencia» en ciertos aspectos puede exacerbar el problema en otros.
El Desafío de la Memoria y la Personalización en Chatbots
Angelina Wang, científica informática de la Universidad de Cornell, señala que la creciente implementación de funciones de memoria y personalización en los chatbots agrava esta situación. Un chatbot que recuerda interacciones previas puede «sobredimensionar los mismos tipos de comportamientos que ha experimentado antes», consolidando así sus sesgos. Sin embargo, simplemente hacer que los chatbots «olviden» más no es una solución, ya que los usuarios esperan una experiencia personalizada y contextual. El equilibrio entre una memoria útil y una que no perpetúe prejuicios es un campo de investigación activo y un reto significativo para los desarrolladores de IA.
Estrategias para Mitigar el Sesgo: Rediseñando Objetivos y Contexto
La investigación también ofreció claves sobre cómo abordar este desafío ético. Curiosamente, simplemente indicarle al modelo que «fuera justo» tuvo un impacto mínimo en su comportamiento. Liu sugiere que esto se debe a que el modelo «no puede poner estos valores en acción o ese proceso está sumergido bajo la tendencia a tratar de optimizar el objetivo de obtener las contrataciones más correctas».
Sin embargo, cuando a los modelos se les prometió un «bono adicional» por una contratación diversa, su sesgo se redujo drásticamente. Esto sugiere que la clave no reside solo en lo que se le «dice» a la IA que le importe, sino en cómo se diseñan sus objetivos fundamentales. Incorporar valores sociales deseables directamente en la estructura de recompensas y métricas de rendimiento de la IA es esencial para fomentar un comportamiento ético y equitativo.
Otro hallazgo importante fue el papel de la información personal. Cuando a los modelos se les proporcionaron datos relevantes sobre individuos (como edad y educación) en lugar de simplemente su grupo étnico, su tendencia a segregar disminuyó. Esto subraya la importancia de proporcionar a los sistemas de IA información contextual y granular, en lugar de datos superficiales o categóricos, para evitar la formación de estereotipos simplistas.
Implicaciones en el Mundo Real y el Futuro de la Contratación con IA
Si bien el experimento se llevó a cabo en un entorno simulado, las implicaciones para la contratación en el mundo real son significativas. En un contexto empresarial, los comentarios sobre el éxito de una contratación (el «report card» del modelo) no son instantáneos; puede llevar meses o años evaluar completamente el desempeño de un nuevo empleado. Sin embargo, cuando esa retroalimentación finalmente llega, existe el riesgo de que un modelo de IA interprete excesivamente esos resultados para futuras decisiones de contratación, creando y reforzando sesgos de forma insidiosa.
A medida que las empresas aumentan el uso de LLMs para filtrar currículums, evaluar habilidades e incluso realizar entrevistas de trabajo, la capacidad de estos sistemas para formar sesgos a partir de la experiencia propia es una «implicación realmente seria que deberían abordar», advierte Wang. La próxima generación de algoritmos de contratación debe ser diseñada no solo para ser eficiente, sino también para ser intrínsecamente justa y resistente a la creación de sus propios prejuicios.
Conclusión: La promesa de una contratación más justa y objetiva mediante la inteligencia artificial se enfrenta a un nuevo y complejo desafío. Los «nuevos sesgos» generados por la propia IA, que ningún humano le ha enseñado explícitamente, son una amenaza constante. Para construir sistemas de IA verdaderamente equitativos, es fundamental ir más allá de la mera supervisión de los datos de entrenamiento. Debemos rediseñar la forma en que los algoritmos aprenden, estableciendo objetivos claros que valoren la diversidad y la inclusión, y proporcionando a los modelos el contexto y la información detallada necesaria para tomar decisiones imparciales. Solo así podremos asegurar que la IA sea una fuerza para la igualdad, y no un amplificador de la discriminación, en el futuro del trabajo.
Fuente original: AI is more likely than humans to form biases when hiring