La inteligencia artificial tiene un sesgo que casi nadie está mirando
Los sistemas que ordenan currículums, puntúan entrevistas en video y sugieren quién promociona aprenden de decisiones humanas anteriores, así que reproducen con enorme eficiencia aquello que ya venía torcido. Esta guía explica dónde se cuela el sesgo algorítmico en la gestión de personas, cómo se detecta con datos propios y qué se puede exigir a quien provee la herramienta.
De dónde viene el sesgo cuando decide una máquina
El sesgo no aparece en el código, aparece en los datos de entrenamiento, en la variable que se elige predecir y en cómo se usa el resultado.
Un sistema de puntuación de candidaturas aprende de un histórico de decisiones. Si durante años se contrató sobre todo a personas de un mismo perfil de universidad, de barrio o de trayectoria continua sin interrupciones, el modelo aprende que ese perfil predice buen desempeño, cuando en verdad predice quién fue elegido antes.
El segundo lugar donde se cuela es la variable objetivo. Predecir permanencia a dos años castiga a quien tuvo licencias por cuidado, predecir desempeño según evaluaciones internas arrastra los sesgos de esas evaluaciones, y predecir encaje cultural suele terminar premiando la semejanza con quien ya está.
El tercer lugar es el uso. Un puntaje pensado como orientación termina funcionando como filtro cuando el equipo de selección solamente mira las primeras veinte posiciones de una lista de seiscientas.
Hay además variables que parecen neutras y funcionan como sustituto de un eje protegido, el código postal, el club deportivo mencionado, los años sin interrupción laboral o la distancia al lugar de trabajo.
Un modelo entrenado con diez años de contrataciones aprende a repetir esos diez años, incluyendo lo que preferiríamos no repetir.
Cinco puntos del ciclo laboral donde ya hay decisión algorítmica
Conviene inventariar dónde hay un sistema decidiendo antes de discutir si está sesgado.
En muchas organizaciones el inventario nunca se hizo, así que la primera tarea es listar cada punto donde un sistema ordena, puntúa, descarta o recomienda.
Cómo se mide el impacto desigual con datos propios
Con la tasa de avance por etapa alcanza para detectar la mayoría de los problemas.
No hace falta auditar el modelo por dentro para saber si algo anda mal, alcanza con mirar qué le pasa a la gente en cada etapa del proceso.
Se cuentan postulaciones, personas que pasan el filtro automático, entrevistadas, finalistas y contratadas, en un período de al menos seis meses.
Para cada eje disponible se divide la cantidad que avanza entre la cantidad que llega a esa etapa, y se comparan los resultados entre grupos.
Si la tasa de avance de un grupo queda por debajo del ochenta por ciento de la tasa del grupo con mejor resultado, hay una señal de impacto desigual que amerita revisión.
Se prueba quitar del modelo o del filtro las variables sospechosas de funcionar como sustituto y se observa si la brecha se mueve.
Se deja registro de lo revisado, de lo encontrado y de la decisión adoptada, con fecha de nueva revisión.
Qué pedirle a quien provee la herramienta
Un proveedor que no puede responder estas preguntas está pidiendo un acto de fe.
Estas preguntas se pueden incorporar al pliego de compra o al contrato de servicio, y funcionan tanto para un sistema de selección como para una herramienta de evaluación.
El marco que ya está en vigor y lo que viene
El uso de sistemas automatizados en empleo quedó clasificado como de alto riesgo en la normativa europea, y varias legislaciones de la región avanzan en la misma dirección.
El Reglamento europeo de inteligencia artificial, el Reglamento (UE) 2024/1689, ubica en la categoría de alto riesgo los sistemas usados para selección, promoción y terminación de vínculos laborales, con obligaciones de gestión de riesgo, calidad de datos, documentación técnica y supervisión humana.
Ese calendario se modificó con el llamado Ómnibus digital de inteligencia artificial, el Reglamento (UE) 2026/1744, que entró en vigor el 27 de julio de 2026 y trasladó la exigibilidad de las obligaciones para sistemas de alto riesgo en empleo, educación, biometría y acceso a servicios esenciales al 2 de diciembre de 2027, con el 2 de agosto de 2028 para determinados sistemas integrados en productos ya regulados. El plazo adicional conviene leerlo como tiempo de preparación y no como una pausa, porque la evaluación de conformidad y la documentación técnica se construyen durante meses de trabajo.
El Reglamento General de Protección de Datos ya reconoce el derecho a no quedar sometida una persona a una decisión basada únicamente en tratamiento automatizado cuando produce efectos jurídicos o la afecta de manera significativa, y ese derecho aplica de lleno a un descarte automático de candidatura.
En Latinoamérica la protección llega sobre todo por vía de las leyes de datos personales y de los principios de no discriminación laboral, con Brasil, Colombia, Chile y Argentina en distintos momentos de actualización normativa. Aun sin una ley específica, la organización responde por la decisión aunque la haya tomado un sistema comprado, y ahí aparece el diferencial de anticiparse, porque una empresa que documenta hoy sus controles llega con la casa ordenada cuando la exigencia se vuelva obligatoria en su país.
Glosario rápido
Revisión de sistemas automatizados en gestión de personas
Ocho puntos para una primera pasada interna.
0 de 8 puntos marcados en esta sesión, la marca no se guarda al salir de la página.
Preguntas frecuentes
Fuentes y lecturas
Automatizar una decisión no la vuelve objetiva, la vuelve rápida y difícil de discutir, así que la pregunta que conviene sostener es quién puede revisar el resultado y con qué información en la mano.
Contenido informativo, elaborado con fines divulgativos por DEIBme. Las referencias corresponden a la documentación disponible al momento de la última revisión y no constituyen asesoramiento jurídico.