Un sistema de contratación de IA puede tratar a todos los solicitantes por igual y aun así hacer que algunas personas se sientan objetivo. Los investigadores descubrieron que los candidatos rechazados juzgaban una entrevista automatizada de manera diferente según la raza y el género del avatar que entregaba el resultado.
Alrededor de 220 participantes completaron una entrevista simulada para un puesto ficticio de atención al cliente con uno de los cuatro avatares fotorrealistas de IA. Todos fueron rechazados, pero la percepción de justicia cambió con la apariencia del entrevistador. Una auditoría de algoritmo podría pasar por alto esa reacción porque los candidatos no experimentan el sistema como código sin formato. Experimentan una cara que hace preguntas y juzga sus respuestas.
Por qué la coincidencia parcial se sintió peor
Los candidatos que coincidieron con el avatar en una sola característica, ya sea género o shade de piel, calificaron el proceso como menos justo que aquellos que coincidieron en ambos rasgos o en ninguno.
El estudio no estableció por qué el emparejamiento parcial produjo la respuesta más fuerte. El parecido limitado puede haber cambiado lo que los candidatos esperaban de la interacción, haciendo que el rechazo se sintiera más private. Cualquiera que sea la explicación, darle a un entrevistador de IA una cara acquainted no garantiza que los solicitantes lo vean como impartial.
¿Qué cambió después del rechazo?
Antes de la decisión, la confianza en la IA se mantenía consistentemente alta en las diferentes combinaciones de avatar. El seguimiento ocular reveló una diferencia notable: los participantes miraban más de cerca los rostros cuyo shade de piel difería del suyo.
Una vez que llegó el rechazo, los candidatos se volvieron más escépticos sobre el proceso. Un desajuste racial también los hizo más propensos a atribuir el resultado al sesgo. El resultado automatizado siguió siendo idéntico, pero la persona en la pantalla determinó cómo lo interpretaron los candidatos.
El experimento involucró un trabajo ficticio y un rechazo estandarizado, por lo que no prueba que los avatares de contratación reales produzcan la misma respuesta. Muestra cuán rápidamente puede cambiar la justicia percibida una vez que una decisión automatizada se vuelve private.
Qué empresas deberían probar a continuación
Las empresas que utilizan entrevistadores de IA deben examinar la interfaz junto con el modelo que toma la decisión. Una puntuación constante no impedirá que los candidatos lean el significado social en la apariencia de un avatar.
Las pruebas de equidad deben incluir a solicitantes de diferentes grupos demográficos y comparar sus reacciones antes y después de un resultado desfavorable. Las empresas también deberían probar si una interfaz con apariencia menos humana genera menos preocupaciones que un entrevistador fotorrealista. La elección más segura puede ser el diseño que establezca las expectativas más claras, en lugar del que se esfuerza más por parecer identificable.
