¿Discriminadas sistemáticamente por los algoritmos? Un estudio preliminar del impacto del uso de herramientas de selección de talento alimentadas/potenciadas por IA (Inteligencia Artificial)

Abstract

Desde la explosión de la IA generativa con el lanzamiento de ChatGPT, la actividad económica que ya estaba en proceso de digitalización, automatización y robotización ha vuelto a revolucionarse. La expansión e implicaciones de esta nueva tecnología disruptiva se han notado en sectores muy diversos y los departamentos de gestión de personas no son ajenos a estas transformaciones. En el presente estudio nos cuestionamos e indagamos sobre la utilidad y potencialidad de las herramientas con IA empleadas en atracción y selección de personas, sirviéndonos de la metodología cualitativa. Ante el previsible aumento exponencial de la oferta de servicios y productos con IA que, bajo el pretexto de agilizar y optimizar la selección y proporcionar una mayor diversidad, combatiendo los sesgos inconscientes, tienten a los departamentos a adquirir este tipo de herramientas, invitamos a reflexionar de manera crítica, con perspectiva de género e interseccionalidad acerca del impacto de estas tecnologías. Con este fin, analizamos desde una óptica tecno-feminista y constructivista la emergencia de la IA, cómo las discriminaciones permean los diseños y datasets, el marco normativo existente y su potencialidad como herramienta que fomente la diversidad en las organizaciones. Ahondamos de la mano de colaboradores/as clave tanto del mundo del diseño de la IA y la gestión de datos, como del área de People & Culture, realizando un Focus Group y nueve entrevistas en profundidad. Estas dinámicas nos ayudan a alcanzar unas conclusiones y recomendar una serie de buenas prácticas, entre las que destacan el empleo de IA Explicable, o IAs generadas en el marco del Design Thinking/Justice, al igual que prestar especial atención y auditar el procesado de los datos que la IA ingesta.

Since the explosion of generative AI with the launch of ChatGPT, the economic activity that was already in the process of digitization, automation, and robotization has undergone another revolution. The expansion and implications of this new disruptive technology have been felt in various sectors, and People & Culture departments are not immune to these transformations. In this study, we question and inquire about the utility and potential of AI tools used in attraction and selection of individuals, employing qualitative methodology. Faced with the foreseeable exponential increase in the offer of services and products with AI that, under the pretext of streamlining and optimizing recruitment and increasing diversity while combating unconscious biases, that will tempt departments to acquire such tools, we propose a critical reflection, with a gender and intersectionality perspective, regarding the impact of these technologies. To this end, we analyze, from a techno-feminist and constructivist perspective, the emergence of AI, how discriminations penetrate designs and datasets, the existing regulatory framework, and its potential as a tool to promote diversity in organizations. We delve into these aspects with the input of key collaborators from both the world of AI design and data management, as well as the People & Culture, conducting a Focus Group and nine in-depth interviews. These dynamics help us reach conclusions and recommend a set of best practices, among which the use of Explainable AI or AIs generated within the framework of Design Thinking/Justice stand out, as well as paying special attention to and auditing the data processing that AI ingests.