Bias e discriminazione algoritmica nei processi di selezione del personale AI-based

Abstract

Negli ultimi decenni l’Intelligenza Artificiale ha assunto un ruolo centrale nei processi di digitalizzazione, imponendosi come strumento in grado di mutare le dinamiche sociali e organizzative. Tra gli altri, la gestione delle risorse umane si colloca tra gli ambiti maggiormente interessati dal suo impiego, in particolar modo per quanto riguarda la selezione del personale. L’adozione di sistemi di selezione basati su algoritmi e tecniche di apprendimento automatico consente di ottenere benefici in termini di rapidità, riduzione dei costi e maggiore efficienza operativa, offrendo quantomeno in prima battuta una prospettiva di maggiore oggettività rispetto ai metodi di valutazione tradizionali. Tuttavia, tali soluzioni sollevano criticità rilevanti, connesse in primo luogo al rischio di riproduzione e amplificazione di bias e discriminazioni radicati nei dati storici utilizzati per l’addestramento dei modelli. L’illusione di neutralità che spesso accompagna i sistemi automatizzati nasconde infatti la dipendenza degli algoritmi da informazioni incomplete o distorte, le quali possono condurre a decisioni discriminatorie basate su genere, etnia, età o altre caratteristiche socioeconomiche. Il presente elaborato si propone di analizzare in maniera critica le potenzialità e i limiti dell’impiego dell’IA nei processi di selezione del personale. Nel primo capitolo vengono esaminati i principali strumenti tecnologici oggi adottati dalle imprese, come gli Applicant Tracking Systems e i chatbot. Nel secondo e terzo capitolo si analizzano le dinamiche alla base dei bias algoritmici e i meccanismi attraverso i quali essi possono consolidare pregiudizi e disuguaglianze strutturali. Infine, il quarto capitolo affronta le possibili strategie di mitigazione, con particolare attenzione alle iniziative normative ed etiche sviluppate in ambito europeo, all’importanza della trasparenza dei processi decisionali e al ruolo imprescindibile della supervisione umana.

In recent decades, Artificial Intelligence has taken on a central role in digitalization processes, establishing itself as a transformative tool capable of reshaping both social and organizational dynamics. Within this context, personnel selection has emerged as one of the areas most significantly influenced by the introduction of algorithmic systems. The use of recruitment tools based on algorithms and machine learning techniques provides clear advantages in terms of speed, cost reduction, and operational efficiency, while also offering, at least in principle, the prospect of more objective evaluations compared to traditional human-based methods. Nevertheless, these technologies raise critical concerns, particularly regarding the risk of reproducing and even amplifying biases and forms of discrimination embedded in the historical data on which they are trained. The supposed neutrality often attributed to automated decision-making systems obscures their reliance on incomplete or distorted information, which can lead to discriminatory outcomes based on gender, ethnicity, age, or other socioeconomic factors. This thesis critically examines both the opportunities and the limitations of employing AI in personnel selection processes. The first chapter presents an overview of the main technological tools currently adopted by organizations, such as Applicant Tracking Systems and chatbots. The second and third chapters analyze the dynamics of algorithmic bias and the mechanisms through which these systems can reinforce structural inequalities and stereotypes. The final chapter discusses potential mitigation strategies, focusing on regulatory and ethical initiatives at the European level, the importance of transparency in decision-making processes, and the indispensable role of human oversight.