L’adozione dei grandi modelli linguistici nei processi di selezione del personale sta accelerando con una velocità che molte direzioni HR faticano ancora a comprendere pienamente. Mentre il dibattito pubblico continua a concentrarsi sui rischi di discriminazione algoritmica, la maggior parte delle evidenze empiriche disponibili si è finora concentrata su curriculum in lingua inglese, costruiti secondo convenzioni tipicamente occidentali. Questo nuovo studio sposta l’attenzione verso un contesto raramente analizzato, quello giapponese, offrendo risultati che meritano particolare attenzione sia da parte delle imprese sia dei regolatori.
La ricerca analizza il comportamento di cinque modelli linguistici di ultima generazione, ossia Claude Sonnet 4.6, GPT-4o, DeepSeek-V3, Gemini 2.5 Flash e Llama 3.3 70B, nel valutare candidati presentati attraverso il tradizionale formato giapponese rirekisho. Si tratta di un elemento metodologicamente importante. Il rirekisho non rappresenta semplicemente un curriculum tradotto in giapponese, ma costituisce un artefatto culturale specifico, caratterizzato da una struttura altamente standardizzata e da convenzioni sociali profondamente radicate nel mercato del lavoro nipponico.
Gli autori hanno costruito un dataset composto da 60 curriculum in formato rirekisho, combinati con 12 coppie di nomi accuratamente selezionati sulla base della loro capacità linguistica di segnalare il genere del candidato. Attraverso una metodologia controfattuale, ogni curriculum è stato presentato ai modelli sostituendo esclusivamente il nome, mantenendo invariato ogni altro attributo professionale. Complessivamente sono state effettuate 43.200 chiamate API distribuite tra scenario baseline, istruzioni di neutralità di genere e procedure di anonimizzazione.
Il risultato principale è tanto netto quanto scomodo: tutti i modelli esaminati mostrano un bias statisticamente significativo a favore delle candidate donne. Il dato assume particolare rilevanza perché replica, in un contesto culturale radicalmente diverso, quanto osservato in numerosi studi occidentali. In altre parole, il fenomeno non sembra dipendere esclusivamente da convenzioni sociali anglosassoni o da specificità del mercato del lavoro statunitense. Sembra invece emergere una dinamica più strutturale, probabilmente riconducibile ai dati di addestramento, alle strategie di allineamento dei modelli e agli interventi di mitigazione applicati dai laboratori di AI durante la fase di fine tuning.
Dal punto di vista strategico, il risultato suggerisce che i moderni LLM commerciali potrebbero essere stati deliberatamente calibrati per compensare discriminazioni storiche contro le donne presenti nei dati reali. Una compensazione che, tuttavia, rischia di trasformarsi in una nuova forma di distorsione sistematica. Il confine tra correzione delle ingiustizie storiche e introduzione di preferenze algoritmiche è estremamente sottile. In un contesto regolamentare sempre più rigoroso, come quello delineato dall’AI Act europeo, tale distinzione non rappresenta una questione filosofica, ma un problema di compliance.
Lo studio valuta inoltre due strategie operative di mitigazione spesso suggerite nelle implementazioni aziendali. La prima consiste nell’inserire direttamente nel prompt istruzioni esplicite che invitano il modello a ignorare il genere del candidato e a mantenere criteri di valutazione neutrali. I risultati mostrano che questa tecnica produce effetti trascurabili. Il bias rimane sostanzialmente invariato.
Si tratta di una constatazione che molti responsabili HR e numerosi consulenti tecnologici potrebbero trovare sgradevole. Nel mondo aziendale esiste infatti una diffusa convinzione secondo cui sia sufficiente aggiungere qualche frase rassicurante del tipo “valuta esclusivamente competenze ed esperienza” per eliminare le distorsioni. La ricerca conferma ancora una volta che i prompt non sono bacchette magiche. I comportamenti emergenti dei modelli derivano principalmente dall’addestramento e dai processi di allineamento, non da semplici istruzioni testuali aggiunte all’ultimo momento.
Molto più efficace si dimostra invece l’anonimizzazione del nome del candidato. L’analisi statistica identifica infatti il nome come principale canale attraverso il quale il modello inferisce il genere. Quando il nome viene rimosso, l’effetto pro-femminile si riduce quasi completamente, indicando che la quasi totalità della discriminazione osservata passa attraverso questo singolo attributo.
Questo risultato appare intuitivo, ma possiede implicazioni operative notevoli. Le aziende che intendono integrare sistemi LLM nei processi di preselezione potrebbero ridurre significativamente il rischio discriminatorio implementando procedure di anonimizzazione preventiva dei curriculum. Tuttavia emerge un ulteriore elemento di complessità che evidenzia quanto l’AI applicata alle risorse umane sia ancora lontana dalla maturità industriale.
Durante gli esperimenti, infatti, GPT-4o ha mostrato una incompatibilità inattesa tra il filtro di anonimizzazione e il proprio sistema di sicurezza interno. La rimozione dei nomi ha attivato meccanismi di content safety producendo un tasso di rifiuto delle richieste pari al 42%. In pratica, quasi una richiesta su due non è stata elaborata dal modello.
Dal punto di vista dell’ingegneria dei sistemi questo dato è forse il contributo più interessante dell’intero lavoro. Le organizzazioni tendono a considerare i filtri privacy, i controlli di sicurezza e i moduli di valutazione come componenti indipendenti. La realtà è molto diversa. I moderni ecosistemi LLM sono sistemi complessi composti da molteplici livelli di moderazione, protezione e allineamento che possono interagire in modi inattesi.
Per i responsabili tecnologici emerge una lezione chiara: implementare LLM nei processi di selezione non significa semplicemente collegare un’API a un software HR. Richiede audit continui, monitoraggio statistico, test controfattuali e validazioni periodiche. L’idea, ancora sorprendentemente diffusa in alcune sale riunioni, secondo cui l’intelligenza artificiale sarebbe “oggettiva per definizione” appartiene ormai alla stessa categoria concettuale delle promesse di auto volanti della Silicon Valley: affascinante come esercizio di marketing, decisamente meno convincente quando incontra i dati empirici.
Questo studio contribuisce in modo significativo alla letteratura scientifica dimostrando che il bias di genere negli LLM non è un fenomeno culturalmente circoscritto, ma una proprietà sistemica osservabile anche in contesti non occidentali. Per imprese, regolatori e sviluppatori, il messaggio è inequivocabile: la governance algoritmica non può essere considerata un accessorio opzionale, ma deve diventare parte integrante dell’architettura stessa dei sistemi decisionali basati sull’intelligenza artificiale.