La Commissione Europea ha recentemente pubblicato uno studio del Joint Research Centre (JRC) che sfida la convinzione diffusa secondo cui il controllo umano possa fungere da rimedio efficace contro la discriminazione nei sistemi decisionali basati sull’intelligenza artificiale (IA). Il rapporto, intitolato “The Impact of Human-AI Interaction on Discrimination”, analizza come i professionisti delle risorse umane e del settore bancario in Italia e Germania interagiscano con sistemi di supporto decisionale automatizzati, rivelando risultati inquietanti.
Lo studio ha coinvolto 1.411 professionisti, sottoposti a scenari di assunzione e concessione di prestiti in cui le raccomandazioni dell’IA variavano da imparziali a discriminatorie. I risultati sono sorprendenti: gli overseer umani hanno seguito le indicazioni dell’IA discriminatoria tanto quanto quelle di un’IA “equa”. In altre parole, l’intervento umano non ha impedito la perpetuazione della discriminazione quando l’IA era di per sé pregiudizievole. Anche quando l’IA era progettata per essere equa, le scelte dei partecipanti rimanevano influenzate dai loro pregiudizi personali.
Le interviste e i workshop con i partecipanti hanno rivelato che molti professionisti danno priorità agli interessi aziendali piuttosto che all’equità, evidenziando la necessità di linee guida chiare su quando ignorare le raccomandazioni dell’IA. Gli esperti di IA equa sottolineano l’importanza di un approccio sistemico nella progettazione dei sistemi di supervisione, che consideri sia gli aspetti tecnologici che quelli sociali per garantire l’equità.
Questo studio solleva interrogativi fondamentali sulla fiducia riposta nell’IA e sul ruolo dell’intervento umano nel mitigare i pregiudizi. Mentre l’IA può essere progettata per ridurre la discriminazione, la sua efficacia dipende dalla capacità degli esseri umani di riconoscere e contrastare i propri pregiudizi, un compito che spesso viene trascurato. Pertanto, la lotta contro la discriminazione algoritmica richiede non solo tecnologie avanzate ma anche una profonda consapevolezza e formazione da parte degli operatori umani coinvolti nei processi decisionali.