Al Politecnico di Milano, il teologo richiama la necessità di evitare processi automatizzati che diventino irreformabili o ingestibili. Una riflessione che va oltre la supervisione umana e riguarda la capacità delle imprese di modificare, interrompere e governare sistemi AI sempre più autonomi.

Il problema dell’intelligenza artificiale non è soltanto decidere quanta autonomia concedere alle macchine, ma stabilire quanta autonomia conservare per gli esseri umani quando quelle macchine diventano parte integrante dei processi produttivi e decisionali. Una distinzione che emerge dalla riflessione di Paolo Benanti, teologo francescano e studioso di etica dell’intelligenza artificiale, intervenuto al Politecnico di Milano nell’ambito dell’incontro Human Agency in the AI Era, dedicato al rapporto tra ricerca, imprese e tecnologie centrate sulla persona.

“All’interno del processo di innovazione che caratterizza l’adozione dell’intelligenza artificiale è fondamentale mantenere uno spazio significativo di controllo umano perché i processi non siano una volta delegati irreformabili o ingestibili”, ha dichiarato Benanti, presidente della Commissione Etica dell’Osservatorio sull’Intelligenza Artificiale del Ministero del Lavoro.

Il passaggio più interessante riguarda proprio il rischio che i processi diventino irreformabili. Perché un sistema può prevedere formalmente la supervisione umana e risultare comunque difficile da modificare, soprattutto quando le organizzazioni hanno progressivamente riorganizzato attività, competenze e responsabilità attorno alle sue decisioni.

Controllare una singola decisione non equivale necessariamente a conservare la capacità di governare il sistema che la produce.

È una distinzione particolarmente importante nell’attuale evoluzione dell’intelligenza artificiale, caratterizzata dal passaggio dagli assistenti che suggeriscono risposte agli agenti capaci di eseguire operazioni, interagire con applicazioni aziendali e coordinare autonomamente sequenze di attività.

Più aumenta il numero dei processi delegati, più diventa necessario interrogarsi sulla possibilità di interromperli, correggerli o riportarli sotto una gestione direttamente umana. Non si tratta soltanto di prevedere meccanismi di autorizzazione, ma di conservare competenze, responsabilità e strumenti che rendano effettivamente possibile intervenire.

Il tema trova applicazioni concrete nelle ricerche sviluppate dal Politecnico di Milano attraverso HumanTech, il progetto del Dipartimento di Ingegneria Gestionale che comprende oltre 80 attività dedicate alla relazione tra persone e tecnologie digitali.

Tra queste figurano sistemi che utilizzano sensori biometrici per stimare lo stress fisico, cognitivo ed emotivo dei lavoratori, ricerche sugli effetti dell’AI nei processi decisionali e soluzioni per coordinare robot e persone negli ambienti produttivi.

Sono applicazioni che possono contribuire a migliorare sicurezza, ergonomia ed efficienza, ma che rendono anche necessario definire chi possa intervenire sulle decisioni automatizzate, come vengano utilizzati i dati raccolti e quali margini di autonomia restino alle persone.

Un sistema progettato per assistere i lavoratori, per esempio, può influenzare progressivamente il modo in cui vengono organizzate le attività o valutate le prestazioni. Analogamente, un processo produttivo ottimizzato attraverso algoritmi può diventare difficile da modificare quando l’intera organizzazione dipende dal suo funzionamento.

Il rischio, in questi casi, non è necessariamente che l’intelligenza artificiale assuma decisioni incontrollate, quanto che le persone e le organizzazioni perdano gradualmente la capacità di operare senza di essa, di comprenderne pienamente gli effetti o di sostituirla quando necessario.

Si tratta di un problema che riguarda anche la dipendenza tecnologica dai fornitori. Un’impresa può mantenere formalmente la responsabilità delle proprie decisioni, ma vedere ridotta la propria autonomia se modificare o sostituire il sistema AI da cui dipendono processi essenziali comporta costi, rischi e complessità organizzative difficilmente sostenibili.

La riflessione sollevata da Benanti suggerisce quindi una questione che va oltre il tradizionale principio della supervisione umana: la capacità di governare l’intelligenza artificiale dovrebbe comprendere anche quella di cambiare le decisioni, riprogettare i processi e, quando necessario, rinunciare alla delega.

Per le imprese che stanno introducendo sistemi AI sempre più autonomi, la domanda non è soltanto quanto lavoro affidare agli algoritmi, ma quali condizioni organizzative e tecnologiche debbano essere preservate per mantenere effettivamente il controllo.

Perché la vera autonomia umana non consiste semplicemente nell’avere l’ultima parola su una decisione, ma nel conservare la possibilità concreta di cambiare il modo in cui quella decisione viene presa.