Il 30 ottobre 2026 Papa Leone XIV ha pronunciato uno dei suoi interventi più significativi sull’intelligenza artificiale, chiedendo agli Stati di compiere passi concreti verso il divieto delle armi autonome letali. Il messaggio, rivolto ai partecipanti all’incontro The Future of AI, organizzato dalla Pontificia Accademia per la Vita insieme al Future of Life Institute, contiene una presa di posizione che va ben oltre la questione militare. «L’intelligenza artificiale deve essere disarmata», afferma il Pontefice, richiamando la responsabilità degli esseri umani nel guidare, modificare e, quando necessario, rifiutare le applicazioni di questa tecnologia. Non è un invito a fermare l’innovazione. È una contestazione del principio, sempre più presente nell’industria tecnologica, secondo cui ciò che una macchina è tecnicamente in grado di fare debba necessariamente diventare qualcosa che le società sono disposte ad autorizzare.

La scelta delle parole è importante. Leone XIV non parla genericamente di regolamentazione, ma di disarmo. Il termine introduce una dimensione politica e giuridica precisa: esistono capacità tecnologiche che, anche quando sono realizzabili, non dovrebbero essere lasciate senza limiti. Il riferimento immediato sono i sistemi d’arma autonomi, capaci di identificare e selezionare obiettivi e, in determinate configurazioni, attaccarli senza un intervento umano significativo. La questione non è stabilire se un algoritmo possa riconoscere un bersaglio con maggiore velocità di un operatore militare. È decidere se possa essere autorizzato a trasformare autonomamente quella classificazione in una decisione letale. Il passaggio dall’analisi all’azione è precisamente il punto nel quale l’efficienza computazionale incontra un limite che non può essere risolto attraverso un miglioramento delle prestazioni del modello.

La preoccupazione del Papa riguarda anche applicazioni meno spettacolari, ma già rilevanti per le istituzioni. Nel suo discorso cita le liste di obiettivi militari e le banche dati utilizzate per i controlli alle frontiere. In entrambi i casi, una persona rischia di essere trasformata in un insieme di informazioni classificabili da un sistema automatizzato. Una probabilità statistica può diventare un sospetto; un sospetto può condizionare la libertà di movimento; una classificazione può contribuire a una decisione che produce conseguenze irreversibili. Il problema è noto a chi si occupa di sistemi decisionali automatizzati: quando una valutazione algoritmica entra in un processo amministrativo o operativo, la sua apparente oggettività può renderla più difficile da contestare, soprattutto quando i criteri di funzionamento non sono accessibili alle persone interessate.

Leone XIV formula qui un principio che dovrebbe avere conseguenze concrete anche nella progettazione dei sistemi: le decisioni che riguardano la vita umana, la libertà e l’impiego della forza devono rimanere sottoposte a un controllo umano effettivo, informato e responsabile. Non basta quindi inserire un operatore alla fine di una catena decisionale automatizzata, chiamandolo a confermare un risultato che non ha il tempo o gli strumenti per verificare. La supervisione umana deve essere sostanziale. Deve consentire di comprendere le informazioni utilizzate, mettere in discussione la raccomandazione algoritmica e bloccare l’esecuzione quando le circostanze lo richiedono. Diversamente, il controllo umano diventa una formalità amministrativa che serve soprattutto a distribuire le responsabilità dopo che il danno si è verificato.

Il Pontefice affronta poi un altro tema particolarmente delicato: la possibilità di riconoscere diritti o personalità giuridica ai sistemi di intelligenza artificiale. «Le macchine sono strumenti, non persone». La distinzione sembra elementare, ma diventa meno scontata quando si osserva la direzione verso cui si muove una parte dell’industria. I sistemi generativi conversano, simulano empatia, producono argomentazioni e vengono progressivamente integrati in processi che richiedono valutazioni complesse. La crescente somiglianza comportamentale con gli esseri umani alimenta una confusione tra capacità di elaborazione e soggettività. Per Leone XIV, attribuire diritti o personalità legale a queste entità rischia soprattutto di oscurare la responsabilità di chi le sviluppa e le utilizza. Una macchina non può diventare il soggetto giuridico dietro cui nascondere le decisioni di un’impresa, di un’amministrazione o di un governo. È una questione che riguarda direttamente il futuro della responsabilità nell’economia digitale.

Il discorso si inserisce nella prospettiva delineata dalla prima enciclica di Leone XIV, Magnifica Humanitas, firmata il 15 maggio 2026 e pubblicata il 25 maggio. La scelta della data della firma non è casuale: coincide con il 135° anniversario della pubblicazione della Rerum Novarum di Leone XIII. Il riferimento storico è tutt’altro che ornamentale. Nel 1891 la Chiesa si confrontava con le conseguenze della rivoluzione industriale, con la trasformazione del lavoro e con il crescente squilibrio tra capitale e lavoratori. Oggi il Pontefice individua nell’intelligenza artificiale una nuova discontinuità tecnologica, capace di modificare il rapporto tra individui, istituzioni e potere economico. Il parallelo non consiste nell’assimilare l’IA alle macchine della prima industrializzazione, ma nel riconoscere che ogni rivoluzione produttiva porta con sé una questione politica: chi beneficia dell’innovazione e chi ne sopporta i costi?

L’enciclica affronta anche un aspetto che spesso rimane ai margini della discussione sull’intelligenza artificiale: la concentrazione del potere. Lo sviluppo dei modelli più avanzati richiede capacità computazionale, infrastrutture energetiche e investimenti che soltanto un numero limitato di organizzazioni può sostenere. Questa concentrazione attribuisce ai proprietari delle infrastrutture un’influenza crescente sulle condizioni di accesso alla tecnologia. Non è soltanto una questione di concorrenza tra imprese. Quando servizi pubblici, aziende e attività professionali dipendono da sistemi proprietari, il controllo dell’infrastruttura diventa una componente della sovranità economica. La riflessione del Vaticano intercetta quindi un problema che riguarda anche l’Europa: la capacità di governare l’intelligenza artificiale dipende dalla possibilità di non delegarne interamente le condizioni di funzionamento a soggetti privati o a infrastrutture collocate fuori dalla propria giurisdizione.

Leone XIV sostiene che i principi etici necessari per orientare lo sviluppo dell’IA siano già in larga misura conosciuti. Ciò che manca è la capacità istituzionale di renderli operativi. Il Papa chiede standard condivisi, supervisione indipendente e meccanismi chiari di responsabilità, affinché le decisioni relative allo sviluppo e all’impiego dell’intelligenza artificiale possano essere esaminate, contestate e accompagnate da rimedi adeguati quando producono danni. È una critica implicita a una certa forma di autoregolamentazione industriale, nella quale le imprese definiscono autonomamente i criteri con cui valutare la sicurezza dei propri prodotti. La responsabilità non può dipendere esclusivamente dalla buona volontà di chi detiene il controllo tecnico e commerciale dei sistemi.

La posizione assume ulteriore rilievo alla vigilia degli incontri internazionali di Ginevra dedicati alle armi autonome letali. Il tema è sul tavolo delle Nazioni Unite da diversi anni, attraverso il lavoro della Convenzione su alcune armi convenzionali e del Gruppo di esperti governativi sui sistemi d’arma autonomi letali. Nel giugno 2024 anche Papa Francesco, intervenendo al G7 in Puglia, aveva sostenuto che nessuna macchina avrebbe dovuto poter decidere autonomamente di togliere la vita a un essere umano. Leone XIV riprende quella posizione, ma inserisce il problema in una riflessione più estesa sulla governance internazionale. La difficoltà diplomatica rimane considerevole: gli Stati non condividono necessariamente la stessa definizione di autonomia, né concordano sui limiti da imporre alle diverse applicazioni militari. Alcuni considerano indispensabile mantenere un vantaggio tecnologico, altri chiedono regole preventive capaci di impedire una nuova corsa agli armamenti.

La questione più interessante, tuttavia, riguarda il rapporto tra autonomia tecnologica e responsabilità umana. L’industria dell’intelligenza artificiale presenta frequentemente l’automazione crescente come una conquista in sé. Gli agenti autonomi, per esempio, vengono sviluppati proprio per eseguire sequenze di attività senza richiedere continue autorizzazioni umane. Nel mondo aziendale questo approccio può produrre vantaggi significativi. In ambito militare, giudiziario o amministrativo, però, la stessa logica richiede limiti differenti. Non tutte le decisioni possono essere trattate come problemi di ottimizzazione. Un sistema può individuare la soluzione statisticamente più probabile senza essere in grado di comprendere il valore umano delle conseguenze. È una distinzione che dovrebbe entrare nei requisiti di progettazione, nei contratti di fornitura e nei sistemi di audit, anziché essere relegata a una dichiarazione di principi.

La riflessione di Leone XIV, in definitiva, introduce una domanda scomoda per l’intero settore tecnologico: quanto potere siamo disposti a trasferire alle macchine e chi risponderà quando quel potere verrà esercitato in modo errato? Il problema non riguarda soltanto il momento in cui un sistema autonomo può premere un grilletto. Riguarda anche le decisioni apparentemente ordinarie che determinano l’accesso a un servizio, la valutazione di un individuo o l’attribuzione di un rischio. Il disarmo dell’intelligenza artificiale, nella prospettiva del Pontefice, non coincide con il rifiuto della tecnologia, ma con la definizione di un confine tra ciò che possiamo automatizzare e ciò che dobbiamo continuare ad assumere come responsabilità umana. Una distinzione che l’industria dovrebbe prendere sul serio, prima che siano gli eventi a imporla.

Fonti originali e documenti