Papa Leone XIV ha riportato l’intelligenza artificiale dentro un terreno che l’industria tecnologica tende accuratamente a evitare: quello della responsabilità. Nel discorso pronunciato oggi davanti ai membri dell’International Catholic Legislators Network, riuniti nella Clementine Hall del Palazzo Apostolico per discutere di dignità umana e intelligenza artificiale, il Pontefice ha formulato una critica che, pur provenendo dal cuore della dottrina sociale della Chiesa, tocca uno dei nervi scoperti della Silicon Valley. L’AI sta accelerando molto più rapidamente della capacità delle istituzioni di stabilire per quale scopo debba essere utilizzata.
La frase più significativa non riguarda un modello, un algoritmo o una regolamentazione specifica. Riguarda una distinzione elementare che il settore tecnologico ha progressivamente trasformato in una domanda quasi sovversiva: non soltanto che cosa possiamo fare con l’intelligenza artificiale, ma che cosa dovremmo fare. È una differenza enorme. La prima domanda appartiene all’ingegneria, la seconda alla politica, all’etica e alla responsabilità sociale. La prima misura la capacità tecnologica, la seconda misura la maturità di una società.
Leone XIV ha definito il compito dei legislatori con una formula pragmatica: non ostacolare l’innovazione, ma guidarla con saggezza. È un punto politicamente rilevante perché evita la facile contrapposizione tra innovazione e regolazione. Il problema non è impedire alle imprese di sviluppare modelli più potenti, sistemi agentici, robot autonomi o infrastrutture computazionali sempre più grandi. Il problema è stabilire quali diritti, quali responsabilità e quali limiti debbano accompagnare questa capacità.
La richiesta di proteggere privacy, trasparenza, libertà fondamentali e istituzioni democratiche assume un peso particolare mentre l’intelligenza artificiale passa dalla fase degli assistenti conversazionali a quella dei sistemi capaci di prendere decisioni, orchestrare processi e interagire autonomamente con infrastrutture digitali. L’AI non è più soltanto software che produce una risposta a una domanda. Sta diventando uno strato operativo dell’economia. Quando questo strato entra nella finanza, nella pubblica amministrazione, nella sanità, nella difesa, nell’istruzione e nella selezione delle informazioni, la questione della governance smette di essere accademica.
Ancora più interessante è il riferimento del Pontefice alla dipendenza tecnologica dei Paesi più poveri. Qui il discorso religioso intercetta una dinamica economica molto concreta. L’intelligenza artificiale richiede capitale, semiconduttori avanzati, energia, data center, reti ad alta capacità, competenze specialistiche e accesso a enormi quantità di dati. La concentrazione di questi fattori produttivi in poche aziende e in pochi Paesi rischia di produrre una nuova forma di asimmetria globale. Il colonialismo del XXI secolo, se mai dovesse manifestarsi, potrebbe non arrivare con navi e uniformi, ma attraverso API, cloud proprietari, chip, modelli linguistici e dipendenze infrastrutturali.
La questione è già visibile nella struttura dell’economia dell’AI. La capacità di addestrare modelli frontier è concentrata attorno a pochissimi grandi operatori tecnologici e a una catena di fornitura dominata da un numero ristretto di aziende. Chi controlla il calcolo controlla una parte crescente della capacità di innovazione. Chi controlla i modelli controlla una parte crescente dell’interfaccia cognitiva attraverso cui persone e imprese accederanno alle informazioni. Chi controlla entrambe le cose possiede un vantaggio competitivo che difficilmente può essere colmato con una semplice politica industriale tradizionale.
Il passaggio sulla famiglia è altrettanto significativo, anche se rischia di essere letto superficialmente come una posizione esclusivamente morale. Il Pontefice avverte che l’intelligenza artificiale non dovrebbe ridurre le persone e le relazioni a dati e simulazioni, né alterare il modo in cui le giovani generazioni costruiscono desideri, identità e relazioni. È una questione tecnologica prima ancora che religiosa. Gli algoritmi di raccomandazione hanno già dimostrato di poter influenzare attenzione, comportamenti e percezione della realtà. L’introduzione di sistemi generativi e agentici rende il rapporto ancora più sofisticato, perché la macchina non si limita più a scegliere quale contenuto mostrare: può dialogare, persuadere, adattarsi e costruire una relazione apparentemente personale.
Il rischio, quindi, non è soltanto che l’intelligenza artificiale sostituisca alcuni lavori. È che sostituisca progressivamente alcune funzioni relazionali, cognitive e decisionali senza che la società abbia stabilito quali di queste funzioni debbano rimanere necessariamente umane. La tecnologia tende naturalmente a occupare lo spazio che trova libero. Se una famiglia utilizza un sistema artificiale come educatore, consigliere, compagno emotivo o arbitro delle decisioni quotidiane, non è l’algoritmo a decidere di diventare una nuova istituzione sociale. È la società che gli ha ceduto quello spazio.
Il linguaggio utilizzato da Leone XIV, “human intelligence enlightened by wisdom, political authority guided by conscience, and technological innovation directed by charity”, può sembrare distante dalla terminologia con cui oggi si discute di AI governance, ma contiene una provocazione strategica. L’industria tecnologica parla continuamente di intelligence, compute, scale, efficiency e capability. Molto meno spesso parla di wisdom. La capacità di calcolo è misurabile in GPU, petaflop e token. La saggezza, fortunatamente, non ha ancora un benchmark.
Il punto politico è proprio questo. Una società tecnologicamente avanzata non è necessariamente una società tecnologicamente adulta. Può disporre dei modelli più potenti del pianeta e contemporaneamente non avere istituzioni capaci di stabilire dove utilizzarli, con quali responsabilità e con quali meccanismi di controllo. L’illusione secondo cui ogni innovazione positiva debba essere adottata semplicemente perché tecnicamente possibile appartiene a una fase adolescenziale della cultura digitale. Il progresso economico non coincide automaticamente con il progresso umano.
Il discorso di Papa Leone XIV arriva dunque in un momento nel quale la discussione sull’intelligenza artificiale sta cambiando natura. Dopo l’entusiasmo iniziale per la generative AI, l’attenzione si sta spostando verso agenti autonomi, automazione del lavoro cognitivo, concentrazione del capitale, sovranità tecnologica, sicurezza e controllo dei modelli. Il tema non è più soltanto quanto sia intelligente una macchina. È quanto potere siamo disposti a trasferirle e, soprattutto, chi rimane responsabile quando quella macchina agisce.
Per i legislatori, questa è probabilmente la parte più difficile. Regolare una tecnologia immatura senza soffocarla richiede competenze tecniche che molti parlamenti non possiedono; lasciare tutto al mercato significa invece affidare la definizione dei limiti a soggetti che hanno, legittimamente, un interesse economico nell’espansione della tecnologia. La soluzione non è una crociata contro l’AI, così come non è il laissez-faire digitale travestito da innovazione. Serve una governance capace di distinguere tra rischio, opportunità e concentrazione del potere.
La formula finale del Pontefice, secondo cui l’intelligenza artificiale dovrebbe diventare non una rivale dell’umanità ma una servitrice del bene comune, contiene una definizione sorprendentemente moderna del problema. L’AI non ha bisogno di essere umana per essere utile agli esseri umani. Deve però essere progettata, distribuita e governata in modo tale che l’efficienza della macchina non diventi il criterio assoluto con cui valutiamo la vita delle persone.
Dopo decenni nei quali la tecnologia ha spesso chiesto alla società di adattarsi ai suoi ritmi, la discussione sull’intelligenza artificiale sta finalmente invertendo la direzione della domanda. Non basta più chiedersi quanto velocemente possiamo costruire macchine più intelligenti. Bisogna decidere quale società vogliamo costruire con esse. È una domanda molto meno sexy di un nuovo modello multimodale, non genera miliardi di dollari di finanziamento in una settimana e non produce una demo virale. Proprio per questo potrebbe essere la domanda più importante dell’intera rivoluzione dell’intelligenza artificiale.