La questione della fiducia nell’intelligenza artificiale si sta spostando rapidamente dal perimetro tecnico a quello istituzionale, con una velocità che molti board aziendali continuano a sottovalutare. L’ossessione contemporanea per le performance dei modelli, per i benchmark e per la latenza inferenziale ha creato l’illusione che il problema centrale sia l’accuratezza. In realtà, il nodo è più antico e più scomodo: perché un individuo dovrebbe accettare come credibile una risposta prodotta da un sistema che non ha responsabilità, né memoria morale, né conseguenze dirette sulle proprie affermazioni. In questo contesto, il dibattito rilanciato dal teologo e AI ethicist Paolo Benanti introduce una deviazione interessante rispetto alla narrativa dominante della Silicon Valley, suggerendo che alcune risposte potrebbero arrivare da istituzioni che hanno costruito, nel corso dei secoli, infrastrutture sofisticate di gestione dell’autorità e della verità.
L’intelligenza artificiale produce linguaggio plausibile senza assumere responsabilità epistemica, e questo rompe un presupposto implicito su cui si sono basate per decenni le architetture della conoscenza moderna. Un medico firma una diagnosi, un giudice emette una sentenza, un giornalista espone una fonte; ogni atto informativo è ancorato a una catena di accountability. L’AI, al contrario, ottimizza probabilità linguistiche e non verità verificabili, creando un paradosso operativo che le aziende cercano di mascherare con layer di “trust and safety” che spesso sono più cosmetici che strutturali. Il risultato è una trasformazione silenziosa ma radicale: la fiducia diventa un’interfaccia, non un rapporto.
In questo scenario, le istituzioni religiose emergono non come reliquie culturali, ma come sistemi storici di gestione della credibilità in ambienti informativi ad alta complessità. La loro sopravvivenza, al netto delle dinamiche spirituali, è stata anche un esercizio di ingegneria istituzionale sulla trasmissione della verità. Selezione delle fonti, gerarchie interpretative, procedure di validazione, rituali di legittimazione: elementi che, tradotti in linguaggio contemporaneo, assomigliano sorprendentemente a ciò che oggi si tenta di ricostruire nel campo dell’AI governance. La differenza è che mentre le religioni hanno avuto secoli per stabilizzare i propri protocolli, le piattaforme tecnologiche stanno cercando di inventare la fiducia in cicli di prodotto trimestrali.
Il confronto non è meramente teorico. Le infrastrutture digitali stanno già assumendo funzioni che storicamente erano distribuite tra istituzioni educative, giuridiche e religiose: definizione implicita del vero, filtraggio dell’informazione, orientamento delle decisioni individuali. In questo contesto, l’AI non è solo uno strumento, ma un nuovo livello di autorità epistemica. Il problema è che questa autorità è opaca per design. Anche i modelli più avanzati non spiegano realmente il loro ragionamento, ma lo ricostruiscono ex post attraverso meccanismi di interpretabilità spesso insufficienti a un audit serio. La promessa di trasparenza rischia di diventare una narrativa di marketing più che una proprietà architetturale.
Le implicazioni economiche sono tutt’altro che marginali. Le imprese stanno già delegando decisioni operative a sistemi che non possono essere completamente verificati, creando una forma di fiducia probabilistica che ricorda più i mercati finanziari che le istituzioni scientifiche. La differenza è che, nei mercati, la perdita è distribuita; nell’AI, l’errore può essere sistemico e replicato all’infinito con velocità marginale quasi zero. Qui si innesta la lezione implicita che emerge dalle analisi di Benanti: la costruzione della fiducia non è un effetto collaterale della tecnologia, ma un’infrastruttura politica e culturale che deve essere progettata con la stessa attenzione dedicata ai modelli.
Il punto più delicato riguarda la nozione di autorità. Nelle religioni, l’autorità non è mai solo informativa, ma relazionale e istituzionale, costruita attraverso una combinazione di tradizione, interpretazione e responsabilità comunitaria. Nell’AI contemporanea, l’autorità è invece statistica, emergente, distribuita e spesso invisibile. Questo crea un disallineamento strutturale tra la natura del sistema e le aspettative cognitive degli utenti, che tendono ancora a interpretare le risposte come se provenissero da un soggetto intenzionale. È qui che il rischio sistemico diventa evidente: non tanto nella possibilità che l’AI “sbagli”, ma nel fatto che la società non abbia ancora sviluppato un linguaggio condiviso per decidere quando e perché fidarsi.
Il futuro della governance dell’intelligenza artificiale, in questa prospettiva, non dipenderà soltanto da modelli più grandi o più efficienti, ma dalla capacità di costruire nuove istituzioni di validazione della conoscenza. Governi, aziende e piattaforme stanno tentando approcci diversi, tra regolazione ex ante e controlli ex post, ma il problema rimane concettualmente irrisolto. Le religioni, nel loro sviluppo storico, hanno affrontato una sfida simile: come mantenere coerenza interpretativa in sistemi complessi e distribuiti nel tempo. Il fatto che queste strutture abbiano resistito per secoli non implica che siano replicabili, ma suggerisce che la fiducia non è mai stata un attributo tecnico, bensì un equilibrio instabile tra potere, credibilità e memoria collettiva.
La traiettoria attuale dell’AI sembra quindi convergere verso una domanda meno celebrata ma più fondamentale: chi certifica il certificatore. In assenza di una risposta chiara, la società rischia di costruire un ecosistema informativo in cui la verità non è più un riferimento, ma una media ponderata di sistemi opachi. È un modello efficiente, almeno nel breve periodo, ma fragile nel lungo. E come spesso accade nella tecnologia, ciò che appare come un problema filosofico finisce per diventare, con ritardo tipico dei sistemi complessi, un vincolo economico e politico.