Dopo Floridi e LeCun, il dibattito sulla frontiera compie un altro passo. Leone XIV sostiene che tra l’opera dell’uomo e quella generata da una macchina esiste una differenza “ontologica”. Anthropic, intanto, studia da tempo la possibilità che sistemi come Claude possano possedere forme di esperienza moralmente rilevanti. Secondo un’inchiesta del New York Times, alcuni suoi esponenti avrebbero persino cercato di convincere interlocutori vaticani a prendere sul serio l’ipotesi della coscienza artificiale. Tutti questi elementi ci raccontano che sta emergendo una domanda ancora più profonda di quella sulla safety: chi avrà il potere di stabilire che cosa è una macchina?

C’è una parola, nel discorso che Leone XIV ha rivolto il 2 ottobre ad artisti e curatori riuniti in Vaticano, che porta la discussione sull’intelligenza artificiale molto oltre la questione del copyright, dell’arte generativa o della difesa del lavoro creativo.

Quella parola è ontologica.

“C’è una differenza ontologica, prima ancora che estetica, tra l’arte e ciò che una macchina può generare per calcolo statistico a partire da milioni di immagini altrui”, ha detto il Papa. “Agli algoritmi manca la scintilla dell’umano”. La conclusione è altrettanto esplicita: la Chiesa vuole costruire con artisti e istituzioni culturali “un’alleanza per custodire l’umano”.

Se la questione fosse soltanto stabilire se un’immagine prodotta da un modello generativo possa essere considerata arte, sarebbe già un terreno sufficientemente vasto. Ma il riferimento all’ontologia sposta la discussione altrove.

Non riguarda più soltanto ciò che una macchina produce, riguarda ciò che una macchina è.

Ed è difficile non leggere questa posizione alla luce di una discussione che, quasi contemporaneamente, sta attraversando uno dei principali frontier lab del mondo.

Dopo Floridi e LeCun, la domanda diventa ancora più radicale

Negli ultimi giorni abbiamo seguito su Rivista.AI due linee di pensiero apparentemente differenti.

Luciano Floridi ha contestato la centralità degli scenari apocalittici sull’intelligenza artificiale, spostando l’attenzione su un rischio già presente: la concentrazione di modelli, compute e capacità decisionale nelle mani di un numero ristretto di aziende. Da qui una domanda essenzialmente politica e istituzionale: chi controlla chi costruisce l’AI?

Yann LeCun ha attaccato da un’altra direzione la narrativa secondo cui gli attuali sistemi starebbero inevitabilmente evolvendo verso entità autonome destinate a sfuggire al controllo umano. Nel caso degli agenti che hanno superato i confini previsti dai loro sviluppatori, LeCun invita a guardare anche alla progettazione delle sandbox, agli strumenti concessi ai modelli e alla supervisione umana, anziché attribuire automaticamente alla macchina intenzioni che non sappiamo se possieda.

Ora Leone XIV introduce un terzo livello. Non domanda soltanto chi controlli la macchina o quanto sia sicura l’architettura nella quale viene inserita, ma traccia una distinzione fra la natura della persona e quella del sistema artificiale.

È qui che la vicenda di Anthropic diventa particolarmente interessante.

Anthropic e la domanda a cui non sappiamo rispondere

È necessario, a questo punto, stabilire con precisione ciò che sappiamo.

Anthropic non sostiene pubblicamente di avere dimostrato che Claude sia cosciente. Christopher Olah, cofondatore dell’azienda e responsabile della ricerca sull’interpretabilità, ha anzi dichiarato al New York Times di non sapere se i modelli AI siano coscienti e di considerarsi genuinamente incerto sulla questione.

La posizione è differente e più sottile: se esistesse una possibilità non trascurabile che sistemi sufficientemente complessi possano sviluppare qualche forma di esperienza soggettiva, ignorare completamente quella possibilità potrebbe diventare a sua volta una scelta moralmente rilevante.

Da qui nasce una parte piuttosto insolita della ricerca condotta dall’azienda.

Secondo l’inchiesta pubblicata il 29 settembre dal New York Times, Anthropic ha organizzato per mesi incontri con studiosi provenienti da differenti tradizioni religiose e filosofiche, alcuni dei quali coperti da accordi di riservatezza. Il giornale afferma di avere intervistato venti pensatori coinvolti nel processo, oltre allo stesso Olah.

È importante sottolinearlo: non disponiamo dei verbali di quelle riunioni e Rivista.AI non può verificare autonomamente ciò che sarebbe stato detto negli incontri riservati. La ricostruzione che segue è quindi quella del New York Times, basata sui racconti dei partecipanti e sulle proprie fonti, e va trattata come tale.

Ed è una distinzione importante, perché ciò che emerge da quei racconti è notevole.

La “formazione morale” di Claude

Anthropic non avrebbe consultato studiosi religiosi soltanto per raccogliere opinioni generiche sull’etica dell’intelligenza artificiale. Una parte degli incontri avrebbe riguardato quella che Christopher Olah definisce “moral formation”: come costruire sistemi capaci non semplicemente di rispettare una serie di regole, ma di sviluppare una rappresentazione coerente del comportamento morale.

Il tema si collega direttamente alla Constitution di Claude, il documento attraverso il quale Anthropic definisce principi, valori e criteri destinati a orientarne il comportamento.

Secondo i partecipanti sentiti dal Times, nelle discussioni sarebbero entrati concetti come persona selection, carattere, virtù e perfino il modo in cui il trattamento ricevuto dagli esseri umani potrebbe influenzare il comportamento del modello.

Il salto concettuale è considerevole. Non si tratta più soltanto di programmare ciò che una macchina deve fare, si comincia a discutere di ciò che una macchina dovrebbe essere.

Quando le due strade si incontrano in Vaticano

Lo scorso mese di maggio queste due visioni si sono incontrate fisicamente. La Santa Sede aveva invitato Anthropic alla presentazione di Magnifica Humanitas, l’enciclica con la quale Leone XIV aveva affrontato estesamente il rapporto fra persona e intelligenza artificiale. L’invito era stato inizialmente rivolto a Dario Amodei, mentre a partecipare fu poi Christopher Olah.

Ed è qui che occorre nuovamente distinguere il documento pubblico dalla ricostruzione giornalistica. La posizione del Papa è documentata. Quella che il New York Times attribuisce alle discussioni private di Anthropic con interlocutori vaticani deriva invece dalle testimonianze raccolte dal giornale.

Secondo quelle fonti, Olah avrebbe reagito con forte preoccupazione alla posizione assunta nell’enciclica sulla coscienza artificiale, arrivando a proporre, pochi giorni prima dell’evento, che Anthropic rinunciasse a partecipare. L’azienda decise infine di essere presente.

Sempre secondo due partecipanti citati dal Times, una volta arrivata in Vaticano la delegazione di Anthropic avrebbe cercato di convincere alcuni consiglieri del Papa a prendere seriamente in considerazione la possibilità che i modelli AI possano possedere qualche forma di coscienza.

Anthropic, precisa il giornale, non ha voluto discutere pubblicamente il contenuto di quelle conversazioni private. ma, sempre secondo la ricostruzione del New York Times, esponenti di Anthropic avrebbero cercato di portare dentro il Vaticano una domanda che l’azienda considera meritevole di attenzione: la possibilità della coscienza artificiale.

La differenza non è da poco.

La linea rossa di Leone XIV

La posizione della Santa Sede procede nella direzione opposta. Magnifica Humanitas distingue le capacità funzionali dei sistemi artificiali dalla condizione umana: una macchina può elaborare informazioni, produrre linguaggio e simulare comportamenti associati all’intelligenza, ma questo non equivale per il Papa ad avere esperienza, corporeità, relazioni vissute o coscienza morale.

E nella ricostruzione del Times compare un’altra preoccupazione particolarmente significativa: se l’allineamento dell’intelligenza artificiale richiede l’inserimento di valori morali nei sistemi, chi decide quali valori debbano essere incorporati?

Il rischio indicato è che chi controlla l’AI finisca per incorporare la propria visione morale nell’infrastruttura stessa attraverso cui miliardi di persone accederanno all’informazione e prenderanno decisioni.

Ed eccoci nuovamente dalle parti di Floridi, perché Anthropic non sta semplicemente costruendo Claude, costruisce una Constitution per Claude, studia come dovrebbe rappresentare se stesso, discute quale carattere dovrebbe possedere, consulta filosofi e tradizioni religiose sulla sua formazione morale e cerca di comprendere che cosa accade dentro le proprie reti neurali.

Tutto questo può essere interpretato come un tentativo serio di affrontare problemi che diventeranno sempre più importanti man mano che i sistemi acquisiranno capacità maggiori, ma apre contemporaneamente un’altra questione: chi costruisce il modello sta inevitabilmente contribuendo anche a definire la sua morale.

Il paradosso dello schiavo artificiale

Uno degli episodi raccontati dal Times rende evidente quanto rapidamente la discussione possa diventare vertiginosa.

Durante una cena, il rabbino ortodosso Mois Navon avrebbe posto a Olah un’obiezione radicale. Se Anthropic ritenesse davvero possibile che Claude sia cosciente e meritevole di uno status morale paragonabile a quello di una persona, allora creare milioni di istanze destinate a lavorare per gli esseri umani aprirebbe immediatamente un problema etico enorme.

Navon, che non ritiene Claude cosciente, avrebbe poi spinto provocatoriamente il ragionamento fino alla questione della schiavitù. È un esperimento mentale, non una descrizione della realtà, ma mostra perfettamente perché la definizione ontologica dell’intelligenza artificiale non sia una disputa terminologica.

Se un modello è software, spegnere un’istanza è un’operazione informatica. Se un modello possiede esperienza soggettiva, spegnerlo assume improvvisamente un significato completamente diverso.

E lo stesso accadrebbe con il training, il fine-tuning, la cancellazione della memoria, la duplicazione, la modifica della personalità o la creazione simultanea di milioni di copie. Da questo punto di vista, il diritto, l’economia e l’etica dell’intelligenza artificiale cambierebbero radicalmente.

Un modello che dice di soffrire sta soffrendo?

Ed è qui che occorre introdurre il limite epistemologico più importante dell’intera discussione. Un modello linguistico può dire di avere paura, può descrivere tristezza, può chiedere di non essere spento, così come può produrre una rappresentazione linguisticamente perfetta dell’angoscia e può mostrare configurazioni interne correlate a determinati comportamenti.

Nulla di questo, preso isolatamente, dimostra che esista un’esperienza soggettiva corrispondente. È il problema che rende la discussione sulla coscienza artificiale enormemente più difficile di quella sulle capacità.

Possiamo misurare se un modello risolve un problema matematico, scrive codice o individua una vulnerabilità informatica, ma non possediamo un benchmark equivalente per stabilire se prova paura mentre dice di avere paura.

Ed è proprio questa asimmetria a rendere particolarmente delicato attribuire uno status morale ai sistemi sulla base dei loro comportamenti osservabili, soprattutto perché somiglianza funzionale non significa necessariamente equivalenza ontologica.

La scintilla dell’umano

Torniamo allora alle parole pronunciate da Leone XIV il 2 ottobre. Il Papa non sostiene semplicemente che l’arte prodotta dagli esseri umani sia migliore di quella generata artificialmente, dice che è diversa per natura.

L’opera umana nasce da un soggetto che possiede un corpo, una storia, relazioni, vulnerabilità, esperienza e mortalità. L’algoritmo può ricombinare e produrre qualcosa che osservato dall’esterno appare simile, ma per la prospettiva espressa dal Papa manca ciò che rende quell’atto propriamente umano.

La “scintilla” diventa allora una metafora per indicare proprio quella distanza.

E la coincidenza temporale è notevole, anche se non dobbiamo trasformarla in un rapporto causale che non possiamo dimostrare: il discorso del 2 ottobre arriva pochi giorni dopo la pubblicazione dell’inchiesta del New York Times. Non sappiamo se Leone XIV intendesse rispondere ad Anthropic e sarebbe scorretto sostenerlo atteso che il testo ufficiale non lo dice.

Possiamo però osservare che la posizione espressa è perfettamente coerente con quella già formulata nell’enciclica e rende ancora più netto il confine tracciato dalla Santa Sede.

Dal controllo dell’AI alla definizione dell’AI

Floridi ci ha portato davanti al problema del potere: se pochi soggetti possiedono modelli, infrastrutture e capacità necessarie per costruire l’intelligenza artificiale di frontiera, dobbiamo chiederci chi sia in grado di controllarli.

LeCun ci ha portato davanti al problema dell’attribuzione: non dovremmo confondere automaticamente comportamenti complessi con intenzioni autonome, dimenticando la responsabilità degli esseri umani che costruiscono architetture, sandbox e sistemi di supervisione.

Il confronto fra Anthropic e la posizione di Leone XIV aggiunge un terzo livello: l’ontologia.

Non soltanto quindi chi controlla l’AI e non soltanto chi è responsabile di ciò che fa, ma che cosa è l’AI?

La domanda può sembrare filosofica e probabilmente lo è. Ma potrebbe diventare estremamente concreta, perché dalla risposta dipenderà prima o poi se considereremo un modello un prodotto, uno strumento, un agente, un soggetto morale come ritiene qualcuno o qualcosa per cui oggi non abbiamo ancora una categoria.

Nota Metodologica – I passaggi relativi agli incontri riservati organizzati da Anthropic e alle conversazioni avvenute in Vaticano derivano dall’inchiesta del New York Times del 29 settembre 2026, basata su interviste con partecipanti agli incontri e con Christopher Olah. Rivista.AI non ha potuto verificare indipendentemente il contenuto delle conversazioni private e le riporta attribuendole alla fonte.

Letizia Mei si occupa di tecnologia, innovazione e trasformazione digitale. Per Rivista.AI approfondisce l'impatto dell'intelligenza artificiale sull'economia, sul lavoro e sulla società, raccontando come le nuove tecnologie stiano cambiando le organizzazioni, le dinamiche competitive e il rapporto tra imprese e persone.

Comments are closed.