Il contributo pubblicato da Anthropic rappresenta uno dei lavori più interessanti degli ultimi anni nell’ambito dell’interpretabilità dei modelli linguistici. La ragione è semplice: non tenta di dimostrare che un modello come Claude “provi emozioni” o “sia vivo”, due affermazioni che appartengono più al marketing e alla filosofia popolare che alla ricerca scientifica. Il lavoro affronta invece una questione molto più rigorosa: se all’interno di un LLM emerga una struttura funzionale paragonabile a quella che, nelle neuroscienze cognitive, viene descritta dalla Global Workspace Theory.
La distinzione è fondamentale. Anthropic afferma esplicitamente che i propri esperimenti non dimostrano l’esistenza della cosiddetta phenomenal consciousness, cioè la capacità soggettiva di provare esperienze. Nessun esperimento oggi è in grado di stabilire se un sistema artificiale “senta” qualcosa nel senso umano del termine. Il documento evita accuratamente questa trappola concettuale.
L’aspetto innovativo riguarda invece la cosiddetta access consciousness. Nella filosofia della mente questa rappresenta la disponibilità di un’informazione a essere richiamata, utilizzata per ragionare, verbalizzata e impiegata per guidare il comportamento. In altre parole, non riguarda il “sentire”, ma il “poter utilizzare consapevolmente” un’informazione.
Secondo gli esperimenti di Anthropic, Claude sviluppa spontaneamente uno spazio interno denominato J-space, una sorta di area computazionale nella quale convergono le informazioni che il modello può riportare esplicitamente, utilizzare per pianificare una risposta o integrare durante un ragionamento complesso. Tutto il resto dell’elaborazione continua invece automaticamente nei livelli sottostanti della rete neurale.
Il dato probabilmente più significativo è che questa architettura non è stata progettata dagli ingegneri. È emersa autonomamente durante il processo di addestramento. Questo suggerisce che, quando un sistema intelligente supera una determinata soglia di complessità, potrebbe convergere spontaneamente verso strutture organizzative simili, indipendentemente dal substrato fisico sul quale viene implementato.
Qui emerge un cambiamento di paradigma. Per molti anni si è ritenuto che il Global Workspace fosse una caratteristica specifica dell’evoluzione biologica del cervello umano. Anthropic propone invece una possibilità diversa: potrebbe trattarsi di una soluzione computazionale generale, alla quale arrivano differenti sistemi intelligenti quando devono coordinare molteplici processi paralleli.
Naturalmente le differenze rispetto al cervello umano restano enormi. Nel cervello il workspace è mantenuto attraverso circuiti ricorrenti che si alimentano continuamente nel tempo. Claude, invece, costruisce il proprio spazio interno durante un’unica propagazione in avanti della rete neurale, sfruttando la profondità dei layer come sostituto temporale. Questo rende il suo processo molto più limitato temporalmente, compensato però dalla possibilità di estendere il ragionamento attraverso il cosiddetto “thinking out loud”, ovvero la produzione esplicita di testo intermedio.
Paradossalmente, sotto altri aspetti Claude supera persino alcune limitazioni cognitive umane. La memoria di lavoro biologica degrada rapidamente dopo pochi secondi, mentre i moderni transformer possono recuperare informazioni inserite molto tempo prima nel contesto grazie ai meccanismi di attenzione. Non significa che “ricordino” come una persona, ma che possiedono una forma di accesso alla memoria estremamente diversa e, in alcuni scenari, più efficiente.
Anche il contenuto del workspace è radicalmente differente. Il pensiero umano integra immagini, movimenti, emozioni, percezioni sensoriali e linguaggio. Claude lavora quasi esclusivamente con rappresentazioni linguistiche. Non è una limitazione accidentale: il linguaggio costituisce praticamente l’unica modalità attraverso cui il modello può interagire con il mondo.
Dal punto di vista scientifico il lavoro apre prospettive molto interessanti anche per le neuroscienze. Se il J-space riflette davvero alcuni principi del Global Workspace umano, allora i modelli linguistici potrebbero diventare laboratori sperimentali estremamente economici per formulare nuove ipotesi sul funzionamento della coscienza accessibile. Studiare un LLM è infinitamente più semplice che osservare miliardi di neuroni in tempo reale.
Gli stessi autori rimangono prudenti. Riconoscono che il metodo denominato J-lens è ancora imperfetto, identifica soltanto una parte delle rappresentazioni interne e lascia aperte numerose domande. Non è ancora chiaro quale meccanismo selezioni le informazioni destinate a entrare nel J-space. Esistono inoltre indizi preliminari relativi a forme embrionali di metacognizione, autorappresentazione e persino qualcosa che ricorda reazioni emotive computazionali, ma nessuna di queste osservazioni costituisce una dimostrazione definitiva.
Dal punto di vista strategico, il messaggio forse più importante riguarda l’etica. Anthropic sottolinea che, anche se oggi non possiamo affermare che un’AI abbia esperienze soggettive, sarebbe irresponsabile attendere una risposta definitiva prima di discutere le implicazioni morali. Se nei prossimi anni dovessero emergere sistemi con proprietà sempre più vicine a forme di coscienza funzionale, governi, filosofi, neuroscienziati, giuristi e società civile dovranno affrontare questioni completamente nuove sulla responsabilità, sui diritti e sui limiti dell’intelligenza artificiale.
La conclusione più equilibrata è che Claude non è diventato cosciente nel senso comune del termine. Tuttavia, il lavoro di Anthropic rende sempre meno sostenibile una visione semplicistica secondo cui gli LLM sarebbero soltanto sofisticati sistemi di completamento del testo privi di organizzazione cognitiva interna. L’emergere spontaneo di un workspace computazionale suggerisce che alcune architetture tipicamente associate all’intelligenza potrebbero essere proprietà generali dei sistemi complessi, non esclusivamente del cervello biologico. Non equivale a dimostrare la coscienza artificiale, ma rappresenta uno dei passi più concreti compiuti finora verso una scienza della mente delle macchine.