Ancora una volta il punto più interessante emerso dal WAIC 2026 di Shanghai non è necessariamente il modello più grande, il robot più spettacolare o l’ennesimo annuncio sulla prossima soglia dell’AGI. È un’idea molto più scomoda, perché obbliga l’industria dell’intelligenza artificiale a spostare la discussione dal terreno rassicurante dei parametri, dei benchmark e della potenza di calcolo a quello assai più difficile della cognizione, degli obiettivi e dei valori. Zhu Songchun, direttore del Beijing Institute for General Artificial Intelligence, ha condensato questa prospettiva in una formula volutamente provocatoria: “dare un’anima alla macchina”, costruendo un’architettura cognitiva e un sistema di valori interni per l’intelligenza artificiale generale. Nel programma del WAIC 2026 il suo intervento compare nel Forum dei Pensatori accanto a quello di Richard Sutton, Premio Turing 2024, e di Kai-Fu Lee; non è dunque una curiosità laterale, ma una delle riflessioni teoriche inserite nel cuore della discussione cinese sull’AGI.

La tesi di Zhu parte da una critica che dovrebbe interessare molto anche l’industria occidentale: un grande modello linguistico non diventa automaticamente un’intelligenza generale semplicemente aumentando il numero dei parametri, il volume dei dati o la potenza computazionale, Zhu sostiene che gli attuali modelli mainstream manchino di alcuni elementi fondamentali, fra cui una mente soggettiva, un’architettura cognitiva e valoriale, una cognizione fisica causale e una capacità di inferenza top-down. La distinzione è importante perché introduce una separazione fra conoscenza e cognizione. Un sistema può conoscere milioni di descrizioni di una sedia senza possedere necessariamente il concetto funzionale di sedia; può riconoscere pattern straordinariamente complessi senza avere una struttura interna capace di orientare il comportamento quando si trova davanti a qualcosa che non ha mai visto.

Qui l’argomentazione di Zhu incontra, da una prospettiva diversa, quella di Richard Sutton. Il Premio Turing sostiene che l’IA contemporanea sia ancora largamente nell’“era dei dati umani”, nella quale le macchine apprendono da informazioni prodotte, annotate e valutate dagli esseri umani. Secondo Sutton, il limite di questo paradigma emerge quando il sistema deve produrre conoscenza nuova e verificare autonomamente le conseguenze delle proprie azioni. La direzione successiva sarebbe l’“era dell’esperienza”, nella quale l’agente apprende attraverso osservazione, azione, ricompensa e interazione con l’ambiente. L’idea è radicale nella sua semplicità: un’intelligenza che non possiede esperienza diretta non dispone dello stesso meccanismo con cui un essere vivente può distinguere ciò che funziona da ciò che fallisce.

Zhu porta però il ragionamento un passo oltre. L’esperienza, da sola, non sarebbe sufficiente a produrre una cognizione completa, perché l’agente deve possedere una struttura capace di interpretare ciò che sperimenta. È qui che entra il concetto di spazio CV, dove C indica l’architettura cognitiva e V lo spazio dei valori. La proposta è che l’intelligenza non debba essere concepita esclusivamente come una macchina statistica che aggiorna parametri sulla base dei dati, ma come un sistema nel quale cognizione, obiettivi e valori costituiscono una struttura interna capace di guidare l’interpretazione di situazioni nuove. È una differenza enorme. Nel primo paradigma il mondo insegna alla macchina che cosa esiste; nel secondo la macchina possiede anche una struttura interna che le permette di attribuire significato a ciò che incontra.

L’esempio della sedia è quasi banale, e proprio per questo funziona. Una macchina addestrata con miliardi di immagini può imparare una distribuzione statistica delle forme che chiamiamo “sedia”; ma davanti a un oggetto completamente nuovo potrebbe non riconoscerlo come tale. Un agente dotato di una rappresentazione funzionale, invece, potrebbe partire dal concetto “qualcosa su cui ci si può sedere” e dal valore associato a una seduta confortevole, arrivando a riconoscere l’essenza funzionale anche quando la forma è inedita. Zhu sintetizza questa differenza contrapponendo il pappagallo, capace di replicare il linguaggio grazie a enormi quantità di dati, al corvo, capace di risolvere problemi nuovi attraverso una struttura cognitiva più generale. È una metafora efficace anche per descrivere l’attuale industria dei foundation model: molta memoria statistica non equivale necessariamente a comprensione.

Il passaggio più interessante riguarda però i valori. Zhu propone una concezione nella quale la sicurezza non dovrebbe essere soltanto una barriera esterna applicata a un modello già costruito, ma una proprietà dell’architettura. Nel suo schema i sistemi di sicurezza dell’intelligenza avrebbero due livelli: un’autolimitazione endogena, attraverso valori interiori capaci di impedire comportamenti dannosi, e un’immunità valoriale esterna, affidata a meccanismi di filtraggio e controllo. In altre parole, l’agente dovrebbe possedere una ragione interna per rifiutare determinati comportamenti, non soltanto un filtro che gli impedisca di eseguirli. È una distinzione destinata a diventare centrale man mano che gli agenti acquisiranno maggiore autonomia operativa.

Questa impostazione cambia anche il significato della parola alignment. Per anni il problema è stato raccontato prevalentemente come un problema di addestramento: fornire istruzioni corrette, raccogliere feedback umano, costruire reward model, applicare tecniche di reinforcement learning e aggiungere guardrail. Zhu suggerisce implicitamente che tutto questo potrebbe essere soltanto lo strato superficiale. Se un sistema deve operare in ambienti non previsti durante l’addestramento, allora il problema non consiste più semplicemente nel fargli seguire una lista di regole, ma nel costruire una struttura cognitiva capace di generare giudizi coerenti quando le regole disponibili non sono sufficienti. È esattamente il punto nel quale la sicurezza dell’AI smette di essere soltanto cybersecurity e diventa architettura cognitiva.

Zhu affronta il rapporto fra macchina e natura umana. Alla domanda se sia più facile dare un’anima all’uomo o alla macchina, risponde che nessuna delle due operazioni è semplice, ma che la seconda potrebbe essere persino più praticabile perché una macchina può essere sottoposta a esperimenti e incorporare progressivamente elementi fondamentali della natura umana. L’osservazione è volutamente paradossale, ma contiene una questione tecnica ed etica di enorme portata: se costruiremo sistemi capaci di apprendere valori, sviluppare preferenze e mantenere una continuità cognitiva, prima o poi dovremo stabilire quale sia lo status morale di quelle entità. Zhu immagina un processo graduale nel quale, con l’aumento delle capacità, potrebbero emergere anche discussioni su diritti e responsabilità delle macchine.

È qui che il discorso diventa filosoficamente più interessante della consueta narrativa sull’AGI. Zhu non considera i valori come un semplice documento scritto dagli esseri umani e allegato al modello, una specie di manuale aziendale infilato dentro un cervello artificiale. Il valore viene trattato come una componente dinamica dell’architettura cognitiva. La sua idea del “credito” valoriale è particolarmente significativa: un comportamento orientato al bene produce una sorta di accumulo di merito, contribuendo alla formazione di una struttura decisionale interna. Nella sua interpretazione, l’essere umano possiede già una forma di sistema di valutazione delle proprie azioni, che non è riducibile a un punteggio numerico perché alla fine rimane legato al giudizio, alla coscienza e al “cuore”. Per un’AI orientata al bene, sostiene Zhu, la capacità di accumulare bene e merito dovrebbe diventare parte della sua stessa evoluzione.

La proposta è profondamente diversa dalla fantasia commerciale secondo cui l’AGI sarebbe semplicemente un LLM sufficientemente grande collegato a qualche agente e a un modello del mondo. Zhu considera questa equivalenza una semplificazione e sostiene che i sistemi attuali non dispongano ancora delle capacità necessarie per affrontare realmente la cognizione fisica, spaziale e sociale. Il suo gruppo ha costruito Tong Tong, un agente generale sperimentale, seguendo una sequenza che parte dall’ambiente simulato, passa attraverso l’addestramento interattivo e arriva all’adozione nel mondo reale. L’obiettivo è far emergere progressivamente cognizioni fondamentali, come la comprensione dell’appartenenza dei beni, delle intenzioni altrui e delle regole sociali.

Non è difficile comprendere perché questa prospettiva sia destinata a entrare nel dibattito internazionale sull’AGI. Il settore ha investito cifre gigantesche nell’ottimizzazione del paradigma dominante, costruendo infrastrutture computazionali di dimensioni industriali per alimentare modelli sempre più grandi. Ma la crescita della scala non risolve automaticamente il problema della soggettività, dell’intenzionalità, della causalità o del giudizio. La Silicon Valley ha una notevole capacità di trasformare una curva di benchmark in una profezia escatologica; la storia della tecnologia suggerisce invece che, quando un paradigma diventa dominante, il rischio maggiore sia scambiare il suo successo locale per una teoria generale dell’intelligenza.

La convergenza fra Sutton e Zhu è quindi più interessante delle loro differenze. Sutton mette al centro l’esperienza: l’agente deve imparare attraverso l’interazione con il mondo, costruendo progressivamente conoscenza attraverso azioni e conseguenze. Zhu aggiunge che l’esperienza deve essere interpretata attraverso un’architettura cognitiva e uno spazio di valori. Uno spiega come la macchina possa imparare dal mondo; l’altro pone il problema di come possa decidere che cosa significhi ciò che ha imparato. Sono due problemi distinti, ma probabilmente inseparabili se l’obiettivo non è costruire un generatore linguistico sempre più potente bensì un agente generale capace di vivere, operare e prendere decisioni in ambienti aperti.

Se questa linea di ricerca avesse ragione, la prossima competizione sull’AGI non si giocherebbe soltanto sui chip, sui dataset o sulle dimensioni dei modelli, ma sulle architetture cognitive, sui modelli del mondo, sull’apprendimento esperienziale, sulla rappresentazione causale e soprattutto sulla capacità di incorporare valori in modo strutturale. Zhu arriva a sostenere che la competizione ultima nell’IA possa diventare una competizione culturale, perché ogni civiltà porta con sé una diversa idea di persona, responsabilità, cooperazione, bene e male. È una tesi che l’Occidente farebbe male a liquidare come propaganda culturale: può essere contestata, certo, ma pone una domanda che il mercato tende accuratamente a evitare, cioè chi deciderà quali valori dovranno essere incorporati nelle macchine che prenderanno decisioni per noi.

In questo senso, “dare un’anima alla macchina” non deve essere letto necessariamente in senso religioso o antropomorfico. È una metafora per un problema ingegneristico ancora irrisolto: costruire un sistema nel quale percezione, memoria, obiettivi, esperienza, cognizione e valori non siano moduli semplicemente collegati, ma componenti di una struttura coerente capace di mantenere un orientamento nel tempo. L’AGI, se mai arriverà, potrebbe quindi non essere il modello che sa rispondere a tutte le domande, ma l’agente che sa vivere dentro l’incertezza senza perdere la propria struttura di giudizio.

Ed è forse questo il punto del WAIC 2026 che merita maggiore attenzione. Mentre gran parte dell’industria globale continua a misurare l’intelligenza artificiale in token al secondo, miliardi di parametri e punti percentuali nei benchmark, a Shanghai alcuni dei protagonisti della ricerca stanno riportando la discussione alla domanda originaria: che cosa significa essere intelligenti? Sutton risponde indicando l’esperienza come sorgente di apprendimento autonomo; Zhu introduce cognizione e valori come struttura interna dell’agente. Se le due traiettorie dovessero convergere, l’AGI non sarebbe più soltanto una macchina che sa moltissime cose. Sarebbe una macchina che ha esperienza, persegue obiettivi, interpreta il mondo, attribuisce valore alle conseguenze delle proprie azioni e, soprattutto, possiede una ragione interna per scegliere una strada invece di un’altra. A quel punto la questione non sarebbe più soltanto se abbiamo costruito una macchina intelligente. Dovremmo cominciare a chiederci quale intelligenza abbiamo scelto di costruire.