A Sciences Po il pioniere del deep learning contesta la narrativa del rischio esistenziale e sostiene che gli attuali LLM non siano la strada verso un’intelligenza di livello umano. Il futuro, secondo LeCun, passa dai world model, dall’apprendimento della realtà fisica e da ecosistemi aperti. Una visione che trasforma anche il dibattito sulla sovranità tecnologica europea: forse l’Europa non deve inseguire la frontiera americana, ma provare a costruire quella successiva.

Mentre una parte della Silicon Valley discute di come rallentare la frontiera dell’intelligenza artificiale, Yann LeCun sostiene qualcosa di ancora più radicale.

Quella che stiamo cercando di rallentare potrebbe non essere la frontiera che porterà all’intelligenza umana.

Il 16 settembre LeCun è salito sul palco dell’anfiteatro Émile Boutmy di Sciences Po, a Parigi, per la prima Grande Conférence del nuovo anno accademico. Premio Turing, professore alla New York University, uno dei padri del deep learning e oggi presidente esecutivo di Advanced Machine Intelligence, LeCun ha utilizzato buona parte dell’intervento per fare ciò che fa ormai da tempo: mettere in discussione alcune delle convinzioni sulle quali si sta costruendo l’attuale industria dell’intelligenza artificiale.

Ma il momento nel quale lo ha fatto rende quella posizione particolarmente interessante.

Dario Amodei ha appena chiesto ai frontier lab di rallentare la crescita delle capacità dei modelli, Sam Altman, Demis Hassabis ed Elon Musk hanno riconosciuto, con sfumature differenti, la necessità di maggiori forme di coordinamento e controllo,OpenAI, Anthropic e Google stanno discutendo di collaborazione sulla safety e, più in generale, negli Stati Uniti il dibattito ha già investito antitrust, politica industriale e competizione con la Cina.

La domanda che domina la conversazione è che cosa succederà quando questi sistemi diventeranno molto più intelligenti, mentre LeCun pone una domanda precedente: siamo sicuri che lo diventeranno seguendo questa strada?

Trentamila miliardi di token non fanno un bambino di quattro anni

La provocazione tecnica di LeCun parte da un confronto apparentemente sproporzionato. Da una parte ci sono i grandi modelli linguistici, dall’altra un bambino.

Un LLM viene addestrato su quantità di testo difficili persino da rappresentare intuitivamente. LeCun stima l’intero corpus testuale disponibile pubblicamente su Internet nell’ordine delle decine di migliaia di miliardi di token: una quantità che richiederebbe a un essere umano centinaia di migliaia di anni per essere letta.

Eppure, sostiene, un bambino di pochi anni dispone già di una comprensione del mondo fisico che nessun attuale LLM possiede e non perché abbia letto di più, semplicemente perché ha visto il mondo: oggetti che cadono, persone che si muovono, superfici che sostengono altre superfici, corpi che occupano spazio, cause che producono effetti e azioni che modificano l’ambiente.

Il punto di LeCun non tanto quello di stabilire una gara quantitativa tra byte visivi e token linguistici, quanto quello di mostrare la differenza qualitativa tra due tipi di apprendimento.

Gli LLM imparano prevalentemente dalle rappresentazioni che gli esseri umani hanno prodotto del mondo. Un bambino impara dal mondo. Ed è proprio qui, secondo LeCun, che abbiamo sbagliato problema.

Il linguaggio è una compressione della realtà

Il testo è straordinariamente ricco, ma rimane una rappresentazione a bassa larghezza di banda dell’esperienza umana. Possiamo scrivere migliaia di libri sulla gravità senza riprodurre l’esperienza di un bambino che lascia cadere cento volte un giocattolo dal seggiolone. Possiamo descrivere un tavolo, ma il bambino impara che gli oggetti possono starci sopra, che non possono attraversarlo, che scompaiono se finiscono dietro una superficie ma continuano a esistere.

Questa conoscenza non è necessariamente formulata linguisticamente, è una rappresentazione del mondo e per LeCun è precisamente ciò che manca agli attuali sistemi.

E spiega perché continui a essere scettico sull’idea che aumentare indefinitamente dimensioni dei modelli, dati e compute conduca automaticamente all’intelligenza di livello umano.

Il problema non sarebbe semplicemente costruire un LLM più grande quanto costruire un’altra architettura cognitiva.

Dal language model al world model

Qui compare il concetto centrale della ricerca di LeCun: i world model.

Un sistema intelligente dovrebbe costruire una rappresentazione interna del mondo sufficientemente ricca da poter prevedere le conseguenze delle proprie azioni.

Non semplicemente “quale parola viene dopo questa parola” ma “cosa succede se faccio questo”. La differenza sembra sottile, in realtà separa due paradigmi.

Il primo apprende regolarità statistiche nelle sequenze, il secondo cerca di rappresentare stati del mondo, relazioni, dinamiche e conseguenze delle azioni. È ciò che serve a un robot, ma anche a qualsiasi sistema che debba pianificare realmente nel mondo fisico.

Se devo prendere una bottiglia senza rovesciarla, attraversare una stanza, assistere un chirurgo o manipolare un componente industriale, prevedere il prossimo token non basta. Devo possedere qualcosa che assomigli a un modello interno della realtà.

Il punto più interessante: forse l’AGI non è dietro l’angolo

Le conseguenze di questa tesi vanno molto oltre l’architettura dei modelli.

Se LeCun ha ragione, una parte del dibattito contemporaneo sull’AI potrebbe essere costruita su una premessa discutibile: che l’attuale paradigma, continuando a scalare, sia destinato ad arrivare rapidamente a sistemi con capacità largamente superiori a quelle umane.

LeCun non nega che gli attuali modelli siano potenti, non nega che diventeranno più utili e non sostiene che non possano produrre rischi.

Contesta il salto logico tra “questi sistemi stanno migliorando rapidamente” e “questi sistemi stanno necessariamente procedendo verso un’intelligenza generale autonoma di livello umano o superiore”.

Sono due affermazioni differenti. Ed è precisamente sulla seconda che oggi si sta giocando una parte della battaglia sulla governance dell’AI.

Il grande dissenso con Amodei

Qui il confronto con Dario Amodei diventa inevitabile. Non perché i due abbiano semplicemente una diversa propensione al rischio quanto perché hanno una diversa teoria della traiettoria tecnologica.

Per Amodei, le capacità dei frontier model stanno crescendo abbastanza rapidamente da rendere necessario prepararsi alla possibilità di sistemi capaci di produrre conseguenze catastrofiche. Da qui la proposta di pace the frontier, l’uso di evaluator esterni e una maggiore cooperazione tra laboratori.

LeCun parte da una premessa differente.

Gli attuali LLM hanno limiti architetturali profondi. Non possiedono un modello sufficientemente ricco del mondo, non imparano come gli esseri umani e non rappresentano automaticamente una strada verso sistemi autonomi superintelligenti.

Il punto non è quindi soltanto quanto dobbiamo rallentare, ma cosa esattamente stiamo rallentando. Ed è una differenza enorme.

Ma qui LeCun fa un secondo salto

La sua critica non riguarda soltanto la plausibilità tecnica dei rischi esistenziali, riguarda anche l’economia politica della safety.

LeCun sostiene da tempo che una narrativa eccessivamente catastrofista possa produrre un risultato molto concreto: rendere lo sviluppo dei modelli avanzati così regolato, costoso e complesso da poter essere sostenuto soltanto dalle aziende già dominanti.

Il meccanismo è quello che abbiamo incontrato più volte analizzando il possibile regulatory moat: audit, certificazioni, security, reporting, evaluation, compliance, controlli sui pesi, licenze e via dicendo.

Ognuna di queste misure può avere motivazioni legittime, ma il fatto che una regola risponda a un rischio reale non significa che i suoi effetti economici siano neutrali, perché una grande azienda può sostenere costi di compliance enormi mentre un laboratorio universitario o una startup molto meno.

La domanda corretta a questo punto è chi può permettersi di costruire AI se costruire AI diventa un’attività accessibile soltanto a chi possiede miliardi, infrastrutture e apparati di compliance?

Per questo l’open source diventa politico

La difesa dei modelli aperti non è per LeCun soltanto una preferenza tecnica, è una questione di distribuzione del potere.

Immaginiamo un futuro nel quale ognuno possieda assistenti AI attraverso i quali passa una parte crescente della propria relazione con l’informazione: ci dicono cosa leggere, traducono, riassumono, cercano, scrivono, filtrano informazioni. In poche parlo organizzano la nostra conoscenza.

Se quei sistemi fossero controllati esclusivamente da tre o quattro aziende, una parte enorme dell’infrastruttura cognitiva della società dipenderebbe dalle decisioni di pochissimi soggetti privati.

Ed è proprio qui che open source e sovranità tecnologica diventano la stessa conversazione.

Il progetto Tapestry

Uno degli aspetti dell’intervento a SciencePo che merita maggiore attenzione è il Project Tapestry, iniziativa dell’AI Alliance che prova a costruire un’infrastruttura federata per sviluppare modelli aperti mantenendo localmente il controllo dei dati, di cui LeCun è Chief Science Advisor.

Il progetto non è soltanto teorico. La sua Milestone Zero, completata il 1° settembre, ha sperimentato training distribuito tra India, Australia e due regioni AWS: quattro siti in tre Paesi, circa 12 miliardi di token elaborati senza spostare i dati tra i nodi. Ciò che viene scambiato sono aggiornamenti dei modelli, non i dataset locali.

L’architettura è interessante proprio dal punto di vista della sovranità: collaborare senza centralizzare tutto. Ogni partecipante può mantenere dati, priorità e controllo locale contribuendo contemporaneamente a una base comune.

Si tratta di una risposta completamente differente alla domanda che abbiamo posto negli ultimi mesi ovvero come costruire sovranità senza trasformarla in autarchia.

E qui l’Europa dovrebbe ascoltare con attenzione

Perché la posizione di LeCun contiene una provocazione strategica molto interessante per Bruxelles. L’Europa è molto indietro rispetto agli Stati Uniti nella frontier AI, non possiede equivalenti diretti di OpenAI, Google, Anthropic o Meta per scala di capitale, distribuzione globale e capacità infrastrutturale e sta cercando di recuperare attraverso AI Factories, gigafactory, compute pubblico e politiche industriali.

Ma se LeCun avesse ragione sulla traiettoria tecnologica, il punto non sarebbe più soltanto come l’Europa può raggiungere gli americani sugli LLM ma come possiamo essere competitivi sul paradigma che verrà dopo.

Parliamo di world model, robotica, embodied AI, sistemi capaci di pianificare, modelli industriali, architetture efficienti, AI integrata nel mondo fisico. Si tratta di un terreno sul quale il patrimonio industriale europeo potrebbe avere un significato completamente diverso.

Lo avevamo visto nel Paper “Dal modello alla fabbrica: perché la sovranità tecnologica è la vera posta in gioco per l’industria italiana” nel quale abbiamo analizzato come enorme patrimonio di dati industriali, processi produttivi, competenze ingegneristiche e know-how accumulato nei distretti manifatturieri italiani possa essere trasformato in vantaggio competitivo con una politica industriale mirata.

Il paradosso europeo

Bruxelles sostiene che la prossima fase dell’AI non riguarderà soltanto i frontier model. Punta su applicazioni industriali, dati delle imprese, AI Factories e capacità di calcolo europea.

LeCun arriva da un percorso completamente diverso, ma suggerisce qualcosa di sorprendentemente compatibile: il modello linguistico più grande potrebbe non essere il luogo nel quale si concentra tutto il valore futuro dell’intelligenza artificiale.

Non significa che LLM e frontier model diventeranno irrilevanti, ma che potrebbero diventare una componente di sistemi molto più ampi e allora possedere industria, robotica, dati del mondo fisico, infrastrutture e competenze ingegneristiche tornerebbe a essere decisivo.

La vera scommessa europea potrebbe essere non copiare

È forse questa la parte più interessante della lezione di Sciences Po. L’Europa continua a guardare alla distanza che la separa dagli Stati Uniti in termini di modelli, paramteri, GPU, capitale, hyperscaler.

Sono riflesisoni corrette ma che contengono implicitamente un’ipotesi: che la prossima fase dell’AI assomigli a quella precedente.

Da questo punto di vista, LeCun invita a considerare la possibilità opposta, che il paradigma cambi.

È successo molte volte nella storia della tecnologia. Essere indietro nella generazione precedente può essere una debolezza enorme, ma può diventare meno decisivo se cambia l’architettura sulla quale viene costruita quella successiva.

Naturalmente non esiste alcuna garanzia che JEPA o i world model rappresentino quella svolta, si tratta di una linea di ricerca non di una roadmap già dimostrata verso l’intelligenza umana e sarebbe ironico sostituire il determinismo degli LLM con un determinismo dei world model.

Nemmeno LeCun sa quale sarà l’architettura finale

Sapere che gli LLM hanno limiti non significa sapere quale tecnologia li supererà. World model, JEPA, sistemi neuro-simbolici, agenti, reinforcement learning, architetture ibride potrebbero contribuire in combinazioni oggi difficili da prevedere.

La posizione di LeCun va quindi letta come una scommessa scientifica, non come un risultato acquisito.

Ma è proprio per questo che ha valore nel dibattito contemporaneo, perché rompe una convinzione che rischia di diventare invisibile ovvero che il futuro dell’intelligenza artificiale sia semplicemente una versione più grande di ciò che abbiamo oggi.

E l’università torna al centro

C’è infine un collegamento quasi perfetto tra il discorso di Yann LeCun e la conversazione che abbiamo avuto con Mario De Caro. Se De Caro si chiede che cosa rimanga all’università quando l’AI comincia a fare scienza, LeCun ricorda implicitamente perché l’università rimane essenziale: perché non sappiamo ancora quale sarà l’AI del futuro.

La ricerca industriale tende inevitabilmente a investire sulle tecnologie che stanno producendo valore mentre la ricerca scientifica deve potersi permettere anche di esplorare architetture che non hanno ancora un mercato.

È una differenza fondamentale che rende ancora più importante la questione dell’accesso a compute, dati e infrastrutture per università e laboratori indipendenti.

Perché se tutta la capacità sperimentale si concentra negli stessi soggetti che dominano il paradigma attuale, diventa più difficile persino scoprire il paradigma che potrebbe sostituirlo.

Non rallentare l’intelligenza. Cambiare strada

LeCun offre quindi una risposta molto diversa al momento di inquietudine che sta attraversando il settore dell’AI. Amodei guarda alla velocità con cui cresce la frontier capability e chiede di rallentare mentre LeCun guarda alla natura di quella capability e dubita che rappresenti già la strada verso l’intelligenza che temiamo.

Sono due ipotesi e entrambe possono essere sbagliate ma che in ogni caso producono due politiche dell’AI profondamente differenti.

Se Amodei ha ragione, il problema è costruire guardrail prima che le capacità superino la nostra possibilità di controllarle.

Se LeCun ha ragione, il rischio opposto è costruire troppo presto un sistema di regole intorno a una tecnologia che potrebbe non essere affatto quella destinata a portarci dove pensiamo.

Nel primo caso dobbiamo impedire che la frontiera corra troppo velocemente, nel secondo dobbiamo evitare che qualcuno possa decidere troppo presto dove si trova la frontiera.

Ed è forse questa la parte più interessante del suo intervento a Sciences Po.

Perché mentre Silicon Valley discute se premere o meno il freno, Yann LeCun continua a porre una domanda diversa: siamo almeno sicuri di essere sulla strada giusta?