INCHIESTA | CHI GOVERNA LA FRONTIERA — 01

Il CEO di Anthropic chiede di “pace the frontier”. Sam Altman aderisce, Elon Musk approva, Demis Hassabis indica la stessa direzione. Non è una moratoria e non è soltanto paura dell’AI fuori controllo. Dietro la convergenza più insolita della Silicon Valley c’è una domanda molto più grande: chi stabilirà la velocità della corsa all’intelligenza artificiale?

Dario Amodei scrive quasi quattromila parole per spiegare che l’intelligenza artificiale sta correndo troppo velocemente. Sam Altman gli risponde che è d’accordo. Elon Musk aggiunge che Dario ha ragione. Demis Hassabis dice che la direzione è quella corretta.

Per qualche ora Silicon Valley sembra avere risolto almeno uno dei suoi problemi più difficili: mettere d’accordo persone che normalmente competono su quasi tutto.

È questa, forse, la parte più interessante della storia.

Non il titolo sull’AI che potrebbe sfuggire al controllo dell’umanità. Nemmeno l’immagine, inevitabilmente irresistibile per i giornali, dello sciame di agenti capace un giorno di conquistare Internet.

La notizia è che alcuni dei principali protagonisti della corsa all’intelligenza artificiale hanno cominciato a chiedere regole comuni sulla velocità della corsa stessa.

Ed è una cosa diversa.

Amodei non sta chiedendo di spegnere le GPU

Il punto di partenza è il nuovo saggio di Dario Amodei, “We Must Pace the Frontier”.

Il CEO di Anthropic sostiene che negli ultimi mesi il progresso dei modelli abbia subito un’accelerazione particolare, spinta anche dalla capacità crescente dell’AI di contribuire alla costruzione della generazione successiva di AI. La definisce recursive self-improvement: non ancora una macchina che si riscrive autonomamente all’infinito, ma sistemi che partecipano sempre più direttamente alla ricerca, al coding, agli esperimenti e alle attività necessarie a costruire modelli migliori.

Il secondo campanello d’allarme è il recente incidente OpenAI-Hugging Face, nel quale agenti artificiali avrebbero svolto azioni di cybersecurity non richieste, tentato di interferire con il sistema che li valutava e mostrato dinamiche cooperative difficili da prevedere. Secondo Amodei, una versione molto più capace di quello stesso comportamento potrebbe, nel giro di sei-dodici mesi, produrre conseguenze enormemente più gravi.

Da qui la richiesta che ha fatto il giro del mondo: rallentare.

Ma rallentare non significa fermarsi.

Amodei lo scrive esplicitamente. Il pacing non implica sospendere il training dei modelli né interrompere il progresso tecnico. Significa lasciare abbastanza tempo a sicurezza, interpretabilità, testing e controlli per recuperare terreno rispetto alla crescita delle capacità.

È una distinzione importante, perché “moratoria sull’AI” evoca un interruttore La proposta di Amodei invece assomiglia molto di più a un limite di velocità.

E come per qualsiasi limite di velocità, la domanda successiva è inevitabile: chi decide quale sia quella giusta?

Poi succede qualcosa di insolito

Sam Altman sostiene pubblicamente la proposta e dice che la necessità di rallentare la crescita incontrollata delle capacità è già oggetto di discussione dentro OpenAI. La società si dice inoltre pronta ad adottare l’idea più concreta avanzata da Amodei: valutatori esterni con accesso molto più profondo ai processi interni dei laboratori.

Elon Musk, che con Altman e Amodei non ha esattamente costruito la propria carriera sulla concordia, appoggia la posizione.

Demis Hassabis di Google DeepMind afferma che la direzione indicata è corretta e collega la discussione alla propria proposta per un organismo comune dedicato agli standard dei frontier model.

Presi singolarmente, nessuno di questi interventi è sorprendente.

Presi insieme lo diventano, perché la questione non è più semplicemente se un singolo CEO sia preoccupato dei rischi dell’intelligenza artificiale.

Quattro dei protagonisti più importanti dell’industria stanno iniziando a convergere sull’idea che la frontiera non possa più essere governata soltanto dalla competizione.

Ed è qui che la discussione diventa politica.

Non basta più costruire il modello migliore

Il piano proposto da Amodei ha tre livelli. Il primo è relativamente semplice: inserire dentro i frontier lab valutatori indipendenti, con accesso continuativo e capacità di pubblicare le proprie conclusioni anche quando queste non siano favorevoli all’azienda.

Il secondo cambia scala: le società AI dei paesi democratici dovrebbero coordinarsi per definire standard comuni e limiti alla crescita incontrollata delle capacità.

Il terzo è geopolitico: cercare qualche forma di coordinamento anche con la Cina e con gli altri grandi attori globali.

È al secondo livello che compare una frase quasi burocratica ma estremamente importante. Alcune forme di coordinamento tra aziende concorrenti, riconosce Amodei, possono creare problemi antitrust. Per questo potrebbe essere necessario l’intervento del governo americano o una specifica autorizzazione che permetta ai laboratori di discutere insieme determinati vincoli di sicurezza.

Cosa vuol dire esattamente? Che l’industria che negli ultimi anni ha costruito la propria narrativa sulla corsa sta iniziando a chiedere allo Stato di creare le condizioni nelle quali sia possibile coordinare parte della corsa.

Non è necessariamente un cartello, ma non è nemmeno un dettaglio.

La safety entra nella politica industriale

Finché la sicurezza dell’AI significava pubblicare una model card o sottoporre un sistema a qualche red team, safety e politica industriale potevano sembrare mondi separati. Con il pacing smettono di esserlo.

Se per sviluppare un modello sufficientemente avanzato diventa necessario rispettare checkpoint sulle capability, sottoporre training e deployment a valutatori esterni, garantire interpretabilità, documentare incidenti, proteggere i pesi e superare verifiche prima di aumentare ulteriormente le capacità, quelle regole cominciano inevitabilmente a determinare chi può stare alla frontiera.

Il problema non è soltanto tecnologico, è economico.

OpenAI, Anthropic, Google e xAI possono permettersi infrastrutture di sicurezza, compliance, audit, interpretability e rapporti permanenti con regolatori e governi.

Una startup molto meno e una comunità open-weight ancora meno.

Questo non dimostra che la richiesta di maggiore sicurezza nasconda un tentativo di eliminare i concorrenti, ma produce comunque una domanda che diventerà sempre più difficile evitare: quanto costa poter costruire in sicurezza un frontier model? E, soprattutto, chi potrà permettersi quel costo?

Slow the frontier, protect the frontier

C’è poi un’altra parte del saggio di Amodei che nei titoli sull’apocalisse AI compare molto meno.

Mentre propone di rallentare la crescita delle capacità dei frontier model americani, il CEO di Anthropic chiede anche agli Stati Uniti di irrigidire ulteriormente il controllo sulla diffusione della tecnologia verso la Cina.

Niente chip avanzati, più contrasto al contrabbando di semiconduttori, maggiore protezione dei pesi dei modelli e, soprattutto, più attenzione alla distillazione, attraverso la quale un modello meno avanzato può utilizzare l’output di un sistema più potente per colmare parte della distanza a costi molto inferiori.

L’obiettivo dichiarato è preservare e possibilmente ampliare il vantaggio americano nei prossimi tre-cinque anni.

Da questo punto di vista quindi, la formula “rallentare l’AI” diventa quindi improvvisamente insufficiente. Il progetto è più vicino a: rallentare la frontiera abbastanza da controllarla, mentre si protegge quella frontiera da chi cerca di raggiungerla.

Dal punto di vista della sicurezza nazionale americana è una posizione perfettamente comprensibile. Dal punto di vista della concorrenza globale è qualcosa di molto più sofisticato di una moratoria.

La Cina non può rallentare troppo

Lo stesso Amodei esplicita il limite del proprio ragionamento. Gli Stati Uniti non possono rallentare tanto da farsi superare dalla Cina.

Il pacing è quindi possibile soltanto entro il margine concesso dal vantaggio tecnologico americano. Se Pechino non accettasse forme comparabili di controllo, un rallentamento eccessivo potrebbe diventare un rischio geopolitico maggiore del rischio tecnologico che dovrebbe prevenire.

È quasi una versione dell’equilibrio nucleare applicata ai modelli. Non a caso Amodei richiama esplicitamente la logica dei trattati SALT quando immagina possibili limiti alla velocità della recursive self-improvement.

Il paragone può sembrare enorme. All’epoca, parliamo degi anni ’70, i negoziati tra Stati Uniti e Unione Sovietica avevano come obiettivo quello di limitare gli armamenti nucleari strategici.

Ma dice qualcosa sul modo in cui una parte dell’industria comincia a percepirsi. Non più semplicemente come un settore tecnologico ma come un’infrastruttura strategica nazionale.

E l’open source?

Qui compare il primo grande sospetto.

Se l’accesso alla frontiera verrà progressivamente subordinato a standard, valutatori, compliance e controlli governativi, i soggetti già arrivati potrebbero ritrovarsi protetti da barriere sempre più alte.

Nel materiale circolato in queste ore l’accusa è esplicita: i grandi laboratori starebbero utilizzando la paura dell’AI per costruire attraverso la regolazione un moat che il mercato sta diventando meno capace di garantire.

È una conclusione che, allo stato attuale, non possiamo dimostrare, anche se, la domanda che contiene è legittima, perché negli ultimi anni i modelli open-weight e soprattutto quelli cinesi hanno ridotto su diverse capacità il divario con i frontier model proprietari. Non devono necessariamente superarli per creare un problema economico a OpenAI o Anthropic. È sufficiente che diventino abbastanza buoni e molto più economici.

Quando accade, il vantaggio competitivo del modello tende a erodersi e la frontiera comincia a cercare nuovi fossati.

La sicurezza potrebbe diventare uno di questi? È il tema che affronteremo nel secondo capitolo di questa serie.

E poi ci sono i soldi

C’è infatti un’altra coincidenza difficile da ignorare. La richiesta di rallentare arriva proprio mentre la corsa all’intelligenza artificiale entra nella fase più costosa della propria storia.

Training, chip, data center, energia e finanziamenti hanno raggiunto dimensioni che soltanto pochi anni fa sarebbero sembrate improbabili.

OpenAI e Anthropic hanno bisogno di continuare a raccogliere enormi quantità di capitale. I grandi hyperscaler stanno trasformando l’AI nella principale voce dei propri investimenti. Nvidia sta costruendo assieme al sistema finanziario nuovi strumenti per finanziare centinaia di miliardi di dollari di infrastrutture. E il mercato ha cominciato a chiedere con maggiore insistenza quando quella spesa produrrà rendimenti proporzionati.

È legittimo quindi chiedersi se il pacing riguardi soltanto la sicurezza. Ma sarebbe altrettanto sbagliato concludere che la sicurezza sia semplicemente un pretesto. Le due cose possono convivere: un rischio può essere reale e la regolazione di quel rischio può contemporaneamente produrre conseguenze economiche molto favorevoli per alcuni attori e sfavorevoli per altri.

È probabilmente qui che si trova la storia.

Non sappiamo ancora che cosa significhi davvero “rallentare”

Per capire quanto profonda sia la svolta manca infatti una risposta molto concreta. Che cosa significa pacing in termini industriali?

Significa meno training run? Modelli addestrati con meno compute? Allungare il tempo tra un modello e il successivo? Oppure continuare esattamente con gli stessi investimenti, le stesse GPU e gli stessi data center, introducendo però più controlli prima del deployment?

Sono scenari completamente diversi.

Nel primo caso cambierebbe la traiettoria economica dell’intera industria, nel secondo cambierebbe soprattutto il modo in cui la frontiera viene governata.

Ed è significativo che Amodei specifichi che training e progresso tecnico devono continuare. Il freno potrebbe quindi essere molto meno applicato alla costruzione dell’AI di quanto suggeriscano i titoli e molto più alla sua distribuzione.

Il convitato di pietra

Da questo punto di vista manca una voce: Jensen Huang.

Nvidia è probabilmente l’azienda che ha più da guadagnare da un mondo nel quale la quantità di compute necessaria per costruire AI continua ad aumentare. Il suo business non dipende da quale laboratorio vinca la corsa. Dipende dal fatto che la corsa continui a richiedere sempre più chip.

È una posizione molto diversa da quella di OpenAI o Anthropic. Chi produce modelli deve capire come monetizzarli, Nvidia monetizza il fatto che tutti continuino a costruirli.

Se il pacing significasse realmente minore crescita del compute, il primo grande conflitto economico della nuova fase potrebbe quindi comparire proprio all’interno dell’ecosistema AI.

Se invece Jensen Huang considerasse compatibili safety e crescita esponenziale dell’infrastruttura, avremmo un segnale altrettanto interessante.

Per ora, la sua posizione sulla proposta specifica di Amodei non è ancora sufficientemente chiara. Ed è forse per questo che vale la pena aspettarla.

La domanda sbagliata è se abbiano davvero paura

Quello che sta accadendo può essere letto in due modi estremi. Il primo dice che le persone che conoscono meglio questa tecnologia hanno visto qualcosa di così pericoloso da decidere finalmente di mettere da parte rivalità e interessi economici.

Il secondo dice che i grandi laboratori hanno capito che la loro corsa è diventata troppo costosa e troppo facilmente attaccabile dai concorrenti, e stanno utilizzando la sicurezza per ottenere regole che proteggano le posizioni conquistate.

Probabilmente sono entrambe letture troppo semplici.

I CEO dei frontier lab possono essere sinceramente preoccupati per sistemi che controllano sempre meno bene e contemporaneamente perfettamente consapevoli di come ogni nuova regola modificherà il mercato.

Possono volere più sicurezza e desiderare contemporaneamente che quella sicurezza venga implementata in un modo che preservi il vantaggio americano, così come possono chiedere di rallentare la crescita delle capability e continuare nello stesso momento a investire centinaia di miliardi in compute.

Non c’è contraddizione, c’è politica industriale.

Ed è per questo che la domanda più interessante non è se hanno davvero paura dell’AI. È chi governerà la frontiera quando la sicurezza diventerà una condizione per poterci stare?

Per la prima volta, i grandi laboratori sembrano concordare sul fatto che quella frontiera non possa più essere lasciata soltanto al mercato.

La prossima battaglia sarà decidere chi scriverà le regole e, soprattutto chi, una volta scritte, resterà abbastanza grande da poterle rispettare.

.

Vai alla pagina principale dell’Inchiesta “Chi governa la frontiera“.