INCHIESTA | CHI GOVERNA LA FRONTIERA — 02

La tregua tra i leader dell’intelligenza artificiale è durata poco. Amodei propone di rallentare la frontiera, Trump non vuole perdere un metro sulla Cina, David Sacks parla di rischio di “regulatory capture”, Altman corregge il tiro e Satya Nadella avverte che le regole non possono essere controllate da pochi soggetti. Il problema non è più stabilire se servano guardrail. È capire chi li scriverà e chi resterà abbastanza grande da poterli rispettare.

Per qualche ora era sembrato quasi semplice.

Dario Amodei aveva chiesto di rallentare la crescita delle capacità dei frontier model (vedi puntata 1 dell’inchiesta “Chi governa la frontiera”). Sam Altman aveva risposto che era d’accordo. Elon Musk aveva sintetizzato tutto in un “Dario is right”. Demis Hassabis aveva indicato sostanzialmente la stessa direzione.

Una convergenza sorprendente tra concorrenti che normalmente non concordano nemmeno sulla definizione del futuro che stanno cercando di costruire.

È durata poco. Nel giro di quarantotto ore il dibattito è uscito dai laboratori ed è arrivato alla Casa Bianca, al Congresso, a Microsoft e fino a Pechino. E la domanda è cambiata.

Non più soltanto: dobbiamo rallentare?

Ma: chi decide quanto, come e soprattutto per chi?

È qui che la safety smette di essere soltanto un problema tecnico e comincia a diventare politica industriale.

Il piano di Amodei ha un dettaglio molto poco tecnico

Nel primo capitolo di questa inchiesta abbiamo visto che pacing non significa fermare l’intelligenza artificiale.

Amodei non propone di spegnere i cluster o sospendere il training. Vuole che l’aumento delle capacità proceda abbastanza lentamente da consentire a interpretabilità, alignment, monitoraggio e sicurezza di non rimanere indietro.

Il primo strumento sono gli embedded evaluators: valutatori indipendenti ai quali i frontier lab dovrebbero garantire un accesso continuativo, simile per profondità a quello di un dipendente, in modo da poter osservare non soltanto il modello finito ma anche training pipeline, incidenti e procedure di sicurezza.

Fin qui il terreno rimane prevalentemente tecnico. È il passaggio successivo a cambiare la natura della proposta.

Amodei sostiene che il modo più efficace per ottenere un pacing verificabile sarebbe una regolazione capace di coprire tutti i frontier lab americani. Nell’attesa, le aziende potrebbero coordinarsi volontariamente su standard comuni. Ed è proprio qui che compare il problema: concorrenti che discutono insieme di quanto rapidamente competere rischiano inevitabilmente di incontrare l’antitrust.

Nel materiale raccolto per questa inchiesta, la proposta arriva fino alla possibilità di una deroga circoscritta alle norme antitrust che consenta una forma di coordinamento sulla sicurezza.

È una frase apparentemente secondaria. In realtà potrebbe essere una delle più importanti dell’intero dibattito, perché a quel punto la domanda non riguarda più soltanto quanto siano pericolosi i modelli.

Riguarda la struttura del mercato nel quale quei modelli vengono costruiti.

David Sacks vede un cartello dove Amodei vede un guardrail

La risposta più dura è arrivata da David Sacks.

L’argomento dell’ex zar dell’AI dell’amministrazione Trump è sostanzialmente questo: se Anthropic e gli altri frontier lab ritengono che sia necessario rallentare, possono farlo autonomamente. Sono loro a costruire i modelli. Non hanno bisogno che il governo costruisca intorno a quella decisione un sistema regolatorio che coinvolga anche i concorrenti.

Sacks arriva a evocare esplicitamente il rischio di “regulatory capture” e di una struttura assimilabile a un cartello se gli incumbent ottenessero dal governo una cornice che permettesse loro di coordinare il ritmo della frontiera.

La critica non arriva soltanto dal mondo trumpiano. Anche osservatori favorevoli a una maggiore regolazione dell’AI hanno sollevato dubbi sull’idea che le aziende possano scegliere autonomamente i propri valutatori e contribuire a stabilire le regole alle quali saranno poi sottoposte.

È il vecchio problema della regolazione, applicato a una tecnologia nuova.

Chi conosce meglio il rischio? Le aziende che costruiscono i sistemi.

Chi ha più informazioni per definire le regole? Le aziende che costruiscono i sistemi.

Chi ha anche il maggiore interesse economico nel determinare come quelle regole verranno scritte? Sempre le stesse aziende.

Il conflitto non prova che la proposta di Amodei sia strumentale. Dimostra però quanto sia difficile separare competenza tecnica e interesse industriale quando soltanto una manciata di imprese possiede entrambe.

Poi Altman sposta il tavolo

Ed è qui che la posizione di Sam Altman diventa interessante.

OpenAI continua a sostenere il principio del pacing. Ma Altman introduce una differenza importante rispetto allo schema di Amodei: non ritiene necessario aspettare né una deroga antitrust né una nuova legge americana per cominciare.

OpenAI sostiene di formulare già safety cases prima dei frontier reinforcement-learning run che prevede possano aumentare significativamente le capacità dei propri sistemi. E invita gli altri laboratori a sviluppare approcci analoghi e successivamente costruire standard condivisi per misalignment, monitoring e safety.

Il messaggio è sottile: pacing sì, coordinamento sì, ma prima ciascuno faccia ciò che può fare autonomamente.

Altman ribadisce inoltre che rallentare non significa fermarsi: il progresso continuerà rapidamente, semplicemente più lentamente di quanto potrebbe accadere senza questi interventi.

La convergenza iniziale comincia quindi a mostrare le prime crepe: i leader dell’AI sembrano concordare sull’esistenza del rischio, molto meno su quale istituzione debba governarlo.

Trump ha un altro problema: la Cina

Donald Trump taglia il nodo da una prospettiva completamente diversa.

Interrogato il 13 settembre sulla possibilità di rallentare o regolamentare maggiormente l’intelligenza artificiale, il presidente americano ha detto che gli Stati Uniti possono introdurre guardrail, ma ha contemporaneamente liquidato molti degli scenari più estremi come il prodotto di “very negative forces”.

Poi ha spiegato quale sia la sua priorità: “Whoever wins AI wins”.

Gli Stati Uniti sono davanti alla Cina e Trump vuole che rimangano davanti.

La questione è interessante perché Amodei riconosce esattamente lo stesso dilemma. Un rallentamento americano funziona soltanto se non permette alla Cina di recuperare. Se Washington rallentasse mentre Pechino continuasse ad accelerare, la cura potrebbe diventare geopoliticamente più pericolosa della malattia.

Amodei arriva a immaginare accordi internazionali paragonabili, almeno nella logica, ai sistemi di controllo degli armamenti nucleari a cui ci aveva abituato la politica estera Usa negli anni ’70: limiti verificabili, coordinamento e meccanismi capaci di impedire che una parte utilizzi il rallentamento dell’altra per conquistare un vantaggio decisivo.

Il problema è che la fiducia necessaria praticamente non esiste e Trump, dal canto suo, non sembra intenzionato a sperimentarla.

La Cina ha capito perfettamente il sottotesto

Pechino ha risposto rapidamente.

Il Global Times, quotidiano sostenuto dallo Stato cinese, ha interpretato la proposta di Amodei non come un’iniziativa neutrale sulla sicurezza globale, ma come un nuovo strumento della competizione tecnologica americana: rallentare la frontiera mantenendo contemporaneamente controlli sui chip, sui pesi dei modelli e sulla capacità cinese di raggiungerla.

La definizione utilizzata è significativa: un “Cold War playbook”, fino all’idea di una “silent AI Cold War”.

La posizione cinese non dimostra naturalmente che questa sia la reale motivazione di Anthropic, ma mette in evidenza una contraddizione difficilmente eliminabile. La stessa politica può essere descritta a Washington come AI safety e percepita a Pechino come technology containment.

Il punto è che possono esserci elementi di entrambe ed è proprio qui che safety e geopolitica diventano quasi impossibili da separare.

Satya Nadella introduce una terza strada

La posizione più interessante, però, potrebbe essere quella di Microsoft.

Satya Nadella non respinge il pacing, al contrario, accoglie esplicitamente la necessità di ricerca, concentrazione e “deliberate pacing” affinché l’allineamento venga incorporato fin dalla progettazione dei sistemi.

Considera positivamente anche l’idea degli embedded evaluators. Poi aggiunge una condizione: “The key is that this cannot be controlled by a handful of entities.”

La governance non può appartenere a pochi soggetti, deve rappresentare aziende, paesi, discipline, mondo accademico e l’intero ecosistema.

Ma Nadella va ancora oltre. Microsoft immagina una frontiera nella quale modelli chiusi e open-source possano prosperare contemporaneamente e nella quale ogni impresa mantenga il controllo della propria conoscenza, dei propri learning loop e, quando necessario, dei pesi dei modelli.

Nessuna organizzazione dovrebbe diventare dipendente da un unico model provider e detto dal CEO del principale partner industriale storico di OpenAI, non è un dettaglio.

La posizione potrebbe essere sintetizzata così: pacing senza oligopolio.

Safety senza trasformare i frontier lab in un club autorizzato a stabilire chi possa competere con loro.

Perché un guardrail può diventare un moat

Ed eccoci alla questione economica.

Immaginiamo che domani per addestrare un modello oltre una determinata soglia diventino obbligatori embedded evaluators, audit continui, safety cases, sistemi avanzati di interpretability, monitoraggio delle training pipeline, reporting degli incidenti, cybersecurity sui pesi e procedure formali prima di ogni aumento significativo delle capability.

Tutto questo potrebbe rendere l’AI più sicura. Ma tutto questo costa, non soltanto denaro.

Servono personale specializzato, infrastrutture, sistemi di controllo, rapporti con i regolatori, procedure legali, capacità di documentazione e organizzazioni sufficientemente grandi da sostenere processi che possono durare mesi.

Per OpenAI, Anthropic, Google, Microsoft o Meta può essere una componente del costo industriale, per una startup può diventare una barriera e per un progetto accademico potrebbe addirittura essere proibitiva.

Per un ecosistema open-weight decentralizzato potrebbe risultare persino difficile stabilire chi debba essere il soggetto responsabile della compliance.

È il meccanismo classico attraverso cui una regolazione può produrre contemporaneamente sicurezza e concentrazione. Non occorre che qualcuno lo abbia pianificato, è sufficiente che il costo fisso della conformità cresca abbastanza.

Il vero problema dell’open source

Ed è qui che l’open source entra nella storia.

Il rischio competitivo per i frontier lab non è necessariamente che domani un modello aperto sia superiore al miglior Claude o al miglior modello OpenAI in ogni benchmark, gli basta diventare abbastanza buono.

Se un’azienda può utilizzare un modello open-weight, specializzarlo sui propri dati, eseguirlo sulla propria infrastruttura e ottenere prestazioni sufficienti a una frazione del costo, il vantaggio economico del frontier model proprietario diminuisce.

L3Harris ad esempio, azienda specializzata in soluzioni tecnologiche avanzate per i settori aerospaziale e della difesa, sostiene di avere utilizzato Palantir per fine-tuning di modelli open source sui propri dati e di aver superato in meno di 48 ore i frontier model precedentemente utilizzati, con costi dichiarati inferiori del 95%. La società riassume la propria filosofia in modo piuttosto netto: dati, modello, compute e vantaggio devono rimanere sotto il controllo dell’impresa.

È una dichiarazione aziendale e andrà valutata come tale, non come benchmark indipendente, ma fotografa perfettamente il problema: un modello generalista non deve necessariamente essere battuto da un altro modello generalista, può essere battuto, in uno specifico contesto aziendale, da un modello meno potente che conosce meglio quel contesto.

A quel punto la competizione non riguarda più soltanto chi possiede il modello più intelligente, riguarda chi controlla dati, distribuzione, infrastruttura e costi.

La safety diventa economicamente interessante

Questo è un punto da trattare con i guanti e sul quale dobbiamo evitare la scorciatoia più facile che si legge in molte ricostruzioni. Al momento, non abbiamo elementi per sostenere che Amodei abbia “inventato” il problema della sicurezza per proteggere Anthropic dall’open source.

Anzi, il suo argomento sui rischi è coerente con posizioni che Anthropic sostiene da anni.

Ma questo non rende economicamente neutrale la soluzione proposta. Se una nuova regolazione alza significativamente il costo necessario per costruire modelli avanzati, gli incumbent che quel costo possono già sostenerlo ottengono indirettamente una protezione.

In economia industriale non sarebbe un fenomeno nuovo. Succede quando requisiti concepiti per aumentare sicurezza, qualità o affidabilità producono costi fissi che pesano molto diversamente su grandi e piccoli operatori.

Il risultato può essere perfettamente paradossale: una regola necessaria può produrre una barriera all’ingresso senza essere stata concepita per produrla.

È questa distinzione che conta, perché alla fine il dibattito che più ci interessa non è stabilire se la safety sia vera o falsa, è capire quale struttura di mercato produrrà.

Il problema opposto: senza regole vince semplicemente chi corre di più

Naturalmente esiste anche l’argomento contrario. Se ogni requisito di sicurezza viene respinto perché potrebbe favorire gli incumbent, l’alternativa rischia di diventare una competizione nella quale vince chi accetta il rischio maggiore.

Un laboratorio che investe settimane in evaluation e alignment potrebbe essere superato da un concorrente che decide di distribuire immediatamente il modello. Una società che segnala pubblicamente un incidente potrebbe essere penalizzata rispetto a una che decide di non farlo, così come un’impresa che limita volontariamente determinate capability potrebbe perdere utenti e capitale a favore di chi non introduce lo stesso limite.

È precisamente la race to the bottom che Amodei dice di voler evitare e rende insufficiente anche la soluzione “lasciamo fare al mercato”, perché il mercato premia molto bene velocità, prestazioni e prezzo ma non è altrettanto evidente che sappia prezzare correttamente un incidente che non è ancora avvenuto.

Il dilemma è quindi autentico: regolare troppo può concentrare il mercato e regolare troppo poco può trasformare la sicurezza in uno svantaggio competitivo.

La frontiera si trova esattamente in mezzo.

Il problema non è soltanto chi scrive la regola

C’è poi una domanda ancora più scomoda: chi stabilisce che un modello sia diventato abbastanza potente da richiedere controlli aggiuntivi?

Un benchmark? Una quantità di compute? La capacità di condurre cyberattacchi? L’autonomia degli agenti? La capacità di contribuire alla ricerca AI?

Il numero di parametri ormai dice sempre meno. Il compute da solo non descrive necessariamente la capacità e i benchmark possono essere saturati, ottimizzati o semplicemente smettere di misurare ciò che interessa.

E qui torniamo, curiosamente, alla discussione che la matematica sta facendo proprio in questi giorni sui benchmark e sui problemi aperti.

Chi definisce la misura finisce per contribuire a definire la frontiera e chi definisce la frontiera contribuisce a decidere quali sistemi saranno sottoposti alle regole.

La governance non comincia quindi con il regolamento, comincia con la metrica.

Stanno emergendo 4 modelli di governance

A questo punto il quadro è molto più chiaro di quanto fosse soltanto due giorni fa. Amodei propone una frontiera verificata, coordinata e progressivamente istituzionalizzata. Altman accetta il pacing ma sostiene che i laboratori possano cominciare autonomamente, senza aspettare nuove deroghe o leggi. Trump considera prioritaria la vittoria sulla Cina e non vuole che la sicurezza diventi un freno strategico. Nadella accetta i guardrail ma vuole un ecosistema pluralista nel quale open e closed model convivano e nessun piccolo gruppo controlli la governance. Pechino, infine, vede dietro almeno una parte dell’architettura proposta dagli Stati Uniti il rischio di un sistema costruito per cristallizzare il vantaggio americano.

Non stanno discutendo soltanto di sicurezza, stanno proponendo modelli differenti di ordine industriale.

Il moat perfetto non sembra un moat

Per questo la domanda con cui abbiamo aperto questo capitolo non ha ancora una risposta: la safety può diventare il nuovo moat?

Sì, può. Ma questo non significa che necessariamente lo diventerà, né che chi propone regole di sicurezza lo faccia per costruirlo.

Il punto è più sottile. Qualunque sistema di governance della frontier AI produrrà vincitori e perdenti. Una soglia di compute favorisce qualcuno, un audit obbligatorio costa di più a qualcuno, un regime di responsabilità modifica il rischio di qualcuno, un divieto sui pesi aperti protegge qualcuno e un obbligo di open source danneggia qualcun altro.

Persino decidere di non regolare produce una struttura competitiva: favorisce chi può correre più velocemente e assorbire più rischio.

Non esiste quindi una governance economicamente neutrale.

Ed è probabilmente questo che il dibattito sull’apocalisse AI rischia di nascondere.

Mentre discutiamo se un sistema artificiale possa un giorno diventare incontrollabile, oggi si sta decidendo qualcosa di molto più concreto: quali aziende, paesi e comunità potranno costruire i sistemi che arriveranno a quella frontiera.

La battaglia non è più tra chi vuole accelerare e chi vuole rallentare, è su chi avrà il potere di decidere dove mettere il limite di velocità.

Perché il guardrail serve a impedire che qualcuno esca di strada, ma se è abbastanza alto, abbastanza costoso e abbastanza difficile da superare, può fare anche un’altra cosa: decidere chi può entrare in autostrada.

.

→ Vai alla pagina dell’inchiesta “Chi governa la frontiera”