INCHIESTA | CHI GOVERNA LA FRONTIERA — 07

Le aziende possiedono i modelli e gran parte della conoscenza necessaria per valutarli. Gli organismi indipendenti possono costruire standard e test. Ma quando l’intelligenza artificiale diventa una questione di sicurezza nazionale, infrastrutture critiche e rapporti tra potenze, il potere di decidere torna inevitabilmente ai governi. L’incontro tra Donald Trump e Xi Jinping mostra però anche il limite di questa risposta: nessuno Stato può governare da solo una tecnologia che non conosce confini.

Alla fine, nella stanza sono rimasti loro due: Donald Trump e Xi Jinping.

Non perché i presidenti degli Stati Uniti e della Cina conoscano l’intelligenza artificiale meglio dei ricercatori che costruiscono i modelli e nemmeno perché possano stabilire meglio di un laboratorio quando una nuova capacità diventa pericolosa.

Sono rimasti loro perché esiste un punto oltre il quale la governance dell’intelligenza artificiale smette di essere soltanto un problema tecnico.

Quando un sistema può incidere sulla cybersecurity, sulla biologia, sulle infrastrutture critiche, sulla difesa o sulla sicurezza nazionale, qualcuno deve possedere non soltanto la conoscenza necessaria per comprenderne i rischi, ma anche l’autorità per decidere che cosa fare.

Ed è lì che torna lo Stato.

Il vertice del 24 settembre alla Casa Bianca ha reso questa distinzione particolarmente evidente. Xi ha sostenuto che Stati Uniti e Cina, in quanto grandi potenze dell’intelligenza artificiale, dovrebbero continuare a confrontarsi sui rischi e sui benefici della tecnologia, prevenirne insieme misuse e abuse e soprattutto fare in modo che l’AI rimanga sotto controllo umano. Trump ha concordato sulla necessità del dialogo e della cooperazione, ma arriva a quella conclusione attraverso una concezione molto diversa della governance: vuole evitare che nuovi vincoli rallentino la corsa americana e ha indicato nel Department of Justice il principale guardrail contro eventuali abusi.

Due modelli quasi opposti, ma la differenza tra Trump e Xi è forse meno interessante del punto nel quale le loro posizioni cominciano a incontrarsi.

Quando il rischio diventa politico

Un frontier lab può decidere di sottoporre un modello a red teaming, un valutatore indipendente può misurarne le capacità, un organismo di standardizzazione può stabilire quali test utilizzare, così come un’azienda può decidere di non rilasciare temporaneamente un sistema.

Tutto questo costituisce una parte essenziale della governance dell’intelligenza artificiale, ma nessuno di questi soggetti può decidere autonomamente quali rischi debba accettare un’intera società.

È una distinzione che rischia di perdersi quando il dibattito sulla frontier AI viene ridotto a una questione di benchmark, eval e safety framework.

Misurare un rischio è una decisione tecnica. Stabilire quale livello di rischio sia socialmente accettabile è una decisione politica.

Le due cose naturalmente si sovrappongono. Un governo non può stabilire una soglia sensata senza conoscere la tecnologia e un laboratorio non può pretendere che una società accetti una determinata soglia soltanto perché i suoi ricercatori la considerano ragionevole.

È qui che emerge il problema fondamentale della governance dell’AI avanzata. Chi possiede la conoscenza non possiede necessariamente la legittimità per decidere. Chi possiede la legittimità per decidere non possiede necessariamente tutta la conoscenza necessaria.

La frontier AI sta crescendo esattamente dentro questa distanza.

Il grande paradosso della governance

Google, OpenAI, Anthropic e gli altri grandi laboratori vedono i propri sistemi prima di chiunque altro. Conoscono ciò che accade durante l’addestramento, possono osservare comportamenti che non sono ancora pubblici, possono contare su ricercatori, infrastrutture, capacità di calcolo e accesso ai modelli.

Quando emerge una nuova capacità, sono spesso i primi a saperlo, così come quando emerge un nuovo rischio, possono essere i primi a misurarlo.

È difficile immaginare qualsiasi governance credibile della frontier AI senza utilizzare questa conoscenza, ma sarebbe altrettanto difficile immaginare una governance nella quale chi costruisce la tecnologia possa stabilire autonomamente anche quali rischi prodotti da quella tecnologia debbano essere accettati dalla società.

Non perché le aziende debbano necessariamente minimizzarli. Il problema è strutturale. Un frontier lab è contemporaneamente un centro di ricerca, un’impresa, un soggetto economico che compete con altri laboratori e, sempre più spesso, una delle poche organizzazioni al mondo in grado di sapere esattamente che cosa sta accadendo alla frontiera.

La stessa conoscenza che lo rende indispensabile al regolatore rende impossibile considerarlo il regolatore definitivo.

Ma neppure lo Stato basta

La risposta apparentemente più semplice sarebbe quindi affidare quella decisione ai governi. Ed è qui che il problema si complica nuovamente, perché lo Stato possiede strumenti che un’azienda non possiede: può imporre obblighi, chiedere informazioni, stabilire responsabilità, autorizzare o vietare determinate attività e può intervenire quando una tecnologia diventa un problema di sicurezza nazionale.

Ma l’autorità non elimina l’asimmetria informativa. Un governo può avere il potere di fermare un sistema senza necessariamente essere il soggetto che per primo comprende perché dovrebbe fermarlo e la velocità dell’intelligenza artificiale rende questa distanza particolarmente importante.

Una legge richiede tempo, una nuova capacità può emergere durante un ciclo di addestramento. Una regolamentazione può essere costruita intorno ai chatbot proprio mentre la frontiera si sta spostando verso gli agenti e un sistema può essere valutato in una determinata configurazione e comportarsi diversamente dopo un aggiornamento.

Lo Stato possiede quindi il potere che manca all’industria, ma continua ad avere bisogno della conoscenza dell’industria che dovrebbe controllare. La governance della frontiera nasce da questa dipendenza reciproca.

Il confine che l’AI attraversa più facilmente

Esiste poi un limite ancora più difficile. Anche immaginando uno Stato dotato contemporaneamente di ottimi regolatori, accesso ai modelli, evaluator indipendenti e strumenti giuridici efficaci, rimarrebbe un problema.

L’intelligenza artificiale non si ferma alla frontiera nazionale. Un modello sviluppato negli Stati Uniti può essere utilizzato dall’altra parte del mondo e un sistema open weight può essere scaricato, modificato e distribuito. Un agente può interagire con infrastrutture situate in diversi Paesi, così come un cyberincidente può produrre conseguenze internazionali prima ancora che sia chiaro quale autorità debba intervenire.

Ed è precisamente qui che l’incontro Trump-Xi acquista un significato che va oltre la diplomazia del vertice.

Nei negoziati che hanno preceduto l’incontro, Washington ha proposto a Pechino un meccanismo attraverso il quale le due potenze potrebbero notificarsi incidenti AI di alto livello capaci di incidere sulla sicurezza nazionale.

Non è un accordo per governare insieme l’intelligenza artificiale e non richiede nemmeno che Stati Uniti e Cina abbiano la stessa definizione di rischio. È qualcosa di molto più minimale: riconoscere che possono esistere eventi dei quali entrambe le parti hanno interesse a essere informate.

Ed è forse proprio questo minimalismo a renderlo importante.

Competere e contemporaneamente costruire guardrail

Stati Uniti e Cina continueranno quindi a competere sui chip, sui modelli, sulle infrastrutture, sulla ricerca, sui talenti e sulla diffusione dei propri ecosistemi tecnologici nel resto del mondo.

Il dialogo sui rischi dell’AI non cancella nessuno di questi conflitti, introduce però una seconda logica accanto alla competizione.

Si può cercare di vincere una corsa e contemporaneamente avere interesse a evitare che la corsa produca un incidente incontrollabile.

È una distinzione fondamentale. Durante la Guerra fredda Stati Uniti e Unione Sovietica non smisero di essere avversari quando costruirono canali di comunicazione e meccanismi per ridurre alcuni rischi nucleari.

L’analogia con l’intelligenza artificiale deve però fermarsi quasi immediatamente. L’AI non è un arsenale nucleare: un missile può essere contato, un algoritmo può essere copiato; una testata può essere localizzata, un modello può essere distribuito; un test nucleare produce un evento fisico osservabile, una nuova capacità dell’AI può emergere attraverso un aggiornamento software.

E soprattutto l’intelligenza artificiale è contemporaneamente tecnologia strategica, prodotto commerciale, infrastruttura economica e strumento utilizzato da centinaia di milioni di persone.

La sua governance richiederà quindi qualcosa di diverso dai tradizionali trattati sul controllo degli armamenti.

Potrebbe richiedere una grammatica minima della fiducia tra soggetti che non si fidano e, da questo punto di vista, un meccanismo di notifica degli incidenti sarebbe appena una delle prime parole di quella grammatica.

Non un regolatore, ma una catena di responsabilità

Comincia allora a emergere una possibile risposta alla domanda su chi governerà la frontiera da cui siamo partiti per questa indagine: probabilmente nessuno da solo.

Il laboratorio vede per primo una nuova capacità, un evaluator indipendente può verificarla e uno standard comune può stabilire come misurarla. Dal canto loro gli Stati possono decidere quali conseguenze attribuire al superamento di determinate soglie e, quando il rischio attraversa i confini, sempre gli Stati devono trovare almeno un linguaggio minimo attraverso cui comunicare.

Il punto interessante è che nessun anello sostituisce quello precedente: lo Stato non elimina il laboratorio, il valutatore non sostituisce lo Stato, lo standard non sostituisce la legge e la cooperazione internazionale non elimina la sovranità nazionale.

Ognuno risolve un pezzo differente dello stesso problema.

La frontier governance potrebbe quindi non assumere mai la forma di una grande autorità mondiale dell’intelligenza artificiale, potrebbe essere molto più frammentata e, forse, proprio per questo, più realistica.

Alla fine la risposta torna agli Stati

L’intelligenza artificiale più avanzata è oggi costruita principalmente da organizzazioni private. Sono aziende private a raccogliere decine di miliardi di capitale, acquistare GPU, costruire data center, addestrare modelli e decidere quando metterli sul mercato.

È una caratteristica quasi senza precedenti per una tecnologia che i suoi stessi sviluppatori descrivono sempre più spesso come potenzialmente capace di produrre conseguenze sistemiche.

Ma quando quelle conseguenze entrano nel territorio della sicurezza collettiva, il potere privato incontra inevitabilmente un limite: non può attribuirsi da solo l’autorità di stabilire quale rischio debba accettare una società.

Quella decisione torna, inevitabilmente, alla politica. E quindi agli Stati.

Non perché gli Stati siano necessariamente più competenti o più veloci, semplicemente perché quando una scelta riguarda sicurezza nazionale, infrastrutture critiche, difesa, salute pubblica o rapporti tra potenze, la domanda non è più soltanto che cosa può fare questa tecnologia ma cosa siamo disposti a permetterle di fare.

Ed è una domanda politica.

Il problema comincia dopo la risposta

Trump e Xi sembrano concordare almeno su una cosa: Stati Uniti e Cina devono continuare a parlarsi dell’intelligenza artificiale. Xi aggiunge che la tecnologia deve rimanere sotto controllo umano.

Chiaramente si tratta di una formula sulla quale è relativamente facile trovare consenso perché quasi nessuno propone esplicitamente il contrario, ma proprio qui comincia la parte difficile.

Perché dire che l’AI deve rimanere sotto controllo umano non ci dice ancora chi debba esercitare quel controllo.

Il ricercatore che conosce il modello? Il CEO dell’azienda che decide il deployment? L’evaluator che misura il rischio? L’organismo che definisce lo standard? Il governo che possiede l’autorità? Un accordo tra Stati?

Probabilmente avremo bisogno di tutti questi livelli anche se non avranno lo stesso potere. La frontiera resterà in larga parte costruita dalle aziende, gli standard potranno nascere nei laboratori mentre la conoscenza continuerà a essere distribuita in modo profondamente asimmetrico.

Ma quando arriverà il momento di stabilire quali rischi una società sia disposta ad accettare, la risposta tornerà inevitabilmente agli Stati.

È per questo che l’immagine forse più significativa non è quella di un modello dentro un data center ma è Trump seduto davanti a Xi. Due uomini che rappresentano sistemi politici, interessi e strategie tecnologiche profondamente differenti e che tuttavia cominciano a discutere che cosa fare se qualcosa dovesse andare storto.

Si dice spesso che l’intelligenza artificiale deve rimanere sotto controllo umano, il problema della prossima fase sarà decidere chi avrà il potere di esercitarlo.