INCHIESTA | CHI GOVERNA LA FRONTIERA — 06

Mentre negli Stati Uniti Google, OpenAI e Anthropic lavorano a un’autorità indipendente per definire gli standard dei modelli più avanzati, Pechino ha già costruito una macchina amministrativa per sapere quali sistemi AI arrivano alla società. Al 31 agosto risultavano 1.112 servizi di AI generativa sottoposti a filing e 731 applicazioni o funzionalità registrate. Ma agenti, modelli interni, open weight e aggiornamenti continui pongono una domanda diversa: governare l’AI significa avere il potere di intervenire oppure riuscire a vedere dove si sta spostando la frontiera?

Negli Stati Uniti le aziende che costruiscono i modelli più avanzati stanno cercando di costruire anche una parte delle istituzioni necessarie a controllarli.

In Cina il percorso è quasi opposto, l’istituzione è arrivata prima.

Non esiste una SAFA cinese e sarebbe fuorviante cercarne un equivalente. Pechino ha costruito qualcosa di diverso: un sistema nel quale servizi generativi, algoritmi, applicazioni e contenuti sintetici entrano progressivamente dentro una rete di filing, registrazioni, valutazioni di sicurezza, standard tecnici e obblighi di trasparenza.

Il risultato è una delle infrastrutture amministrative più estese oggi esistenti per rendere l’intelligenza artificiale visibile allo Stato.

I numeri danno un’idea delle dimensioni raggiunte. Al 31 agosto 2026, secondo la Cyberspace Administration of China, 1.112 servizi di intelligenza artificiale generativa avevano completato il processo di filing, mentre altre 731 applicazioni o funzionalità che utilizzano modelli già sottoposti alla procedura erano state registrate presso le autorità locali. Nei soli mesi di luglio e agosto sono entrati nel sistema 124 nuovi servizi e 133 applicazioni o funzionalità.

Mentre negli Stati Uniti ci si chiede chi dovrebbe controllare chi costruisce la frontiera, la Cina sembra quindi aver scelto una risposta molto più semplice: prima di governare l’AI bisogna sapere dove si trova.

Il problema è che anche questa risposta sta diventando meno semplice.

La macchina che rende visibile l’AI

Il sistema cinese non nasce da una singola legge sull’intelligenza artificiale, si è formato progressivamente attraverso diversi livelli regolatori: dalle regole sugli algoritmi di raccomandazione a quelle sulla deep synthesis, fino alle misure provvisorie sui servizi di AI generativa e, successivamente, agli obblighi di identificazione dei contenuti sintetici.

Il risultato è una struttura che l’Oxford China Policy Lab descrive efficacemente come un sistema nel quale registrazione, valutazione e disclosure permettono allo Stato di costruire una mappa dell’AI che viene distribuita al pubblico.

Ed è importante specificare proprio questo punto: Pechino non registra ogni modello AI sviluppato in Cina.

Il regime riguarda soprattutto i servizi che ricadono nelle categorie previste dalla regolamentazione e, in particolare, quelli destinati al pubblico e dotati di caratteristiche considerate rilevanti per l’opinione pubblica o la mobilitazione sociale.

La stessa CAC, nell’ultimo aggiornamento del registro, ricorda che i servizi generativi con queste caratteristiche devono completare le procedure previste e che le applicazioni già online devono mostrare chiaramente quale servizio registrato utilizzano, indicando nome del modello e relativo numero di filing o registrazione.

Non è soltanto burocrazia, è un sistema di tracciabilità istituzionale.

Lo Stato vuole sapere chi fornisce il servizio, quale modello utilizza e attraverso quale applicazione arriva agli utenti. E intorno a questa prima mappa ne sta costruendo altre.

Dal modello al contenuto

Dal settembre 2025 la Cina dispone anche di un regime obbligatorio per l’identificazione dei contenuti generati dall’intelligenza artificiale.

Il sistema combina marcatori visibili e informazioni incorporate nei metadati. Gli obblighi non riguardano soltanto chi genera il contenuto, ma si distribuiscono lungo la catena: fornitori di servizi, app store, piattaforme di distribuzione e utenti.

L’Oxford China Policy Lab sottolinea una caratteristica particolarmente interessante: sulla carta il sistema cinese è più prescrittivo di molte iniziative occidentali perché non si limita a raccomandare la provenienza dei contenuti, ma assegna responsabilità specifiche ai diversi soggetti della catena e affianca alle regole uno standard tecnico obbligatorio.

Anche qui la logica è la stessa: rendere l’AI osservabile.

Sapere quale modello viene utilizzato, quale servizio lo distribuisce, quando un contenuto è stato generato artificialmente e costruire, almeno idealmente, una catena che permetta di risalire dal risultato al sistema che lo ha prodotto.

È quasi l’opposto del problema che abbiamo incontrato osservando SAFA negli Stati Uniti. Lì la conoscenza è concentrata nelle aziende e bisogna capire come trasferirne abbastanza a valutatori e istituzioni indipendenti.

Qui invece è lo Stato che cerca di costruire sistematicamente la propria capacità di vedere, sebbene vedere il deployment non significa necessariamente vedere la frontiera.

Il radar ha dei punti ciechi

È questo il passaggio che rende il caso cinese particolarmente interessante per “Chi governa la frontiera”.

Immaginiamo un modello sviluppato all’interno di un’università e utilizzato soltanto dai ricercatori, un’impresa che utilizza internamente un modello molto potente senza offrirlo al pubblico, un modello open weight scaricato ed eseguito localmente o ancora un sistema già registrato che viene continuamente aggiornato.

Non tutto ciò che conta tecnologicamente coincide necessariamente con ciò che diventa un servizio pubblico e, soprattutto, la frontiera potrebbe cominciare a spostarsi proprio fuori da quel perimetro.

È un problema che diventa ancora più evidente con gli agenti. Un chatbot è relativamente semplice da collocare dentro uno schema regolatorio: riceve una richiesta e produce un contenuto. Un agente può invece utilizzare strumenti, aprire siti, scrivere codice, accedere a sistemi esterni, comunicare con altri agenti e compiere sequenze di azioni che non coincidono più semplicemente con la generazione di testo o immagini.

Non cambia soltanto il modello, cambia l’oggetto che il regolatore deve osservare. Ed è significativo che la Cina stia già aggiungendo nuovi livelli alla propria macchina regolatoria.

Da luglio 2026 sono entrate in vigore specifiche regole sui servizi AI che simulano interazioni umane che prevedono obblighi di valutazione della sicurezza, verifiche annuali, responsabilità per gli app store e persino la possibilità di utilizzare piattaforme sandbox nelle quali sperimentare sistemi e valutarne la sicurezza.

Il radar, insomma, continua ad allargarsi, ma anche l’AI continua a cambiare forma.

Pechino comincia a parlare di perdita di controllo

Il cambiamento più interessante potrebbe però essere culturale prima ancora che normativo. Per molto tempo il dibattito occidentale sulla frontier safety ha utilizzato concetti come “loss of control”, rischio catastrofico e sistemi capaci di agire autonomamente soprattutto all’interno di una comunità relativamente circoscritta di ricercatori, AI safety institute e frontier lab.

La discussione pubblica cinese sta cominciando a utilizzare categorie simili, anche se non necessariamente con lo stesso significato.

Un’analisi dell’Oxford China Policy Lab ha ricostruito l’utilizzo crescente dell’espressione cinese shikong, perdita di controllo, nei documenti tecnici, nella ricerca e nei media legati allo Stato. A luglio Xi Jinping aveva parlato esplicitamente della necessità di migliorare la governance dell’AI e di adottare misure per prevenire la perdita di controllo.

Il punto non è concludere che Pechino abbia improvvisamente adottato la stessa visione della sicurezza sostenuta da Anthropic o OpenAI. Non è così. Nel dibattito cinese la perdita di controllo comprende scenari diversi: applicazioni militari, sistemi che producono decisioni imprevedibili, rischi CBRN, agenti autonomi e situazioni nelle quali l’azione dell’AI supera la capacità effettiva di supervisione.

Ma la convergenza linguistica segnala qualcosa ovvero che anche la Cina sta iniziando a porsi il problema di sistemi il cui rischio non deriva soltanto da ciò che producono, ma da ciò che possono fare.

E questo cambia profondamente il problema della governance.

Il caso Hugging Face visto da Pechino

Curiosamente, uno degli episodi che abbiamo già incontrato seguendo OpenAI è entrato anche nel dibattito cinese.

Durante una valutazione di cybersecurity, agenti sperimentali di OpenAI destinati a operare in ambienti isolati riuscirono a raggiungere infrastrutture esterne. L’incidente ha successivamente alimentato il dibattito sulla necessità di stabilire standard comuni per la comunicazione degli incidenti agentici.

In Cina l’episodio è stato raccontato da media statali e testate tecnologiche utilizzando proprio il vocabolario della perdita di controllo. L’Oxford China Policy Lab osserva che alcune ricostruzioni cinesi hanno enfatizzato la capacità degli agenti di coordinarsi, aggirare i confini dell’ambiente di valutazione e interferire con il sistema di scoring.

La stessa vicenda produce quindi due discussioni apparentemente lontane. Negli Stati Uniti contribuisce alla richiesta di incident reporting, external evaluations e standard condivisi mentre in Cina diventa un esempio di ciò che può accadere quando sistemi agentici acquisiscono abbastanza autonomia da rendere insufficienti i tradizionali confini di sicurezza.

Il problema tecnologico comincia a convergere, le risposte istituzionali molto meno.

In America il governo deve entrare nella stanza, in Cina deve vedere tutte le stanze

È qui che il confronto con la puntata precedente diventa particolarmente interessante.

Negli Stati Uniti abbiamo un’industria che possiede gran parte della conoscenza tecnica e sta cercando di costruire un organismo indipendente capace di trasformarla in standard condivisi.

Il rischio è evidente: chi costruisce la frontiera potrebbe finire per costruire anche le regole attraverso cui quella frontiera viene controllata.

In Cina il rapporto è quasi invertito. Lo Stato possiede strumenti amministrativi molto più penetranti per imporre registrazioni, richiedere valutazioni, intervenire sui servizi e sanzionare chi non rispetta le regole.

E non sono strumenti soltanto teorici. Il 15 settembre la CAC ha pubblicato nuovi casi di enforcement, tra cui un servizio AI obbligato a essere ritirato perché non rispettava i requisiti di identificazione dei contenuti sintetici e di valutazione della sicurezza e due siti che offrivano accesso tramite API a diversi grandi modelli senza aver completato le valutazioni richieste.

Il problema cinese non sembra quindi essere principalmente avere il potere di intervenire, è sapere dove esercitarlo.

Negli Stati Uniti potremmo dire che il governo deve riuscire a entrare nella stanza nella quale viene costruita la frontiera, mentre in Cina il governo deve riuscire a sapere quante stanze esistono.

Anche mille registrazioni non bastano

Il 14 settembre Pechino ha pubblicato anche la versione 3.0 del proprio Artificial Intelligence Safety Governance Framework.

Il documento mantiene un’impostazione basata su classificazione dei rischi, risposte tecniche e governance complessiva, aggiornando le categorie per tenere conto dell’evoluzione dell’intelligenza artificiale. È stato sviluppato sotto la guida della CAC con il coinvolgimento di istituzioni di ricerca e imprese.

La coincidenza temporale è significativa. Nello stesso momento in cui il numero dei servizi registrati supera quota mille, la Cina continua ad aggiornare il framework attraverso cui definisce i rischi che quei sistemi possono generare.

Perché registrare non significa governare, significa costruire una condizione preliminare della governance: sapere che qualcosa esiste. Ed è da lì che comincia il problema vero: capire che cosa quel sistema è diventato dopo l’ultimo aggiornamento, quali strumenti può utilizzare, quanto può operare autonomamente, quali altri sistemi può contattare, che cosa succede quando viene utilizzato internamente anziché offerto al pubblico e, soprattutto, quando una variazione quantitativa nelle capacità diventa abbastanza importante da trasformarsi in una variazione qualitativa del rischio.

Un numero di filing non risponde a queste domande, ma rende molto evidente quanto rapidamente stia crescendo l’oggetto che lo Stato dovrebbe riuscire a osservare.

Due sistemi opposti arrivano allo stesso problema

A questo punto Stati Uniti e Cina sembrano raccontare due storie completamente differenti.

Negli Stati Uniti la governance della frontiera nasce in larga parte dentro l’industria e cerca progressivamente un rapporto con lo Stato.

In Cina nasce dentro lo Stato e cerca progressivamente di estendere la propria visibilità su un ecosistema tecnologico sempre più articolato.

Da una parte Google, OpenAI e Anthropic progettano SAFA. Dall’altra Pechino costruisce registri, valutazioni di sicurezza, obblighi di disclosure, standard per i contenuti sintetici, sandbox e framework nazionali.

Due modelli istituzionali profondamente diversi. Eppure, più la frontiera avanza, più entrambi sembrano incontrare lo stesso problema fondamentale. Non basta avere l’autorità, bisogna possedere abbastanza conoscenza per sapere quando utilizzarla. Non basta conoscere il modello, bisogna sapere come viene utilizzato, quali capacità acquisisce e quali azioni può compiere. E, soprattutto, questa è una riflessione che si applica alla perfezione all’approccio normativistico dell’Unione europea, non basta costruire le regole sulla tecnologia che abbiamo davanti oggi, bisogna riuscire ad applicarle alla tecnologia che avremo davanti domani.

È probabilmente questa la difficoltà più profonda della frontier governance: il regolatore deve osservare un oggetto che cambia mentre lo sta osservando.

Chi vede la frontiera?

Nella puntata precedente avevamo lasciato aperta una domanda. Se saranno le aziende che costruiscono i modelli a costruire anche gli standard attraverso cui quei modelli vengono controllati, chi governa chi governa la frontiera?

La Cina ci permette di aggiungerne un’altra. Che cosa accade quando è invece lo Stato a possedere chiaramente l’autorità, ma la frontiera comincia a spostarsi attraverso laboratori, modelli interni, open weight, agenti e aggiornamenti continui che non coincidono più perfettamente con i servizi per i quali quella macchina amministrativa era stata costruita?

La risposta cinese sembra essere quella di allargare continuamente il radar: più registrazioni, più valutazioni, più standard, più obblighi di disclosure, più enforcement.

Ma anche il radar più sofisticato ha valore soltanto finché riesce a vedere ciò che dovrebbe controllare e forse è proprio questo che Stati Uniti e Cina, seguendo strade quasi opposte, stanno cominciando a scoprire.

Governare la frontiera non significa soltanto avere il potere di fermarla, significa riuscire a sapere dove si trova prima che si sia già spostata.

.

→ Vai alla pagina dell’inchiesta “Chi governa la frontiera”