REGULATORY MARKETS FOR AI SAFETY
L’idea sembra moderna perché contiene tutte le parole giuste: intelligenza artificiale, mercati, regolazione, innovazione, accountability. Poi si guarda meglio e compare un meccanismo molto meno futuristico. Le aziende che sviluppano o utilizzano sistemi di AI dovrebbero acquistare servizi di controllo da regolatori privati autorizzati dai governi. Non è una caricatura polemica della proposta: è precisamente il modello dei “regulatory markets” elaborato da Gillian K. Hadfield e Jack Clark. La proposta nasce nel dicembre 2019, quindi non è affatto un’idea del 2026, ed è stata successivamente sviluppata in un paper del 2023 e nella versione pubblicata nel 2026 sul Jurimetrics Journal.
La genealogia è interessante anche per un altro motivo. Hadfield è legata all’Università di Toronto e Jack Clark è oggi associato ad Anthropic, mentre nelle prime versioni del lavoro era in OpenAI. Il Schwartz Reisman Institute dell’Università di Toronto presentò esplicitamente Clark come ricercatore di OpenAI quando illustrò la proposta. Dire quindi che “OpenAI e University of Toronto” abbiano formulato l’idea coglie l’origine istituzionale del progetto, ma è una semplificazione della sua storia. Nel frattempo Clark ha lasciato OpenAI ed è passato ad Anthropic. La precisione, in questi casi, non è pedanteria: quando si parla di governance dell’AI, la governance delle attribuzioni dovrebbe essere il minimo sindacale.
Il modello proposto è tuttavia molto più sofisticato di un semplice sistema nel quale un’azienda compra un certificato e il certificatore firma. I governi dovrebbero stabilire gli obiettivi di sicurezza, licenziare i regolatori privati, controllarne le prestazioni e poter sospendere o revocare le licenze. Le imprese soggette alla regolazione sceglierebbero invece il proprio regolatore e potrebbero cambiare fornitore. L’idea è utilizzare la concorrenza per finanziare lo sviluppo di nuove tecnologie di controllo, perché lo Stato difficilmente possiede le competenze tecniche e la velocità necessarie per seguire modelli che cambiano più rapidamente delle norme.
Il problema è che gli stessi autori indicano nel loro lavoro uno dei precedenti più scomodi: le agenzie di rating del credito e la crisi finanziaria del 2008. Il paper cita esplicitamente il fallimento degli intermediari di rating come una delle due lezioni storiche rilevanti per comprendere i rischi dei mercati regolatori. Nel caso delle agenzie di rating, osservano gli autori, gli intermediari erano protetti da responsabilità per gli errori nelle valutazioni e mancava un’adeguata supervisione pubblica.
La differenza decisiva, dunque, non è che il modello AI ignori il problema dell’indipendenza. Al contrario, lo riconosce apertamente. Il punto è se il meccanismo istituzionale immaginato sia abbastanza forte da impedirlo. Se un regolatore privato deve vendere i propri servizi a una società di AI, esiste un incentivo economico strutturale a non diventare il cliente più scomodo del mercato. Un certificatore che scopre continuamente problemi può essere tecnicamente eccellente e commercialmente irrilevante. È una delle piccole ironie del capitalismo della compliance: il rischio maggiore per chi controlla un’azienda può diventare controllarla troppo bene.
Il paper affronta direttamente il rischio di cattura regolatoria e sostiene che licenze pubbliche, audit continui, concorrenza, possibilità di revoca e misurazione degli outcome possano ridurre il problema. Ma riconosce anche che tutto il sistema dipende dalla capacità dello Stato di controllare i controllori. Se il governo non dispone delle competenze tecniche, delle risorse finanziarie o della volontà politica per verificare realmente i risultati dei regolatori privati, il mercato regolatorio può trasformarsi semplicemente in un livello intermedio di burocrazia privata.
Qui emerge il problema più interessante per l’AI assurance del 2026. Un modello di intelligenza artificiale non è necessariamente un prodotto statico che viene testato, sigillato e poi venduto invariato. Può essere aggiornato, riaddestrato, collegato a nuovi strumenti, modificato nei prompt di sistema, dotato di nuovi permessi, inserito in workflow differenti e trasformato, attraverso un sistema agentico, in qualcosa di comportamentalmente diverso pur conservando lo stesso nome commerciale. Un certificato può quindi essere perfettamente corretto nel momento in cui viene emesso e diventare progressivamente meno rappresentativo del sistema che pretende di descrivere.
L’esperienza di un certificato di assurance riferita da chi lavora nel settore rende il problema concreto: un documento può fotografare un modello in una determinata data mentre il modello viene successivamente modificato. Quell’esperienza non costituisce, da sola, una prova statistica del fallimento dell’intero mercato dell’assurance, ma identifica una debolezza tecnica reale: la validità temporale della verifica. Nel software tradizionale questo problema era già fastidioso; nell’AI diventa strutturale perché comportamento, dati, modelli, strumenti e contesto operativo possono cambiare con una frequenza incompatibile con un controllo annuale.
La soluzione non consiste necessariamente nell’eliminare i regolatori privati. Sarebbe una conclusione troppo facile e, probabilmente, altrettanto ingenua quanto affidare loro tutto il sistema. Il punto è cambiare l’unità di prova. L’assurance AI dovrebbe progressivamente passare dal certificato statico all’evidenza continua, dalla dichiarazione di conformità alla registrazione verificabile del comportamento, dalla fotografia alla telemetria. Ogni cambiamento significativo del modello dovrebbe poter produrre automaticamente nuova evidenza, mentre audit indipendenti e controlli pubblici dovrebbero verificare non soltanto se il sistema rispettava determinate condizioni il giorno dell’ispezione, ma se continua a rispettarle mentre opera.
La tecnologia rende questa trasformazione possibile. Log firmati crittograficamente, versionamento dei modelli, registri delle modifiche, evaluation continue, monitoraggio degli output, red teaming automatizzato, controlli sugli strumenti utilizzati dagli agenti e sistemi di provenance possono costruire una catena di evidenze molto più robusta di un PDF con un numero di certificato. Non significa eliminare gli auditor. Significa impedire che l’auditor diventi il prodotto.
Il paradosso è che la proposta dei regulatory markets contiene già una parte della risposta. Gli autori immaginano regolatori capaci di utilizzare tecnologie di controllo automatizzate e di monitorare continuamente sistemi complessi; nel loro modello, per esempio, i regolatori potrebbero campionare automaticamente transazioni bancarie o utilizzare tecniche di stress test e adversarial testing. Il salto successivo è applicare questa logica anche all’assurance stessa: non certificare soltanto il regolatore, ma misurare continuamente la qualità della sua sorveglianza.
Il mercato può essere una buona fonte di innovazione regolatoria, ma non trasforma magicamente un conflitto di interessi in indipendenza. La concorrenza funziona quando il compratore è in grado di distinguere un prodotto migliore da uno peggiore; nell’assurance AI, invece, il compratore è spesso proprio il soggetto che ha interesse a dimostrare che il proprio sistema è sicuro. È qui che il paragone con il credito diventa utile, non come profezia di un nuovo 2008, ma come avvertimento istituzionale.
L’intuizione di creare un mercato della regolazione è quindi tutt’altro che assurda. È probabilmente una delle idee più interessanti emerse nel dibattito sulla governance dell’intelligenza artificiale perché prova a risolvere il problema reale della scarsità di competenze pubbliche. Ma il mercato non deve vendere rassicurazione. Deve produrre evidenza. Nell’AI, dove il sistema può cambiare mentre il regolatore sta ancora scrivendo il rapporto, l’assurance più credibile non sarà quella firmata una volta all’anno. Sarà quella capace di dimostrare, quasi in tempo reale, che ciò che è stato approvato continua a comportarsi come ciò che viene utilizzato.
Il futuro della regolazione AI potrebbe quindi essere privato, competitivo e tecnologico, ma solo a condizione che la prova resti pubblicamente verificabile e continuamente aggiornata. Altrimenti avremo costruito qualcosa di molto efficiente: un mercato mondiale di certificati che certificano sistemi già cambiati.