INCHIESTA | CHI GOVERNA LA FRONTIERA — 04

Dario Amodei vuole mettere osservatori esterni dentro i frontier lab, con accesso quasi da dipendenti. Ma se questi soggetti potranno contribuire a decidere quando un modello è abbastanza sicuro per continuare a correre, la domanda diventa inevitabile: chi garantisce la loro indipendenza?

Dario Amodei vuole rallentare la frontiera dell’intelligenza artificiale. Ma per farlo ha bisogno di qualcuno che possa vedere ciò che accade dall’altra parte del muro.

Non soltanto il modello una volta terminato ma anche il training, i test, gli incidenti, le procedure interne, le misure di sicurezza e persino alcune delle informazioni che oggi restano normalmente confinate nei laboratori che costruiscono i sistemi più avanzati.

Nel suo “We Must Pace the Frontier”, il Ceo di Anthropic propone qualcosa di molto più radicale di un audit periodico: embedded evaluators, valutatori esterni dotati di badge, laptop aziendale e accessi paragonabili a quelli dei dipendenti che si occupano internamente di risk assessment. Potrebbero verificare gli impegni di safety, osservare training pipeline e processi, investigare gli incidenti e pubblicare conclusioni anche sfavorevoli all’azienda. Anthropic dice di voler sperimentare unilateralmente questo modello e cita esplicitamente METR come possibile evaluator.

Sembra un dettaglio tecnico della proposta di pacing. Potrebbe invece essere uno dei suoi passaggi politicamente più importanti.

Perché se rallentare la frontiera richiede qualcuno che stabilisca quando sia necessario farlo, il potere non passa soltanto dai laboratori ai regolatori, passa anche a chi misura il rischio.

E allora bisogna fare una domanda che finora è rimasta quasi fuori dal dibattito: chi controlla i controllori dell’AI?

Da auditor a gatekeeper

Il problema diventa evidente se portiamo la proposta di Amodei alle sue conseguenze.

Oggi un’organizzazione come METR misura capacità dei modelli, autonomia degli agenti, possibilità di accelerare la ricerca sull’AI e rischi di comportamenti non allineati. Ha già lavorato con Anthropic, OpenAI, Google e Meta e nel 2026 ha condotto un esercizio nel quale le aziende partecipanti hanno fornito accesso ai loro modelli interni più avanzati e a informazioni non pubbliche sulle capability e sui sistemi di monitoraggio.

Domani il ruolo potrebbe essere molto più grande.

Nell’architettura immaginata da Amodei, gli evaluator contribuirebbero a verificare se un frontier lab stia rispettando gli impegni assunti, potrebbero segnalare incidenti, contestare le valutazioni interne e rendere verificabile un eventuale accordo di pacing. Soltanto dopo la presenza di evaluator in una massa critica di aziende americane, sostiene Amodei, diventerebbe realmente possibile coordinare un rallentamento basato sulle caratteristiche dei modelli o delle training pipeline.

A quel punto non staremmo più parlando semplicemente di ricerca sulla sicurezza, staremmo costruendo una nuova istituzione della frontier AI e le sue valutazioni potrebbero avere conseguenze economiche enormi.

Un training run ritardato di qualche mese può significare GPU inutilizzate diversamente dal previsto, data center riprogrammati, ricavi rinviati, capex riallocato e miliardi di dollari di differenza nella competizione tra laboratori.

Certo, l’evaluator non deciderebbe necessariamente tutto questo, ma potrebbe contribuire alla decisione che lo determina.

Poi arriva Kevin Bass

È dentro questo vuoto di governance che si inserisce la lunga ricostruzione pubblicata da Kevin Bass, ricercatore indipendente e analista noto per le sue inchieste sui flussi finanziari della Silicon Valley, è diventato una delle voci più critiche verso l’attuale modello di regolamentazione dell’intelligenza artificiale, denunciando i rischi di conflitti d’interesse tra i colossi del settore e gli enti di valutazione della sicurezza

La sua conclusione è drastica. Bass sostiene che intorno ad Anthropic esista una vera e propria regulatory capture machine: una rete nella quale investimenti in Anthropic, filantropia, organizzazioni di AI safety, evaluator e produzione del discorso sui rischi dell’intelligenza artificiale sarebbero finanziariamente e ideologicamente interconnessi.

Bass punta soprattutto sul ruolo di Dustin Moskovitz e Cari Tuna, sulla partecipazione in Anthropic attribuita alla coppia e sulla rete filantropica che finanzia numerose organizzazioni dell’ecosistema della safety. Arriva così a sostenere che un evaluator come METR non possa essere considerato realmente indipendente.

È una conclusione che le evidenze raccolte da Bass, almeno allo stato attuale, non consentono di dimostrare – questo è importante dirlo – atteso che il suo stesso audit non riesce infatti a stabilire dove sia finita la partecipazione Anthropic donata da Moskovitz e Tuna. Una scansione dei filing IRS del 2025 e 2026 non identifica un’entità riconducibile alla coppia che dichiari di detenere quelle azioni. Bass stesso, d’altra parte, definisce il risultato un bounded negative: restringe il campo, non identifica il destinatario.

Il Ceo di Coefficient Giving ha inoltre dichiarato che Moskovitz ha donato la propria partecipazione, ma non a Coefficient.

Da questo punto di vista quindi, non abbiamo quindi la prova che METR sia finanziariamente dipendente dal successo di Anthropic, ma liquidare per questo l’intera questione sarebbe altrettanto semplicistico.

Perché Bass ha sollevato una domanda molto più interessante della risposta che propone.

Indipendente significa che non ricevi un bonifico?

METR ha affrontato pubblicamente il problema. Nell’agosto 2026 l’organizzazione ha dichiarato di aver raccolto circa 71 milioni di dollari di nuovi impegni finanziari in sei mesi, provenienti da fondazioni e donatori tra cui Pew Charitable Trusts, Schmidt Sciences, Packard Foundation, Sijbrandij Foundation, Audacious Project e altri soggetti.

METR afferma di non accettare finanziamenti dai frontier AI companies né donazioni effettuate dai loro dipendenti o su loro indicazione, ma aggiunge immediatamente qualcosa di interessante.

Le aziende AI forniscono gratuitamente una quantità significativa di token necessari alle evaluation, alla ricerca e alle attività ingegneristiche dell’organizzazione.

Non significa che comprino le conclusioni di METR, significa qualcosa di più strutturale e specifico: un evaluator della frontier AI non può essere completamente separato dall’industria che deve valutare, perché per svolgere il proprio lavoro ha bisogno dell’accesso ai suoi sistemi.

E la proposta di Amodei porterebbe questa relazione molto più avanti. Perché quando parliamo di badge aziendale, laptop, workspace interni, conversazioni con i dipendenti e accesso alle training pipeline e alle informazioni non pubbliche, l’indipendenza non può essere definita semplicemente dall’assenza di un pagamento diretto.

METR stessa ha già incontrato il problema

Un documento pubblicato dalla stessa organizzazione rende la questione ancora più interessante.

Tra febbraio e marzo 2026 METR ha condotto un pilot di Frontier Risk Assessment con Anthropic, Google, Meta e OpenAI. Le aziende hanno concesso accesso ai modelli interni più capaci e a informazioni riservate.

Nel rapporto finale METR riconosce però che all’inizio del progetto non disponeva di una policy applicabile sui conflitti di interesse del personale e che quindi l’esercizio non rispettava integralmente lo standard di indipendenza AEF-1 utilizzato come riferimento.

L’organizzazione aggiunge di stare sviluppando proprio quella policy e segnala inoltre che alcuni suoi dipendenti hanno forti relazioni sociali con persone che lavorano nei frontier lab e che METR opera in un centro di ricerca condiviso con personale proveniente da alcune aziende AI.

Tutto ciò dimostra quanto sia difficile costruire indipendenza reale dentro una comunità tecnologica estremamente piccola, nella quale ricercatori, finanziatori, laboratori, organizzazioni non profit e istituzioni si incontrano continuamente.

Ed è esattamente il problema che dovremo risolvere se gli evaluator diventeranno parte della regolazione.

Le Moody’s della frontier AI

La finanza conosce bene questa storia. Le agenzie di rating non sono diventate centrali perché possedevano più capitale delle banche, lo sono diventate perché il sistema finanziario ha attribuito alle loro valutazioni conseguenze regolatorie ed economiche.

Un voto poteva modificare il costo del capitale, determinare quali strumenti potevano essere detenuti da determinati investitori e influenzare miliardi di dollari di portafogli.

E quando un giudizio privato diventa un pezzo dell’infrastruttura regolatoria, l’indipendenza di chi lo produce smette di essere una questione reputazionale: diventa architettura del mercato.

Potrebbe accadere qualcosa di simile nell’AI.

Se un giorno una valutazione indipendente contribuisse a stabilire che un modello può essere addestrato oltre una determinata soglia, che necessita di ulteriori test oppure che una capability richiede nuovi safeguard, gli evaluator diventerebbero una sorta di agenzia di rating della frontiera.

Con una differenza: non starebbero assegnando una tripla A a un’obbligazione, starebbero contribuendo a stabilire quanto velocemente può avanzare una tecnologia.

Il paradosso: anche Jensen Huang vuole gli evaluator

Ed è qui che il dibattito degli ultimi giorni produce una convergenza sorprendente.

Jensen Huang non sembra condividere la proposta di rallentamento coordinato avanzata da Amodei. Nvidia continua a sostenere che l’AI possa avanzare rapidamente mantenendo livelli adeguati di sicurezza e Huang ha criticato alcune delle previsioni più catastrofiche sui rischi futuri.

Ma sugli evaluator indipendenti la posizione è molto più vicina a quella di Amodei.

Huang ha espresso sostegno all’idea di controlli esterni sui modelli e ha paragonato il loro ruolo a quello degli auditor: non devono necessariamente conoscere un’azienda meglio di chi la gestisce, ma devono essere in grado di verificare che i processi siano adeguati.

La divisione quindi diventa più sottile. Non safety contro accelerazione, ma safety con pacing contro safety senza pacing. E in entrambi i casi qualcuno dovrà misurare la safety.

Il problema non è METR

Questa è forse la distinzione più importante. Sarebbe facile trasformare la discussione in un’inchiesta su METR, Anthropic o Dustin Moskovitz e forse anche riduttivo.

Il problema esisterebbe con qualsiasi evaluator: chi lo finanzia, chi nomina i suoi vertici, quali partecipazioni finanziarie devono dichiarare dipendenti, amministratori e principali finanziatori, quanto tempo deve trascorrere prima che un ricercatore possa passare da un frontier lab all’organizzazione che lo controlla, o viceversa?

Sono tutte domande lecite, che aprono il fronte della riflessione ad altre questioni: chi stabilisce le metodologie? Un laboratorio può contestare una valutazione? Gli evaluator devono ruotare? Devono essercene diversi contemporaneamente? Chi verifica che abbiano realmente ricevuto l’accesso a tutte le informazioni necessarie?

E soprattutto, forse la domanda più importante, chi audita l’auditor?

Sono domande solo apparentemente burocratiche, nella realtà potrebbero determinare l’equilibrio competitivo della frontier AI.

L’indipendenza dovrà essere progettata

La soluzione probabilmente non sarà trovare un’organizzazione perfettamente estranea all’industria. Potrebbe non esistere.

Valutare frontier model richiede competenze rare, accesso ai sistemi e conoscenze che oggi sono concentrate proprio nell’ecosistema dei frontier lab.

La soluzione potrebbe quindi essere progettare l’indipendenza, anziché presupporla: disclosure complete sui finanziamenti, regole sui conflitti di interesse personali, rotazione degli evaluator, più organizzazioni incaricate dello stesso assessment nei casi più critici, metodologie verificabili, trasparenza sulle informazioni negate dai laboratori, libertà di pubblicare conclusioni negative, audit periodici degli stessi evaluator e, probabilmente, un ruolo pubblico nel definire chi possiede i requisiti per svolgere quella funzione.

Non sarebbe molto diverso da ciò che è accaduto in altri mercati quando soggetti privati sono diventati componenti dell’infrastruttura regolatoria.

La frontiera ha trovato un nuovo centro di potere

All’inizio di questa inchiesta la domanda sembrava essere relativamente semplice.

Dario Amodei propone di rallentare la crescita delle capability, Sam Altman, Elon Musk e Demis Hassabis riconoscono il problema, Donald Trump e una parte dell’amministrazione americana temono invece che qualsiasi rallentamento possa consegnare vantaggio alla Cina, mentre Nvidia vuole continuare ad accelerare il compute.

Poi la domanda è cambiata: se arrivano nuove regole, possono diventare una barriera competitiva?

Ora emerge un terzo livello.

Chi stabilisce che quelle regole siano state rispettate?

Kevin Bass sostiene di aver trovato una macchina di regulatory capture costruita intorno ad Anthropic. Le evidenze che presenta non bastano, a nostro avviso, a dimostrarlo. Ma la sua ricostruzione porta alla luce un problema che non scompare insieme alla sua interpretazione: se gli evaluator indipendenti diventeranno una componente permanente della governance dei frontier model, la loro indipendenza dovrà essere dimostrabile quanto la sicurezza dei modelli che saranno chiamati a valutare.

Perché la frontier AI potrebbe presto avere laboratori, regolatori, standard, audit e certificazioni. E quando accadrà, il potere non apparterrà soltanto a chi costruisce il modello, ma anche a chi potrà dire che è abbastanza sicuro da continuare.

La domanda, allora, non sarà più soltanto chi governa la frontiera, sarà chi avrà il diritto di certificare che può andare avanti.

.

→ Vai alla pagina dell’inchiesta “Chi governa la frontiera”