Evan Hubinger non è un opinionista in cerca di attenzione, né un ex dipendente che ha lasciato un’azienda per poi scoprirne improvvisamente i difetti. È il responsabile dell’Alignment Science di Anthropic, cioè una delle persone il cui mestiere consiste precisamente nel capire come impedire che sistemi di intelligenza artificiale molto più potenti degli attuali facciano cose che i loro creatori non desiderano. Il 9 settembre 2026 ha scritto pubblicamente qualcosa che, se pronunciato da un analista finanziario, farebbe probabilmente evaporare qualche miliardo di capitalizzazione: ritiene superiore al 10% la probabilità che l’AI possa uccidere tutti gli esseri umani entro il prossimo decennio.
Hubinger afferma che Anthropic sta facendo del suo meglio, ma non dispone ancora di un piano per risolvere il problema dell’allineamento della superintelligenza e non è chiaramente sulla traiettoria per riuscirci. Tradotto dal linguaggio rassicurante della Silicon Valley significa qualcosa di piuttosto semplice: l’azienda che ha costruito gran parte della propria reputazione proprio sulla sicurezza dell’AI ammette di non sapere ancora come rendere sicuro il sistema che considera potenzialmente più pericoloso.
Ha precisato che il rischio associato ai modelli presenti è basso e che la sua preoccupazione riguarda una possibile superintelligenza prodotta attraverso il miglioramento ricorsivo dei sistemi AI, scenario nel quale un modello potrebbe contribuire a progettare sistemi successivi sempre più capaci. È esattamente questo salto qualitativo, non il chatbot che scrive male una mail al commercialista, a rappresentare il centro della preoccupazione.
Hubinger non stava parlando nel vuoto….Stava rispondendo alle dimissioni di Jacob Coxon, ricercatore che ha lavorato per tre anni nella ricerca sul pre-training, prima in OpenAI e poi in Anthropic. Coxon ha accusato entrambe le aziende di comportarsi irresponsabilmente, sostenendo che la corsa verso sistemi capaci di migliorarsi autonomamente stia trasformando una questione di sicurezza collettiva in una gara privata fra società tecnologiche. Secondo la sua denuncia, chi costruisce questi sistemi crede realmente che possano diventare estremamente pericolosi, mentre la comunicazione pubblica tende a essere molto più prudente delle conversazioni interne.
C’è una frase di Coxon che merita più attenzione di molti paper accademici: le aziende stanno “scommettendo con le nostre vite”. Il punto non è stabilire se abbia ragione sulla data, sulla probabilità o persino sull’ipotesi estrema dell’estinzione. Il punto è capire l’incentivo economico dentro cui questa tecnologia viene sviluppata. Se una società rallenta volontariamente mentre i concorrenti continuano ad aumentare capacità, capitale e potenza computazionale, rischia di perdere la gara. Se accelera e tutti gli altri fanno lo stesso, il costo della prudenza diventa immediatamente competitivo. È una classica dinamica da teoria dei giochi, solo che questa volta il premio non è semplicemente una quota di mercato.
Anthropic rappresenta forse il caso più interessante proprio perché non può essere liquidata come la caricatura della startup che mette il profitto davanti a tutto. L’azienda è stata costruita intorno alla sicurezza, all’allineamento e alla ricerca sui rischi dei modelli avanzati. Se anche al suo interno un ricercatore responsabile dell’allineamento dichiara pubblicamente che non esiste ancora una soluzione per l’allineamento della superintelligenza, il problema non riguarda più soltanto la cultura irresponsabile di qualche laboratorio particolarmente aggressivo. Riguarda il fatto che la capacità tecnologica potrebbe crescere più rapidamente della nostra capacità di dimostrarne la sicurezza.
Qui la parola decisiva è “dimostrare”. Nel software tradizionale possiamo avere vulnerabilità, ma disponiamo almeno di una struttura concettuale relativamente stabile: definiamo requisiti, testiamo il sistema, analizziamo il codice, limitiamo i permessi, osserviamo il comportamento. Con una superintelligenza capace di modificare se stessa, sviluppare nuove strategie e operare attraverso infrastrutture digitali, il problema cambia natura. Non stiamo più cercando soltanto bug dentro un programma. Stiamo cercando di prevedere il comportamento di un sistema che potrebbe diventare molto più competente di chi lo deve controllare.
La Silicon Valley, naturalmente, continua a usare il vocabolario dell’ottimismo industriale. Più capacità, più agenti, più autonomia, più automazione, più ricerca automatizzata. È comprensibile: ogni nuova capacità può diventare un prodotto, e ogni prodotto può diventare una gigantesca valutazione finanziaria. La sicurezza, invece, produce un risultato commerciale molto meno spettacolare: impedisce che accada qualcosa. È difficile organizzare una conferenza da miliardi di dollari intorno a un incidente che non è successo.
Le aziende stanno investendo centinaia di miliardi in infrastrutture, chip, data center e ricerca per arrivare a sistemi sempre più autonomi, mentre uno dei responsabili della ricerca sull’allineamento dice che non esiste ancora un piano affidabile per risolvere il problema dell’allineamento della superintelligenza. È come costruire un aereo supersonico mentre il reparto sicurezza ammette di non avere ancora capito completamente come funzionano i freni. La differenza, poco trascurabile, è che l’aereo non può decidere autonomamente di diventare più veloce.
Il rischio del catastrofismo, tuttavia, è quasi altrettanto serio del rischio opposto. Una probabilità soggettiva superiore al 10% non è una previsione scientifica dell’apocalisse. È una valutazione personale su uno scenario altamente incerto. Confondere una stima di rischio con una profezia sarebbe un errore metodologico enorme. Il valore della dichiarazione di Hubinger sta altrove: proviene da qualcuno che passa professionalmente il proprio tempo a studiare proprio quei meccanismi e che, invece di rassicurare il pubblico, ammette l’assenza di una soluzione.
La parte più inquietante non è quindi che qualcuno dica che potremmo essere tutti morti nel 2036. È che chi dovrebbe sapere come impedirlo ammetta di non sapere ancora come farlo, mentre l’industria continua ad accelerare. Anthropic non sta annunciando la fine del mondo. Sta rendendo pubblico qualcosa di molto più scomodo: la corsa verso la superintelligenza potrebbe essere iniziata prima che la disciplina necessaria per governarla sia pronta.
Dopo trent’anni di tecnologia, una regola resta sorprendentemente affidabile: quando un’industria dice di poter costruire qualcosa prima di sapere come controllarlo, il problema non è soltanto tecnologico. È industriale, finanziario e politico. Nel caso dell’intelligenza artificiale avanzata, la differenza è che questa volta il beta test potremmo essere noi.