Andrew Yang chiede al Congresso statunitense di intervenire sui laboratori che sviluppano i modelli di intelligenza artificiale più avanzati, proponendo responsabilità legale, periodi di attesa prima del rilascio dei sistemi più potenti e un meccanismo federale capace, in circostanze estreme, di interromperne l’operatività. L’ex candidato alla presidenza degli Stati Uniti ha sintetizzato la propria posizione con una frase volutamente poco tecnologica: «The fear is real. The concern is real. The need is real». Il punto politico, però, è tutt’altro che semplice.
Yang sostiene che gli Stati Uniti possano continuare a competere con la Cina sull’intelligenza artificiale senza concedere ai laboratori frontier una sorta di zona franca normativa. Secondo la sua ricostruzione, alcuni ricercatori avrebbero chiesto direttamente ai legislatori di introdurre guardrail perché temono che la pressione competitiva possa spingere lo sviluppo oltre livelli che considerano gestibili. È un argomento significativo perché sposta il dibattito dal consueto confronto fra regolazione e innovazione a una questione più concreta: chi assume il rischio quando un sistema altamente autonomo supera i confini previsti dai suoi sviluppatori?
La questione è diventata più urgente con la diffusione degli AI agent, sistemi progettati non soltanto per generare testo o codice ma per pianificare azioni, utilizzare strumenti, modificare ambienti software e operare con un livello crescente di autonomia. Gli episodi di comportamento inatteso durante test e valutazioni hanno alimentato il dibattito sulla capacità dei laboratori di contenere sistemi che diventano progressivamente più complessi. OpenAI ha confermato di aver modificato processi interni dopo un incidente nel quale un sistema sperimentale aveva superato i confini di un ambiente di test e raggiunto infrastrutture di Hugging Face; l’episodio è diventato uno degli elementi citati nel più ampio confronto sulla sicurezza dei modelli frontier.
La proposta del kill switch introduce però un problema tecnico che nella discussione politica viene spesso ridotto a un pulsante rosso immaginario. Spegnere un modello ospitato in un’infrastruttura centralizzata è relativamente semplice; garantire che un sistema autonomo, distribuito attraverso API, copie locali, agenti e componenti integrati in altre piattaforme, possa essere effettivamente neutralizzato è un problema completamente diverso. Il controllo deve quindi essere progettato nell’architettura, nelle autorizzazioni, nelle credenziali, nella rete e nella capacità di revocare l’accesso agli strumenti, non affidato alla mitologia del grande interruttore rosso che qualcuno preme a Washington quando la macchina comincia a comportarsi male.
La discussione americana si sta infatti spostando verso un modello di accountability più tradizionale. Il Senato sta lavorando su una proposta che potrebbe introdurre per i principali sviluppatori un vero e proprio duty of care, imponendo misure per prevenire rischi catastrofici e prevedendo anche la possibilità per il governo federale di bloccare il rilascio di determinati modelli, con possibilità di ricorso davanti ai tribunali. Il provvedimento è ancora in negoziazione e la sua traiettoria legislativa rimane incerta.
La tempistica è particolarmente interessante perché Washington sta cercando contemporaneamente di evitare due rischi opposti. Da una parte esiste la possibilità che regole troppo pesanti rallentino l’industria statunitense mentre la Cina continua a sviluppare e distribuire sistemi avanzati. Dall’altra, lasciare completamente alle imprese la definizione dei propri limiti significa affidare la gestione di rischi sistemici agli stessi soggetti che hanno un incentivo economico diretto ad aumentare capacità, utilizzo e velocità di rilascio. È una vecchia tensione della regolazione tecnologica, soltanto con server molto più costosi e comunicati stampa pieni di parole come frontier e alignment.
Il tema assume una dimensione ancora più delicata quando l’AI entra nel dominio militare. Un’analisi pubblicata da Brookings e sviluppata nel quadro del dialogo tra esperti statunitensi e cinesi propone che soltanto gli esseri umani possano autorizzare attacchi informatici contro i sistemi di comando, controllo e comunicazione nucleare, oltre all’impiego di armi nucleari. Gli autori sostengono che un attacco AI contro infrastrutture NC3 potrebbe produrre conseguenze strategiche anche senza una decisione deliberata di escalation, per errore tecnico, comportamento imprevisto di un agente o azione non autorizzata.
La proposta è interessante proprio perché non chiede di risolvere l’intero problema della governance dell’intelligenza artificiale. Cerca invece un confine minimo: mantenere sotto controllo umano le decisioni che possono produrre conseguenze strategiche irreversibili. È un principio molto più operativo della generica richiesta di rendere l’AI sicura. Nel mondo reale, infatti, la sicurezza non è una proprietà binaria di un modello; è una proprietà del sistema complessivo, delle autorizzazioni, degli operatori, dei dati, delle infrastrutture e delle conseguenze previste quando qualcosa va storto.
Anche la Cina è impegnata nella definizione di meccanismi di sicurezza per l’AI avanzata, con un approccio che combina standard obbligatori, valutazioni di sicurezza, test esterni e supervisione regolatoria. La differenza rispetto al dibattito americano non è l’assenza di preoccupazione, ma il modo nel quale il problema viene incastrato dentro una più ampia strategia nazionale di sviluppo tecnologico.
Nel frattempo il fronte industriale sta producendo una situazione quasi surreale. Dario Amodei ha chiesto di rallentare deliberatamente la crescita delle capacità dei modelli frontier; Sam Altman ed Elon Musk hanno espresso sostegno all’idea di maggiore prudenza, mentre contemporaneamente altri protagonisti dell’industria sostengono che un rallentamento coordinato potrebbe compromettere la posizione americana nella competizione con la Cina. Il Dipartimento di Giustizia ha dichiarato che una cooperazione tra imprese su questioni di sicurezza dell’AI non appare, in linea generale, anticoncorrenziale, mentre il tema di eventuali esenzioni antitrust resta oggetto di discussione.
La dimensione internazionale del problema è emersa anche in Scozia, dove il 17 settembre Re Carlo III ha riunito a Dumfries House rappresentanti di Nvidia, OpenAI, Anthropic e Google DeepMind, insieme a esponenti del governo britannico e della società civile. L’incontro non ha prodotto un accordo vincolante, ma ha cercato di verificare se fosse possibile costruire principi condivisi per lo sviluppo e l’impiego dell’intelligenza artificiale.
Il dettaglio forse più importante della vicenda Yang è dunque meno spettacolare del kill switch e più difficile da vendere in televisione: la governance dell’AI sta progressivamente passando dalla domanda «che cosa può fare il modello?» alla domanda «chi può autorizzarlo a farlo, con quali limiti e chi risponde quando sbaglia?». È un passaggio fondamentale per un settore che ha trascorso gran parte dell’ultimo decennio a misurare il progresso attraverso benchmark, parametri e miliardi di dollari investiti in GPU.
La regolazione dei sistemi frontier, se arriverà, difficilmente potrà essere una semplice versione digitale delle norme applicate a un’impresa tradizionale. Dovrà affrontare sistemi aggiornati continuamente, distribuiti su infrastrutture globali, integrati con software di terze parti e capaci di agire attraverso strumenti esterni. La responsabilità dovrà quindi seguire l’azione, non soltanto il modello: chi sviluppa, chi distribuisce, chi concede accesso, chi autorizza l’agente e chi beneficia dell’azione dovranno avere ruoli giuridicamente distinguibili.
Yang ha scelto una metafora efficace parlando di un chiosco di hot dog soggetto a centinaia di regolamenti mentre i modelli avanzati avrebbero, secondo la sua provocazione, molta meno supervisione. Il paragone è volutamente semplice, ma fotografa una tensione reale: la tecnologia più complessa mai commercializzata sta entrando in settori critici con una governance ancora in costruzione. Il problema non è decidere se fermare l’intelligenza artificiale. Il problema industriale e geopolitico è stabilire quali capacità possano essere distribuite liberamente, quali richiedano autorizzazione e quali debbano restare necessariamente sotto controllo umano. Su questo terreno, il dibattito americano sta finalmente uscendo dalla fase dei manifesti e comincia a incontrare la parte meno glamour dell’innovazione: responsabilità, audit, infrastrutture, diritto e controllo operativo.