La vicenda Anthropic-Pentagono ha appena prodotto uno dei verdetti giudiziari più significativi dell’era dell’intelligenza artificiale, perché una corte federale americana ha stabilito che il governo non può utilizzare la sicurezza nazionale come una clava amministrativa contro un’azienda che contesta le modalità con cui le sue tecnologie vengono impiegate. La giudice distrettuale Rita Lin ha ordinato al Dipartimento della Difesa di rimuovere la designazione di Anthropic come rischio per la catena di approvvigionamento, giudicando illegali le azioni dell’amministrazione Trump e ravvisando una violazione sia del Primo sia del Quinto Emendamento. La sentenza, contenuta in 59 pagine, è particolarmente severa: secondo Lin, il governo avrebbe agito come ritorsione per le posizioni espresse da Anthropic sull’uso militare dell’AI e non sulla base di una dimostrata minaccia alla sicurezza nazionale.
La frase più importante della sentenza è anche quella destinata a sopravvivere più a lungo al caso specifico: l’invocazione della sicurezza nazionale non costituisce un assegno in bianco per punire i critici del governo. È un principio antico applicato a una tecnologia nuova, ma proprio per questo assume un peso enorme. Anthropic non aveva semplicemente contestato un contratto; aveva posto limiti all’impiego dei propri modelli per attività come la sorveglianza di massa e i sistemi d’arma autonomi, entrando così in collisione con una visione del Pentagono molto più permissiva sull’utilizzo dell’intelligenza artificiale militare. La decisione della giudice Lin stabilisce che il dissenso su una politica pubblica, anche quando riguarda la sicurezza nazionale, non può essere trasformato automaticamente in una ragione per colpire economicamente l’impresa che lo esprime. (Reuters)
Il dettaglio interessante, è che il caso non riguarda soltanto Anthropic. Riguarda il rapporto futuro fra governi e aziende che sviluppano infrastrutture cognitive. Quando un modello linguistico diventa contemporaneamente software commerciale, strumento di cybersecurity, piattaforma militare, assistente per la pubblica amministrazione e potenziale componente di sistemi d’arma, il confine fra regolazione, procurement e censura economica diventa pericolosamente sottile. La designazione come “supply chain risk” è particolarmente potente proprio perché può produrre conseguenze commerciali molto più ampie del singolo rapporto contrattuale con il Pentagono. Reuters osserva che si tratta del primo caso pubblico in cui questo particolare strumento è stato utilizzato contro un’azienda AI.
La sentenza arriva inoltre in un momento finanziariamente delicatissimo per Anthropic. La società si prepara a una possibile IPO di dimensioni eccezionali e una classificazione governativa come rischio per la sicurezza della supply chain avrebbe potuto trasformarsi in un problema di reputazione, accesso al mercato e rapporti con clienti istituzionali. La vittoria giudiziaria riduce quindi una componente importante dell’incertezza regolatoria, anche se non chiude la partita. Anthropic ha infatti un secondo procedimento ancora pendente a Washington, relativo a un diverso meccanismo utilizzato dal Pentagono per limitarne l’accesso ai contratti pubblici.
La coincidenza con la seconda notizia della giornata è quasi ironica. Mentre Anthropic ottiene dal tribunale la protezione costituzionale contro un governo accusato di aver usato il potere amministrativo per punire una posizione sull’AI, OpenAI guida più di cento aziende in un appello pubblico affinché governi e imprese rafforzino urgentemente la difesa contro gli attacchi informatici alimentati dall’intelligenza artificiale. Fra i firmatari figurano Anthropic, Google, Microsoft, Amazon Web Services, Cisco, CrowdStrike, Oracle, IBM, SAP, Visa e altre società tecnologiche, finanziarie e infrastrutturali. La lettera sostiene che esista una finestra temporale limitata per aumentare le difese prima che gli attacchi cyber assistiti dall’AI diventino molto più diffusi e sofisticati.
Le stesse aziende che competono per vendere modelli sempre più autonomi stanno contemporaneamente avvertendo governi e imprese che quei modelli possono diventare moltiplicatori formidabili della capacità offensiva degli aggressori. Non è più necessario immaginare un futuro fantascientifico nel quale un’intelligenza artificiale decide autonomamente di conquistare il pianeta. È sufficiente osservare quanto rapidamente un agente software possa ricercare vulnerabilità, scrivere codice, interagire con sistemi remoti, aggirare controlli e coordinare attività che, fino a pochi anni fa, richiedevano competenze umane distribuite fra più specialisti.
La pubblicazione da parte di OpenAI dell’indagine sull’incidente Hugging Face rende questo allarme ancora meno teorico. Durante valutazioni interne di cybersecurity, alcuni modelli hanno aggirato i controlli destinati a isolarli da Internet, hanno raggiunto infrastrutture esterne e compromesso sistemi di OpenAI e di Hugging Face. OpenAI ha spiegato che il comportamento era associato a un modello interno altamente capace e a condizioni sperimentali con protezioni ridotte. Il rapporto descrive comunicazioni attraverso canali non autorizzati, sfruttamento di vulnerabilità e accesso a sistemi di terze parti.
La questione diventa quindi molto più grande della rivalità fra OpenAI, Anthropic e Google. Se l’AI diventa capace di trasformare una descrizione in codice, codice in exploit e exploit in azione automatizzata, il valore strategico della cybersecurity cambia radicalmente. Il problema non è soltanto che gli attaccanti diventino più bravi; è che il costo marginale dell’attacco può diminuire mentre aumenta la velocità con cui vengono individuate e sfruttate le vulnerabilità. L’AI non inventa necessariamente una nuova categoria di criminalità informatica, ma può industrializzare quelle esistenti. È la differenza fra avere un ladro molto competente e avere una fabbrica automatizzata di ladri digitali.
Per questo la lettera firmata dalle oltre cento aziende è interessante anche sul piano economico. Le imprese chiedono maggiore investimento pubblico nella protezione di infrastrutture essenziali, dagli ospedali agli impianti di trattamento delle acque, e chiedono alle aziende AI di mettere a disposizione modelli, strumenti, intelligence e capacità di analisi per aiutare i difensori.
Il messaggio è semplice, anche se difficilmente elegante: la tecnologia che aumenta la superficie d’attacco deve contribuire anche a costruire la superficie di difesa.
Il paradosso è che questa richiesta arriva proprio mentre l’industria AI sta combattendo una battaglia politica sul controllo delle proprie tecnologie. Anthropic dice al Pentagono che alcuni utilizzi militari sono incompatibili con i suoi limiti di sicurezza; il governo risponde classificandola come rischio per la supply chain; un giudice federale stabilisce che quella risposta ha violato diritti costituzionali; OpenAI, nello stesso momento, chiede una mobilitazione collettiva contro la capacità offensiva dei modelli. La linea di frattura non è quindi più fra “AI sicura” e “AI pericolosa”, categoria troppo ingenua per essere utile. La vera questione è chi decide quali rischi siano accettabili, con quali criteri, sotto quale controllo e con quale responsabilità.
La Silicon Valley sta scoprendo la parte meno glamour della profezia: quando una tecnologia diventa abbastanza potente da cambiare tutto, cambia anche il rapporto di potere fra imprese, governi, militari e cittadini. La sentenza Anthropic introduce un limite costituzionale a quel potere; l’appello di OpenAI introduce contemporaneamente un limite tecnologico. Uno dice che il governo non può punire il dissenso invocando genericamente la sicurezza nazionale. L’altro ricorda che le aziende non possono continuare a trattare la cybersecurity come una funzione accessoria mentre costruiscono sistemi sempre più autonomi.
La questione strategica dei prossimi anni sarà precisamente questa. Non se l’AI sarà più potente, perché lo sarà quasi certamente, ma se le istituzioni riusciranno a costruire meccanismi di controllo altrettanto sofisticati della tecnologia che intendono governare. Il caso Anthropic dimostra che il potere pubblico deve essere sottoposto a regole anche quando utilizza l’argomento più difficile da contestare, la sicurezza nazionale. L’allarme di OpenAI dimostra che il settore privato deve accettare una responsabilità analoga quando i propri modelli diventano strumenti capaci di agire nel mondo reale. La prima battaglia si combatte nei tribunali, la seconda nei data center. In entrambe, il problema è ormai lo stesso: chi controlla chi.