La Corte d’Appello di Washington conferma, con una decisione 2 a 1, la designazione di Anthropic come rischio per la supply chain della sicurezza nazionale. Al centro dello scontro non c’è un’AI fuori controllo, ma il contrario: un modello costruito per rifiutare alcuni ordini. Una sentenza che tocca la strategia di Dario Amodei e apre una domanda anche in vista dell’IPO: quanto vale la safety quando diventa un limite al mercato?

Anthropic ha costruito Claude perché fosse capace di dire di no. No alle armi completamente autonome, no alla sorveglianza domestica di massa, no, più in generale, a determinati utilizzi che l’azienda considera incompatibili con i propri principi di sicurezza.

Ora proprio quella capacità di dire di no è diventata il cuore di una delle decisioni giudiziarie più importanti finora pronunciate sul rapporto tra intelligenza artificiale e potere dello Stato.

Il 25 settembre la U.S. Court of Appeals for the District of Columbia Circuit ha respinto, con una decisione 2 a 1, il ricorso di Anthropic contro la decisione del Department of War di considerare l’azienda un supply chain risk per la sicurezza nazionale e di escludere Claude dalla propria catena di approvvigionamento. La decisione riguarda anche i contractor che lavorano per il Dipartimento e utilizzano i sistemi Anthropic nell’ambito delle attività interessate dalla restrizione.

Non significa che un tribunale abbia stabilito che Claude sia, in assoluto, una “minaccia alla sicurezza nazionale”. La questione è più precisa e, proprio per questo, più interessante.

Il problema è stabilire se un fornitore che conserva la capacità di determinare ciò che il proprio modello può e non può fare rappresenti un rischio quando quel modello diventa parte di un’infrastruttura militare.

La maggioranza della Corte ha risposto sostanzialmente di sì ed è qui che la vicenda smette di riguardare soltanto Anthropic.

Il Pentagono non teme che Claude perda il controllo. Teme che Anthropic lo controlli troppo

Il passaggio centrale della sentenza è quasi un rovesciamento dell’intero dibattito sulla AI safety.

Fino a questo momento l’oggetto della discussione è sempre stato il rischio che modelli sempre più potenti possano comportarsi in modi non previsti dai loro sviluppatori. Anthropic è probabilmente l’azienda che più di ogni altra ha costruito la propria identità attorno a questo problema.

Nel caso del Pentagono, però, il rischio viene osservato dalla direzione opposta. Non è che Claude faccia qualcosa che Anthropic non vuole ma che non faccia qualcosa che il governo americano vuole.

La sentenza ricorda che la stessa Anthropic incorpora nel modello restrizioni destinate a impedirgli di svolgere determinati compiti, cosa che la società non lo ha mai nascosto perché parte integrante della sua filosofia di sviluppo.

Il Chief Science Officer dell’azienda ha spiegato che Anthropic cerca di incorporare direttamente nel modello le considerazioni di sicurezza. Dario Amodei ha descritto un processo attraverso il quale il training contribuisce a dare a Claude una propria “identity, character, values, and personality”, ancorata a una “constitution” costruita per incorporare principi e valori di alto livello.

Il punto però è che quello che per Anthropic è alignment, per un cliente militare può diventare qualcosa di diverso: vendor control.

La Corte dice di non avere motivo di dubitare delle buone intenzioni di Anthropic. Ma aggiunge un passaggio decisivo: la definizione legale di supply chain risk dipende da ciò che Anthropic è in grado di fare, non dal motivo per cui lo fa.

In altre parole, le intenzioni possono essere nobili, il rischio operativo rimane.

Quando Claude ha già detto di no

Il confronto non nasce soltanto dai due limiti più conosciuti imposti da Anthropic all’impiego militare della propria tecnologia: niente armi completamente autonome e niente sorveglianza domestica di massa.

Negli atti della causa emergono episodi molto più concreti. Secondo quanto ricostruito dalla Corte, in più di un’occasione le restrizioni incorporate in Claude avrebbero impedito al modello di svolgere compiti richiesti da utenti governativi e considerati appropriati in un contesto di sicurezza nazionale.

Tra gli esempi citati figurano attività riguardanti threat assessment, documenti classificati e comunicazioni intercettate contenenti materiale violento.

Persino i Centers for Disease Control and Prevention avrebbero incontrato rifiuti nell’utilizzare Claude per alcune richieste relative alla ricerca sulla prevenzione delle malattie infettive.

E all’inizio del 2026 era emerso un confronto tra Anthropic e il governo sull’utilizzo del modello nell’ambito di un’operazione militare all’estero.

Presi singolarmente possono sembrare dei casi limite ma visti dal Pentagono sono invece esattamente il problema. Un sistema AI integrato nella macchina militare non è semplicemente un chatbot utilizzato da un dipendente, può diventare parte di processi di intelligence, analisi, cyber operations, logistica e supporto alle decisioni.

Se il fornitore conserva indirettamente la capacità di stabilire quali richieste siano ammissibili, il governo non controlla completamente una tecnologia dalla quale potrebbe dipendere ed è difficile immaginare un cliente più sensibile a questo problema delle forze armate.

Due definizioni opposte di “AI sicura”

La sentenza porta così alla luce un conflitto che finora era rimasto quasi nascosto dietro il termine safety. Per Anthropic, un modello sicuro è anche un modello capace di rifiutare determinati comportamenti, mentre per il Pentagono, un modello sicuro deve anche essere un modello che esegue in maniera affidabile ciò che gli viene legalmente richiesto.

Le due cose possono convivere finché tutti concordano su ciò che il sistema non deve fare. Quando quel consenso scompare, cambia tutto.

Anthropic teme, per esempio, un sistema insufficientemente controllato che possa contribuire a decisioni letali inappropriate ma, dal punto di vista del Pentagono, il rischio ricade nella fattispecie opposta, ovvero se si tratti di un sistema talmente vincolato da non funzionare quando diventa necessario durante un’operazione.

Su questo punto, la maggioranza della Corte non stabilisce quale delle due filosofie sia migliore. Stabilisce qualcosa di politicamente molto più rilevante: nel sistema costituzionale americano spetta al Presidente e al responsabile del Dipartimento della Guerra decidere come bilanciare questi rischi nell’esercizio delle funzioni di sicurezza nazionale.

La domanda diventa quindi inevitabile: chi deve avere l’ultima parola sul comportamento di un modello utilizzato dallo Stato, chi lo costruisce o chi lo compra?

Amodei e il timing quasi perfetto

La decisione arriva in un momento particolare per Anthropic. Dario Amodei ha intensificato nelle ultime settimane il proprio intervento pubblico sui rischi derivanti dalla corsa alla frontiera dell’intelligenza artificiale. Con We Must Pace the Frontier ha sostenuto la necessità di introdurre meccanismi più robusti di valutazione e controllo, arrivando a proporre un accesso molto più profondo ai modelli da parte di valutatori esterni.

Su questo punto in ogni caso è importante non confondere correlazione e causalità. La maggioranza non ha stabilito che Anthropic debba essere esclusa perché Amodei parla troppo di AI safety. Anzi, nella controversia l’azienda ha sostenuto che l’azione governativa fosse anche una forma di ritorsione per le proprie posizioni pubbliche, mentre l’amministrazione ha ricondotto il conflitto alle restrizioni operative e al rifiuto di accettare l’impiego di Claude per tutti gli usi legittimi richiesti dal governo. Il rapporto tra Anthropic e l’amministrazione Trump, peraltro, aveva mostrato nei mesi scorsi anche segnali di distensione, proprio mentre la società si preparava alla possibile quotazione.

Ma resta difficile ignorare il contrasto. Anthropic teme un’intelligenza artificiale troppo potente per essere controllata dagli esseri umani mentre il Pentagono teme un’intelligenza artificiale troppo controllata da Anthropic per poter essere considerata affidabile in guerra.

Sono due facce della stessa questione. E probabilmente è questo che rende la sentenza molto più importante del contratto che Anthropic ha perso.

La safety adesso ha un prezzo

Poi c’è Wall Street. La controversia arriva mentre Anthropic si prepara al passaggio più delicato della propria storia finanziaria: una possibile IPO.

Ed è qui che il caso Pentagono apre una domanda che gli investitori non potranno liquidare come una semplice disputa politica. Anthropic ha costruito una parte considerevole del proprio posizionamento competitivo sulla safety.

Per il mercato enterprise questo può essere un vantaggio enorme. Un modello percepito come più controllabile, affidabile e prudente può essere particolarmente interessante per banche, assicurazioni, aziende farmaceutiche, studi legali e grandi corporation che non possono permettersi comportamenti imprevedibili dei propri sistemi AI. Safety, quindi, come moat.

Ma la stessa architettura può produrre l’effetto contrario: può escludere determinati mercati, ridurre gli use case disponibili, provocare conflitti con clienti che pretendono maggiore controllo e, nel caso più estremo, contribuire a rendere il fornitore incompatibile con uno dei clienti tecnologicamente e finanziariamente più importanti del mondo: il governo degli Stati Uniti. Safety, quindi, anche come constraint.

Anthropic ha sostenuto che la designazione le abbia provocato perdite commerciali per miliardi di dollari e danni reputazionali. La Corte ha mostrato scetticismo almeno su quest’ultimo punto, osservando che dopo la decisione del governo la valutazione attribuita alla società dagli investitori privati ha continuato a crescere rapidamente.

Non abbiamo quindi elementi per concludere che questa sentenza possa compromettere l’IPO ma in ogni caso abbiamo un elemento nuovo che gli investitori dovranno necessariamente prezzare.

Quanto vale un’azienda AI che considera parte della propria missione il diritto di rifiutare alcuni dei mercati che potrebbe servire?

Il diritto di dire no

È probabilmente questo il punto più interessante per capire Anthropic. Per molte aziende una limitazione di prodotto è qualcosa da eliminare mentre per Anthropic può essere parte del prodotto.

La promessa implicita fatta da Amodei al mercato è che il valore di Claude derivi anche dall’esistenza di limiti che l’azienda non è disposta a rimuovere semplicemente perché un cliente lo richiede.

A pensarci bene si tratta di una posizione molto potente dal punto di vista identitario, ma ora sappiamo che ha anche un prezzo economico.

E il caso del Pentagono permette persino di immaginare una situazione apparentemente assurda: la stessa caratteristica che potrebbe rendere Claude più appetibile per un consiglio di amministrazione preoccupato dei rischi dell’AI potrebbe renderlo meno appetibile per un’organizzazione che pretende invece pieno controllo operativo.

Non esiste quindi una sola definizione universale di AI affidabile perché alla fine tutto dipende da chi deve fidarsi.

Il precedente che riguarda tutta la frontiera

Ed è qui che la storia smette definitivamente di riguardare soltanto Anthropic. OpenAI, Google, xAI e gli altri sviluppatori di frontier models dovranno affrontare prima o poi lo stesso problema se i loro sistemi diventeranno componenti strutturali delle amministrazioni pubbliche, delle infrastrutture critiche e delle forze armate.

Finché un modello serve a scrivere una presentazione, la questione di chi ne determini i valori può sembrare filosofica ma quando quel modello entra nella sicurezza nazionale diventa una questione di sovranità.

Un governo può accettare che un’impresa privata stabilisca quali ordini la propria intelligenza artificiale sia autorizzata a eseguire?

E, dall’altra parte, un laboratorio dovrebbe essere obbligato a rimuovere i propri limiti perché il cliente è uno Stato e l’utilizzo richiesto è legale?

La sentenza del 25 settembre non risolve questo conflitto. Stabilisce però che, almeno nel perimetro della supply chain militare americana esaminato dalla Corte, il governo può considerare quella dipendenza dal fornitore un rischio per la sicurezza nazionale.

Per anni Anthropic ha costruito la propria identità intorno a una domanda, come impedire che un’intelligenza artificiale sempre più potente faccia qualcosa che gli esseri umani non vogliono. Il Pentagono ne ha appena posta un’altra: cosa succede quando chi costruisce l’intelligenza artificiale decide che non farà qualcosa che il governo vuole?

A quel punto il problema non è più soltanto allineare l’AI all’uomo, è decidere quale uomo abbia il diritto di allinearla.