Il segretario generale delle Nazioni Unite António Guterres e la presidente del Comitato internazionale della Croce Rossa Mirjana Spoljaric hanno rilanciato il 25 agosto una richiesta che, nel lessico della diplomazia internazionale, ha un peso tutt’altro che simbolico: gli Stati devono adottare rapidamente regole giuridicamente vincolanti sui sistemi d’arma autonomi, vietando alcune categorie e sottoponendone altre a restrizioni severe. La formula utilizzata da Guterres è deliberatamente più forte rispetto alle abituali dichiarazioni diplomatiche: il mondo sarebbe pericolosamente vicino a oltrepassare una “linea morale” con il targeting autonomo degli esseri umani da parte delle macchine.
La questione non è più quella, quasi cinematografica, del robot che decide di propria iniziativa di attaccare un essere umano. Il problema tecnologico reale è molto più prosaico e quindi molto più inquietante. Un sistema autonomo può combinare sensori, computer vision, modelli di classificazione, dati provenienti da più piattaforme e algoritmi di decisione per identificare un oggetto, attribuirgli una probabilità di essere un bersaglio e procedere all’ingaggio entro una finestra temporale nella quale l’intervento umano diventa difficile, tardivo o puramente nominale. La macchina non deve essere cosciente. Deve soltanto essere abbastanza veloce da rendere l’uomo irrilevante.
Un drone tradizionale richiede operatori, comunicazioni, infrastruttura e spesso una catena decisionale relativamente visibile. Un sistema autonomo trasferisce una parte crescente del costo cognitivo dalla persona al software. Quando il software diventa replicabile, il problema non è più soltanto quanto costa un’arma, ma quante decisioni letali possono essere prodotte contemporaneamente. La scalabilità, che nella Silicon Valley viene celebrata come una virtù industriale, sul campo di battaglia può diventare una proprietà terribile.
L’ICRC sottolinea che il rischio non riguarda soltanto l’accuratezza tecnica. In guerra le condizioni cambiano continuamente: un combattente può arrendersi, un ferito può diventare una persona protetta dal diritto internazionale umanitario, un civile può entrare nell’area operativa di un sistema autonomo, un edificio può cambiare funzione. Un algoritmo può essere eccellente nel riconoscere pattern e tuttavia incapace di comprendere il significato giuridico e umano di una situazione che cambia in pochi secondi. È una distinzione fondamentale: riconoscere un oggetto non significa comprendere una situazione.
La tecnologia militare ha inoltre una caratteristica che il dibattito commerciale sull’AI tende curiosamente a dimenticare: gli errori non producono semplicemente una risposta sbagliata. Producono conseguenze irreversibili. Un chatbot che allucina un dato può essere corretto nel turno successivo. Un sistema d’arma che classifica erroneamente un civile non dispone del pulsante “undo”. La differenza tra AI generativa e AI letale non è dunque soltanto una questione di accuratezza del modello. È una questione di reversibilità dell’errore.
Le Nazioni Unite e la Croce Rossa non stanno chiedendo semplicemente di spegnere l’intelligenza artificiale militare. La posizione è più articolata: alcune armi autonome dovrebbero essere proibite, mentre altre dovrebbero essere sottoposte a restrizioni capaci di garantire controllo umano e conformità al diritto internazionale umanitario. L’obiettivo è arrivare a norme specifiche prima che la proliferazione tecnologica renda politicamente impossibile introdurle. L’ICRC considera la conferenza di revisione della Convention on Certain Conventional Weapons prevista a Ginevra nel novembre 2026 un’occasione decisiva per avviare negoziati su un nuovo protocollo.
Il problema è che la diplomazia corre dietro alla tecnologia con lo stesso rapporto di velocità che normalmente esiste fra un comitato pubblico e una startup ben finanziata. I negoziati internazionali sui sistemi d’arma autonomi sono in corso a Ginevra da anni e il consenso resta difficile, soprattutto perché le principali potenze militari hanno interessi strategici divergenti. Reuters osserva che Stati come Russia e Stati Uniti sostengono che il diritto internazionale esistente sia sufficiente, mentre altri governi e organizzazioni umanitarie chiedono un nuovo quadro giuridico specifico.
L’Europa si trova in una posizione particolarmente interessante, quasi schizofrenica. Da una parte costruisce uno dei più sofisticati sistemi regolatori sull’intelligenza artificiale. Dall’altra, l’AI Act europeo esclude dal proprio campo di applicazione i sistemi sviluppati o utilizzati esclusivamente per finalità militari, di difesa o di sicurezza nazionale. La Commissione europea conferma esplicitamente questa esclusione. Il risultato è una distinzione giuridica comprensibile, ma tecnologicamente sempre più difficile da mantenere: un modello sviluppato per applicazioni civili può essere adattato a funzioni militari, mentre computer vision, robotica, sistemi autonomi e modelli decisionali appartengono sempre più a ecosistemi dual-use.
Non esiste più una frontiera tecnologica netta tra laboratorio civile e industria della difesa. Le GPU sono le stesse. I modelli di visione artificiale sono spesso derivati dalle stesse tecniche. I sistemi di navigazione autonoma utilizzano principi condivisi con robotica industriale e veicoli senza conducente. I modelli linguistici possono essere impiegati per pianificazione, intelligence, analisi e supporto decisionale. La guerra moderna non acquista necessariamente tecnologie separate dalla società civile; prende tecnologie civili e le inserisce dentro una catena di comando militare.
L’Unione europea lo riconosce indirettamente anche attraverso la propria politica sulle tecnologie dual-use e sulla difesa, mentre l’European External Action Service ribadisce che il diritto internazionale umanitario si applica a tutti i sistemi d’arma, compresi quelli autonomi, e che gli Stati restano responsabili del loro sviluppo e utilizzo. Questo principio è decisivo perché sposta la responsabilità dall’algoritmo al sistema politico, industriale e militare che lo ha progettato, acquistato, configurato e impiegato.
La tentazione dell’industria tecnologica sarà naturalmente quella di trasformare tutto in una discussione sulle performance. Precisione del riconoscimento, latenza, tasso di falsi positivi, resilienza al jamming, capacità di operare senza connessione, autonomia energetica. Sono parametri importanti, ma non risolvono il problema. Una macchina che sbaglia una volta su mille può essere straordinariamente efficiente in un processo industriale e moralmente inaccettabile se quella singola eccezione significa colpire un civile. La statistica non sostituisce il diritto.
Il paradosso è che l’intelligenza artificiale potrebbe rendere la guerra contemporaneamente più precisa e più facile da industrializzare. La promessa della precisione può ridurre alcune forme di danno collaterale, ma l’automazione può anche abbassare il costo operativo dell’impiego della forza e aumentare la velocità degli attacchi. Se un sistema autonomo può cercare, classificare e ingaggiare obiettivi in modo quasi continuo, la guerra rischia di assumere caratteristiche da sistema informatico distribuito: più sensori, più nodi, più agenti, meno tempo per l’intervento umano.
È precisamente per questo che “human in the loop” non dovrebbe diventare una formula burocratica. Un uomo che approva migliaia di decisioni generate da una macchina in condizioni di pressione estrema potrebbe essere formalmente nel circuito e sostanzialmente fuori dal processo decisionale. La supervisione umana ha valore soltanto quando l’essere umano dispone del tempo, delle informazioni e dell’autorità necessari per comprendere e interrompere l’azione. Altrimenti diventa una firma digitale apposta dopo che l’algoritmo ha già deciso.
La lezione per l’industria dell’AI è scomoda. Abbiamo passato anni a discutere di allineamento, guardrail, red teaming e sicurezza dei modelli come se il problema fondamentale fosse impedire a un chatbot di produrre una risposta indesiderata. Nel frattempo, la stessa capacità di classificazione, pianificazione e autonomia sta entrando in sistemi fisici capaci di produrre conseguenze immediate nel mondo reale. La safety dell’AI non può quindi essere confinata al modello. Deve comprendere hardware, sensori, software, operatori, catena di comando, infrastruttura e contesto operativo.
La vera frontiera dell’AI militare non sarà stabilire se una macchina è intelligente. Sarà stabilire se una macchina possa essere autorizzata a esercitare potere letale senza una decisione umana significativa. È una distinzione apparentemente sottile, ma rappresenta uno dei confini politici e tecnologici più importanti del decennio. Se quel confine verrà definito ora, attraverso norme verificabili e responsabilità attribuibili, l’intelligenza artificiale potrà essere utilizzata anche nella difesa senza trasformare l’autonomia algoritmica in una delega della responsabilità. Se verrà definito dopo la proliferazione dei sistemi, la diplomazia avrà ancora una volta l’elegante compito di regolamentare ciò che la tecnologia ha già reso inevitabile.