Il consiglio di sicurezza dell’ONU convoca Altman, Amodei, Bengio e Delangue per discutere i rischi dell’intelligenza artificiale

Per una volta la Silicon Valley non viene invitata a parlare di produttività, crescita esponenziale o della prossima applicazione che dovrebbe “trasformare tutto”. Oggi, 23 settembre, il Consiglio di sicurezza delle Nazioni Unite dedica una sessione di alto livello all’intelligenza artificiale e alla sicurezza internazionale, con Sam Altman di OpenAI, Dario Amodei di Anthropic, Yoshua Bengio, co-presidente dell’Independent International Scientific Panel on AI dell’ONU, e Clément Delangue di Hugging Face tra i relatori previsti. A presiedere la riunione sarà il ministro francese per l’Europa e gli Affari esteri Jean-Noël Barrot, mentre la Francia, che detiene la presidenza di turno del Consiglio durante settembre, ha promosso l’incontro.

Il dettaglio istituzionale conta più di quanto sembri. Il Consiglio di sicurezza non è il luogo nel quale le Nazioni Unite discutono genericamente del futuro della tecnologia: è l’organo incaricato di occuparsi di pace e sicurezza internazionale, con 15 membri e, in determinate circostanze, la possibilità di adottare decisioni vincolanti, comprese sanzioni e autorizzazioni all’uso della forza. Portare dentro questa stanza i vertici delle aziende che costruiscono i sistemi di AI più avanzati significa quindi spostare la tecnologia dalla categoria dell’innovazione industriale a quella della sicurezza strategica. Il messaggio implicito è piuttosto netto: alcuni governi non considerano più l’AI soltanto una questione di regolazione economica, privacy o lavoro, ma una tecnologia con potenziali conseguenze sull’equilibrio internazionale.

Il documento preparatorio francese concentra l’attenzione soprattutto sui rischi sistemici associati ai modelli più avanzati, compresi disallineamento e perdita di controllo. È una formulazione diplomatica per descrivere uno dei problemi che stanno diventando centrali nel dibattito sulla frontier AI: cosa succede quando sistemi sempre più capaci possono pianificare, utilizzare strumenti, eseguire sequenze operative e interagire con infrastrutture digitali con un livello crescente di autonomia. Le applicazioni potenzialmente problematiche comprendono l’impiego dell’AI per operazioni informatiche offensive, manipolazione dell’informazione, proliferazione di capacità pericolose e, nel lungo periodo, sistemi militari nei quali il confine fra assistenza automatizzata e decisione autonoma diventa molto meno nitido.

La presenza cinese rende però l’incontro ancora più interessante. Reuters ha riferito che DeepSeek è stata invitata a intervenire insieme ad altre società cinesi, tra cui Moonshot, sviluppatrice della famiglia Kimi. La formulazione va mantenuta prudente perché le fonti parlano di inviti e partecipazione prevista, mentre non tutti i dettagli relativi ai rappresentanti cinesi erano definitivi. La presenza di DeepSeek, tuttavia, avrebbe un enorme valore simbolico: la società che nel gennaio 2025 mise in discussione l’economia dell’intera industria AI americana ora si trova convocata nello stesso spazio diplomatico dei laboratori statunitensi che dominano la frontiera tecnologica.

Il riferimento a Nvidia merita una piccola correzione, perché la storia finanziaria tende a diventare rapidamente leggenda quando viene raccontata nella Silicon Valley. Nel gennaio 2025 la diffusione di DeepSeek provocò una violenta vendita sui titoli tecnologici e Nvidia perse circa 593 miliardi di dollari di capitalizzazione in una sola seduta, allora la maggiore perdita giornaliera di valore di mercato mai registrata da una società quotata statunitense. Il problema non era semplicemente che DeepSeek avesse costruito “un modello più economico”: gli investitori iniziarono a chiedersi se la crescita della domanda di GPU, data center ed energia prevista dai giganteschi piani di investimento nell’AI fosse davvero inevitabile.

Dario Amodei arriva alla riunione con una posizione particolarmente rilevante. Nel suo intervento “We Must Pace the Frontier”, pubblicato a settembre, il CEO di Anthropic ha chiesto un rallentamento coordinato nello sviluppo dei modelli più avanzati, sostenendo che i rischi includono perdita di controllo, cyberattacchi, bioterrorismo e forti conseguenze economiche. Amodei ha inoltre proposto maggiore accesso ai sistemi Anthropic da parte di valutatori esterni, con l’obiettivo di rendere verificabili le dichiarazioni sulla sicurezza. Sam Altman ha espresso sostegno all’idea di rallentare il ritmo dello sviluppo frontier, pur continuando OpenAI a competere aggressivamente sul piano tecnologico. È una contraddizione soltanto apparente: nell’economia dell’AI, la stessa azienda può chiedere più sicurezza mentre investe miliardi per costruire il modello successivo.

Amodei parteciperà al briefing da remoto, mentre Altman è atteso fisicamente alle Nazioni Unite; anche Bengio e Delangue sono indicati tra i partecipanti. La composizione è significativa perché rappresenta quattro prospettive diverse sullo stesso problema: una grande azienda commerciale che sviluppa modelli proprietari, un laboratorio che ha costruito la propria identità sulla sicurezza, uno dei più autorevoli ricercatori accademici nel settore e una piattaforma centrale nell’ecosistema open-source. Non è esattamente una rappresentanza democratica dell’intelligenza artificiale mondiale, ma è una fotografia abbastanza precisa di quanto il potere tecnologico si sia concentrato nelle mani di pochi laboratori e infrastrutture.

Il tempismo è altrettanto importante. Il briefing arriva mentre Washington e Pechino stanno cercando di costruire almeno un embrione di dialogo sulla sicurezza dell’AI. Esperti statunitensi e cinesi hanno recentemente discusso meccanismi ispirati agli accordi di sicurezza nucleare, compresa l’idea di mantenere un canale diretto per gestire incidenti AI capaci di provocare escalation militari o cyber. Parallelamente, il presidente Donald Trump e il presidente cinese Xi Jinping si preparano a incontrarsi a Washington, con l’intelligenza artificiale indicata tra i temi del confronto.

Trump, peraltro, ha recentemente assunto una posizione molto diversa da quella di Amodei. Nel suo intervento all’Assemblea generale dell’ONU ha liquidato come “hoax” alcune delle preoccupazioni più estreme sulla sicurezza dell’AI e ha ribadito la necessità di mantenere la leadership tecnologica americana, mentre la sua amministrazione sta discutendo strumenti per intervenire qualora le aziende AI rappresentassero rischi concreti. La distanza non è soltanto ideologica: riflette un problema strategico difficile da risolvere. Rallentare troppo potrebbe ridurre il vantaggio tecnologico di un Paese rispetto ai concorrenti; accelerare senza meccanismi di sicurezza credibili potrebbe aumentare i rischi proprio nel settore che governi e imprese considerano ormai infrastruttura strategica.

Il punto più interessante della riunione, quindi, non sarà probabilmente una nuova dichiarazione apocalittica né l’ennesimo appello generico alla “responsible AI”. Sarà capire se la diplomazia internazionale riuscirà a trasformare una discussione dominata finora da principi volontari, dichiarazioni aziendali e paper accademici in qualche forma di meccanismo operativo. Un sistema di notifica degli incidenti, standard comuni per i test dei modelli, protocolli per i sistemi autonomi utilizzati in ambito militare e canali di comunicazione tra Stati avrebbero un peso molto maggiore di un’altra dichiarazione solenne sulla necessità di usare l’AI “responsabilmente”. Washington e Pechino stanno già discutendo proprio l’ipotesi di un meccanismo di notifica per incidenti AI con implicazioni di sicurezza nazionale.

C’è infine una piccola ironia nella fotografia di oggi. Il mondo ha costruito il Consiglio di sicurezza per impedire che gli Stati trasformassero la tecnologia militare in crisi geopolitiche incontrollabili; nel 2026 si trova a discutere con i CEO di società private perché una tecnologia nata nei laboratori informatici può diventare essa stessa un fattore di instabilità. La Silicon Valley, abituata a spiegare ai governi come funzionerà il futuro, si trova così dall’altra parte del tavolo, davanti a un organismo che non vende software, non raccoglie capitale di rischio e non misura il progresso in benchmark. Per una volta, la domanda non è quanto sia intelligente il prossimo modello. È chi debba rispondere quando quel modello diventa abbastanza potente da entrare nella grammatica della sicurezza internazionale.