La storia insegna che le grandi rivoluzioni tecnologiche arrivano sempre accompagnate da una domanda scomoda: chi controlla il potere che stiamo creando? A Roma, questa domanda ha trovato una risposta almeno nelle intenzioni. La Dichiarazione di Roma per una Pace Disarmata e Disarmante nell’Era dell’Intelligenza Artificiale, delle Armi Nucleari e Autonome, dei Nuovi Protocolli Digitali e dei Modelli Emergenti di Sviluppo Digitale, firmata ieri, 16 luglio in Campidoglio, prova infatti a fissare alcuni principi destinati a influenzare il dibattito internazionale sulla governance dell’intelligenza artificiale.

Il documento rappresenta l’esito della Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War, ospitata tra Castel Gandolfo e Roma dal 14 al 16 luglio, e porta una firma che va ben oltre il valore simbolico. Accanto ai leader religiosi e ai 30 ex capi di Stato e di governo figurano infatti numerosi Premi Nobel, chiamati a confrontarsi su uno scenario che, per molti aspetti, ricorda quello vissuto durante la Guerra Fredda, con una differenza sostanziale: oggi la tecnologia evolve con una velocità che rende i tempi della politica quasi geologici.

La dichiarazione parte da un presupposto tanto semplice quanto inquietante. L’intelligenza artificiale è ormai diventata un nuovo terreno di competizione strategica tra Stati, proprio come lo fu il nucleare nel secondo dopoguerra. Cambiano gli strumenti, ma il rischio rimane sorprendentemente simile: una corsa tecnologica nella quale nessuno vuole restare indietro e nella quale il confine tra innovazione civile e applicazione militare diventa sempre più sottile.

Da qui nasce uno dei messaggi più forti del documento: occorre “disarmare la prossima corsa agli armamenti” prima che sia troppo tardi. Una frase che non riguarda soltanto i sistemi nucleari, ma anche gli algoritmi capaci di prendere decisioni autonome, le piattaforme militari basate sull’AI e i futuri modelli sempre più potenti che potrebbero sfuggire a qualsiasi forma di controllo umano.

Il ruolo degli scienziati: dall’innovazione alla responsabilità

La presenza dei Premi Nobel non rappresenta soltanto un elemento di prestigio istituzionale. Assume piuttosto un significato storico. Per decenni la comunità scientifica ha guidato lo sviluppo delle tecnologie più avanzate, dal nucleare all’informatica moderna. Oggi gli stessi ambienti scientifici sembrano voler assumere anche un ruolo di “coscienza critica” dell’innovazione.

Il parallelo con il Manifesto Russell-Einstein del 1955 appare quasi inevitabile. Allora gli scienziati chiedevano al mondo di riflettere sulle conseguenze delle armi atomiche. Oggi il messaggio si amplia includendo l’intelligenza artificiale, riconoscendo che la prossima rivoluzione tecnologica potrebbe avere effetti altrettanto profondi sugli equilibri geopolitici.

La Dichiarazione di Roma non propone un rifiuto dell’innovazione. Al contrario, invita governi, ricercatori e sviluppatori dei modelli di AI più avanzati a costruire strumenti di governance efficaci, capaci di favorire le applicazioni orientate al benessere umano e, allo stesso tempo, limitare gli utilizzi più destabilizzanti.

In questo senso emerge anche un elemento destinato a diventare sempre più centrale nel dibattito internazionale: la responsabilità diretta degli sviluppatori. Secondo il documento, le aziende che progettano sistemi di intelligenza artificiale dovrebbero rendere pubblici i principi che guidano il comportamento dei propri modelli ed essere chiamate a risponderne anche sul piano giuridico.

Un passaggio che fotografa perfettamente l’evoluzione del settore. Per anni il mantra della Silicon Valley è stato “muoversi velocemente”. Ora il messaggio che arriva da Roma sembra suggerire che, almeno in alcuni ambiti, forse conviene controllare dove si sta andando prima di accelerare.

Papa Leone XIV e Magnifica Humanitas: la tecnologia al servizio della persona

Il filo conduttore della Dichiarazione è rappresentato dall’enciclica Magnifica Humanitas di Papa Leone XIV, che ha ispirato i lavori dell’assemblea. Il documento pontificio propone una visione dell’innovazione fondata sulla centralità della persona umana, sostenendo che il progresso tecnologico non possa essere valutato esclusivamente sulla base dell’efficienza o della crescita economica, ma debba essere misurato anche attraverso il suo impatto sulla dignità, sulla pace e sul bene comune.

Questa impostazione emerge chiaramente anche nella Dichiarazione di Roma. L’intelligenza artificiale viene riconosciuta come uno straordinario strumento di sviluppo, ma soltanto se progettata e utilizzata nel rispetto del diritto internazionale, dei diritti umani e degli interessi dell’umanità.

L’influenza di Magnifica Humanitas appare evidente soprattutto nel rifiuto di una concezione neutrale della tecnologia. Gli algoritmi, secondo questa visione, non sono semplici strumenti privi di implicazioni etiche. Ogni scelta progettuale incorpora valori, priorità e obiettivi che finiscono inevitabilmente per incidere sulla società.

Papa Leone XIV introduce così un principio destinato ad assumere un peso crescente nel dibattito sull’AI: il progresso tecnologico non può essere separato dalla responsabilità morale. Una prospettiva che amplia il tradizionale concetto di governance, includendo non soltanto norme giuridiche e standard tecnici, ma anche una riflessione culturale sul significato stesso dell’innovazione.

Governance dell’AI: il nodo decisivo

Uno degli aspetti più concreti della Dichiarazione riguarda il tema della governance globale dell’intelligenza artificiale. I firmatari chiedono meccanismi internazionali capaci di condividere i benefici della tecnologia, promuovere applicazioni orientate al benessere collettivo e limitare gli utilizzi più pericolosi.

Particolarmente significativa è la richiesta di impedire processi di auto-miglioramento ricorsivo completamente automatizzati senza adeguati strumenti di supervisione. In altre parole, nessuna organizzazione dovrebbe sviluppare sistemi capaci di evolvere autonomamente senza la possibilità di monitorarne il comportamento o interromperne il funzionamento.

Si tratta di uno dei temi più discussi anche all’interno della comunità scientifica internazionale. L’idea di mantenere un controllo umano effettivo sui sistemi più avanzati rappresenta ormai uno dei pilastri delle principali proposte normative sviluppate negli ultimi anni.

Un documento che guarda oltre il presente

La Dichiarazione di Roma non ha valore giuridico, ma potrebbe avere un peso politico e culturale significativo. Riunire Premi Nobel, leader religiosi ed ex responsabili di governo attorno allo stesso tavolo significa riconoscere che l’intelligenza artificiale non rappresenta soltanto una questione tecnologica, bensì una sfida globale destinata a ridefinire sicurezza, economia, diritti e relazioni internazionali.

Il messaggio finale è forse quello più semplice e, proprio per questo, più difficile da ignorare. Le tecnologie cambiano, gli algoritmi diventano sempre più sofisticati e i chip continuano a moltiplicare la loro potenza di calcolo. Rimane però una costante che attraversa ogni rivoluzione industriale: il progresso produce valore soltanto quando l’essere umano continua a rimanere al centro delle decisioni. Perché affidare alle macchine il compito di aiutarci è un traguardo dell’innovazione. Affidare alle macchine il compito di decidere il nostro futuro, invece, è una scelta che nessun algoritmo dovrebbe essere autorizzato a compiere.