Yoshua Bengio, uno dei cosiddetti padri nobili del deep learning, ha recentemente dichiarato che un giorno un singolo individuo potrebbe dominare il mondo grazie all’intelligenza artificiale. Parole che suonano apocalittiche eppure non arrivano da un romanziere distopico, ma dall’uomo che ha posto le basi scientifiche di molte delle tecnologie che oggi stiamo inseguendo con voracità quasi ossessiva. È la parabola classica del creatore che si scopre inquietato dal potere della propria invenzione, un copione che ricorda più Frankenstein che un paper accademico. Ma questa volta la posta in gioco non è la letteratura gotica, è il destino del potere globale nel XXI secolo.
Il dominio dell’AI non è più un tema confinato ai circoli accademici o agli incontri filosofici su futuri ipotetici. La corsa a costruire modelli sempre più potenti è già in atto, guidata da poche aziende che centralizzano risorse computazionali, dati e talenti. Chi arriverà primo potrebbe avere accesso a un vantaggio competitivo enorme, non solo economico ma politico e militare. Bengio lo ha detto con chiarezza: se la traiettoria attuale prosegue, arriveremo a un punto in cui sarà tecnicamente possibile che un individuo o un ristretto gruppo di individui abbia nelle proprie mani leve di potere capaci di condizionare interi sistemi sociali. A quel punto non sarà più fantascienza ma geopolitica quotidiana.
Ciò che rende la riflessione inquietante è che il controllo non deriva solo dalla capacità di produrre testi o immagini con un realismo stupefacente. Il vero rischio emerge quando l’IA diventa un agente, un’entità capace di prendere decisioni autonome, negoziare, pianificare e operare su infrastrutture critiche. Un sistema del genere potrebbe gestire catene di approvvigionamento energetico, reti finanziarie globali, campagne di influenza politica. Non occorre immaginare un’AI cosciente o ribelle per comprendere l’impatto: basta un software che opera a velocità e scala umanamente inaccessibili, guidato dagli obiettivi di chi lo controlla. La concentrazione del potere tecnologico diventa allora una questione di sicurezza dell’AI, non solo di progresso industriale.
Il paradosso è evidente. La stessa comunità che ha accelerato lo sviluppo del deep learning ora predica prudenza, parla di rischi esistenziali e fonda organizzazioni come LawZero per garantire che le macchine dicano la verità e abbiano il coraggio di ammettere quando non sanno. Un dettaglio apparentemente banale ma cruciale: una macchina che non può dire “non lo so” è una macchina che confonde illusione e realtà, che spinge chi la usa verso un falso senso di sicurezza. Bengio lo ha capito bene e non a caso insiste su trasparenza e onestà, due valori che nel mercato globale dell’AI sembrano più difficili da implementare di un transformer con trilioni di parametri.
La domanda che dobbiamo porci non è se un singolo individuo potrà davvero dominare il mondo, ma quanto siamo disposti a rischiare per scoprirlo. Parlare di dominio dell’AI significa parlare di governance dell’AI, di come gli stati, le istituzioni e le società civili possono e devono costruire regole comuni per evitare che la corsa tecnologica diventi un esperimento incontrollato con conseguenze irreversibili. Il problema è che la politica si muove con lentezza mentre il settore privato brucia miliardi al ritmo di un trimestre. Chi pensa che l’AI Act europeo o i tavoli multilaterali possano da soli risolvere la questione si illude. Servono meccanismi di controllo più agili, con audit indipendenti, responsabilità giuridiche chiare e soprattutto cooperazione internazionale reale. Perché il potere delle macchine non rispetta confini nazionali.
L’ironia più pungente è che proprio l’avvertimento di Bengio viene amplificato dai media con titoli sensazionalistici che parlano di apocalisse tecnologica. Una strategia utile per catturare l’attenzione ma pericolosa se riduce la complessità a uno slogan. Il dominio dell’AI non sarà il colpo di stato di un algoritmo, sarà piuttosto un lento spostamento di potere dalle mani di molti alle mani di pochissimi. E quel processo è già in corso. Il rischio non è che un giorno un software si autoproclami imperatore digitale, ma che intere istituzioni democratiche si ritrovino subordinate a logiche dettate da sistemi opachi, sviluppati in segreto e controllati da chi ha accesso alle infrastrutture globali.
Prendere sul serio Bengio significa agire ora. Investire nella sicurezza dell’IA, promuovere la decentralizzazione delle risorse, creare una cultura pubblica che non si accontenti di abbagli tecnologici. Significa costruire un ecosistema in cui il potere delle macchine non sia l’arma di un singolo individuo ma un bene comune sotto sorveglianza collettiva. E se qualcuno pensa che questo sia un discorso utopico, dovrebbe chiedersi quanto sia più utopico immaginare che il mercato lasci spontaneamente il potere distribuito senza regole. Nella storia dell’economia e della tecnologia non è mai accaduto. Perché dovrebbe accadere proprio con l’AI, la tecnologia più trasformativa mai concepita?
La verità è che non serve attendere un futuro remoto per discutere del dominio dell’AI. Il presente ci offre già segnali sufficienti di quanto fragile sia l’equilibrio tra innovazione e potere. Ignorarli significa aprire la strada non alla rivolta delle macchine, ma all’egemonia di chi le controlla.