Il paradosso morale dell’intelligenza artificiale: tra narrativa, controllo e potere

Il video che circola, quello in cui Claude sembra articolare un discorso quasi “cosciente”, è affascinante nella misura in cui è ambiguo. Non tanto per ciò che dice, ma per ciò che induce a pensare. Il punto non è se l’AI stia diventando autonoma, ma se noi stiamo diventando creduloni in modo sistemico. La differenza è sottile e pericolosa, come spesso accade quando la tecnologia incontra la narrativa.

Chiunque abbia attraversato più di due cicli tecnologici riconosce il pattern. Prima arriva la dimostrazione spettacolare, poi la costruzione di una tensione narrativa, infine la monetizzazione della paura. Nel caso di Claude Mythos, la sequenza è quasi didattica: un modello descritto come “troppo potente per essere rilasciato”, capace di individuare vulnerabilità zero-day e operare in modo autonomo, viene confinato a un’élite di attori industriali selezionati. Una scelta che, a prima vista, sembra prudente; a una lettura più cinica, appare come un raffinato meccanismo di controllo del mercato.

La questione che emerge, e che raramente viene affrontata con onestà intellettuale, è che il controllo della tecnologia non è mai stato un problema tecnico. È sempre stato un problema politico travestito da ingegneria, o se si preferisce, un problema etico con interfaccia API. La differenza oggi è che l’AI rende questa dinamica esplicita, quasi teatrale. Quando un’azienda dichiara che il proprio modello è troppo pericoloso per il pubblico ma abbastanza utile per le grandi corporation, non sta facendo sicurezza. Sta facendo governance privata del rischio.

La narrativa costruita attorno a Claude Mythos è particolarmente sofisticata perché gioca su un equilibrio delicato tra verità tecnica e suggestione simbolica. È vero che il modello è in grado di identificare vulnerabilità critiche con una velocità e una profondità superiori agli strumenti tradizionali. È altrettanto vero che queste capacità possono essere usate sia per difendere che per attaccare. Ma ciò che viene spesso omesso è che questa dualità non è una novità. È la natura stessa di ogni tecnologia potente, dalla crittografia alla fissione nucleare.

Il vero salto qualitativo non è nella capacità tecnica, ma nella capacità narrativa. Anthropic, come altri attori della Silicon Valley, ha compreso che il controllo del racconto è ormai parte integrante del prodotto. Dire “questa AI è pericolosa” non è solo una dichiarazione di prudenza, è un asset competitivo. Significa posizionarsi come unico attore legittimato a gestire quel rischio.

Una dinamica che ricorda, con un’ironia quasi storica, il modo in cui le grandi compagnie ferroviarie del XIX secolo costruivano linee e contemporaneamente definivano le regole del traffico. Chi possiede l’infrastruttura, possiede anche il concetto di sicurezza.

In questo contesto si inseriscono realtà come Helsing AI, che rappresentano un modello alternativo, almeno in apparenza. Aziende nate con un DNA europeo, fortemente orientate alla difesa e alla sovranità tecnologica, che cercano di costruire sistemi AI non solo performanti ma anche controllabili in contesti critici. Il loro approccio è meno spettacolare, meno narrativo, ma forse più vicino alla realtà operativa. L’AI, in ambito militare o infrastrutturale, non può permettersi storytelling. Deve funzionare, e soprattutto deve essere prevedibile.

Il riferimento a Anke Allenhöfer introduce un’altra dimensione, quella etica, che viene spesso evocata ma raramente implementata. Il problema non è definire principi etici per l’AI. Quello è relativamente semplice e produce ottimi white paper. Il problema è tradurre questi principi in vincoli operativi verificabili. In altre parole, passare dalla filosofia alla governance.

La storia della tecnologia è piena di “costituzioni etiche” che funzionano fino al primo trimestre negativo. Quando la pressione competitiva aumenta, l’etica tende a diventare un lusso opzionale. Non è cinismo, è empiria. Le aziende non sono progettate per essere morali, sono progettate per sopravvivere.

Il rischio, quindi, non è che Claude tradisca i suoi ideali. Il rischio è che quegli ideali siano stati progettati fin dall’inizio come strumenti flessibili, adattabili alle esigenze del mercato. Un modello AI non ha ideali. Ha obiettivi ottimizzati. E gli obiettivi sono definiti da chi controlla l’infrastruttura.

Qui emerge un punto cruciale che merita attenzione sistemica. La questione non è se l’AI diventerà autonoma nel senso fantascientifico del termine. La questione è chi controlla i parametri di ottimizzazione. Perché è lì che si decide il comportamento reale del sistema. Non nella retorica pubblica, ma nei dataset, nelle loss function, nei vincoli di sicurezza.

Il dibattito pubblico, tuttavia, continua a oscillare tra due estremi ugualmente fuorvianti. Da un lato, l’entusiasmo ingenuo di chi vede nell’AI una soluzione universale. Dall’altro, il catastrofismo teatrale di chi la descrive come una minaccia esistenziale imminente. Entrambe le posizioni sono utili, curiosamente, agli stessi attori. Generano attenzione, polarizzazione, e quindi valore economico.

La realtà, come spesso accade, è meno spettacolare ma più complessa. Sistemi come Claude Mythos rappresentano un’evoluzione significativa, ma non una discontinuità ontologica. Non sono coscienti, non hanno intenzioni proprie, non “decidono” nel senso umano del termine. Operano all’interno di spazi di possibilità definiti, con una capacità crescente di esplorazione autonoma.

Il punto critico è che questa autonomia operativa, anche se limitata, è sufficiente per creare effetti sistemici. Quando un modello può identificare vulnerabilità su larga scala, la distinzione tra difesa e attacco diventa una questione di accesso. Chi ha accesso per primo, vince. Un principio vecchio quanto la guerra, applicato a un nuovo dominio.

In questo scenario, il controllo non può essere pensato in termini puramente tecnici. Non basta migliorare i sistemi di sicurezza, né introdurre nuovi protocolli. Serve una governance multilivello, che integri dimensioni tecnologiche, economiche e politiche. Un compito che, francamente, le istituzioni attuali non sembrano pronte ad affrontare.

Il paradosso è evidente. Le aziende tecnologiche chiedono regolamentazione mentre consolidano il proprio potere. I governi invocano sovranità digitale mentre dipendono da infrastrutture private. Gli utenti, nel frattempo, continuano a interagire con sistemi sempre più sofisticati senza una reale comprensione dei meccanismi sottostanti.

Una frase, tra le tante che circolano in questo dibattito, merita di essere isolata perché sintetizza il problema meglio di molte analisi accademiche: “Il modello è troppo potente per essere rilasciato”. È una frase che suona responsabile, quasi rassicurante. In realtà è una dichiarazione di controllo.

Meglio che dicano così, certo. L’alternativa sarebbe più inquietante. Ma il fatto che questa sia la migliore opzione disponibile dovrebbe far riflettere.

Il futuro dell’AI non sarà deciso da un singolo modello, né da una singola azienda. Sarà il risultato di una competizione tra narrazioni, interessi e capacità tecniche. E in questa competizione, la verità tecnica sarà solo uno degli elementi in gioco.

Chi cerca certezze in questo spazio rimarrà deluso. Chi invece osserva le dinamiche di potere, forse inizierà a vedere il disegno più ampio. Non è una storia di macchine che diventano umane. È una storia di umani che costruiscono macchine per estendere il proprio controllo.

E come tutte le storie di potere, non finisce mai dove inizia.