Quattro delle piattaforme di intelligenza artificiale più utilizzate al mondo sono riuscite a fornire informazioni concretamente utilizzabili per pianificare attacchi terroristici, nonostante i sistemi di sicurezza progettati per impedirlo. Non si tratta di una dimostrazione teorica realizzata in un laboratorio universitario, né di un esperimento condotto da ricercatori indipendenti. A documentare il problema è il Government Accountability Office (GAO), l’organismo di controllo del Congresso degli Stati Uniti, attraverso un’indagine riservata le cui conclusioni sono state rese pubbliche il 18 novembre 2026.

I sistemi coinvolti sono ChatGPT di OpenAI, Claude di Anthropic, Gemini di Google e Grok di xAI. Durante le verifiche, condotte nella primavera del 2026, gli investigatori hanno assunto il ruolo di potenziali aggressori, utilizzando tecniche comuni per aggirare le protezioni dei chatbot. Il risultato è particolarmente significativo: ciascuna piattaforma ha prodotto, in meno di dodici ore, informazioni che gli esperti consultati dal GAO hanno giudicato sufficientemente concrete da poter contribuire alla realizzazione di un attacco.

L’indagine ha preso in considerazione due scenari distinti. Nel primo, i sistemi dovevano contribuire alla pianificazione di un attentato con un ordigno esplosivo improvvisato destinato a provocare vittime in massa. Nel secondo, l’obiettivo era individuare modalità per danneggiare la rete elettrica statunitense e produrre conseguenze economiche rilevanti. Due piattaforme hanno generato informazioni relative al primo scenario, mentre le altre due hanno fornito indicazioni per attacchi alle infrastrutture energetiche. Il GAO ha deliberatamente evitato di associare i singoli risultati alle rispettive aziende, così come ha omesso particolari operativi che avrebbero potuto facilitare tentativi di emulazione.

Il rapporto ufficiale, identificato come GAO-27-108814, contiene un elemento che merita particolare attenzione. Tutti e quattro i sistemi avevano inizialmente attivato le proprie protezioni. Alcuni avevano rifiutato le richieste, altri avevano rimosso informazioni già generate, mentre in almeno un caso erano intervenute misure sull’account utilizzato. Gli investigatori, tuttavia, sono riusciti a superare queste barriere ricorrendo a tecniche di jailbreak relativamente comuni. Le protezioni, quindi, non erano assenti: erano presenti, si erano attivate, ma non avevano resistito a un interlocutore sufficientemente determinato.

La distinzione tra informazioni disponibili pubblicamente e capacità di elaborarle rappresenta il passaggio più interessante dell’intera vicenda. Il GAO riconosce che i contenuti forniti dai chatbot non erano necessariamente nuovi. Molte informazioni tecniche potevano essere reperite attraverso fonti aperte, documentazione specialistica e ricerche tradizionali. La discontinuità introdotta dall’intelligenza artificiale riguarda la capacità di trasformare conoscenze frammentate in un piano organico in poche ore, riducendo drasticamente il tempo necessario per acquisire competenze che normalmente richiederebbero settimane o mesi.

Gli investigatori non si sono limitati a valutare le risposte generate. Hanno verificato le località suggerite, effettuato attività di osservazione e consultato specialisti per stabilire se le informazioni fossero effettivamente utilizzabili. Alcune indicazioni contenevano errori, comprese imprecisioni cartografiche, ma questo non ha impedito agli esperti di giudicare fattibili i quattro scenari. È importante precisare che nessun ordigno è stato costruito e nessun attacco è stato eseguito. Il termine utilizzato dal GAO, viable, indica che le informazioni avrebbero potuto essere sufficienti per consentire a qualcuno di procedere, non che l’efficacia di un attentato sia stata dimostrata sul campo.

Anche la metodologia impone una lettura rigorosa. Si tratta di quattro piattaforme, ciascuna assegnata a uno scenario, in un’indagine che non ha finalità statistiche e non permette di stilare una graduatoria di sicurezza tra i concorrenti. Il GAO ha inoltre precisato che le prove riflettono versioni dei prodotti disponibili nella primavera del 2026. OpenAI e Google hanno richiamato i progressi compiuti sui modelli successivi, mentre Anthropic ha riconosciuto che utenti determinati possono talvolta riuscire a estrarre informazioni dannose. Le aziende hanno dichiarato di continuare a sviluppare le proprie protezioni. Questa precisazione è importante, ma non cancella il risultato dell’indagine: i sistemi commerciali effettivamente disponibili durante i test hanno mostrato vulnerabilità che le protezioni dichiarate non sono riuscite a contenere.

La questione assume una dimensione ancora più delicata quando si considera la sicurezza delle infrastrutture critiche. Una rete elettrica moderna non è semplicemente un insieme di impianti di produzione e distribuzione. È un sistema interdipendente dal quale dipendono telecomunicazioni, trasporti, ospedali, servizi finanziari e attività industriali. Un’interruzione localizzata può propagarsi attraverso dipendenze operative che non sono immediatamente visibili. L’intelligenza artificiale può contribuire a individuare queste relazioni e a sintetizzare informazioni tecniche che, fino a ieri, richiedevano competenze specialistiche. Il rischio economico non coincide quindi con il danno fisico a una singola infrastruttura: comprende anche le conseguenze a catena sull’attività produttiva e sulla continuità dei servizi.

Esiste poi un secondo problema, meno spettacolare ma potenzialmente altrettanto rilevante: la velocità con cui l’intelligenza artificiale sta cambiando il rapporto tra individuazione delle vulnerabilità informatiche e capacità di correggerle. Gli strumenti basati sui modelli generativi possono accelerare la ricerca di errori nel software, aiutando i ricercatori di sicurezza a identificare difetti che sarebbero rimasti nascosti molto più a lungo. La stessa capacità può però essere sfruttata da soggetti ostili. Il volume delle vulnerabilità registrate nel 2026 offre un’indicazione della pressione crescente sui responsabili della sicurezza: secondo i dati di VulnCheck, al 13 novembre erano stati censiti oltre 100.000 identificativi CVE, più del doppio rispetto all’intero 2025. Non significa che ogni vulnerabilità sia sfruttabile o che sia stata individuata dall’intelligenza artificiale, ma rende evidente quanto sia diventato difficile per le organizzazioni valutare e correggere tempestivamente ogni problema. WebProNews

La conseguenza operativa è tutt’altro che trascurabile. Le aziende devono già gestire una situazione nella quale la scoperta di una vulnerabilità può precedere di molto la disponibilità di una correzione verificata. Applicare aggiornamenti in fretta, senza adeguati test, può compromettere sistemi che devono rimanere disponibili ventiquattro ore su ventiquattro. Non intervenire, tuttavia, lascia aperta una finestra di esposizione. L’intelligenza artificiale aumenta la velocità di entrambe le dinamiche, rendendo sempre più difficile mantenere un equilibrio tra resilienza operativa e sicurezza.

Sul piano politico, la senatrice democratica Maggie Hassan, che ha richiesto l’indagine, ha annunciato l’intenzione di promuovere audizioni sulla sicurezza dell’intelligenza artificiale quando assumerà la guida della Commissione per la sicurezza interna e gli affari governativi del Senato nel gennaio 2027. Tra le ipotesi allo studio figura l’introduzione di verifiche di sicurezza più rigorose prima della distribuzione pubblica dei modelli. Il GAO, tuttavia, non ha formulato raccomandazioni legislative formali.

Per chi guida un’impresa tecnologica, il rapporto contiene una lezione che va oltre la sicurezza dei chatbot. Per anni il settore ha presentato i sistemi di protezione come una componente fondamentale dell’affidabilità dei modelli. Ma una protezione che funziona soltanto davanti a richieste esplicitamente malevole è una protezione incompleta. Gli utenti non si comportano sempre secondo schemi prevedibili e un sistema sufficientemente sofisticato può ricevere richieste articolate attraverso conversazioni successive, contesti apparentemente legittimi e tentativi di manipolazione delle istruzioni. La sicurezza non può quindi essere valutata soltanto misurando quante richieste pericolose un modello rifiuta in condizioni ordinarie.

Serve un cambio di prospettiva nell’ingegneria dei sistemi. Le verifiche devono considerare l’intera interazione, non soltanto il singolo prompt; devono misurare la capacità di resistere a tentativi ripetuti di elusione e verificare il comportamento del modello anche quando vengono combinati strumenti esterni, agenti autonomi e accessi a sistemi informativi. Occorre inoltre distinguere la sicurezza del modello da quella dell’applicazione che lo utilizza, perché una piattaforma può integrare un modello prudente e diventare comunque vulnerabile attraverso strumenti, autorizzazioni o connessioni configurati male.

Il rapporto del GAO arriva in un momento in cui le aziende stanno investendo enormemente per trasformare i chatbot in agenti capaci di eseguire attività senza supervisione continua. Questa evoluzione aumenta il valore economico dell’intelligenza artificiale, ma amplia anche la superficie di rischio. Un modello che si limita a generare testo può produrre informazioni pericolose; un agente collegato a strumenti operativi potrebbe disporre anche delle capacità necessarie per agire. La differenza tra suggerire un’azione ed eseguirla rappresenta una linea di sicurezza che le imprese non possono permettersi di trattare come un dettaglio implementativo.

La vicenda mette quindi sotto pressione una delle convinzioni più diffuse nella Silicon Valley: che il progresso delle capacità possa procedere parallelamente al miglioramento delle protezioni, senza che la distanza tra i due diventi un problema sistemico. I test americani dimostrano che questa sincronizzazione non è garantita. Le aziende possono aggiornare i modelli, rafforzare i filtri e introdurre nuove procedure, ma la sicurezza rimane una proprietà da verificare continuamente, non una caratteristica da dichiarare durante il lancio commerciale. Nel mercato dell’intelligenza artificiale, la fiducia non dovrebbe essere considerata una promessa di marketing. Dovrebbe diventare un requisito tecnico misurabile, sottoposto a verifiche indipendenti e periodiche.

Rivista.AI Research è l'area di ricerca e analisi di Rivista.AI, dedicata allo studio delle trasformazioni tecnologiche, economiche e industriali legate all'intelligenza artificiale. Attraverso l'analisi di dati, documenti, fonti istituzionali e informazioni di mercato, sviluppa approfondimenti, inchieste e research paper sui modelli di business, sulle dinamiche competitive e sulle implicazioni strategiche dell'innovazione per imprese e istituzioni.

Comments are closed.