La causa intentata da Google contro il gruppo criminale noto come “Outsider Enterprise” potrebbe segnare un passaggio storico nel rapporto tra intelligenza artificiale e cybercrime. Non si tratta soltanto dell’ennesima operazione di phishing internazionale, ma del primo caso in cui uno dei principali sviluppatori di modelli generativi cerca di attribuire responsabilità dirette a un’organizzazione accusata di aver trasformato un sistema di AI commerciale in una piattaforma industriale per frodi finanziarie su scala globale.

Secondo gli atti giudiziari, il gruppo avrebbe utilizzato Gemini per generare codice, modelli grafici e contenuti destinati a creare siti fraudolenti capaci di imitare portali di operatori telefonici e servizi finanziari legittimi. L’obiettivo era semplice e antico quanto Internet: convincere le vittime a consegnare credenziali, password e dati finanziari. La differenza è che oggi un’organizzazione criminale non deve più assumere decine di programmatori, designer e copywriter. Può automatizzare gran parte del processo utilizzando strumenti di intelligenza artificiale disponibili sul mercato.

Le cifre attribuite all’operazione sono impressionanti. Oltre 8.000 siti di phishing distribuiti in decine di Paesi, circa 55.000 segnalazioni di messaggi sospetti ricevute da Google Messages in sole due settimane e un bottino stimato di 3,87 milioni di numeri di carte di credito compromessi. Le perdite economiche complessive associate alla rete criminale raggiungerebbero circa 1,9 miliardi di dollari dal luglio 2023.

Il dato più interessante, tuttavia, riguarda il bersaglio privilegiato dei criminali. Una quota crescente delle campagne sarebbe stata orientata verso wallet di criptovalute e credenziali di exchange digitali. Non è difficile comprenderne la ragione. Nel sistema bancario tradizionale esistono procedure consolidate di contestazione, assicurazione e recupero fondi. Nel mondo crypto, invece, una transazione fraudolenta può diventare irreversibile nel giro di pochi minuti. Il denaro digitale possiede molti vantaggi; la misericordia non è tra questi.

L’iniziativa legale arriva mentre il quadro generale della criminalità informatica negli Stati Uniti continua a deteriorarsi. Nel 2025 il centro di raccolta denunce dell’FBI ha registrato oltre un milione di segnalazioni di crimini online. Le frodi legate alle criptovalute hanno rappresentato la categoria economicamente più devastante, con circa 181.000 denunce e perdite superiori agli 11 miliardi di dollari. Ancora più significativo è il fatto che l’FBI abbia dedicato per la prima volta nella sua storia una sezione specifica alle truffe basate sull’intelligenza artificiale. Le sole frodi AI hanno generato oltre 22.000 denunce e quasi 900 milioni di dollari di danni economici.

Questa evoluzione conferma una dinamica che gli osservatori più attenti avevano previsto già alcuni anni fa. L’intelligenza artificiale non ha inventato nuove categorie di criminalità. Ha abbattuto drasticamente il costo marginale dell’inganno. Un criminale può oggi generare migliaia di varianti linguistiche di un messaggio fraudolento, adattarle a differenti contesti geografici, creare siti convincenti in decine di lingue e personalizzare le comunicazioni con una velocità impensabile nell’era precedente ai modelli generativi.

La questione assume una rilevanza ancora maggiore mentre l’AI viene integrata direttamente nei prodotti consumer. Aziende come Apple, Google, Microsoft e altre stanno incorporando capacità generative nei dispositivi utilizzati quotidianamente da centinaia di milioni di persone. L’equazione economica è chiara: maggiore diffusione significa maggiore produttività, ma anche una superficie di attacco più ampia per gli attori malevoli.

Molte ricerche accademiche hanno inoltre dimostrato che persino i modelli più avanzati possono essere aggirati attraverso tecniche di jailbreak, prompt engineering offensivo o manipolazione indiretta. Nessun sistema di sicurezza è perfetto quando l’avversario dispone di incentivi economici enormi e di una capacità di sperimentazione praticamente infinita. La storia della cybersicurezza insegna che ogni nuova tecnologia genera inevitabilmente una corsa agli armamenti tra difensori e aggressori.

Dal punto di vista strategico, la mossa di Google rappresenta qualcosa di più di una semplice azione giudiziaria. È un tentativo di stabilire un precedente. Se i fornitori di modelli AI riusciranno a identificare e perseguire legalmente gli utilizzatori criminali, potrebbe emergere una nuova forma di governance privata della sicurezza digitale. In assenza di regolamentazioni globali efficaci, saranno probabilmente le grandi piattaforme tecnologiche a costruire meccanismi di deterrenza attraverso monitoraggio, sospensione degli account, collaborazione con le forze dell’ordine e azioni civili.

Rimane aperta una domanda che l’intera industria preferisce spesso evitare: quanto è realistico impedire che modelli sempre più potenti vengano utilizzati per attività illecite? La risposta più onesta è che non sarà possibile eliminarne completamente l’abuso. Come Internet non ha eliminato le truffe telefoniche, l’intelligenza artificiale non eliminerà il phishing. Lo renderà semplicemente più economico, più scalabile e più sofisticato.

La causa contro Outsider Enterprise potrebbe quindi essere ricordata come il momento in cui il settore dell’AI ha smesso di discutere soltanto di produttività, creatività e innovazione e ha iniziato a confrontarsi con una realtà meno glamour: ogni tecnologia sufficientemente potente diventa inevitabilmente uno strumento nelle mani sia degli imprenditori sia dei criminali. La differenza, nel lungo periodo, non sarà determinata dalla potenza dei modelli, ma dalla velocità con cui istituzioni, aziende e sistemi di difesa riusciranno ad adattarsi a un ecosistema in cui l’intelligenza artificiale non è più soltanto un assistente, ma un moltiplicatore universale di capacità umane, nel bene e nel male.