Nel settore cybersecurity sta emergendo una dinamica che fino a due anni fa sarebbe sembrata quasi paradossale: l’intelligenza artificiale, celebrata come acceleratore della sicurezza software, sta contemporaneamente distruggendo uno dei meccanismi più efficienti creati dall’industria per identificare vulnerabilità reali. Il modello delle bug bounty, costruito sull’idea elegante di distribuire l’attività di ricerca delle falle a una comunità globale di ricercatori indipendenti, si sta trasformando rapidamente in una gigantesca discarica di report AI-generated, spesso inutili, ridondanti o completamente inventati.

Secondo quanto riportato dal Financial Times, piattaforme specializzate e progetti open source stanno affrontando un’esplosione di segnalazioni generate automaticamente tramite modelli linguistici. Il dato più interessante non è tanto la quantità, ma la natura industriale del fenomeno. Non si tratta più del classico “security researcher” che studia codice per settimane; oggi basta collegare un LLM a qualche script automatico, eseguire scansioni superficiali e produrre centinaia di report plausibili nel linguaggio corretto della sicurezza informatica. La qualità, però, resta spesso disastrosa.

La società Bugcrowd, che lavora anche con OpenAI, ha dichiarato che durante tre settimane di marzo il numero di report ricevuti è quadruplicato. La maggior parte, secondo l’azienda, era falsa. Non “imprecisa”. Falsa. Questo dettaglio cambia completamente il quadro strategico del problema, perché la cybersecurity moderna non soffre tanto la scarsità di dati quanto l’eccesso di rumore. Ogni falso positivo obbliga un team di sicurezza a spendere tempo, denaro e attenzione cognitiva per verificare qualcosa che non esiste. Nelle grandi organizzazioni il costo reale non è il bug; è il triage.

La Silicon Valley ama raccontare la narrativa dell’automazione totale, ma la realtà operativa continua a essere meno cinematografica. Un CISO non può semplicemente “fidarsi del modello”. Deve verificare. Deve riprodurre. Deve validare l’exploit. Deve capire se la vulnerabilità è teorica o sfruttabile. Questo processo resta ancora profondamente umano e soprattutto costoso. Il risultato è che l’AI sta moltiplicando la produttività degli attaccanti molto più velocemente di quanto stia aumentando quella dei difensori.

Alcune aziende hanno già iniziato a tirare il freno. HackerOne e Nextcloud hanno sospeso programmi bounty a pagamento, con Nextcloud che ha dichiarato apertamente di non riuscire più a gestire l’ondata di submission a bassa qualità. È una frase che pesa parecchio perché racconta un problema strutturale: il costo marginale di generare report con l’AI tende praticamente a zero, mentre il costo di verificarli resta umano.

Nel frattempo, il business delle bug bounty continua a crescere. Aziende come Meta, Microsoft, Apple e Crypto.com hanno distribuito almeno 58 milioni di dollari nel 2025 ai ricercatori che hanno identificato vulnerabilità autentiche. Il problema è che il sistema economico su cui si reggeva il modello bounty presupponeva una certa scarsità tecnica. Presupponeva che trovare bug fosse difficile. L’AI generativa ha demolito quella barriera d’ingresso.

Qui emerge una distinzione fondamentale che il mercato tech continua deliberatamente a confondere: generare output plausibili non significa generare conoscenza affidabile. Gli LLM eccellono nel produrre report che “sembrano” corretti. La sicurezza offensiva, però, non è una gara di stile linguistico; è una disciplina empirica. Un exploit funziona oppure no. Non esiste il “quasi vulnerabile”.

La parte più interessante della vicenda è che, parallelamente, gli stessi modelli AI stanno diventando realmente efficaci nell’individuare falle software autentiche. Anthropic ha introdotto Mythos, un modello specializzato in cybersecurity che secondo l’azienda sarebbe in grado di identificare vulnerabilità più rapidamente degli esseri umani. Durante test interni, Claude Mythos avrebbe individuato 271 vulnerabilità in Mozilla Firefox. Un dato impressionante, almeno sulla carta.

Il settore sta quindi entrando in una fase quasi schizofrenica. Da una parte l’AI produce montagne di spazzatura computazionale che paralizzano i team sicurezza; dall’altra gli stessi modelli iniziano davvero a superare gli esseri umani in specifici task offensivi. È il classico schema tecnologico contemporaneo: la produttività cresce, ma cresce ancora più velocemente l’entropia.

Non sorprende che aziende come Datadog abbiano recentemente evidenziato come gli agenti AI autonomi non riescano ancora a sostituire completamente gli ingegneri on-call nella gestione di incidenti reali. La teoria dell’“AI engineer replacement” funziona molto bene nei keynote, meno durante un outage alle tre del mattino quando metà dell’infrastruttura cloud sta collassando e il modello comincia a proporre ipotesi statisticamente plausibili ma operativamente inutili.

Il punto strategico è che la cybersecurity moderna sta entrando nell’era della “verification economy”. In passato il problema era trovare vulnerabilità. Adesso il problema sarà validare ciò che milioni di sistemi AI dichiarano di aver trovato. È una differenza enorme, perché sposta il valore economico dalla scoperta all’autenticazione. I vincitori probabilmente non saranno le aziende che generano più report, ma quelle capaci di costruire pipeline affidabili di filtraggio, reputazione e verifica automatizzata.

Questa trasformazione potrebbe anche cambiare radicalmente il ruolo delle community open source. Molti maintainer indipendenti, già sovraccarichi e spesso non pagati, stanno diventando bersagli perfetti per lo spam AI-generated. Un progetto open source medio non possiede le risorse operative di Microsoft o Meta. Se riceve migliaia di report falsi, semplicemente collassa. La retorica romantica della collaborazione distribuita incontra improvvisamente la realtà economica della moderazione computazionale.