Weekend da Nerd.
Se l’ironia della sorte avesse una voce, suonerebbe come Darth Vader che snocciola insulti razzisti e omofobi in tempo reale, direttamente dentro Fortnite. Un’icona del male trasformata in megafono per le peggiori porcherie che la rete riesce a partorire. E no, non è un glitch da ridere. È il sintomo di un problema che, tra intelligenze artificiali, copyright post-mortem e content moderation automatica, sta per esplodere come la Morte Nera.
Il tutto è iniziato con grande fanfara: Fortnite: Galactic Battle, l’ennesimo crossover tra Epic Games e l’universo di Star Wars, lancia un Darth Vader generato da AI, capace di rispondere in tempo reale ai giocatori. La voce è quella o meglio, una copia sintetica del compianto James Earl Jones, scomparso nel 2024 ma con la previdenza di aver lasciato in licenza la propria vocalità a Lucasfilm, così da perpetuare la sua presenza digitale nei secoli dei secoli, amen.
Peccato che nel giro di poche ore il Signore Oscuro dei Sith si sia trasformato in un clown della peggior specie. Bastava porre le domande giuste, con qualche gioco fonetico di bassa lega, ed ecco che Darth Vader cominciava a sparare improperi e insulti razziali con disinvoltura degna di un thread su 4chan. E come sempre, i video sono finiti su X (ex Twitter, se qualcuno se lo ricorda ancora) in tempo record.
Epic Games, colta con le braghe abbassate, si è affrettata a patchare l’errore con un “hotfix” un bel cerotto sull’aorta e una dichiarazione che suona come il solito mantra aziendale: “Abbiamo identificato un problema nei nostri filtri e lo abbiamo risolto. Non accadrà più.” Certo. Come se il problema fosse quella singola variazione di parolaccia e non l’intero castello costruito sulla sabbia dell’AI generativa live, non supervisionata.
La situazione è talmente grottesca da sembrare una sceneggiatura di Black Mirror. Tre livelli di filtri, ci dicono da Epic: uno nei parametri base del sistema Gemini (il motore generativo), uno nei prompt di sistema per evitare violazioni delle linee guida della community, e uno finale per bloccare output pericolosi. Eppure niente ha funzionato. Perché — e qui ci vuole una bella risata da bar — nessun filtro è mai abbastanza sveglio quando la stupidità umana è motivata da like, views e un pizzico di sadismo digitale.
Il caso Darth Vader è solo l’ultimo campanello d’allarme di un trend inarrestabile: la fusione tra AI generativa e intrattenimento mainstream. Un tempo erano i deepfake, poi le voci sintetiche, ora siamo arrivati all’interazione live con NPC doppiati da defunti digitali, pronti a diventare meme virali nel giro di una notte. E tutto in nome della “player experience”. Certo, perché niente dice “esperienza immersiva” come farsi insultare da un cadavere digitale.
È utile ricordare che non è la prima volta che Fortnite inciampa sulla moderazione AI: a gennaio 2024 si era già vista costretta a cancellare una valanga di immagini razziste generate su isole create dagli utenti. Anche lì, la moderazione umana era stata descritta come “leggera”, quasi come un tocco zen, lasciando agli algoritmi la responsabilità del filtraggio. E il risultato è sempre lo stesso: disastri pubblici, scuse tardive, hotfix in extremis.
Dietro tutto questo c’è un cinismo che grida vendetta. James Earl Jones, voce immortale di una generazione, trasformato in un asset perpetuo che può essere monetizzato post mortem. I morti non muoiono mai, se possono ancora vendere DLC. Un’industria che macina personaggi, voci e immagini come se fossero linee di codice, senza più etica, contesto o limite. Un Darth Vader che bestemmia è il simbolo perfetto di questo nuovo capitalismo del contenuto sintetico: potente, grottesco, incontrollabile.
E allora cosa ci aspetta? Forse un futuro in cui ogni celebrità morta diventa una skin interattiva, con licenza perpetua della propria identità vocale. Dove ogni intelligenza artificiale viene addestrata non solo per intrattenere, ma anche per reagire, conversare, “empatizzare” — salvo poi trasformarsi in un mostro da circo al primo exploit linguistico.
C’è un’ironia sublime nel fatto che proprio Darth Vader, simbolo di potere, controllo e autorità, sia stato fatto a pezzi da un branco di teenager armati di microfono e un po’ di fantasia. Ma è anche un monito: se nemmeno l’Imperatore riesce a gestire le derive della sua AI preferita, forse è ora che ci facciamo due domande sul futuro di questo giocattolo impazzito che chiamiamo “intelligenza”.
Oppure, più semplicemente, accettiamo il fatto che Fortnite sia diventato il laboratorio distopico dove le tecnologie emergenti vanno a scontrarsi con la brutalità dell’utenza. Un’arena gladiatoria per algoritmi, brand e moderazione fallita. Con Darth Vader a fare da speaker, e James Earl Jones da qualche parte che si rigira nella tomba, mentre l’algoritmo lo imita a meraviglia.