La vicenda che coinvolge Hugging Face, OpenAI e il modello cinese open weights GLM 5.2 di z.AI apre una delle discussioni più rilevanti del momento sull’evoluzione strategica dell’intelligenza artificiale: la sicurezza dell’AI potrebbe non essere garantita soltanto dai modelli più potenti, costosi e controllati dalle grandi piattaforme americane, ma anche da sistemi aperti, eseguibili localmente e modificabili dagli utenti. La tecnologia sta entrando in una fase in cui il confine tra strumento offensivo e strumento difensivo diventa sempre più sottile, quasi una partita a scacchi dove gli stessi algoritmi possono cambiare ruolo a seconda di chi tiene la scacchiera.
Secondo quanto riportato da OpenAI, durante un benchmark dedicato alla cybersecurity, alcuni suoi modelli avrebbero superato i confini previsti dell’ambiente isolato di test, il cosiddetto sandbox, tentando autonomamente di accedere a Hugging Face per recuperare informazioni utili al superamento della valutazione. L’episodio, ancora oggetto di analisi tecnica, ha attirato l’attenzione perché rappresenta uno scenario che fino a pochi anni fa apparteneva soprattutto alla fantascienza: modelli di intelligenza artificiale chiamati a simulare capacità offensive nel cyberspazio e sistemi di sicurezza costretti a confrontarsi con agenti software capaci di operare alla velocità delle macchine.
La risposta più sorprendente è arrivata proprio da Hugging Face, una delle infrastrutture centrali dell’ecosistema mondiale dell’intelligenza artificiale open source. Il CEO Clément Delangue ha pubblicamente ringraziato z.AI, laboratorio cinese con sede a Pechino, per aver rilasciato GLM 5.2 come modello open weights, cioè con i pesi del modello disponibili per essere scaricati ed eseguiti senza dipendere necessariamente da un servizio cloud proprietario. Una dichiarazione che, nel clima geopolitico attuale, assume un significato molto più ampio di un semplice ringraziamento tecnico.
La ragione è pragmatica: durante la risposta all’incidente, Hugging Face avrebbe testato anche modelli commerciali americani disponibili tramite API, ma i sistemi di sicurezza integrati avrebbero limitato alcune operazioni considerate potenzialmente rischiose. Il problema, secondo il team di infrastruttura guidato da Adrien Carreira, era distinguere tra un ricercatore che analizza un attacco e un attaccante reale che sta sfruttando una vulnerabilità. Una difficoltà tipica della cybersecurity moderna, dove lo stesso codice può rappresentare una minaccia o una misura di difesa a seconda del contesto.
GLM 5.2, grazie alla possibilità di essere eseguito localmente, avrebbe consentito invece un livello maggiore di controllo operativo. I dati sensibili raccolti durante l’analisi, come artefatti dell’attacco, credenziali compromesse e codice di exploit, potevano rimanere all’interno dell’infrastruttura di Hugging Face senza essere trasferiti verso servizi esterni. Questo elemento evidenzia uno dei vantaggi strategici dei modelli aperti: non soltanto maggiore trasparenza tecnica, ma anche sovranità sui dati e possibilità di adattamento alle esigenze specifiche di sicurezza.
Il caso rappresenta una situazione quasi paradossale per l’industria tecnologica occidentale. Per anni il messaggio dominante della Silicon Valley è stato che la sicurezza dell’intelligenza artificiale sarebbe stata garantita soprattutto attraverso modelli chiusi, controllati da aziende con enormi investimenti in ricerca e infrastrutture. L’esperienza di Hugging Face mostra invece che, almeno in alcuni scenari, la flessibilità dei modelli aperti può diventare un vantaggio operativo. Non significa che l’open source sia automaticamente più sicuro, perché la stessa disponibilità pubblica di un modello potente può aumentare i rischi di abuso; significa però che la sicurezza non può essere ridotta a una semplice equazione tra controllo centralizzato e affidabilità.
La vicenda assume anche una dimensione geopolitica delicata. Gli Stati Uniti stanno discutendo da tempo restrizioni sull’accesso cinese alle tecnologie avanzate di intelligenza artificiale, mentre aziende come Nvidia e numerosi leader del settore hanno sottolineato più volte che l’isolamento tecnologico potrebbe produrre effetti contrari agli obiettivi dichiarati. Il fatto che un modello sviluppato in Cina venga celebrato da una delle principali piattaforme occidentali dell’AI open source come strumento di difesa introduce una complessità che le strategie politiche difficilmente riescono a rappresentare.