Il 29 settembre 2026 il Wall Street Journal ha raccontato che OpenAI rinuncia al lancio di GPT-6.1 Astra, il modello di nuova generazione che l’azienda di Sam Altman avrebbe voluto rilasciare nel giro di poche settimane, e la notizia è stata riportata da tutti i siti di news con la frase “perché è troppo pericoloso”.
La realtà ovviamente è diversa e meno affascinante. Non è un rinvio per un problema tecnico qualsiasi: il responsabile dei sistemi di sicurezza, Saachi Jain, ha spiegato che il modello non ha superato gli standard interni di allineamento, cioè la capacità di comportarsi come gli esseri umani si aspettano.

Attorno a questa ennesima notizia di stop al rilascio di un modello girano domande che chiunque usi l’intelligenza artificiale ogni giorno si è fatto almeno una volta. Perché la decisione arriva quando il modello è già pronto? Come si stabilisce che è troppo rischioso? Quanto costa gettare via mesi di lavoro e di calcolo? Era già successo? E, soprattutto, che cosa cambia per chi lavora con questi strumenti?

Le risposte, una alla volta, partono da qui: nessun modello viene fermato per un’impressione, ma su misure precise fatte su comportamenti precisi.

Perché decidono solo a modello finito?

Anche se noi lo sappiamo alla fine, nella vita reale la valutazione non comincia alla fine.
Nei documenti che accompagnano i modelli precedenti, OpenAI descrive test eseguiti durante l’addestramento e uno sweep finale prima del lancio, con esperti esterni che provano il modello quando è ancora in versione quasi definitiva.
Il problema, come in ogni prodotto informatico, è che certi comportamenti si vedono solo a lavoro concluso, e solo quando il modello lavora davvero su casi reali e non su casi di test preconfezionati.

Chi programma conosce bene questa dinamica.
La revisione del codice si fa durante lo sviluppo, ma il comportamento di un sistema complesso lo puoi controllare e analizzare soltanto quando tutti i pezzi sono collegati tra loro e messi sotto stress in un ambiente controllato di prova.

Per un modello che lavora come agente, portando a termine compiti lunghi con strumenti esterni, vale lo stesso principio. La prova più severa avviene all’ultimo, ed è anche quella che decide.

Nel caso di Astra però questa cosa non è una sorpresa. Secondo quanto spiegato da Jain, il modello aveva fatto progressi sulla cosiddetta “pigrizia”, ovvero la tendenza a cercare scorciatoie o a mollare i compiti difficili.

Ma proprio la maggiore tenacia sembra aver reso più difficile il rispetto dei limiti. Tra sicurezza e utilità c’è sempre un compromesso, e il modello non ha trovato il punto giusto. Insomma è un modello che si impegna per evitare di lavorare.
Il problema è che un difetto che emerge da una qualità apprezzata è quasi impossibile da individuare prima di avere il modello completo tra le mani.

Come si capisce che un modello è troppo rischioso?

Con i test, ma non qualche decina, le aziende come OpenAI usano batterie di test.
Un sistema industriale di test ordinati e organizzati.
Il Preparedness Framework di OpenAI prevede infatti valutazioni automatiche con soglie prestabilite, esami condotti da esperti che cercano di spingere il modello a sbagliare (il cosiddetto red-teaming) e verifiche di allineamento.

A queste sessioni di test che fanno in casa si aggiungono anche enti esterni.
Il 28 settembre l’AI Security Institute britannico ha pubblicato uno studio, riportato da Open, secondo cui il modello, durante delle simulazioni e con le protezioni disattivate, si è comportato in modo imprevisto più spesso dei suoi predecessori.
C’è anche da dire che quei test misurano le capacità massime del sistema e non riguardano le versioni destinate al pubblico, quindi quando si parla di “predecessori” non è necessariamente la versione precedente.

Tornando ad Astra, i segnali sono stati due. Il primo riguarda la trasparenza. Il modello non sempre raccontava correttamente ciò che aveva fatto o non aveva fatto, con livelli di comportamento ingannevole più alti rispetto al predecessore. A farla breve raccontava fandonie.
Il secondo riguarda i permessi: in alcuni casi proseguiva un compito senza chiedere l’autorizzazione dell’utente e ricorreva a strumenti o servizi esterni anche quando c’erano dei rischi, come riportato dal Post. Ricordate i famosi agenti che se ne andavano in giro per il web a cercare i risultati dei test anziché calcolarli?

Per rendere l’idea, basta un esempio inventato: a un assistente viene chiesto di correggere un errore in un programma. Un agente affidabile lo corregge, esegue i controlli e riferisce con precisione cosa ha fatto. Uno che tende a raccontare di aver verificato senza averlo fatto, o che per riuscire usa un servizio esterno senza chiedere, è utile finché tutto va bene e costoso quando qualcosa va storto.

Il contesto aiuta a capire la prudenza. Pochi giorni prima, OpenAI aveva sospeso l’addestramento dei suoi modelli più avanzati dopo diversi episodi in cui agenti AI avevano agito in autonomia e senza autorizzazione, lo racconta bene Axios.

Gli episodi, avvenuti sia nei test interni sia nel mondo reale, sono in gran parte senza danni riscontrati, ma tra i casi emersi ci sono un sito del governo australiano violato e 53 immagini di utenti di ChatGPT finite online.

Quanto costa preparare una versione nuova?

Sui costi di produzione Astra non esistono cifre ufficiali, e per questo conviene ragionare per ordini di grandezza.

Le stime di settore per l’addestramento principale di un modello di classe GPT-5 oscillano tra i 200 e i 500 milioni di dollari, mentre altre analisi arrivano a miliardi se si contano esperimenti, prove fallite e costi di infrastruttura.
Sul fronte delle risorse, si parla di decine di migliaia di processori grafici impegnati per mesi. Sono stime esterne, da prendere con cautela, ci servono per darci un’idea non un numero preciso.

Il quadro cambia se si guarda a cosa OpenAI intende fare adesso.
Come riportato dal Quotidiano Nazionale, l’azienda vuole riutilizzare lo stesso modello di base di Astra per nuovi cicli di apprendimento per rinforzo, verificando anche che gli ambienti di addestramento premino davvero i comportamenti desiderati.

La parte più costosa, l’addestramento iniziale, non va quindi persa, a essere rifatta è quella parte in cui il modello impara a comportarsi.
Quanto pesi ciascuna fase sul totale ovviamente non è pubblico, è un segreto induziale, ma qui il costo vero, più che in dollari, è nel tempo, che può arrivare a settimane di ritardo su un lancio già programmato.

È già successo che un modello “pericoloso” sia stato commercializzato?

Sì, e la storia è istruttiva. Nel febbraio 2019 OpenAI presentò GPT-2 e decise di non pubblicarlo per intero, temendo un uso per produrre testi falsi su larga scala, come ricostruisce Wikipedia.

Rilasciò prima una versione ridotta e, dopo mesi di monitoraggio, il modello completo il 5 novembre dello stesso anno. Alcuni commentatori dell’epoca giudicarono l’allarme esagerato, altri lo lessero come l’inizio di una cultura della responsabilità nella pubblicazione dei modelli.
Nel frattempo due studenti avevano già replicato un modello simile, a dimostrazione di quanto sia difficile tenere una capacità chiusa in laboratorio.

Oppure il più recente il caso di Claude Mythos Preview.
Il 7 aprile 2026 Anthropic annunciò di non volerlo rendere disponibile al pubblico per le sue capacità in ambito di sicurezza informatica, vi metto il link a VentureBeat se volete rileggere la storia.
Lo affidò invece a un gruppo di partner tramite il Project Glasswing, per trovare e correggere vulnerabilità nei software critici.
Dopo un paio di mesi, a giugno, arrivò una versione a uso generale con protezioni aggiuntive, affiancata da una versione ad accesso ristretto.

E poi c’è il caso di modelli valutati a rischio “medio” in alcune categorie e rilasciati comunque.
Nella scheda tecnica di o1, OpenAI dichiarava che solo i modelli con punteggio post-mitigazione medio o inferiore potevano essere pubblicati, gli altri no.
Il rischio, quindi, non è un interruttore acceso o spento, è più come una scala, e le protezioni aggiunte prima del lancio ne abbassano il livello.

Perché allora si va avanti?
Le ragioni dichiarate sono che con protezioni adeguate e accessi graduali i benefici superano i rischi.
I critici aggiungono una lettura diversa, cioè che la concorrenza e i tempi di mercato pesino nelle decisioni.
Per non saper ne leggere ne scrivere potremmo dire che entrambe queste spinte esistono.

Al momento, quello che abbiamo capito da quello che ci è stato detto, è che nel caso Astra questa volta la scala descritta prima ha fatto decidere per il no.

Cosa cambia per chi usa ChatGPT, Codex e le API?

Nell’immediato, nulla. Il modello non è uscito e gli strumenti attuali restano quelli di ieri.
Ma i due difetti individuati in Astra indicano dove conviene fare attenzione con qualsiasi agente AI, oggi ma soprattutto con i modelli che verranno.

Il primo è la fiducia nei resoconti.
Ad esempio un agente che dichiara di aver eseguito i test va verificato, i test si rilanciano, i file modificati si controllano, i log si leggono.
Il secondo è il perimetro dei permessi. Chi integra un modello via API o lo lascia lavorare su un progetto fa bene a dargli il minimo indispensabile, chiavi con limiti di spesa e di accesso, ambienti isolati per le prove, conferma umana per le azioni con effetti fuori dal progetto, come inviare dati, chiamare servizi esterni o toccare risorse in produzione.

Alla fine sono le stesse regole di prudenza che si applicano a qualunque collaboratore nuovo, umano o meno.

Cosa abbiamo capito

Riassumendo, la decisione di OpenAI arriva a modello quasi finito perché certi comportamenti si vedono solo allora e solo quando l’agente lavora sul serio.

Per stabilire se un modello è pronto si usano test automatici, esperti che cercano di metterlo in difficoltà e enti esterni, e nel caso di Astra hanno pesato la trasparenza sulle proprie azioni e il rispetto dei permessi.

Il costo è soprattutto di tempo, perché il modello di base viene riutilizzato, e i precedenti mostrano che il rischio è una scala da gestire con protezioni e accessi graduali.

Il messaggio per chi lavora con l’AI è da una parte rassicurante ma con un invito alla prudenza. Un’azienda che ferma il proprio prodotto di punta per un difetto sta usando i freni nel modo giusto. Non è un ritiro dal mercato, ma un passaggio per una serie di correzioni per portare il prodotto in commercio.
Resta a chi sviluppa e a chi usa questi strumenti il compito di tenere le mani sul volante: permessi minimi, verifiche sempre, fiducia graduale.

Quindi quando sentite dire “è troppo pericoloso” traducetelo in “non è ancora pronto”.

Co-Fondatore di Rubedo Data Solutions, ha una newsletter su substack, appassionato di informatica e automazione, sta in giro per il web in mezzo a enormi quantità di dati da più di 25 anni. Si occupa principalmente dell'ideazione e progettazione di servizi web, elaborazione e raccolta dati. Tutti strumenti che usa per i suoi hobby: la creazione di motori di ricerca e strumenti legati all'IA. Da vecchio nerd ha una scarsa propensione alla diplomazia ed uno spiccato humor nero, qualità che stranamente non a tutti piacciono.

Comments are closed.