Il confronto tra modelli proprietari e open-weight sta entrando in una fase più interessante del semplice benchmark. Per un’impresa che vuole portare in produzione un assistente B2B, la questione non è più soltanto quale modello risponda meglio, ma quanto costi ottenere una risposta affidabile, con quale latenza e attraverso quale infrastruttura. Il messaggio economico dell’analisi proposta è convincente: un modello aperto non è automaticamente più economico da gestire, mentre un servizio a consumo non è necessariamente la soluzione più costosa. La differenza emerge quando si mettono in relazione il volume effettivo delle richieste, il costo dell’infrastruttura dedicata e la capacità di indirizzare ogni domanda verso il modello appropriato.

Il caso preso in esame considera un assistente rivolto ai clienti aziendali, con 50 conversazioni al giorno, sei turni per sessione, recupero di informazioni tramite RAG e un consumo complessivo stimato in 27 milioni di token mensili. In questo scenario, i prezzi indicati nell’analisi attribuiscono a GPT-6 Astra un costo di circa 450 dollari al mese, a Claude Opus 5.5 di 180 dollari e a Claude Sonnet 5.5 o GPT-6 Sol di 90 dollari. Regolo Core viene invece presentato a 39 euro mensili, con un plafond dichiarato di 600 milioni di token. Sono cifre che, se confermate dalle tariffe ufficiali e dalle condizioni contrattuali dei servizi citati, suggeriscono un vantaggio significativo per l’inferenza a tariffa fissa. Non dimostrano, tuttavia, che l’open-weight sia sempre più conveniente: mostrano quanto possa esserlo un’offerta commerciale con un ampio volume di consumo incluso.

Il dato più interessante è il rapporto tra consumo previsto e capacità acquistata. Ventisette milioni di token rappresentano il 4,5% di un plafond da 600 milioni; mantenendo invariato il consumo medio, un servizio che passasse da 50 a 1.000 conversazioni giornaliere arriverebbe a circa 540 milioni di token mensili, ossia al 90% della capacità inclusa. Il calcolo è corretto, ma richiede una precisazione commerciale: un plafond fisso elimina il costo marginale per i token soltanto entro i limiti e alle condizioni dell’offerta. Non elimina i costi di eventuali servizi aggiuntivi, le limitazioni di velocità, i vincoli di concorrenza o la necessità di dimensionare correttamente l’infrastruttura applicativa. Inoltre, la crescita del traffico non è sempre proporzionale al numero delle conversazioni: un cliente che utilizza l’assistente per diagnosticare un errore API può generare richieste molto più onerose di chi domanda una semplice informazione commerciale.

Anche il confronto tra i modelli proprietari merita un controllo metodologico. I listini ufficiali di OpenAI distinguono il prezzo dei token in ingresso da quello dei token generati, con tariffe differenti per GPT-6 Astra e GPT-6 Sol.

Per stimare la fattura mensile non basta quindi conoscere il volume complessivo: bisogna separare input, output ed eventuali token di ragionamento fatturabili, considerando anche il caching dei prompt e le condizioni applicate al contesto lungo. Se i 27 milioni comprendono entrambe le categorie, i valori di 450 e 90 dollari non possono essere verificati senza conoscere la loro distribuzione e il metodo di calcolo utilizzato. Il rischio è confrontare un prezzo API calcolato su ipotesi non dichiarate con un abbonamento che include un plafond, ottenendo una graduatoria apparentemente precisa ma non ancora omogenea.

La questione diventa più interessante quando si passa dall’acquisto dei token alla gestione dell’inferenza. La disponibilità di pesi aperti consente alle aziende di scegliere dove eseguire il modello e, a seconda della licenza, di modificarne o distribuirne il software. Non significa, tuttavia, che sia necessario acquistare o noleggiare immediatamente un server con otto GPU H100 o H200. Una macchina di questo tipo può avere senso per carichi elevati, requisiti rigorosi di isolamento o necessità di controllo operativo; per un assistente che gestisce poche decine di conversazioni al giorno, rischia invece di trasformare un costo variabile relativamente contenuto in una spesa infrastrutturale fissa, da sostenere anche quando le GPU restano inattive. Il costo effettivo comprende inoltre orchestrazione, monitoraggio, aggiornamenti, gestione degli errori, ridondanza e competenze necessarie a mantenere il servizio disponibile.

L’arrivo di GLM 5.3 su Amazon Bedrock il 5 ottobre 2026 rende questo confine meno netto. AWS descrive il modello di Z.ai come un sistema open-weight basato su architettura Mixture of Experts, con circa 40 miliardi di parametri attivi per token, una finestra di contesto da un milione di token e capacità orientate alla programmazione e ai compiti agentici prolungati. Bedrock offre accesso gestito, caching dei prompt e diversi livelli di servizio.

È un passaggio importante perché permette di utilizzare pesi aperti senza assumersi necessariamente l’onere di gestire direttamente ogni componente dell’infrastruttura. Naturalmente, il servizio gestito non equivale al pieno controllo di un’installazione privata: residenza dei dati, disponibilità regionale, condizioni di accesso e dipendenza dal fornitore restano elementi da verificare.

La strategia di instradamento proposta con Brick aggiunge un’altra variabile economica. Un router basato sulla complessità della richiesta può affidare le domande semplici a un modello meno costoso, riservando quello più capace alle richieste che richiedono ragionamento articolato, diagnosi tecnica o più passaggi operativi. L’ipotesi di distribuire l’80% delle richieste a Qwen e il restante 20% a un modello della famiglia GLM è plausibile come architettura da sperimentare, ma non va trattata come un risultato universale. La qualità dipende dalla capacità del router di classificare correttamente le richieste, dalla differenza effettiva tra i modelli e dal costo dei tentativi falliti, delle risposte da correggere e delle escalation. Anche una classificazione molto rapida, inferiore a 15 millisecondi secondo il dato riportato, ha valore soltanto se migliora il costo complessivo senza compromettere la qualità percepita dal cliente. Il risparmio nominale perde significato quando un modello economico produce una risposta sbagliata che richiede l’intervento umano.

Per questo motivo, il punto di pareggio dovrebbe essere calcolato sulla singola richiesta risolta correttamente, non sul token isolato. In un assistente B2B, una risposta errata durante il debugging di un webhook può generare ticket aggiuntivi, ore di supporto e perdita di fiducia. Un modello più caro può risultare economicamente preferibile se riduce sensibilmente questi costi; viceversa, affidare ogni domanda a un modello di fascia alta significa pagare capacità che spesso non serve. La soluzione più robusta è una pipeline misurabile, nella quale il modello economico gestisce le richieste ricorrenti, il recupero RAG limita le informazioni da trasmettere e un sistema di escalation interviene quando la confidenza o la verifica della risposta non raggiungono una soglia prestabilita.

La scelta tra API proprietarie, modelli open-weight su infrastruttura dedicata e servizi gestiti dovrebbe quindi dipendere dalla curva di utilizzo reale. A volumi bassi, un’API o un plafond conveniente riducono il rischio di sostenere capacità inutilizzata. Quando il traffico diventa stabile e prevedibile, l’inferenza autogestita può diventare competitiva, purché il risparmio superi i costi operativi e il costo-opportunità del capitale impegnato. Tra questi estremi, l’infrastruttura gestita e il routing ibrido offrono un compromesso interessante, soprattutto per le imprese che non vogliono trasformare il proprio team applicativo in un gruppo specializzato nella gestione di GPU.

Il dato di Regolo Core a 39 euro mensili per 600 milioni di token, se confermato dal listino e dalle condizioni contrattuali, è dunque un ottimo punto di partenza per un benchmark, non ancora una dimostrazione definitiva del costo totale di proprietà. Prima di decidere, un CTO dovrebbe sottoporre la stessa batteria di richieste a ciascuna soluzione e misurare spesa effettiva, latenza al 95° percentile, percentuale di risoluzione al primo tentativo e interventi umani necessari. È in questa misurazione, più che nel confronto pubblicitario tra modelli, che si trova il vero punto di pareggio dell’inferenza aziendale.

Per approfondire, le fonti primarie utili sono la documentazione ufficiale di Amazon Bedrock su GLM 5.3 e il listino API di OpenAI. Per Regolo Core e Brick, il confronto richiede inoltre i rispettivi listini aggiornati e la documentazione tecnica del router, così da verificare plafond, eventuali limiti di utilizzo e metodologia di classificazione.

Rivista.AI Research è l'area di ricerca e analisi di Rivista.AI, dedicata allo studio delle trasformazioni tecnologiche, economiche e industriali legate all'intelligenza artificiale. Attraverso l'analisi di dati, documenti, fonti istituzionali e informazioni di mercato, sviluppa approfondimenti, inchieste e research paper sui modelli di business, sulle dinamiche competitive e sulle implicazioni strategiche dell'innovazione per imprese e istituzioni.

Comments are closed.