Nel mercato dell’intelligenza artificiale il prezzo per milione di token è diventato l’equivalente tecnologico del prezzo alla pompa della benzina: tutti lo guardano, quasi nessuno comprende davvero quanto spenderà alla fine del viaggio. Le pagine di pricing dei grandi laboratori AI sono consultate ossessivamente da sviluppatori, CIO e investitori, convinti che il modello meno costoso per token rappresenti automaticamente la scelta economicamente più efficiente. La realtà operativa è decisamente meno lineare.
Prendiamo alcuni esempi concreti. Il modello flagship GPT-5 di OpenAI costa circa 1,25 dollari per milione di token in input e 10 dollari per milione di token in output. GPT-5.5, destinato ai carichi professionali più complessi, sale a circa 5 dollari in input e 30 dollari in output. Kimi K2.6 di Moonshot AI si posiziona invece intorno a 0,95 dollari per milione di token in input e 4 dollari in output, mentre Gemini 2.5 Flash di Google rimane uno dei modelli più aggressivi sul mercato, con prezzi che partono da circa 0,15 dollari per milione di token in input e pochi dollari per l’output, a seconda della modalità di reasoning utilizzata.
Osservando soltanto questi numeri la conclusione sembrerebbe inevitabile: scegliere il modello più economico e massimizzare i margini. Il problema è che le aziende non acquistano token. Acquistano documenti processati, codice funzionante, ticket risolti, report generati, decisioni corrette. In altre parole, acquistano task completati.
Immaginiamo un agente software incaricato di generare codice enterprise. Supponiamo che GPT-5.5 completi correttamente l’attività in un singolo ciclo utilizzando complessivamente 50.000 token tra input, output e ragionamento interno. Il costo complessivo potrebbe aggirarsi intorno a 1,75 dollari. Un modello meno costoso come Kimi potrebbe richiedere tre iterazioni, ulteriori verifiche automatiche e una revisione umana finale, consumando complessivamente 250.000 token. Nonostante il prezzo unitario inferiore, il costo finale dell’attività potrebbe facilmente superare quello del modello premium. La differenza non risiede nel costo del token, ma nel numero di token necessari per arrivare a un risultato accettabile.
Il fenomeno è particolarmente evidente negli ambienti di coding autonomo. Diversi team che utilizzano strumenti come Claude Code, Cursor o agenti proprietari hanno osservato che modelli di fascia alta riducono drasticamente il numero di loop correttivi necessari per produrre software pronto per la produzione. Un bug corretto al primo tentativo può costare dieci volte meno di una sequenza di rigenerazioni apparentemente economiche. Come spesso accade nell’informatica, il costo marginale dell’errore supera rapidamente il costo dell’esecuzione iniziale.
L’economia cambia ulteriormente quando entrano in scena gli agenti autonomi. Un moderno agente AI non esegue una singola richiesta. Pianifica, consulta strumenti esterni, effettua ricerche, richiama API, verifica risultati, aggiorna memoria e rilegge continuamente il proprio contesto. In questo scenario il numero rilevante non è più il costo per milione di token, ma il rapporto tra token consumati e obiettivi completati.
Un caso tipico riguarda i sistemi di customer service automatizzato. Per attività semplici come classificare email o estrarre dati strutturati da fatture, Gemini Flash o Kimi rappresentano spesso la soluzione economicamente ottimale. Se un’azienda processa dieci milioni di documenti al mese con un tasso di errore facilmente verificabile, la matematica dei token funziona perfettamente e il vantaggio competitivo dei modelli low cost emerge con chiarezza.
Quando invece l’obiettivo consiste nel condurre audit contrattuali complessi, generare codice critico o orchestrare workflow multi-step, la classifica può ribaltarsi completamente. Una riduzione del 70% nel numero di iterazioni può compensare abbondantemente un prezzo per token tre o quattro volte superiore.
Un recente studio accademico ha inoltre evidenziato come il costo reale dell’inferenza dipenda fortemente dall’utilizzo effettivo delle infrastrutture. A parità di hardware, il costo operativo può variare di oltre venti volte semplicemente in funzione del livello di utilizzo delle GPU e della concorrenza delle richieste. Anche nel self-hosting, dunque, il semplice costo per token racconta soltanto una piccola parte della storia economica.
L’industria sta lentamente comprendendo che la metrica decisiva sarà il costo per outcome. Quanto costa risolvere un ticket? Quanto costa produrre una pull request approvata? Quanto costa completare una ricerca senza supervisione umana? Queste sono le domande che i CIO iniziano a porre ai propri team.
Il prezzo per token rimarrà importante, ma sempre meno sufficiente. Nel mondo degli agenti autonomi, il costo reale vive nei loop, nelle verifiche, nelle correzioni e nel tempo umano risparmiato. La pagina dei prezzi è soltanto il trailer. Il film, come spesso accade nell’intelligenza artificiale, è molto più costoso e molto più interessante.
Uno degli studi più interessanti e recenti sull’economia reale dell’inferenza AI è:
“Beyond Per-Token Pricing: A Concurrency-Aware Methodology for LLM Infrastructure Cost Estimation”
Lo studio dimostra che il costo effettivo dell’inferenza su identico hardware può variare da 0,21 dollari fino a 15,25 dollari per milione di token, semplicemente in funzione del livello di utilizzo delle GPU e della concorrenza delle richieste. In altre parole, la stessa infrastruttura può costare oltre 24 volte di più se sottoutilizzata. (ResearchGate)
Altri lavori accademici rilevanti sul tema sono:
- “Inference Economics of Language Models” di Epoch AI, che analizza il trade-off tra costo, velocità e dimensione dei modelli.
Inference Economics of Language Models
- “From Words to Watts: Benchmarking the Energy Costs of Large Language Model Inference”, uno dei primi studi sistematici sui costi energetici dell’inferenza LLM.
- “Mélange: Cost Efficient Large Language Model Serving by Exploiting GPU Heterogeneity”, sviluppato da ricercatori di University of California, Berkeley e Anyscale, che mostra come una combinazione eterogenea di GPU possa ridurre i costi di serving fino al 77%. (arXiv)
Questi lavori convergono tutti sulla stessa conclusione: il costo per token è una metrica insufficiente; il parametro economicamente rilevante è il costo per outcome o per task completato.