Quale modello è il migliore? Oggi la domanda realmente strategica è completamente diversa. Quale modello dovrebbe essere utilizzato, in quale momento e per quale specifico compito? È una differenza apparentemente sottile, ma rappresenta il passaggio dall’era dell’hype a quella dell’ingegneria economica dell’AI.

Anthropic ha appena formalizzato (su GITHUB) questo cambio di paradigma mostrando come Fable 5, il proprio modello più potente, non debba necessariamente essere il motore di ogni singolo token elaborato. Il motivo è semplice: l’intelligenza artificiale più sofisticata produce risultati eccellenti, ma ogni token elaborato ha un costo che, su larga scala, diventa rapidamente una voce significativa nel conto economico di qualsiasi organizzazione. Quando milioni o miliardi di token vengono processati ogni giorno, l’efficienza architetturale diventa importante quanto la qualità del modello.

La vera innovazione, quindi, non consiste nello sviluppare un modello ancora più intelligente, ma nel costruire un sistema in cui modelli diversi collaborano come farebbe un’organizzazione aziendale ben progettata. Un CEO non approva ogni fattura né risponde a ogni email; interviene esclusivamente sulle decisioni strategiche. Anthropic applica la stessa logica ai Large Language Models.

Il primo schema, denominato Consulting Pattern, trasforma Sonnet 5 nel principale esecutore operativo. È il modello meno costoso che esegue praticamente tutta l’elaborazione, mentre Fable 5 viene consultato esclusivamente nei momenti decisionali realmente complessi. In pratica, Fable interviene una sola volta per attività, lasciando che Sonnet gestisca il resto del flusso operativo.

I numeri raccontano meglio di qualsiasi slogan la validità dell’approccio. Sul benchmark SWE-bench Pro, dedicato alla risoluzione di problemi software reali, questa architettura raggiunge circa il 92% delle prestazioni di Fable 5 utilizzando soltanto il 63% del costo. La riduzione deriva dal fatto che la quasi totalità dei token viene elaborata dal modello economicamente più conveniente, mentre quello premium entra in scena esclusivamente quando il valore aggiunto giustifica realmente la spesa.

Il secondo schema è ancora più interessante dal punto di vista dell’architettura distribuita. Nel cosiddetto Orchestrator Pattern, Fable 5 assume il ruolo di direttore d’orchestra. Analizza il problema, pianifica la strategia e successivamente delega il lavoro operativo a numerosi worker basati su Sonnet 5, che eseguono le attività in parallelo. Non è molto diverso da quanto accade nei moderni sistemi cloud distribuiti: un coordinatore intelligente assegna il lavoro a più nodi specializzati, massimizzando throughput ed efficienza.

Su BrowseComp, benchmark orientato alla ricerca e alla navigazione di informazioni complesse, questa architettura raggiunge addirittura il 96% delle prestazioni di Fable 5, ma con appena il 46% del costo. Si tratta di un risultato che evidenzia come la progettazione dell’architettura possa incidere più dell’aumento della potenza del singolo modello.

L’esempio pubblicato da Anthropic rende la differenza estremamente concreta. Una verifica composta da venti fact-check indipendenti costa circa 1,61 dollari utilizzando il modello orchestrato con worker paralleli, contro circa 4 dollari richiesti dall’esecuzione interamente affidata a Fable 5. La qualità rimane sostanzialmente equivalente, mentre il costo operativo viene ridotto di oltre la metà.

Un elemento meno appariscente ma tecnicamente molto rilevante riguarda il sistema di caching distribuito. Ogni sub-agente mantiene infatti una propria cache contestuale. Ciò significa che informazioni già elaborate non devono essere continuamente reinserite nel prompt, evitando di pagare due volte per token sostanzialmente identici. È un dettaglio che molti osservatori trascurano, ma nei sistemi enterprise il caching rappresenta spesso uno dei principali fattori di riduzione dei costi computazionali.

Entrambi gli approcci vengono implementati attraverso Claude Managed Agents, la piattaforma di orchestrazione sviluppata da Anthropic per coordinare gruppi di agenti specializzati. L’azienda ha inoltre pubblicato esempi funzionanti nel repository Claude Cookbooks, consentendo agli sviluppatori di replicare rapidamente entrambe le architetture nei propri progetti.

La lezione strategica va però oltre Anthropic. L’intero settore dell’intelligenza artificiale sembra muoversi verso un modello organizzativo ispirato alle imprese moderne. Non esisterà un singolo modello onnipotente incaricato di fare tutto. Esisteranno invece ecosistemi composti da modelli differenti, ciascuno con competenze, costi e responsabilità diverse. I modelli premium diventeranno consulenti strategici, mentre quelli più economici svolgeranno il lavoro operativo quotidiano.

Questa evoluzione segna probabilmente la nascita di una nuova disciplina: l’economia delle architetture AI. Per oltre tre anni il mercato ha celebrato benchmark sempre più elevati, classifiche sempre più affollate e modelli sempre più grandi. Tuttavia, nei consigli di amministrazione la domanda non sarà mai quale modello abbia ottenuto il punteggio più alto su un benchmark accademico. La domanda sarà sempre la stessa: quanto valore produce ogni dollaro investito?