Francesco Massa e Seeweb presentano Brick, il routing intelligente dei modelli LLM che sfida il costo dell’intelligenza artificiale

Il lancio di Brick, il nuovo sistema di routing per modelli linguistici presentato da Francesco Massa, ricercatore e ingegnere R&D AI insieme al contesto industriale di Seeweb e al progetto RegoloAI, si inserisce in una fase del mercato in cui l’intelligenza artificiale smette di essere una corsa alla dimensione del modello e diventa un problema di allocazione economica delle risorse computazionali. L’idea, almeno sulla carta, è semplice quanto scomoda per l’industria: non tutti i prompt meritano un modello frontier, e non tutti i modelli piccoli sono destinati a fallire. La promessa di Brick è quella di trasformare questa intuizione in un sistema misurabile, vettoriale e soprattutto ottimizzato per il trade-off tra qualità e costo.

Il contesto competitivo aiuta a capire perché questa proposta non sia un esercizio accademico. La diffusione di modelli sempre più performanti ha creato una compressione economica paradossale, dove l’accesso alla qualità massima è tecnicamente possibile ma finanziariamente inefficiente. In molte architetture enterprise, il default è ancora quello di instradare tutto verso il modello migliore disponibile, una scelta che massimizza la qualità percepita ma distrugge margini operativi. L’industria ha risposto con approcci come RouteLLM o FrugalGPT, che tentano di classificare le richieste in base a segnali superficiali come lunghezza del prompt, dominio semantico o pattern linguistici. Il problema, come sottolineato nella proposta di Brick, è che la complessità reale delle richieste non è mai distribuita in modo uniforme all’interno di un dominio. Una domanda di matematica può essere banale o estremamente complessa, e la differenza non è catturabile da feature statiche.

L’impostazione proposta da Brick introduce una rottura concettuale interessante, perché smette di trattare il routing come classificazione e lo ripensa come problema geometrico. I modelli vengono rappresentati come vettori in uno spazio di capacità multidimensionale, dove dimensioni come reasoning matematico, conoscenza del mondo, programmazione, creatività e capacità agentica definiscono la posizione di ciascun sistema. In parallelo, ogni query viene proiettata nello stesso spazio tramite un classificatore basato su ModernBERT, mentre un modello secondario stima la difficoltà intrinseca del task. Il routing non è più una scelta discreta, ma una misura di distanza tra richiesta e capacità, con una funzione di costo che penalizza sia l’under-provisioning sia l’over-provisioning. Quest’ultimo punto è cruciale, perché introduce un principio raramente esplicitato nelle pipeline AI industriali: usare un modello troppo potente è inefficiente quanto usarne uno troppo debole.

Dal punto di vista architetturale, la componente più interessante non è solo la rappresentazione vettoriale, ma la possibilità di integrare una dimensione economica esplicita, rappresentata dal coefficiente beta che regola il trade-off tra qualità e costo. Questo trasforma il routing in una funzione parametrica, dove lo stesso sistema può essere calibrato dinamicamente tra modalità orientate alla massima qualità o alla massima riduzione dei costi senza retraining. In un mercato in cui i costi dei modelli frontier possono variare di ordini di grandezza rispetto ai modelli open-weight, questa flessibilità diventa un elemento strategico più che tecnico. È la traduzione operativa di un concetto che molte aziende discutono ma poche implementano davvero: l’intelligenza artificiale non è un singolo sistema, ma una catena di decisioni economiche.

I risultati dichiarati, su un benchmark da oltre cinquemila query e tre modelli tra cui varianti come kimi, deepseek e qwen, suggeriscono un miglioramento simultaneo di qualità e costo. In modalità massima qualità, Brick supera il miglior modello singolo, mentre in modalità neutra riduce drasticamente i costi mantenendo performance competitive, e in configurazione minimale arriva a riduzioni di costo significative con penalità controllata sulle prestazioni. Il dato più rilevante, però, non è la percentuale in sé, ma il posizionamento concettuale: il routing non è più un layer di ottimizzazione marginale, ma un componente che può superare la performance del singolo modello, ridisegnando l’idea stessa di “best model” in un sistema multi-modello.

Questa evoluzione apre una domanda più scomoda per il settore enterprise e per i provider cloud come Seeweb: se il valore non risiede più nel modello singolo ma nella capacità di orchestrazione intelligente, allora il vantaggio competitivo si sposta dal vendor di AI al livello di routing e controllo. In altre parole, il modello diventa una commodity e l’intelligenza vera si sposta nel middleware. È una dinamica già vista in altri cicli tecnologici, dal database al cloud computing, dove il valore si è progressivamente spostato dall’infrastruttura alla logica di orchestrazione.

La traiettoria implicita di sistemi come Brick suggerisce infine un cambiamento più profondo nel modo in cui le aziende penseranno l’AI nei prossimi anni. Non più una scelta binaria tra modelli piccoli ed economici o modelli grandi e costosi, ma un mercato interno di decisioni dinamiche, dove ogni query diventa un evento economico ottimizzato in tempo reale. In questo scenario, progetti come quello sviluppato all’interno di RegoloAI da Francesco Massa non sono semplicemente innovazioni tecniche, ma segnali di una transizione strutturale: l’intelligenza artificiale smette di essere un prodotto e diventa un sistema di allocazione del capitale computazionale. E come ogni sistema di allocazione efficiente, il suo vero valore non si vede nei benchmark, ma nei bilanci.

REGOLO AI https://huggingface.co/regolo