Il vero moat degli agenti AI non è il modello: il paper che smonta il mito dell’intelligenza artificiale per il coding

Uu recente post del grande Alexio Cassani, ci ha incuriosito, c’è un numero, piccolo e quasi offensivo nella sua semplicità, che merita di entrare in ogni boardroom dove qualcuno sta per firmare un contratto multimilionario su agenti AI per lo sviluppo software: 1,6%. Non è un tasso di errore, non è una metrica di benchmark, non è l’ennesimo punteggio su HumanEval raccontato come se fosse la finale olimpica dell’informatica. È la quota di codice dedicata alla “decision logic” del modello dentro Claude Code, il sistema di coding agent di Anthropic, secondo un nuovo paper pubblicato su arXiv dai ricercatori del Mohamed bin Zayed University of Artificial Intelligence (MBZUAI): Dive into Claude Code: The Design Space of Today’s and Future AI Agent Systems. (lo trovate qui: arXiv)

Tradotto in italiano operativo: il modello conta, ma conta molto meno di quanto il marketing della Silicon Valley abbia fatto credere per due anni. Il restante 98,4% del sistema è infrastruttura. Permessi. Routing degli strumenti. Gestione del contesto. Compattazione della memoria conversazionale. Recovery dagli errori. Isolamento dei sub-agent. Persistenza delle sessioni. Guardrail. Sistemi di estensione. Tutta quella parte noiosa che raramente finisce nei keynote con musica epica e slide nere su sfondo bianco.

È un dato devastante per una certa narrativa. Per mesi il mercato è stato ipnotizzato dalla domanda sbagliata: meglio GPT, Claude o Gemini? Domanda comoda, semplice, quasi calcistica. Da bar sport tecnologico. La risposta del paper è invece brutale: spesso state confrontando il motore, ignorando telaio, freni, sospensioni e software di stabilità.

I ricercatori descrivono il cuore di Claude Code come un semplice loop iterativo: il modello viene chiamato, usa strumenti, riceve nuovi input, ripete. Nulla di mistico. Nulla di trascendente. Nessun totem cognitivo nato nel cloud. Il cervello, per così dire, è sorprendentemente lineare. Il valore industriale emerge dal sistema che lo contiene.

Questo dovrebbe far sobbalzare qualunque CTO serio. Perché se il valore è nel sistema, allora la commodity futura è il modello. Non il contrario.

La storia dell’informatica è piena di equivoci simili. Negli anni Novanta molti pensavano che il database fosse il prodotto; poi si è capito che il vantaggio competitivo stava nei processi e nell’integrazione. Nel cloud si credeva che bastasse virtualizzare server; poi si è scoperto che il vero moat era l’orchestrazione, la governance, la security posture. Oggi molti credono che basti comprare accesso a un frontier model. È la stessa illusione con una GPU in più.

Il paper MBZUAI è interessante proprio perché evita il folklore dell’AI “magica” e osserva l’ingegneria reale. Evidenzia un sistema di permessi con diverse modalità operative e classificazione ML per decidere quando autorizzare azioni; una pipeline multilivello per la compattazione del contesto; meccanismi di delega a sub-agent con isolamento tramite worktree; storage append-oriented delle sessioni; sistemi di estensione tramite plugin, hooks e protocolli esterni. (arXiv)

Detto in modo meno accademico: Claude Code non funziona perché “Claude pensa meglio”. Funziona perché qualcuno ha passato migliaia di ore a impedire che il modello faccia sciocchezze costose.

Questa distinzione è essenziale nel mondo enterprise. In una demo, un modello brillante impressiona. In produzione, impressiona molto di più un sistema che non distrugge una repo Git, non lancia comandi pericolosi, non perde il contesto dopo venti iterazioni e non apre ticket di sicurezza alle tre del mattino. Le demo vendono budget. L’affidabilità salva carriere.

Chi compra AI per software engineering dovrebbe quindi cambiare griglia di valutazione. Non “quale LLM usate?”, ma “come gestite autorizzazioni granulari, rollback, audit trail, segmentation dei task, memorie persistenti, osservabilità, policy enforcement, costo per ciclo e fallimento silenzioso?”. Sono domande meno glamour. Anche più intelligenti.

Il mercato però ama ancora il teatro. Ogni settimana arriva un nuovo benchmark dove un modello “supera” l’altro del 3%. Poi lo stesso modello, lasciato libero su una codebase enterprise da venti anni, si perde in dipendenze legacy, naming schizofrenico e business logic scritta da un consulente sparito nel 2014. Lì finisce la religione del benchmark e ricomincia la realtà.

Non sorprende che anche OpenAI, Anthropic e molti architetti di primo piano stiano convergendo sul concetto di harness engineering: il set di vincoli, feedback loop e meccanismi di controllo che rendono utile un modello probabilistico dentro processi deterministici. È una frase elegante per dire che il cavallo va tenuto con le redini.

Esiste poi una conseguenza economica rilevante. Se il moat è l’orchestrazione, allora molte imprese europee smettono di essere semplici clienti e tornano potenziali competitor verticali. Un system integrator bancario con forte governance interna può costruire un agente specializzato più utile per una banca italiana di quanto faccia un generic agent americano addestrato a parlare con il mondo. Il vantaggio non sta nel modello base, ma nel contesto regolato e nel workflow.

Questa è una buona notizia per chi lavora fuori dalla California. Ed è una pessima notizia per chi vende “AI transformation” come abbonamento mensile con slide animate.

Va detto anche un altro punto, spesso ignorato: il 98,4% infrastrutturale non è gratis. Richiede team misti, competenze DevSecOps, product thinking, conoscenza dei processi aziendali, capacità di misurare failure modes. Richiede cultura ingegneristica, non solo prompt creativi. In molte aziende il problema non è l’assenza del modello migliore; è l’assenza di maturità operativa.

Per questo tanti progetti agentici sembrano brillanti nei primi trenta giorni e deludenti dopo novanta. Nella prima fase si vede la magia linguistica. Nella seconda emergono logging insufficiente, costi token incontrollati, autorizzazioni confuse, errori cumulativi, regressioni, memory bloat. La luna di miele dell’AI finisce sempre quando arriva la fattura cloud.

Il paper MBZUAI, in filigrana, suggerisce anche un’altra verità scomoda: gli agenti AI del futuro assomiglieranno sempre più a sistemi software tradizionali con moduli LLM integrati, non a cervelli digitali onnipotenti che sostituiscono il software stesso. È una differenza filosofica enorme. L’AI non rimpiazza l’architettura; la rende più complessa.

Chi guida tecnologia in azienda dovrebbe prendere nota adesso, non tra due anni. La domanda strategica non è se adottare agenti AI, ma dove mettere il controllo umano, come limitare il rischio e quale parte del vantaggio costruire internamente. Se deleghi tutto al vendor, stai esternalizzando non solo tecnologia, ma processo decisionale.

Una frase merita di essere scolpita nei corridoi dei dipartimenti IT: il modello genera testo, il sistema genera fiducia.

Il mercato continuerà a idolatrare i modelli frontier, come Wall Street idolatra trimestralmente qualsiasi narrativa utile al momentum. Ma nei data center e nelle codebase vere, la gloria dura poco. Restano i log, i permessi, i rollback e gli incident report.

Quel numero, 1,6%, non è una curiosità accademica. È un promemoria manageriale. Il cervello artificiale è importante. Ma l’impresa paga per il sistema nervoso e chi ancora compra soltanto il cervello, probabilmente sta acquistando marketing con latenza ridotta.