Ricirdate l’idea della “delegated work economy” come inevitabile evoluzione del lavoro cognitivo? Non più software che assiste gli esseri umani, ma sistemi AI che eseguono direttamente attività complete; il manager supervisiona, il modello opera. “Vibe coding”, agenti autonomi, copiloti universali. Lessico seducente, soprattutto per board aziendali ossessionati dalla riduzione del costo marginale della conoscenza. Poi arriva un paper di Microsoft e improvvisamente il sipario si abbassa: i Large Language Models, lasciati lavorare troppo a lungo sui documenti, iniziano lentamente a corromperli. Non in modo spettacolare, ma nel modo peggiore possibile per un’impresa: silenziosamente.
Il lavoro, significativamente intitolato “LLMs Corrupt Your Documents When You Delegate”, introduce il benchmark DELEGATE-52, una simulazione che mette alla prova 19 modelli linguistici in workflow lunghi e realistici distribuiti su 52 domini professionali diversi, dalla cristallografia alla notazione musicale, passando per coding, contabilità, genealogia, CAD, meteorologia e architettura Linux. L’idea metodologica è elegante perché evita una delle grandi fragilità dell’AI evaluation contemporanea: la dipendenza da reference answers umane. Gli autori costruiscono workflow “round-trip”, cioè operazioni reversibili; il modello modifica un documento e poi deve riportarlo allo stato originario. Se il documento finale diverge dall’originale, il sistema ha introdotto errori.
Il dato che colpisce non è tanto che i modelli sbaglino. Chiunque abbia gestito sistemi generativi in produzione sa che l’errore è fisiologico. Il punto è la dinamica dell’errore. Anche i modelli di frontiera come Gemini 3.1 Pro, Claude 4.6 Opus e GPT 5.4 degradano mediamente il 25% del contenuto documentale dopo 20 interazioni consecutive. Modelli più piccoli o meno sofisticati precipitano molto più rapidamente. GPT 4o, che solo pochi trimestri fa veniva presentato come pietra miliare dell’intelligenza multimodale, termina le simulazioni con punteggi attorno al 14,7%. In pratica, affidare workflow lunghi a questi sistemi equivale a chiedere a un junior esausto di riscrivere un contratto cinquanta volte senza supervisione.
Il dettaglio più interessante è che il degrado non si manifesta come lenta erosione lineare. Non è “death by a thousand cuts”. Gli autori mostrano che circa l’80% della degradazione deriva da errori critici sporadici ma devastanti. Per molte iterazioni il modello mantiene quasi perfettamente il documento, poi improvvisamente cancella sezioni, altera strutture semantiche, rompe relazioni logiche o modifica contenuti essenziali. Una sorta di micro-infarto cognitivo algoritmico. Dal punto di vista enterprise questo è infinitamente più pericoloso di un errore evidente e continuo, perché genera fiducia operativa prima della catastrofe.
Qui emerge una contraddizione che l’industria AI evita accuratamente di discutere: i benchmark pubblici premiano capacità puntuali, non affidabilità cumulativa. I modelli eccellono in task isolati, demo brevi, coding challenge atomiche, benchmark matematici compressi. Ma il lavoro reale non funziona in sessioni isolate. Le aziende non pagano milioni per ottenere una risposta brillante singola; pagano per mantenere consistenza attraverso centinaia di modifiche, versioni, eccezioni e passaggi intermedi. La continuità cognitiva, non il picco di intelligenza, è il vero problema irrisolto.
Il paper mostra che Python è l’unico dominio dove la maggioranza dei sistemi raggiunge livelli considerati “ready for delegated workflows”, cioè superiori al 98% di fedeltà dopo venti interazioni. Non è sorprendente. Il codice ha struttura, vincoli, sintassi verificabile, reward function relativamente chiare. Il linguaggio umano, invece, è ambiguo, ridondante, contestuale e culturalmente instabile. In altre parole, i modelli comprendono meglio un parser che un commercialista.
Questo spiega anche perché il mercato del “AI software engineering” stia crescendo più rapidamente rispetto all’automazione documentale generalista. Scrivere codice è più vicino alla compressione statistica strutturata; gestire documenti aziendali è un problema di persistenza semantica. Sono due mondi radicalmente diversi, nonostante il marketing li venda come equivalenti.
Ancora più interessante è il fallimento degli agenti con tool use. Negli ultimi mesi il settore ha trattato gli agentic systems come soluzione universale: basta dare al modello accesso a file system, editor, terminale, strumenti di ricerca e il problema sparirà. Il benchmark mostra l’opposto. I modelli agentici performano peggio rispetto alle versioni senza strumenti. Consumano più token, aumentano overhead e latenza, leggono documenti irrilevanti e accumulano errori contestuali. La promessa dell’agente autonomo che orchestra strumenti complessi sembra oggi molto più fragile di quanto suggeriscano le demo su X e LinkedIn.
Dal punto di vista strategico il paper colpisce direttamente il cuore della narrativa enterprise del 2026. Gran parte degli investimenti AI attuali si basa sull’idea che il costo della conoscenza umana possa essere progressivamente sostituito da sistemi delegati. Ma se il sistema degrada documenti nel tempo, allora il costo di supervisione rimane elevato. Peggio ancora, diventa necessario introdurre livelli aggiuntivi di audit, validazione e versioning. L’automazione rischia così di produrre nuovi strati di lavoro invisibile invece di eliminarlo.
La dinamica ricorda un vecchio problema dell’automazione industriale: i sistemi automatici sono economicamente vantaggiosi solo quando l’errore residuale è inferiore al costo umano di controllo. Se il revisore umano deve ricontrollare ogni output critico, il ROI collassa rapidamente. Nel knowledge work questo effetto è amplificato, perché l’errore documentale non è immediatamente osservabile. Una cifra alterata in un ledger, una relazione semantica corrotta in una base legale, un parametro modificato in un file scientifico possono emergere settimane dopo. A quel punto il danno reputazionale e operativo è già contabilizzato.
Il benchmark mostra inoltre che documenti più grandi e interazioni più lunghe peggiorano il degrado in modo moltiplicativo, non lineare. Questo dettaglio è cruciale perché l’industria continua a celebrare finestre di contesto sempre più gigantesche come soluzione universale. Due milioni di token fanno impressione nelle slide degli investitori, ma il problema non è soltanto ricordare informazioni; il problema è preservarne l’integrità semantica lungo trasformazioni iterative. Memoria e affidabilità non sono sinonimi.
La conseguenza culturale è quasi inevitabile. Stiamo entrando in una fase in cui il lavoro cognitivo non verrà sostituito completamente dall’AI, ma riconfigurato attorno alla verifica dell’AI. Nasceranno figure professionali dedicate non tanto alla produzione di contenuti, quanto alla sorveglianza dei sistemi generativi. Auditor semantici, orchestratori documentali, verificatori di coerenza multi-sessione. Una parte dell’economia della conoscenza si trasformerà in manutenzione cognitiva algoritmica.
Il mercato probabilmente reagirà come sempre: ignorando il problema finché non diventa contabilmente visibile. Le aziende continueranno a integrare agenti autonomi nei workflow perché la pressione competitiva è enorme e i vantaggi iniziali esistono davvero. Ma il benchmark DELEGATE-52 introduce una realtà meno glamour e molto più concreta: oggi i LLM sono eccellenti assistenti episodici, pessimi custodi di continuità documentale. La differenza sembra semantica. In realtà è industriale.
Paper