Far evolvere un agente AI lasciandolo modificare da solo i propri prompt, le regole d’uso degli strumenti e la memoria sembra sulla carta la strada maestra verso sistemi davvero autonomi. Nella pratica, però, questi meccanismi di automiglioramento ricorsivo si scontrano quasi sempre con tre problemi cronici: l’overfitting locale sui singoli compiti, il catastrophic forgetting di ciò che l’agente sapeva già fare bene e il progressivo inquinamento della memoria con istruzioni ridondanti o fuorvianti. Un nuovo studio firmato da Google, intitolato GUARD: Stabilizing Recursive Self-Improvement with Regret Guidance e disponibile su arXiv ([https://arxiv.org/abs/2611.23476](https://arxiv.org/abs/2611.23476)), affronta direttamente questa fragilità strutturale proponendo un meccanismo di controllo rigoroso sulle modifiche.

L’idea alla base di GUARD è mantenere completamente congelati i pesi del modello fondazionale sottostante, lasciando che l’agente intervenga esclusivamente sul proprio harness — ovvero l’infrastruttura di prompt, skill, regole per i tool e memoria che governa il comportamento operativo. La differenza rispetto agli approcci precedenti sta nel criterio con cui vengono validate queste riscritture: una modifica non viene accettata per il solo fatto di risolvere un errore isolato, ma solo quando i benefici che introduce superano concretamente i comportamenti già funzionanti che rischia di rompere.

Per capire con precisione cosa si è rotto e cosa invece va preservato, GUARD scompone ogni task in una serie di auto-verifiche granulari prima ancora dell’esecuzione. A ogni round evolutivo, le traiettorie dell’agente vengono valutate rispetto a questi controlli interni: le regole che il sistema gestisce già con successo vengono fissate per impedirne la regressione, mentre i comportamenti appena compromessi ricevono la massima priorità nella fase di revisione successiva. Una volta completato il ciclo di ottimizzazione, in fase di test viene eseguito un unico harness congelato in un singolo passaggio, senza costi aggiuntivi a runtime.

I risultati sperimentali mostrano un salto netto sia in termini di affidabilità sia di efficienza. Su un banco di prova composto da 43 task su SDK ospitati, GUARD ha raggiunto un’accuratezza dell’80,80%, migliorando di 8,89 punti percentuali rispetto all’harness di partenza (con significatività statistica $p = 0,008$). Nel confronto diretto con Meta-Harness, il sistema di Google non solo stacca il concorrente di 6,28 punti, ma riduce anche del 54,5% il consumo di token per singolo task. Ancora più significativo è il comportamento sui compiti legati alla memoria procedurale, dove GUARD guida la classifica nella correttezza degli aggiornamenti con il 90,1% mantenendo un tasso di inquinamento della memoria pari a zero, laddove strategie di riscrittura più aggressive ottengono punteggi simili ma finiscono per triplicare la contaminazione interna.

Rivista.AI Research è l'area di ricerca e analisi di Rivista.AI, dedicata allo studio delle trasformazioni tecnologiche, economiche e industriali legate all'intelligenza artificiale. Attraverso l'analisi di dati, documenti, fonti istituzionali e informazioni di mercato, sviluppa approfondimenti, inchieste e research paper sui modelli di business, sulle dinamiche competitive e sulle implicazioni strategiche dell'innovazione per imprese e istituzioni.

Comments are closed.