La fine della governance manuale nell’era degli algoritmi che evolvono da soli
La narrativa dominante dell’intelligenza artificiale continua a oscillare tra entusiasmo quasi messianico e prudenza regolatoria, ma ogni tanto emerge un punto di rottura che non lascia spazio a interpretazioni accomodanti. Il recente lavoro di Google DeepMind su AlphaEvolve appartiene esattamente a questa categoria; non è semplicemente un avanzamento tecnico, ma una dichiarazione implicita, quasi brutale, sulla fine di un paradigma: quello della governance manuale dell’AI. Quando un sistema è in grado di generare autonomamente logiche di apprendimento multi-agente che sfuggono alla comprensione intuitiva umana, il problema non è più come migliorare la supervisione, ma se la supervisione stessa abbia ancora un significato operativo.
Il paper “Discovering Multiagent Learning Algorithms with Large Language Models” introduce un concetto che molti addetti ai lavori sospettavano da tempo ma che pochi avevano il coraggio di formalizzare: l’intuizione umana non è più il gold standard nella progettazione algoritmica. Sistemi come AlphaEvolve non si limitano a ottimizzare parametri, ma riscrivono le regole del gioco, producendo varianti di algoritmi di teoria dei giochi, come il VAD-CFR, che risultano efficaci ma opachi. La storia della tecnologia è piena di momenti in cui le macchine hanno superato l’uomo in performance; ciò che cambia oggi è la perdita di trasparenza cognitiva. Non si tratta più di “non essere veloci abbastanza”, ma di “non capire più cosa sta accadendo”.
Questo shift ricorda, con una certa ironia storica, il passaggio dalla meccanica newtoniana alla Meccanica quantistica, quando la realtà ha smesso di essere intuitiva e ha iniziato a essere probabilistica, controintuitiva, quasi filosofica. Anche allora, l’umanità ha reagito costruendo nuovi strumenti matematici e concettuali; oggi, tuttavia, il paradosso è che lo strumento stesso, l’AI, diventa l’entità che costruisce le proprie regole, lasciando l’essere umano in una posizione di osservatore non privilegiato. Una forma di disintermediazione cognitiva che nessuna normativa attuale è pronta a gestire.
Le attuali strutture di governance, soprattutto nei settori regolati come banking, sanità e pubblica amministrazione, sono progettate per sistemi deterministici o, nel migliore dei casi, stocastici ma interpretabili. Framework come le checklist di sicurezza, i modelli di audit, le certificazioni ISO, presuppongono che esista un codice leggibile, un comportamento prevedibile, una causalità tracciabile. Ma quando un agente AI evolve autonomamente le proprie regole di aggiornamento a livello simbolico, queste assunzioni crollano come castelli di carta sotto stress sistemico.
Il problema non è solo tecnico, è epistemologico. Come si valida un sistema che produce soluzioni non spiegabili nemmeno dai suoi creatori? Come si certifica un algoritmo che non è stato scritto, ma scoperto da un altro algoritmo? La risposta standard, quella che riempie slide colorate e documenti di compliance, è rassicurante ma ingenua: più controlli, più audit, più trasparenza. La realtà è meno confortevole. Non si può rendere trasparente qualcosa che non è costruito per essere compreso, e soprattutto non si può auditare un processo evolutivo con strumenti pensati per sistemi statici.
Il punto cieco della governance attuale è l’assunzione implicita che l’AI sia uno strumento. AlphaEvolve dimostra che questa assunzione è obsoleta. Un sistema che riscrive le proprie regole operative non è uno strumento, è un ecosistema dinamico. Governi un martello, non un organismo che muta. Questa distinzione, apparentemente semantica, ha implicazioni enormi. Significa che la governance non può più essere documentale, basata su policy e linee guida, ma deve diventare infrastrutturale, incorporata nel sistema stesso.
Il passaggio “from clause to code”, per usare una formula ormai abusata ma ancora sottovalutata, non è una scelta strategica, è una necessità operativa. Le policy devono diventare vincoli computazionali, le regole devono essere enforceable a livello di runtime, e la supervisione deve essere automatizzata tanto quanto il sistema che si intende controllare. In altre parole, serve una metagovernance algoritmica, un livello superiore di controllo che operi con la stessa velocità e complessità dell’AI sottostante.
Alcuni segnali in questa direzione esistono già. Le architetture di AI safety più avanzate iniziano a integrare meccanismi di controllo dinamico, sandbox evolutive, sistemi di monitoraggio in tempo reale basati su anomaly detection. Tuttavia, questi approcci sono ancora embrionali e spesso confinati a contesti sperimentali. Nel mondo reale, quello dei bilanci trimestrali e delle responsabilità legali, la situazione è molto più conservativa. Nessun CEO vuole spiegare a un regolatore che “il modello ha evoluto una soluzione che non comprendiamo completamente”. È una frase che, nel linguaggio della compliance, equivale a una confessione di colpa.
La tensione tra innovazione e regolamentazione non è nuova, ma l’AI evolutiva la porta a un livello qualitativamente diverso. Nel passato, la regolamentazione inseguiva la tecnologia con un certo ritardo, ma riusciva comunque a incapsularla in modelli concettuali comprensibili. Oggi, il rischio è che la tecnologia diventi intrinsecamente non regolabile con gli strumenti tradizionali. Non perché sia illegale, ma perché è incomprensibile.
Un parallelo interessante può essere tracciato con i mercati finanziari ad alta frequenza, dove algoritmi di trading operano a velocità e complessità tali da sfuggire alla supervisione umana diretta. Anche lì, la risposta non è stata aumentare la supervisione manuale, ma introdurre circuit breaker automatici, limiti di volatilità, sistemi di controllo embedded. La differenza è che, nei mercati finanziari, gli algoritmi operano su regole relativamente stabili. Con AlphaEvolve, le regole stesse sono in evoluzione.
Questa evoluzione pone anche un problema di accountability. Se un sistema AI prende una decisione basata su una logica che nessun umano comprende, chi è responsabile? Il programmatore? L’azienda? Il regolatore che ha approvato il sistema? La domanda non è solo legale, è filosofica. La responsabilità presuppone comprensione, e senza comprensione la responsabilità diventa una finzione giuridica.
La risposta più pragmatica, anche se meno elegante, è spostare il focus dalla comprensione al controllo degli effetti. Non importa tanto come il sistema arriva a una decisione, ma quali sono le conseguenze di quella decisione e se rientrano in limiti accettabili. Questo approccio, già utilizzato in alcune aree della sicurezza industriale, implica un cambio di mentalità significativo. Si passa da una logica causale a una logica comportamentale, da un’ossessione per il perché a un’attenzione per il cosa.
Il rischio, naturalmente, è che questo approccio venga percepito come una resa, una rinuncia alla comprensione in favore del controllo superficiale. Ma la storia della tecnologia insegna che non sempre comprendere è necessario per governare. Molti sistemi complessi, dalle reti neurali biologiche ai mercati globali, sono governati efficacemente senza una comprensione completa dei loro meccanismi interni. La differenza, ancora una volta, è che questi sistemi non sono progettati per evolvere autonomamente le proprie regole.
Nel contesto attuale, l’idea di un “Agentic RAI Blueprint” rappresenta un tentativo interessante di formalizzare questa nuova forma di governance. Non si tratta più di verificare ex post se un sistema è conforme, ma di costruire ex ante un’infrastruttura che renda il sistema governabile per design. È un approccio che richiede investimenti significativi, competenze interdisciplinari e, soprattutto, un cambio culturale nelle organizzazioni.
La vera sfida, tuttavia, non è tecnica ma politica. Implementare una governance infrastrutturale significa accettare che il controllo umano diretto è limitato e che parte della responsabilità deve essere delegata a sistemi automatizzati. In un contesto regolato, questo è un salto nel vuoto. I regolatori sono abituati a chiedere spiegazioni, non a fidarsi di meccanismi automatici. Ma la realtà è che, senza questa delega, la governance rischia di diventare irrilevante.
La Silicon Valley, con la sua consueta miscela di arroganza e visione, ha sempre sostenuto che la tecnologia trova un modo. In questo caso, potrebbe avere ragione, ma non nel senso che immagina. Non sarà la tecnologia a trovare un modo per adattarsi alla governance esistente; sarà la governance a dover reinventarsi per adattarsi a una tecnologia che non aspetta nessuno. Una lezione che OpenAI, Anthropic e lo stesso Google DeepMind stanno imparando, ciascuno a modo suo, spesso in pubblico e con una certa dose di imbarazzo.
Il risultato finale è un paradosso degno della migliore tradizione tecnologica. Più rendiamo i sistemi intelligenti, meno siamo in grado di comprenderli; più cerchiamo di controllarli, più dobbiamo delegare il controllo a sistemi altrettanto intelligenti. È una spirale che può sembrare inquietante, ma che rappresenta anche un’opportunità. Non per mantenere il controllo nel senso tradizionale, ma per ridefinirlo.
In questo nuovo scenario, la governance non è più un insieme di regole statiche, ma un processo dinamico, continuo, adattivo. Non è un documento, è un sistema. Non è un vincolo, è un’infrastruttura. Una frase, forse cinica ma realistica, sintetizza questa trasformazione: la governance dell’AI non è più qualcosa che scrivi, è qualcosa che costruisci. E, come ogni infrastruttura, funziona solo se è progettata per evolvere insieme al sistema che deve controllare.
Paper: https://arxiv.org/abs/2602.16928