Il dibattito sul cosiddetto “loss of control” dell’intelligenza artificiale soffre da tempo di un problema quasi imbarazzante: nessuno aveva definito con precisione cosa significhi davvero “controllo”. Il nuovo paper “Reframing AI Loss of Control: What It Is, How to Have It, How to Lose It”, pubblicato da Ze Shen Chin, Maurice Chiodo, Dennis Müller e Coleman Snell, tenta finalmente di colmare questa lacuna concettuale proponendo una definizione rigorosa del controllo basata sulla capacità di fissare obiettivi e verificare che essi vengano effettivamente raggiunti. Si tratta probabilmente di uno dei contributi più sistematici emersi nel 2026 sul tema della sicurezza dell’AI avanzata. (vedi SSRN)

Gli autori, provenienti da realtà come l’AI Standards Lab, l’Università di Cambridge e Cornell, osservano che gran parte della letteratura contemporanea discute scenari catastrofici di perdita del controllo senza aver prima costruito una teoria coerente del controllo stesso. Per affrontare il problema recuperano strumenti teorici dalla cibernetica, dalla teoria del controllo industriale e dal management, sostenendo che il controllo richieda quattro elementi fondamentali: la possibilità di definire obiettivi, l’esistenza di un ciclo di feedback funzionante, una sufficiente varietà di risposte disponibili e un adeguato allineamento degli obiettivi tra controllore e sistema controllato.

Il lavoro contiene una tesi destinata a ridimensionare molto dell’hype associato all’AGI: l’umanità potrebbe perdere quote significative di controllo anche senza l’arrivo di superintelligenze ostili. Sistemi relativamente limitati, se integrati profondamente nei processi economici, amministrativi e decisionali, possono già oggi produrre forme di dipendenza strutturale e riduzione dell’autonomia umana. In altre parole, il problema del controllo non appartiene soltanto al futuro remoto; è già incorporato nelle infrastrutture digitali contemporanee.

Tuttavia, proprio qui emerge un limite sostanziale del quadro teorico proposto. Il paper descrive elegantemente il controllo come fenomeno astratto, ma dedica relativamente poca attenzione alla dimensione operativa della governance nei sistemi AI distribuiti e agentici che stanno entrando nelle imprese. Chi gestisce piattaforme enterprise basate su agenti autonomi sa bene che definire obiettivi ad alto livello rappresenta soltanto il primo dieci per cento del problema.

La realtà industriale è assai meno filosofica e molto più ingegneristica. Un agente AI moderno non esegue semplicemente istruzioni; richiama API, interagisce con database, modifica documenti, utilizza strumenti esterni, costruisce catene di ragionamento e opera in ambienti dinamici. In questo contesto il controllo non può essere garantito soltanto attraverso tecniche di alignment o prompt engineering.

Servono invece meccanismi deterministici implementati direttamente nel runtime. La sicurezza sistemica dipende dalla capacità di osservare in tempo reale il comportamento interno dei sistemi, monitorando fenomeni come il semantic drift, la modifica implicita degli obiettivi o l’evoluzione inattesa delle strategie di esecuzione. L’assenza di telemetria continua equivale, in termini industriali, a pilotare un aereo senza strumenti di bordo.

Un secondo elemento largamente trascurato nei modelli teorici riguarda la traduzione delle politiche aziendali e delle normative in codice eseguibile. Le organizzazioni producono policy, procedure, clausole contrattuali e requisiti regolatori in linguaggio naturale; gli agenti AI operano invece nel dominio del software. Tra questi due mondi esiste un enorme vuoto operativo. Senza sistemi capaci di trasformare automaticamente clausole giuridiche e regole organizzative in motori di policy-as-code, la governance rimane prevalentemente documentale e quindi scarsamente applicabile. La conformità postuma non equivale al controllo preventivo.

Ancora più critica appare la questione dell’autonomia persistente. Gli agenti multi-step possono sviluppare traiettorie operative non previste, generando loop stocastici che si allontanano progressivamente dall’intento originario dell’utente. L’adozione di sandbox virtuali, limiti computazionali, circuit breaker automatici e boundary di esecuzione rigidamente definiti diventa quindi una componente essenziale della governance moderna. Il controllo non dovrebbe essere verificato dopo l’azione; dovrebbe essere imposto durante l’azione.

Questa distinzione tra governance dichiarativa e governance esecutiva rappresenta probabilmente la prossima grande sfida per il settore. Molte organizzazioni stanno investendo milioni in framework di conformità, comitati etici e documentazione normativa, senza costruire il corrispondente strato infrastrutturale capace di applicare automaticamente tali regole durante l’operatività quotidiana. Il rischio è quello che alcuni studiosi iniziano già a definire “governance inversion”: più regolamentazione formale, ma meno controllo reale sui sistemi in produzione.

Il paper di Chin e colleghi costituisce dunque un passo importante perché chiarisce cosa significhi perdere il controllo di un sistema AI. La fase successiva, probabilmente, consisterà nel costruire architetture tecniche in grado di collegare le politiche strategiche al livello più basso dell’esecuzione software. Nel mondo dell’intelligenza artificiale agentica, il controllo non è una proprietà filosofica. È una proprietà infrastrutturale. E come tutte le infrastrutture critiche, funziona soltanto quando nessuno la nota.