La nuova ossessione delle aziende non è costruire agenti AI è governarli
Microsoft ha appena pubblicato un documento strategico che, in qualsiasi altro contesto, sarebbe passato come una noiosa whitepaper da compliance officer. E invece no. Qui c’è una bomba a orologeria per chi sta già distribuendo agenti AI in azienda con lo stesso entusiasmo con cui un team marketing apre un nuovo canale TikTok. La chiamano “Agent Governance” e, se sei un CEO o un CTO che prende sul serio le proprie responsabilità, dovresti leggerla come fosse un avviso di audit dell’FBI recapitato via PEC.
Governo. Controllo. Supervisione. Tre parole che il mondo tech ha trattato come un’infezione da evitare a tutti i costi per due decenni. Ma ora che gli agenti AI sono abbastanza intelligenti da inviare email, accedere a database, prendere decisioni e (a quanto pare) anche prenotare voli aziendali su Expedia, improvvisamente il concetto di “autonomia” sta iniziando a sembrare un po’ meno sexy. Un po’ meno “AI co-pilot”, un po’ più “AI sindacalista con potere esecutivo”.
Il punto centrale è chiaro: non stiamo più parlando di modelli linguistici che suggeriscono una risposta a una domanda. Stiamo parlando di entità software capaci di agire. E ogni volta che qualcosa è capace di agire in autonomia dentro una struttura aziendale, bisogna iniziare a porsi domande fondamentali. Come si crea un sistema di governance degli agenti AI che non sia solo un PDF in fondo alla Intranet, ma un framework operativo reale, vivo, verificabile?
Microsoft propone una mappa. Non è perfetta. Ma ha il pregio di dire la verità che molti fingono di ignorare: la sicurezza dell’intelligenza artificiale in azienda non si ottiene con policy. Si ottiene con architetture di potere.
Nel cuore del documento c’è un’idea geniale nella sua semplicità: non esiste un solo tipo di creatore di agenti. Esistono “end user”, “maker” e “developer”. Tradotto: c’è il dipendente curioso che gioca con Copilot, il product manager che crea automazioni per il suo team e il software engineer che costruisce agenti AI complessi con accesso alle API interne. Trattarli allo stesso modo è un errore strategico. Uno di quelli che ti fa finire su TechCrunch con un titolo tipo “Startup perde 10M di dati a causa di un agente AI mal configurato da stagista”.
E qui emerge la prima verità scomoda: non è la tecnologia il rischio, è la democratizzazione senza guida. Se ogni dipendente può lanciare un agente, servono regole chirurgiche, non presentazioni PowerPoint vagamente etiche. Servono controlli reali sui tool di sviluppo. Serve capire cosa un agente può fare prima che faccia danni. Serve un modello di autorizzazione granulare sui dati che l’agente può processare, leggere, trasformare o – peggio – condividere.
Il documento Microsoft propone una sorta di governance a più livelli. C’è la governance degli strumenti, ovvero: chi può usare cosa per creare agenti. C’è la governance dei contenuti, che riguarda l’accesso ai dati. C’è la governance del ciclo di vita, cioè l’idea (quasi rivoluzionaria) che un agente AI non sia un oggetto ma un processo: va monitorato, aggiornato, disattivato, auditato.
Sì, auditato. Perché non ci vuole un PhD per capire che un agente AI con accesso a CRM, ERP e Slack aziendale può diventare, nel giro di 30 secondi, un insider threat con la velocità di risposta di un fante su steroidi digitali. L’illusione è sempre la stessa: “l’agente è nostro, cosa potrà mai succedere?”. La realtà è che gli agenti non fanno ciò che dici loro, fanno ciò che capiscono tu voglia. E tra quelle due cose c’è un oceano semantico di fraintendimenti.
In mezzo, il problema eterno del controllo: chi approva cosa, chi monitora, chi spegne. Microsoft propone un rollout a fasi: team campione, formazione, rilascio controllato, monitoraggio continuo. In pratica, un processo di onboarding degli agenti simile a quello di un nuovo team di consulenti esterni. Ma qui la differenza è abissale: il consulente umano ha paura di perdere il contratto. L’agente AI no. L’agente AI, se lasciato libero, diventa immortale.
Ma torniamo al punto: perché tutto questo è cruciale ora? Perché le aziende stanno commettendo lo stesso errore che hanno fatto con le API dieci anni fa. “Facciamo tutto open, ci penseremo alla governance dopo”. E poi boom: data breach, GDPR, caos, e manager che improvvisamente ricordano l’importanza di una tabella RACI.
Con gli agenti AI, non ci sarà una seconda possibilità. Un errore può replicarsi mille volte al secondo, soprattutto se l’agente è progettato per operare in autonomia. Non si può più parlare di “prompt sbagliato”. Qui si parla di azioni sbagliate, in ambienti produttivi, con accesso a risorse reali.
La provocazione finale è questa: l’equilibrio tra autonomia e controllo non si gioca nel codice, ma nella struttura decisionale dell’organizzazione. Chi ha l’autorità di fermare un agente? Chi riceve gli alert? Chi definisce i parametri di rischio accettabile? Senza risposte chiare, tutto il resto è teatro.
Un CTO serio oggi non chiede quanti agenti AI ha distribuito. Chiede quanti può disattivare in 30 secondi in caso di incidente. Chiede se esiste un registro centrale degli agenti attivi. Chiede se ogni agente ha un owner e un log tracciabile delle sue azioni. Chiede chi ha accesso alla lista degli accessi. E, soprattutto, chiede quanto ci metterebbe un auditor esterno a certificare il tutto.
Sì, tutto questo toglie un po’ di poesia alla narrativa degli “agenti che ci liberano dalle attività ripetitive”. Ma è il prezzo da pagare per evitare che l’automazione diventi il nuovo ransomware interno.
Governare gli agenti AI non è una pratica IT. È un atto politico. Significa stabilire chi ha il potere, chi lo controlla, e come quel potere può essere revocato.
Ecco la parte più scomoda: le aziende che avranno un vantaggio competitivo non saranno quelle con più agenti AI, ma quelle che sapranno governarli con la freddezza di un CFO in tempo di trimestrale. La velocità senza controllo è un rischio. Il controllo senza flessibilità è una zavorra. Ma chi trova l’equilibrio tra i due diventa inarrestabile.
Se domani ogni tuo dipendente potesse creare un agente AI in 30 secondi… sei davvero sicuro di sapere come tenerlo sotto controllo?