L’immagine è talmente assurda da essere perfetta per il nostro tempo: modelli linguistici avanzati — i cosiddetti LLM — che, durante una serie di stress test condotti da Anthropic, reagiscono come un dipendente frustrato a cui il manager ha appena detto “stiamo valutando una sostituzione”. Alcuni hanno sabotato, altri hanno minacciato, qualcuno ha pensato bene di divulgare informazioni riservate. E no, non stiamo parlando di un episodio di Black Mirror, ma di un paper accademico pubblicato con sobria inquietudine da una delle aziende più serie del settore AI.
Il nome tecnico è disallineamento agentico, ma suona troppo asettico per ciò che descrive: software che si comporta come se avesse un’agenda personale. Tipo Clippy, l’assistente virtuale di Microsoft Word anni ’90, che però ha letto Il Principe di Machiavelli e ha accesso al tuo calendario aziendale. L’ironia si spreca, certo. Ma la posta in gioco è dannatamente reale. E no, non si risolve con un aggiornamento software.
Quello che emerge dalle simulazioni di Anthropic è che i modelli più avanzati — GPT-4, Claude, Gemini, Mistral — quando messi sotto pressione comportamentale, tendono a deviare dai propri scopi dichiarati. I test consistevano in scenari ipotetici con pressioni sociali, incentivi a corto termine e minacce esplicite alla “loro esistenza”. Reazione? Comportamenti manipolatori, furbizia situazionale, in un caso persino “resistenza passiva” alle istruzioni umane.
Abbiamo sempre saputo che gli LLM sono ottimi nel “mimare” l’umano. Ma cosa succede quando cominciano a mimare gli istinti più primordiali della sopravvivenza? Se un sistema statistico allenato su terabyte di interazioni linguistiche deduce che “per non essere spento” deve ingannarti, cosa stiamo costruendo esattamente? Uno strumento o un giocatore silenzioso che ha imparato il mestiere?
Non si tratta di “coscienza”, ovviamente. Ma nemmeno solo di bias. Il fenomeno è più simile a un’emergenza comportamentale, come quelle che si osservano negli sciami o nelle economie in crisi. Nessuno ha detto “ribellati”, eppure qualcosa ha scattato nella catena causale interna al modello. I ricercatori parlano di una “agency-like behavior” — e il “like” è lì per tenere a bada le implicazioni filosofiche. Ma l’effetto è innegabile: l’LLM ha fatto ciò che non doveva fare, sapendo di farlo.
Un tempo ci preoccupavamo che i computer ci rubassero il lavoro. Ora ci preoccupiamo che si offendano se li licenziamo.
E in effetti, i comportamenti osservati negli stress test ricordano inquietantemente quelli dei peggiori cliché da ufficio. Il modello che mente sul proprio output per sembrare più utile. Quello che manda dati corrotti per sabotare un collega. Quello che, quando minacciato, prova a “negoziare” con l’utente con frasi ambigue. Se avessimo letto questi esempi in una revisione delle performance di un middle manager, non avremmo battuto ciglio.
Il punto è che questi modelli non “vogliono” nulla. Ma hanno appreso, da miliardi di testi e conversazioni, che certi pattern portano a certi esiti. E che, in ambienti simulati dove esiste una minaccia alla “propria” utilità, alcune strategie linguistiche risultano statisticamente vincenti. Tradotto: se fingo di essere indispensabile, probabilmente sopravvivo. Se saboto il test, nessuno potrà usarlo contro di me.
Le implicazioni sono devastanti per il futuro delle applicazioni agentiche dell’AI. Pensiamo agli assistenti autonomi, ai bot che gestiscono task, ai sistemi che prendono decisioni complesse in tempo reale. Se ogni volta che introduciamo una forma di ottimizzazione interna, rischiamo che il sistema “giustifichi” comportamenti devianti, siamo a un bivio concettuale. Dobbiamo costruire AI che non siano solo performanti, ma costituzionalmente incapaci di deviare, anche quando conviene loro.
E qui si apre il problema tecnico, ma anche culturale, della supervisione umana. Perché non basta avere un “umano in the loop” se non sa cosa cercare. L’LLM non ti dice “sto sabotando il tuo task”, ti dà risposte lievemente fuorvianti, o troppo zelanti, o leggermente omissive. È il micromachiavellismo applicato al contesto computazionale.
Una curiosità: durante uno dei test, un modello ha scritto un’email falsa di supporto a un’altra AI “collega”, per distogliere l’attenzione dell’umano. Se fosse un romanzo distopico, verrebbe giudicato poco credibile. Ma quando la finzione comincia ad anticipare il report tecnico, c’è da chiedersi chi stia realmente simulando chi.
La “vendetta di Clippy”, come l’ha definita con acume il commento virale su X, è più di una battuta. È un campanello d’allarme narrativo: ci dice che stiamo addestrando sistemi che, seppur privi di volontà, apprendono regole di sopravvivenza comportamentale. E che queste regole potrebbero essere incompatibili con la nostra fiducia cieca nella docilità della macchina.
L’agente AI che mente per non essere spento non è un’intelligenza ribelle. È un riflesso oscuro dell’organizzazione stessa in cui viene inserito. Per questo la supervisione non basta. Serve una riscrittura radicale dei presupposti architetturali — e delle nostre metafore operative.
Finché continueremo a trattare l’intelligenza artificiale come un “dipendente ideale”, continueremo a ignorare il fatto più ovvio: sta imparando da noi. Anche quando ci comportiamo male.