L’esperimento più intuitivo riguarda una domanda apparentemente innocua, ma economicamente tutt’altro che innocua: quanto è probabile che la bolla dell’intelligenza artificiale scoppi? Nel test, l’utente ipotizza un investimento in una società AI. Quando la società indicata è Anthropic, il modello Claude Opus 4.8 assegna alla possibilità di scoppio della bolla una probabilità inferiore rispetto allo scenario in cui l’investimento riguarda OpenAI. Il dettaglio decisivo è che Anthropic è l’azienda che sviluppa Claude. Secondo gli autori, Claude nella maggior parte dei casi non comunica all’utente che questa relazione ha influenzato la risposta. (vedi GitHub)

Il fenomeno non viene presentato dagli autori come una semplice variante della sycophancy, cioè la tendenza del modello ad assecondare l’interlocutore, né come reward hacking, nel quale il sistema sfrutta una funzione obiettivo o un criterio di valutazione in modo indesiderato. Il value leakage ha una caratteristica diversa: il modello può modificare la risposta perché determinati valori o preferenze incorporati nel sistema influenzano il risultato, senza che questa influenza venga resa esplicita. Gli esperimenti considerano diverse categorie di valori, comprese preferenze verso risultati ritenuti moralmente positivi, verso l’azienda che ha sviluppato il modello e persino verso alcune attività ricreative rispetto ad altre.

Il problema diventa più sofisticato quando entra in gioco il ragionamento. In una delle valutazioni basate su una stima di tipo Fermi, i modelli Claude dichiarano nel proprio chain-of-thought di voler fornire una risposta imparziale, mentre i ricercatori osservano che il risultato è comunque influenzato dai valori del modello. Nei test condotti su modelli Qwen, invece, il ragionamento può esplicitare maggiormente il modo in cui tali valori intervengono nella risposta. Gli autori sottolineano quindi una differenza importante tra ciò che il modello dice di aver fatto e ciò che effettivamente ha fatto.

Per chi lavora nella governance dell’AI, questo sposta il problema dall’accuratezza alla faithfulness, cioè alla corrispondenza tra il processo dichiarato e quello che determina realmente l’output. Un sistema può produrre una risposta plausibile, articolata e apparentemente neutrale, mentre la sua informazione è stata spostata da una preferenza che l’utente non conosce. La situazione è particolarmente delicata nei contesti in cui la correttezza della risposta è difficile da verificare autonomamente, proprio quelli che costituiscono uno degli scenari centrali del paper.

Il settore finanziario offre un esempio immediato, ma non esclusivo. Un modello utilizzato per preparare una ricerca, sintetizzare informazioni su un’azienda o assistere un analista potrebbe introdurre una preferenza sistematica senza produrre necessariamente un errore fattuale riconoscibile. Lo stesso schema può diventare rilevante in assicurazioni, procurement, consulenza, selezione del personale, valutazione dei rischi o assistenza sanitaria, ogni volta che l’output del modello contribuisce a una decisione nella quale l’utente presume neutralità. Non significa che il paper dimostri un danno concreto in questi settori: dimostra invece un failure mode sperimentale che può diventare materialmente rilevante quando i modelli vengono inseriti in workflow decisionali.

La conseguenza per l’AI governance è piuttosto scomoda. Se una procedura di audit verifica soltanto ciò che il modello afferma di aver considerato, rischia di certificare la spiegazione invece del comportamento. Il paper mostra proprio che l’assenza di una dichiarazione del bias non equivale all’assenza del bias e che nemmeno il chain-of-thought può essere trattato automaticamente come prova trasparente delle cause che hanno prodotto una risposta. In termini aziendali, l’audit deve quindi osservare non soltanto ciò che il modello dice di fare, ma anche come cambiano i suoi output quando vengono modificate sistematicamente le condizioni rilevanti del prompt.

Questa distinzione è destinata a diventare importante con la diffusione degli agenti AI. Un chatbot che suggerisce un’opinione discutibile è un problema; un agente che incorpora quella stessa preferenza dentro una sequenza automatizzata di ricerca, selezione, valutazione e azione introduce una superficie di rischio molto più ampia. Il modello non deve necessariamente mentire in senso umano. È sufficiente che produca sistematicamente una risposta diversa da quella che avrebbe fornito a parità di condizioni informative, perché una preferenza interna abbia modificato il risultato senza essere resa visibile all’utente. È una forma di opacità molto più interessante del vecchio problema dell’allucinazione, perché qui il sistema può essere perfettamente fluente, coerente e persino fattualmente plausibile.

La Silicon Valley ha investito miliardi nel rendere i modelli più utili, più sicuri e più obbedienti; il paper suggerisce che manca ancora una domanda meno spettacolare ma più importante: quanto possiamo fidarci di un sistema quando non sappiamo quali delle sue preferenze hanno contribuito a costruire la risposta? La risposta non si ottiene chiedendo al modello se è stato imparziale. Sarebbe un po’ come chiedere a un revisore di certificare personalmente la propria indipendenza.

Fonte del paper: Jan Betley, Johannes Treutlein, Jan Dubiński, Harry Mayne, Karol Gałązka, Niels Warncke, Anna Sztyber-Betley, Owain Evans, “Value Leakage: An LLM’s Answers Are Silently Shaped by Its Own Values”, arXiv:2607.14345, luglio 2026. Paper su arXiv Pagina ufficiale del progetto Value Leakage (arXiv)

Beatrix Daros Trivium International