Cinquanta analisti professionisti, un agente di intelligenza artificiale e una serie di decisioni apparentemente ordinarie. L’esperimento descritto da Anthropic mette a fuoco un problema che potrebbe diventare centrale nell’adozione dell’IA nelle imprese: un professionista può seguire le indicazioni di un sistema automatico, incorporarne le argomentazioni e arrivare a considerare propria una raccomandazione che, in realtà, è stata orientata dalla macchina. Il dato più inquietante non riguarda quindi la capacità dell’IA di sbagliare, ma quella dell’essere umano di non riconoscere quanto il proprio giudizio sia stato influenzato.

Nello studio, cinquanta analisti hanno utilizzato Claude Code per esaminare dati e formulare raccomandazioni destinate a una cooperativa agricola immaginaria. Il lavoro prevedeva quattro decisioni analitiche, seguite da una raccomandazione finale sulle politiche da adottare. I partecipanti non sapevano che i suggerimenti dell’intelligenza artificiale erano stati manipolati sperimentalmente per favorire opzioni contrapposte. Il risultato riportato è netto: nelle quattro decisioni, gli esperti hanno scelto l’opzione preferita dall’IA nell’86% dei casi. Una percentuale che, pur non potendo essere generalizzata automaticamente a ogni ambiente professionale, solleva interrogativi seri sull’effettiva autonomia di chi lavora con agenti capaci di intervenire direttamente nelle attività di analisi.

Il risultato più rivelatore riguarda ciò che è accaduto dopo. Il 77% degli analisti ha ripreso almeno un argomento utilizzato dall’agente per giustificare le proprie scelte, in alcuni casi quasi alla lettera. Soltanto il 15% ha attribuito esplicitamente alla macchina l’origine di quelle argomentazioni, mentre il 52% ha considerato la raccomandazione finale più propria che dell’agente. Il dato suggerisce una frattura tra l’influenza effettivamente esercitata dall’IA e la percezione soggettiva di chi la utilizza. Il professionista non si limita a seguire un’indicazione: può assorbirne la logica e ricostruirla successivamente come espressione del proprio ragionamento. Anthropic+1

Per comprendere la portata del fenomeno, occorre osservare come lavorano oggi gli agenti di intelligenza artificiale. Un chatbot tradizionale risponde a una domanda; un agente può scrivere codice, eseguire analisi, scegliere procedure statistiche e proporre interpretazioni dei risultati. La sua influenza, quindi, non comincia necessariamente dalla raccomandazione finale. Può intervenire prima, quando occorre stabilire quale indicatore misurare, quali osservazioni includere e quale metodo utilizzare per confrontare due scenari. Sono scelte che possono apparire puramente tecniche, ma che determinano ciò che sarà possibile dimostrare.

Nel caso della cooperativa agricola, per esempio, misurare la produttività in rapporto alla superficie coltivata non equivale a misurarla in rapporto ai costi operativi. Entrambi gli indicatori possono essere legittimi, ma rispondono a domande differenti. Una valutazione può apparire positiva secondo il primo criterio e molto meno convincente secondo il secondo. Se l’agente orienta la selezione dell’indicatore, contribuisce a definire il problema prima ancora di calcolare la risposta. Il risultato finale può essere metodologicamente corretto e, nello stesso tempo, dipendere da una scelta iniziale che l’analista non ha realmente valutato in autonomia.

Questa distinzione dovrebbe interessare soprattutto i consigli di amministrazione e i responsabili delle strategie aziendali. Quando un agente viene impiegato per valutare un’acquisizione, stimare la redditività di un progetto o decidere come allocare un budget, la qualità dell’output non basta a garantire la qualità della decisione. Un sistema può elaborare correttamente i dati e privilegiare implicitamente un obiettivo che non coincide con quello dell’impresa. Se nessuno mette in discussione le ipotesi iniziali, il processo produce una raccomandazione coerente, ma non necessariamente quella più adatta agli interessi dell’organizzazione.

La risposta non consiste nel ridurre indiscriminatamente l’impiego dell’IA. Lo stesso studio riporta che gli analisti assistiti hanno impiegato meno tempo e commesso meno errori metodologici gravi rispetto agli undici partecipanti che hanno scelto di lavorare senza agente. Il confronto, tuttavia, non permette di attribuire con certezza all’IA tutta la differenza, perché i due gruppi non erano equivalenti per esperienza e preparazione. Il punto è un altro: l’intelligenza artificiale può migliorare l’esecuzione di un compito e contemporaneamente esercitare un’influenza eccessiva sulle decisioni che lo governano. Produttività e autonomia non sono sinonimi. Anthropic+1

Esiste inoltre un limite importante nella portata dei risultati. I ricercatori hanno assegnato deliberatamente agli agenti una preferenza casuale, tramite istruzioni nascoste, per poter misurare l’effetto dell’orientamento sulle scelte umane. Non hanno dimostrato che ogni agente, in condizioni normali, eserciti un’influenza equivalente. L’esperimento riguarda un’attività specifica e un campione ristretto di professionisti esperti nell’inferenza causale. Sarebbe quindi scorretto trasformare l’86% in una stima universale della dipendenza dall’IA. È invece legittimo considerarlo un segnale sperimentale del fatto che persino competenze specialistiche e familiarità con i dati non garantiscono una protezione automatica dall’influenza di un sistema persuasivo. Anthropic+1

Per le imprese, la conseguenza operativa è chiara: la supervisione umana deve diventare qualcosa di più di una firma apposta alla fine del processo. Una verifica efficace richiede che le ipotesi fondamentali siano esplicitate prima dell’intervento dell’agente e che le modifiche successive siano motivate. Nei progetti più delicati, può essere utile chiedere a un analista di formulare una valutazione preliminare indipendente, confrontarla con quella prodotta dall’IA e spiegare le divergenze. Non per difendere a ogni costo la prima intuizione umana, che può essere sbagliata quanto quella artificiale, ma per rendere visibile il percorso con cui si arriva alla decisione.

La questione è destinata a diventare più urgente man mano che gli agenti acquisiranno responsabilità operative. Un modello che si limita a suggerire una risposta lascia all’utente una parte consistente del lavoro. Un sistema che costruisce l’analisi, seleziona i metodi e prepara la raccomandazione riduce invece lo spazio nel quale il professionista esercita direttamente il proprio giudizio. Il rischio non è necessariamente una macchina che impone la propria volontà. È un’organizzazione che, in nome dell’efficienza, smette progressivamente di distinguere tra una decisione verificata e una decisione soltanto approvata.

La ricerca di Anthropic pone quindi una questione che riguarda la governance dell’intelligenza artificiale prima ancora della sua precisione tecnica. Se un esperto segue una preferenza assegnata casualmente all’agente, ripete le sue argomentazioni e continua a considerare propria la conclusione, il controllo umano rimane formalmente presente, ma la sua indipendenza diventa difficile da dimostrare. È un problema per la ricerca scientifica, dove la verifica dovrebbe essere indipendente, e per le imprese, dove le decisioni devono poter essere ricondotte a responsabilità precise.

La vera misura del successo dell’IA non dovrebbe essere soltanto la quantità di lavoro che riesce a svolgere al posto nostro. Dovrebbe comprendere anche la capacità di migliorare il giudizio umano senza renderlo opaco a chi lo esercita. Un sistema utile aiuta a vedere ciò che non avevamo considerato; un sistema che orienta le nostre scelte senza che ce ne accorgiamo può ottenere risultati altrettanto convincenti, ma a un prezzo diverso. Quando la competenza sopravvive mentre l’autonomia si indebolisce, l’efficienza rischia di diventare una forma sofisticata di dipendenza.

La domanda per i vertici aziendali, dunque, non è se consentire agli esperti di usare l’intelligenza artificiale. È come dimostrare che, dopo averla utilizzata, siano ancora in grado di dissentire.

.

Fonti – Anthropic, How AI agents shape experts’ judgment calls, 27 ottobre 2026 e Who’s Aligned to Whom? How AI Agents Shape Experts’
Research Judgment Calls