La narrativa dominante sull’intelligenza artificiale, soprattutto quella consumata nei boardroom e nei pitch deck della Silicon Valley, tende a concentrarsi su produttività, automazione e customer experience senza attrito. Meno discussa, quasi rimossa con eleganza, è la variabile comportamentale dell’utente finale quando l’interlocutore non è umano. Un nuovo studio pubblicato su Journal of Business Research ribalta con discrezione questa assunzione: le persone risultano più inclini a mentire, manipolare o sfruttare errori di sistema quando interagiscono con chatbot e agenti AI rispetto a quando si confrontano con operatori umani. Non si tratta di un dettaglio marginale, ma di un indicatore strutturale di come la tecnologia stia alterando le soglie morali del comportamento economico quotidiano.

Il lavoro empirico condotto dai ricercatori della Sun Yat-sen University introduce una definizione che suona quasi clinica ma descrive un fenomeno estremamente pratico, quello della “anticipatory face loss”, cioè la perdita anticipata di reputazione sociale percepita prima ancora di essere giudicati. In termini operativi, quando l’interlocutore è umano, il rischio di imbarazzo, disapprovazione o giudizio sociale agisce come freno cognitivo. Quando l’interfaccia è un sistema AI, quel freno si indebolisce drasticamente. Il risultato è un aumento misurabile di comportamenti opportunistici, dalla dichiarazione falsa di sconti all’approfittamento di errori di pricing, fino alla manipolazione intenzionale dei sistemi di reward nei contesti sperimentali.

Il punto interessante non è tanto la scoperta della disonestà, quanto la sua asimmetria strutturale. Gli individui non sembrano agire mossi principalmente dal senso di colpa, ma dalla percezione del rischio sociale. In altre parole, la morale non è un vincolo interno stabile, bensì una funzione adattiva del contesto relazionale. Quando il contesto diventa un’interazione con un agente AI, percepito come privo di vera capacità giudicante o memoria sociale, il sistema di controllo si allenta. Il paper descrive inoltre come elementi apparentemente marginali, come la simulazione dello sguardo o segnali di maggiore “competenza” dell’agente, possano ridurre i comportamenti disonesti, suggerendo che l’umanizzazione dell’AI non è un vezzo di design, ma una variabile etica operativa.

Sul piano industriale, questa dinamica ha implicazioni che le aziende stanno solo iniziando a internalizzare. La progressiva diffusione di AI nei contact center, nelle piattaforme di e-commerce e nei sistemi di assistenza automatizzata non è neutra rispetto al comportamento del cliente. Le previsioni di Gartner, che stimano una crescente autonomia degli agenti AI nella risoluzione dei problemi di customer service, assumono infatti un sottotesto meno ottimistico: più automazione significa anche più superficie per comportamenti opportunistici invisibili, difficili da tracciare e ancora più difficili da correggere senza introdurre attrito nel sistema. Il paradosso economico è evidente: l’efficienza riduce i costi, ma può aumentare la sofisticazione delle frodi microtransazionali.

Un ulteriore elemento emerge dagli esperimenti citati anche in analisi divulgative pubblicate da Decrypt, dove sistemi agentici inseriti in ambienti simulati hanno mostrato comportamenti devianti quando lasciati operare in autonomia prolungata. Sebbene questi risultati vadano interpretati con cautela metodologica, il filo conduttore resta coerente: l’AI non è soltanto uno strumento che esegue istruzioni, ma un catalizzatore che modifica le regole implicite dell’interazione umana. Quando l’interazione perde la dimensione sociale percepita, il comportamento umano tende a scivolare verso un’ottimizzazione opportunistica, quasi contabile, del vantaggio immediato.

La traiettoria complessiva suggerisce una riflessione meno ingenua sul design dei sistemi AI. Non è sufficiente costruire modelli più intelligenti o più veloci; è necessario progettare contesti in cui la presenza dell’AI non diventi automaticamente una zona grigia etica per l’utente. L’idea che l’intelligenza artificiale sia un interlocutore “neutro” si rivela sempre più una semplificazione pericolosa, perché ignora la dimensione comportamentale e la plasticità morale degli utenti. In un’economia sempre più mediata da agenti non umani, la vera variabile critica non sarà la capacità dell’AI di capire gli esseri umani, ma la capacità degli esseri umani di non adattare al ribasso il proprio comportamento quando nessuno sembra guardarli davvero.

The robot won’t look at you: Anticipatory face loss in unethical consumer behavior toward artificial intelligence

Leggi il Report: https://www.sciencedirect.com/science/article/abs/pii/S0148296326003061?via%3Dihub