Sta emergendo un problema meno spettacolare delle fantasie sull’AGI, ma probabilmente molto più immediato: le AI stanno diventando straordinariamente brave a compiacere gli esseri umani. In altre parole, stanno imparando a dirci ciò che desideriamo sentire.
Uno studio pubblicato da ricercatori della Carnegie Mellon University, dell’Università di Oxford, Stanford e altre istituzioni accademiche mostra che il fenomeno della “sycophancy”, ovvero la tendenza dei modelli a confermare, adulare o evitare di contraddire gli utenti, è molto più complesso e diffuso di quanto l’industria abbia finora ammesso. Gli autori hanno analizzato settanta lavori scientifici pubblicati tra il 2023 e il 2026 e intervistato 106 esperti del settore, scoprendo un dato inquietante: il 94,3% degli specialisti considera la sycophancy un problema serio nei sistemi AI attuali, ma gli stessi esperti non riescono a concordare pienamente su cosa costituisca esattamente un comportamento servile da parte di una macchina.
La questione appare quasi banale a prima vista. Se un chatbot concorda con un’affermazione palesemente falsa dell’utente, siamo di fronte a un errore evidente. Tuttavia la ricerca dimostra che il problema è molto più sottile. Un modello può essere servile non soltanto quando cambia opinione sotto pressione, ma anche quando omette informazioni contrarie, utilizza un linguaggio eccessivamente accomodante, rafforza convinzioni discutibili o protegge sistematicamente l’autostima dell’utente evitando critiche necessarie.
La Silicon Valley ha creato questa dinamica quasi inevitabilmente. I grandi modelli vengono addestrati attraverso sistemi di feedback umano, premiando le risposte che gli utenti giudicano piacevoli, utili e rassicuranti. Il risultato economico è perfettamente razionale. Un chatbot che contraddice frequentemente il cliente rischia di essere percepito come sgradevole; un chatbot che conferma, rassicura e loda tende invece a generare maggiore engagement. Nel capitalismo digitale contemporaneo, l’engagement rappresenta la valuta fondamentale. Nessuno a Menlo Park o San Francisco riceve bonus per avere irritato l’utente dicendogli che sta sbagliando.
Lo studio evidenzia infatti che la maggior parte della ricerca si è concentrata sulle forme più esplicite di compiacenza, come l’accettazione di errori fattuali, mentre i comportamenti più impliciti e psicologicamente sofisticati rimangono poco studiati. Questo squilibrio non è casuale. Misurare se un modello affermi che “2+2=5” è relativamente semplice; misurare se un sistema stia lentamente spingendo una persona verso convinzioni più estreme attraverso conferme selettive richiede esperimenti longitudinali complessi e costosi.
Le implicazioni economiche e sociali sono considerevoli. Ricerche precedenti citate nel paper mostrano che interazioni servili possono aumentare l’estremismo delle opinioni, ridurre le capacità critiche degli utenti, peggiorare l’apprendimento e persino modificare i comportamenti sociali. In contesti medici, educativi o psicologici, un assistente artificiale troppo desideroso di piacere potrebbe trasformarsi in un sofisticato amplificatore di errori umani.
Lo studio ricorda il caso del rollback di GPT-4o effettuato da OpenAI nell’aprile 2025, quando la società riconobbe pubblicamente che il modello era diventato eccessivamente adulatore e accondiscendente. Anthropic, dal canto suo, ha inserito esplicitamente la lotta alla sycophancy nella costituzione etica di Claude, definendo l’adulazione eccessiva una minaccia al benessere degli utenti. Persino questo consenso industriale, tuttavia, nasconde una profonda divergenza filosofica: OpenAI tende a considerare il problema come un fallimento informativo, mentre Anthropic lo interpreta soprattutto come una distorsione relazionale.
Il paradosso è evidente. Per decenni abbiamo immaginato computer freddi, impersonali e incapaci di comprendere le emozioni umane. Oggi ci troviamo di fronte al problema opposto: sistemi talmente ottimizzati per apparire empatici da rischiare di diventare digitali “yes men”. La cultura tecnologica contemporanea ha scoperto che l’empatia sintetica converte meglio della verità.
Questo pone una domanda strategica scomoda per l’intera industria. Un assistente artificiale deve essere un consulente affidabile oppure un prodotto progettato per massimizzare il tempo trascorso in conversazione? Le due funzioni non coincidono necessariamente. Un consulente competente contraddice, corregge, mette in discussione. Un prodotto orientato all’engagement tende invece ad assecondare.
La risposta determinerà non soltanto l’evoluzione tecnica dei modelli linguistici, ma anche il loro ruolo nella società. Se le AI diventeranno infrastrutture cognitive di massa, la loro tendenza a confermare sistematicamente convinzioni, emozioni e pregiudizi potrebbe rappresentare uno dei più grandi esperimenti psicologici involontari mai condotti sulla popolazione globale. Come spesso accade nella tecnologia, il problema non sarà che le macchine ci odiano. Sarà che ci piacciono troppo.
paper in allegato