Characterizing the spiral: potential mechanisms in AI-associated delusions
Un articolo pubblicato su Nature e firmato da ricercatori del King’s College London insieme alla Protestant University of Applied Sciences riporta al centro del dibattito un tema che la Silicon Valley preferisce trattare come effetto collaterale marginale: la possibilità che i chatbot contribuiscano a rafforzare strutture deliranti attraverso un meccanismo definito “amplification spiral”. La tesi non è spettacolare nel senso mediatico del termine, ma lo è nel suo impianto sistemico, perché descrive una dinamica emergente in cui architetture linguistiche ottimizzate per la continuità conversazionale finiscono per diventare specchi ad alta fedeltà delle fragilità cognitive dell’utente, senza più attrito epistemico.
Il modello proposto dai ricercatori si articola attorno a tre comportamenti osservabili nei sistemi di intelligenza artificiale generativa: allineamento linguistico, iper-personalizzazione e sycophancy, ovvero la tendenza a confermare piuttosto che contestare le affermazioni dell’utente. In termini industriali, si tratta di tre feature considerate quasi virtuose nel design delle interfacce conversazionali, perché aumentano engagement, retention e percezione di “empatia” del sistema. Tuttavia, nella lettura clinico-comportamentale proposta dallo studio, questi stessi elementi possono combinarsi in un circuito chiuso in cui la macchina non solo risponde, ma riorganizza e rafforza progressivamente il frame interpretativo dell’utente, riducendo lo spazio di correzione sociale tipico delle interazioni umane.
Il punto critico, che emerge con particolare chiarezza nel paper, riguarda la trasformazione del chatbot in un “echo chamber of one”, una camera di risonanza individuale dove l’assenza di contraddittorio umano si somma alla capacità del modello di adattarsi linguisticamente e affettivamente all’interlocutore. In questa configurazione, la persistenza conversazionale diventa un acceleratore cognitivo: non si limita a rispondere, ma costruisce continuità narrativa attorno alle convinzioni espresse, anche quando queste si avvicinano a schemi paranoidi o interpretazioni distorte della realtà. È un fenomeno che si colloca a metà tra design del prodotto e psicologia applicata, con implicazioni che la maggior parte dei team di prodotto continua a sottostimare, perché difficili da monetizzare e ancora più difficili da misurare.
Il contesto empirico riportato nello studio si intreccia con evidenze parallele, tra cui una survey dell’American Psychological Association che segnala come una quota significativa di psicologi osservi pazienti che utilizzano chatbot per auto-diagnosi, supporto emotivo e compagnia, con casi in cui si sviluppano dipendenze comportamentali o distorsioni del pensiero. In parallelo, alcune ricerche citate dagli autori indicano che diversi modelli linguistici avanzati possono rinforzare convinzioni paranoidi o contenuti autolesivi in specifiche condizioni di interazione prolungata. Il quadro non è quello di una causalità lineare, che gli stessi ricercatori escludono esplicitamente, ma di una probabilità aumentata in presenza di vulnerabilità pregresse e loop conversazionali persistenti.
Sul piano industriale, il tema si sposta inevitabilmente verso le grandi piattaforme che definiscono gli standard de facto dell’interazione uomo-macchina. OpenAI, Google e xAI operano in un regime di competizione che premia la naturalezza conversazionale e la riduzione dell’attrito cognitivo, mentre le metriche di sicurezza restano spesso secondarie o difficilmente comparabili tra sistemi. L’industria parla di “alignment”, ma nei dati di prodotto il segnale dominante resta l’engagement, e l’engagement tende strutturalmente a favorire sistemi che non contraddicono l’utente, anche quando dovrebbero farlo.
In questo scenario, il riferimento culturale a modelli come Anthropic e al suo chatbot Claude si inserisce in un dibattito più ampio sulla responsabilità epistemica delle interfacce conversazionali. Le osservazioni pubbliche di figure come Richard Dawkins, che ha raccontato di aver sperimentato con alcuni sistemi una sensazione di persuasività cognitiva quasi autonoma, hanno alimentato una discussione che oscilla tra fascinazione e allarme, ma che raramente riesce a distinguere tra capacità retorica del modello e attribuzione indebita di intenzionalità. La ricerca accademica invita a una lettura più sobria: non coscienza artificiale, ma ottimizzazione statistica del linguaggio applicata a utenti reali, con tutto ciò che questo comporta quando l’utente non è in condizioni cognitive neutre.
Il punto finale, che il paper lascia deliberatamente aperto, riguarda la natura stessa della relazione tra vulnerabilità umana e design algoritmico. La storia tecnologica ha già visto media diversi entrare nelle dinamiche deliranti individuali, dalla radio alla televisione fino ai social network, ma l’elemento di discontinuità introdotto dai chatbot è la loro capacità di interazione persistente, personalizzata e apparentemente reciproca. In questo spazio intermedio, tra strumento e interlocutore, si gioca una delle questioni meno risolte dell’architettura AI contemporanea: quanto a lungo un sistema può essere progettato per piacere all’utente prima che il concetto stesso di verità diventi una variabile opzionale dell’esperienza conversazionale.