Una delle promesse più seducenti dell’intelligenza artificiale generativa è sempre stata quella di trasformare ogni cittadino in una sorta di fact-checker potenziato. Se una notizia appare sospetta, basta chiedere a ChatGPT, Claude o Grok. Se un’immagine sembra falsa, l’AI può analizzarla. Se un rumor politico o una presunta scoperta medica diventa virale, l’assistente digitale promette una verifica quasi immediata. Il problema, come spesso accade nella storia della tecnologia, emerge quando si confonde l’aumento della performance con l’aumento della competenza.
Un nuovo studio condotto da ricercatori del Massachusetts Institute of Technology mette in discussione una delle convinzioni più diffuse sull’uso quotidiano dell’intelligenza artificiale. I risultati mostrano infatti che i chatbot migliorano significativamente la capacità degli utenti di identificare contenuti falsi nel momento in cui vengono utilizzati, ma riducono la capacità di svolgere lo stesso compito quando l’assistenza viene rimossa.
La ricerca ha coinvolto 67 partecipanti nell’arco di quattro settimane, generando oltre 7.200 conversazioni con sistemi AI e più di 4.500 valutazioni sull’autenticità di notizie e immagini. I ricercatori hanno costruito una piattaforma che integrava GPT-4o con Google Search, chiedendo agli utenti di valutare inizialmente se una notizia fosse reale o falsa, per poi confrontarsi con il chatbot e formulare una seconda valutazione. Successivamente gli stessi partecipanti sono stati sottoposti a nuovi test senza alcun supporto artificiale.
I numeri sono difficili da ignorare. Con l’assistenza dell’AI, la precisione nell’identificazione della disinformazione è aumentata del 21%. Apparentemente un successo. Tuttavia, quando gli utenti sono stati chiamati a valutare nuovi contenuti senza il supporto del chatbot, la loro accuratezza è diminuita del 15,3%. Ancora più interessante è il fatto che il deterioramento riguardasse soprattutto la capacità di riconoscere le notizie false, mentre la valutazione delle notizie autentiche è rimasta sostanzialmente invariata.
Dal punto di vista manageriale e strategico, il fenomeno è perfettamente coerente con ciò che osserviamo da anni nell’automazione industriale. Ogni volta che una macchina assume una funzione cognitiva precedentemente svolta da un essere umano, il rischio non è soltanto la sostituzione dell’attività, ma l’atrofia della competenza associata. L’avvento del GPS ha ridotto le capacità di orientamento. I software di traduzione hanno ridotto la necessità di padroneggiare lingue straniere. I fogli elettronici hanno trasformato il modo in cui le persone eseguono calcoli complessi. L’intelligenza artificiale potrebbe ora fare lo stesso con il pensiero critico.
La questione assume una rilevanza ancora maggiore perché il contesto informativo globale sta diventando sempre più ostile. La generazione automatica di immagini, video e testi ha raggiunto livelli di realismo che pochi anni fa sarebbero sembrati fantascienza. La disinformazione non richiede più studi televisivi, montaggi professionali o organizzazioni sofisticate. Richiede una connessione internet e pochi prompt ben scritti.
Gli esempi recenti abbondano. Durante il conflitto tra Iran e Israele nel 2025, numerosi video che mostravano presunte devastazioni a Tel Aviv e all’aeroporto Ben Gurion hanno accumulato milioni di visualizzazioni prima di essere identificati come contenuti generati artificialmente. Le piattaforme social si sono trovate a inseguire una velocità di diffusione che supera di gran lunga quella dei processi di verifica. Perfino X ha successivamente annunciato restrizioni economiche per i creatori che pubblicano contenuti di guerra generati dall’intelligenza artificiale senza adeguata disclosure.
In questo contesto, la ricerca del MIT evidenzia una contraddizione fondamentale. I chatbot sembrano eccellenti nel correggere convinzioni errate nel breve termine, ma non necessariamente nell’insegnare agli utenti come arrivare autonomamente alla conclusione corretta. È la differenza tra ricevere una risposta giusta e sviluppare un metodo per trovare risposte giuste.
Il punto critico emerge nell’analisi delle conversazioni effettuata successivamente con Claude 3.5 Sonnet. Secondo i ricercatori, gli attuali approcci progettuali privilegiano la correzione della credenza errata piuttosto che la costruzione di capacità cognitive permanenti. In altre parole, l’obiettivo dei modelli è convincere l’utente della risposta corretta, non insegnargli a ragionare meglio.
Questa distinzione potrebbe diventare uno dei temi centrali dell’economia cognitiva del prossimo decennio. Le aziende che sviluppano AI sono incentivate a massimizzare l’utilità immediata percepita dall’utente. Un sistema che fornisce rapidamente una risposta genera soddisfazione. Un sistema che costringe l’utente a riflettere, verificare fonti e costruire argomentazioni potrebbe apparire meno efficiente, anche se nel lungo periodo produce individui più competenti.
La tecnologia sta quindi entrando in una fase nuova. Il dibattito non riguarda più soltanto se l’AI sia accurata o meno. La domanda più sofisticata è se l’AI stia rafforzando o indebolendo le capacità cognitive della società che la utilizza. Sono due metriche completamente diverse.
Vale inoltre ricordare che lo studio è stato condotto utilizzando GPT-4o e Claude 3.5 Sonnet, modelli oggi superati dalle generazioni successive. Non sappiamo ancora se sistemi più avanzati possano mitigare questo effetto. È plausibile che modelli dotati di capacità di ragionamento più sviluppate possano adottare strategie pedagogiche migliori. È altrettanto plausibile che l’aumento dell’affidabilità renda gli utenti ancora più inclini a delegare il processo decisionale.