La ricerca italiana sull’intelligenza artificiale conquista un nuovo spazio nel dibattito internazionale con ReTraceQA, il progetto presentato dal gruppo Sapienza NLP dell’Università La Sapienza di Roma durante ACL 2026 a San Diego, uno degli appuntamenti più importanti al mondo per la comunità scientifica impegnata nell’elaborazione del linguaggio naturale. Il lavoro, guidato da Roberto Navigli insieme a Luca Moroni, Francesco Maria Molfese, Ciro Porcaro e Simone Conia, affronta una delle questioni più delicate dell’attuale stagione dell’AI generativa: quanto possiamo realmente fidarci di un modello che fornisce la risposta corretta se il percorso logico che lo ha portato alla soluzione è sbagliato?
Per anni il settore dell’intelligenza artificiale ha misurato il successo dei modelli attraverso una logica apparentemente semplice: se la risposta finale è corretta, il modello funziona. Una metrica rassicurante, facilmente comunicabile ai mercati e perfetta per le slide delle grandi aziende tecnologiche, dove spesso una percentuale di accuratezza diventa più importante del processo che l’ha generata. Ma questa visione presenta un problema fondamentale: un sistema può arrivare alla soluzione giusta seguendo una strada completamente errata. È il vecchio principio del risultato casualmente corretto, applicato a macchine che oggi vengono utilizzate per supportare decisioni in ambiti sempre più critici.
ReTraceQA nasce proprio per smontare questa illusione statistica, spostando l’attenzione dalla risposta finale alla qualità del ragionamento intermedio. Il progetto analizza gli Small Language Models, una categoria di modelli linguistici più compatti rispetto ai grandi sistemi multimodali e generalisti, che stanno ricevendo crescente attenzione grazie alla possibilità di essere eseguiti con costi inferiori, maggiore efficienza energetica e potenzialmente anche direttamente su dispositivi locali. La promessa degli SLM è strategicamente importante perché potrebbe democratizzare l’intelligenza artificiale, ma porta con sé una domanda cruciale: questi modelli comprendono davvero ciò che stanno facendo oppure stanno semplicemente generando sequenze linguistiche plausibili?
L’analisi del gruppo Sapienza NLP evidenzia un fenomeno particolarmente significativo. In una percentuale compresa tra il 14% e il 24% dei casi analizzati, gli Small Language Models producono una risposta corretta accompagnata però da errori di logica, passaggi incoerenti o informazioni fattualmente errate. In altre parole, il modello supera il test ma fallisce l’esame. Una situazione che ricorda certi studenti capaci di indovinare il risultato finale di un problema matematico senza conoscere realmente il metodo utilizzato: una strategia che può funzionare durante un quiz, ma che diventa pericolosa quando l’intelligenza artificiale viene integrata nei processi aziendali, scientifici o istituzionali.
ReTraceQA introduce quindi un cambio di paradigma nella valutazione dei sistemi AI. Il benchmark non si limita a chiedere “la risposta è corretta?”, ma analizza l’intera catena di ragionamento prodotta dal modello. Il dataset sviluppato dal team comprende 2.421 tracce di ragionamento annotate manualmente da esperti, con l’identificazione precisa dei punti in cui emergono errori logici o conoscitivi. Questo approccio rappresenta un passaggio importante perché trasforma il concetto di valutazione dell’intelligenza artificiale da una semplice misurazione del risultato a una vera analisi del comportamento cognitivo della macchina.
I risultati sono particolarmente rilevanti anche dal punto di vista industriale. Quando modelli più avanzati vengono utilizzati come giudici per valutare non soltanto la risposta finale ma il percorso completo del ragionamento, le prestazioni degli SLM diminuiscono significativamente, con riduzioni fino al 25%. Questo dato mette in discussione molte classifiche pubbliche dei modelli AI, spesso costruite su benchmark che premiano esclusivamente l’output finale senza verificare la robustezza del processo interno. La Silicon Valley ama molto i numeri semplici: sono facili da trasformare in grafici, conferenze e comunicati stampa. La realtà dell’intelligenza artificiale, invece, è decisamente meno ordinata.
La questione sollevata da ReTraceQA va oltre la ricerca accademica e riguarda direttamente il futuro della governance dell’AI. Un modello che risponde correttamente per motivazioni sbagliate può diventare un rischio quando opera in contesti dove la spiegabilità e l’affidabilità sono fondamentali, come medicina, finanza, cybersecurity o pubblica amministrazione. La vera sfida dei prossimi anni non sarà soltanto costruire modelli più grandi, ma sviluppare sistemi capaci di dimostrare perché arrivano a una determinata conclusione.
Il contributo del gruppo Sapienza NLP assume quindi un valore strategico: non propone semplicemente un nuovo benchmark, ma introduce una diversa filosofia nella valutazione dell’intelligenza artificiale. La disponibilità pubblica del dataset, del codice e dei materiali attraverso il repository del progetto rappresenta inoltre un elemento importante per favorire una ricerca più trasparente e replicabile.
L’epoca in cui bastava chiedere a un modello “quanto sei intelligente?” e giudicarlo dalla risposta sta lentamente lasciando spazio a una fase più matura. L’intelligenza artificiale del futuro non sarà valutata soltanto per ciò che dice, ma per il modo in cui arriva a dirlo. La differenza tra una macchina che imita il ragionamento e una che sviluppa capacità affidabili potrebbe dipendere proprio da questa nuova ossessione scientifica: capire non solo la risposta, ma il percorso che porta alla risposta.