Nel 1942 Jorge Luis Borges pubblicava Funes el memorioso, racconto destinato a diventare una delle più acute riflessioni letterarie sui limiti della conoscenza. Il protagonista, Ireneo Funes, sopravvive a un incidente che gli lascia una facoltà straordinaria e, al tempo stesso, devastante: non dimentica più nulla. Ricorda ogni dettaglio di ciò che vede, fino a distinguere le minime variazioni della luce e a ricostruire mentalmente ogni giornata trascorsa. La sua memoria è quasi perfetta. Il suo pensiero, invece, rimane prigioniero di quella perfezione. Borges aveva individuato un paradosso che oggi attraversa lo sviluppo dei modelli linguistici di grandi dimensioni: conservare più informazioni non significa necessariamente comprendere meglio la realtà.

Il problema non riguarda soltanto la capacità di elaborazione dei sistemi artificiali. Riguarda il rapporto fra memoria e astrazione, cioè il processo attraverso il quale una mente smette di considerare ogni evento come irripetibile e comincia a riconoscere ciò che accomuna situazioni differenti. Un essere umano può comprendere il concetto di albero senza dover ricordare ogni foglia incontrata nella propria vita. Deve trascurare le differenze irrilevanti per riconoscere una struttura comune. Questa selezione non è un difetto accidentale della cognizione: è una delle condizioni che rendono possibile il pensiero. Funes, incapace di dimenticare, rimane sommerso dalla singolarità delle cose e fatica a costruire categorie generali. La sua tragedia non consiste nell’avere troppa memoria, in senso quantitativo, ma nel non riuscire a trasformarla in conoscenza organizzata.

La ricerca contemporanea sull’intelligenza artificiale offre un terreno concreto sul quale verificare questa intuizione. Le finestre di contesto dei Large Language Models sono cresciute rapidamente, consentendo di elaborare documenti estesi, archivi tecnici e conversazioni che un tempo avrebbero richiesto numerose sessioni separate. È un progresso significativo, soprattutto per attività come l’analisi contrattuale, la revisione del codice e la ricerca documentale. Tuttavia, la capacità di mantenere migliaia o milioni di token disponibili durante un’elaborazione non equivale alla costruzione di un modello concettuale stabile. Un sistema può recuperare un passaggio preciso da un documento senza averne identificato correttamente il significato rispetto al problema complessivo. Può anche produrre una sintesi convincente che omette una relazione causale decisiva. La quantità di testo accessibile è una proprietà dell’architettura; la qualità del ragionamento è una questione distinta.

Occorre però evitare una semplificazione frequente nel dibattito sull’IA: i modelli linguistici non sono semplici archivi consultabili attraverso una ricerca testuale. Durante l’addestramento, la discesa del gradiente modifica i parametri della rete affinché essa apprenda regolarità statistiche dai dati. Le rappresentazioni interne possono codificare relazioni semantiche e strutture astratte, mentre il meccanismo di attenzione permette di attribuire rilevanza differente ai token presenti nel contesto. Nella forma standard, il calcolo dell’attenzione utilizza prodotti fra query e key, normalizzati rispetto alla dimensione delle rappresentazioni, per determinare quanto le diverse posizioni contribuiscano alla costruzione delle rappresentazioni successive. Non è quindi corretto sostenere che l’IA non astragga oppure che l’assenza di dimenticanza impedisca necessariamente qualsiasi sintesi concettuale. Il punto più interessante è un altro: l’architettura può apprendere astrazioni durante l’addestramento e, nello stesso tempo, incontrare difficoltà nel selezionare e utilizzare le informazioni pertinenti durante una specifica attività.

Gli studi sui limiti delle finestre di contesto suggeriscono infatti che l’aumento della capacità nominale non garantisce un miglioramento proporzionale delle prestazioni. Il fenomeno noto come Lost in the Middle, documentato da Nelson Liu e colleghi nel 2023, ha mostrato che diversi modelli possono utilizzare le informazioni con maggiore affidabilità quando queste si trovano all’inizio o alla fine di un contesto, rispetto a quando sono collocate nella parte centrale. I risultati dipendono dal modello e dal compito, ma mettono in discussione l’idea che rendere disponibile un archivio più esteso equivalga a renderne ogni informazione ugualmente accessibile. Il sistema può avere tutto davanti a sé e, nondimeno, non riuscire a individuare ciò che serve. La differenza fra disponibilità e utilizzabilità è già un problema economico, prima ancora che filosofico.

Anche il principio dell’information bottleneck richiede una lettura rigorosa. Nella teoria dell’informazione, il concetto descrive, in determinate formulazioni, il tentativo di costruire una rappresentazione che conservi le informazioni rilevanti per un obiettivo predittivo, riducendo quelle superflue rispetto a quell’obiettivo. Non dimostra che dimenticare sia sempre vantaggioso, né stabilisce che gli esseri umani dimentichino una percentuale universale del contenuto di un testo. Suggerisce piuttosto che una rappresentazione efficace non deve necessariamente preservare ogni dettaglio dell’ingresso. La selezione dipende dal compito. In medicina, una particolarità apparentemente marginale può cambiare una diagnosi; in un’analisi strategica, lo stesso dettaglio può essere rumore. L’intelligenza consiste anche nel riconoscere questa differenza.

Da qui emerge una questione di progettazione che le imprese dovrebbero affrontare con maggiore lucidità. Un sistema aziendale capace di consultare l’intero archivio di contratti, procedure e comunicazioni può ridurre il tempo necessario a reperire informazioni. Non è detto, però, che sappia distinguere automaticamente una clausola decisiva da una formulazione ormai superata, oppure una correlazione ricorrente da un rapporto causale. Per ottenere risultati affidabili servono meccanismi di selezione, gerarchie delle fonti, verifiche della provenienza e procedure che permettano di confrontare le risposte con le evidenze disponibili. La memoria estesa è una risorsa; senza una politica di rilevanza, può trasformarsi in un moltiplicatore di ambiguità.

Il passaggio decisivo, pertanto, non consiste nel costruire sistemi che dimentichino arbitrariamente, ma nel progettare sistemi capaci di comprimere, mantenere e recuperare le informazioni secondo criteri espliciti. Una memoria operativa dovrebbe distinguere i dati necessari alla decisione corrente dalle informazioni da conservare per un utilizzo futuro. Dovrebbe inoltre poter aggiornare le proprie rappresentazioni quando cambiano le condizioni, evitando che vecchie evidenze continuino a influenzare una risposta soltanto perché rimangono facilmente reperibili. In un agente autonomo, questa capacità diventa particolarmente importante: accumulare esperienze senza selezionarle può rendere il comportamento più incoerente, mentre comprimere troppo presto può eliminare proprio il dettaglio che consentirebbe di correggere un errore.

Borges non aveva previsto i Transformer, le GPU o le finestre di contesto da milioni di token. Aveva però formulato una domanda che la tecnologia contemporanea non può liquidare come una semplice metafora letteraria. Se ogni particolare rimane disponibile, quale meccanismo decide che cosa merita di diventare un principio? Per gli esseri umani, la risposta coinvolge limiti biologici, attenzione, esperienza e apprendimento. Per i sistemi artificiali, dipende da come vengono addestrati e da come sono progettati i processi di memoria e ragionamento. Non esiste una legge secondo cui più memoria produca necessariamente meno astrazione. Esiste, invece, un rischio concreto quando la disponibilità dell’informazione viene confusa con la capacità di interpretarla. Nell’economia dell’intelligenza artificiale, dove ogni aumento di capacità computazionale viene presentato come un avanzamento cognitivo, questa distinzione merita di diventare un criterio di valutazione. La macchina più utile non sarà necessariamente quella che ricorda tutto, ma quella che sa individuare quali informazioni cambiano davvero la risposta.