Venticinque medaglie Fields (il più prestigioso riconoscimento internazionale per la matematica), tra cui Terence Tao, denunciano un “severe misalignment” tra gli obiettivi delle aziende AI e quelli della ricerca matematica. Dopo le polemiche su Navier-Stokes, OpenAI si ritira dal Mathathon di Caltech. La questione non è più capire se le macchine sappiano fare matematica, ma cosa accade alla matematica quando diventano troppo brave a farla.

OpenAI sostiene di aver affrontato uno dei problemi più celebri della matematica con circa diecimila agenti artificiali coordinati per 88 ore. Pochi giorni dopo si è trovata davanti a un problema che nemmeno un cluster di GPU può liquidare altrettanto facilmente: una parte molto autorevole della comunità matematica che mette in discussione il modo in cui le aziende dell’intelligenza artificiale stanno entrando nella disciplina.

Il dettaglio importante è che quei matematici non sostengono che l’AI non sappia fare matematica: sostengono quasi esattamente il contrario.

Le capacità matematiche dei large language model sono cresciute al punto da consentire ai sistemi più avanzati di affrontare problemi aperti di grande complessità. Ed è proprio questo progresso, secondo i firmatari della dichiarazione “A Severe Misalignment of AI in Mathematics”, a rendere urgente una discussione sugli incentivi che stanno guidando la corsa dell’AI nella ricerca.

La dichiarazione, pubblicata l’11 settembre e sottoscritta inizialmente da 25 medaglie Fields, tra cui Terence Tao, Alessio Figalli, Cédric Villani, Peter Scholze, Maryna Viazovska e Manjul Bhargava, non è un manifesto contro l’intelligenza artificiale. È qualcosa di più interessante: una contestazione dell’idea che risolvere problemi matematici sia necessariamente equivalente a far progredire la matematica.

Ed è una distinzione destinata ad andare parecchio oltre la matematica.

Il problema era un termometro. L’AI lo ha trasformato nell’obiettivo

Per capire la contestazione bisogna dimenticare per un momento benchmark, leaderboard e medaglie olimpiche vinte dai modelli.

Un grande problema matematico aperto non vale soltanto per la risposta che produce. Vale per quello che accade mentre qualcuno cerca quella risposta.

Per arrivare alla dimostrazione di un teorema possono servire anni durante i quali vengono inventate nuove tecniche, create astrazioni, scoperte relazioni con altri campi e formulate domande che nessuno aveva immaginato prima. Talvolta il problema originale viene risolto. Talvolta no. Ma gli strumenti sviluppati nel tentativo entrano comunque nel patrimonio della disciplina e possono diventare più importanti della soluzione che li aveva fatti nascere.

È precisamente il punto sollevato dai firmatari della dichiarazione: risolvere problemi è uno strumento e un’approssimazione dell’obiettivo principale, che rimane la comprensione concettuale.

Confondere le due cose significa trasformare il proxy nell’obiettivo. È quasi una versione scientifica della legge di Goodhart: quando una misura diventa un obiettivo, rischia di smettere di essere una buona misura.

La capacità di risolvere un problema matematico molto difficile è stata sempre considerata una prova dell’emergere di nuove capacità matematiche. Per un’azienda che sviluppa frontier model, invece, quello stesso problema può diventare un benchmark straordinariamente efficace: se il modello lo risolve, abbiamo una dimostrazione spettacolare di quanto sia diventato potente.

Il problema è identico, l’incentivo non necessariamente lo è.

Ed è questo il “misalignment” di cui parlano i matematici: gli obiettivi delle aziende che costruiscono i modelli e quelli della comunità che costruisce matematica possono cominciare a divergere.

Poi è arrivato Navier-Stokes

La discussione non nasce nel vuoto. OpenAI ha annunciato che un proprio modello di nuova generazione, ancora in fase di training e non disponibile al pubblico, avrebbe prodotto una soluzione al problema di Navier–Stokes attraverso un sistema composto da circa 10.000 agenti coordinati.

L’azienda parla di 88 ore di lavoro del sistema, milioni di messaggi e un’enorme quantità di capacità computazionale. Il risultato ha immediatamente attirato attenzione e contestazioni, anche perché matematici umani stavano lavorando su problemi strettamente collegati.

Tristan Buckmaster della New York University ha sollevato dubbi sulla possibilità che conversazioni avute attraverso sistemi AI possano avere indirettamente contribuito alle capacità che hanno portato al risultato. OpenAI ha negato che il proprio sistema abbia avuto accesso a specifici dati degli utenti durante la ricerca, pur dichiarando di non poter escludere che dati de-identificati derivanti dall’utilizzo dei propri prodotti abbiano contribuito nel tempo a migliorare i modelli.

Non sappiamo se sia accaduto e, per il problema sollevato ora dai matematici, non è nemmeno necessario stabilirlo.

La questione è un’altra: Navier–Stokes è diventato contemporaneamente un problema scientifico e una dimostrazione delle capacità di un prodotto.

Ed è proprio questa sovrapposizione a rendere meno chiaro dove finisca la ricerca e dove cominci il benchmark.

Risolvere non significa capire. La differenza tra risultato e conoscenza

Terence Tao ha posto il problema in termini ancora più radicali. Il paradosso che intravede è quello di una scienza nella quale i sistemi artificiali diventano progressivamente più capaci di eseguire attività scientifiche (condurre esperimenti, analizzare dati, produrre dimostrazioni, scrivere paper) senza che necessariamente aumenti in parallelo la capacità degli scienziati di comprendere ciò che è stato scoperto.

La capacità continua ad accumularsi. Ma potrebbe cominciare ad accumularsi nella macchina anziché nella comunità scientifica.

Nel materiale raccolto per questa analisi, Tao formula il problema proprio in questi termini: possiamo arrivare a risultati per i quali nessun essere umano sia realmente in grado di spiegare che cosa sia successo, perché la scoperta sia interessante, quale parte sia nuova e come si colleghi al resto della disciplina.

È una distinzione sottile soltanto in apparenza. Un teorema dimostrato è un risultato, un nuovo modo di pensare che permette di dimostrarlo è conoscenza.

Le due cose hanno viaggiato insieme per buona parte della storia della matematica perché il secondo era necessario per ottenere il primo. L’intelligenza artificiale potrebbe cominciare a separarle.

Ed è qui che il problema diventa davvero interessante.

La matematica che nessuno impara

Immaginiamo un sistema capace di produrre una dimostrazione di 150 pagine formalmente corretta. Possiamo verificarla attraverso un proof assistant, stabilire che ogni passaggio logico sia valid e possiamo persino assegnare il problema alla colonna dei problemi risolti.

Ma che cosa abbiamo imparato?

Se all’interno di quelle 150 pagine esiste una nuova tecnica matematica che nessuno riesce a isolare, semplificare e trasformare in un concetto comprensibile, quella tecnica non entra realmente nella disciplina.

Non viene insegnata, non diventa uno strumento nelle mani di altri matematici, non permette a uno studente di vedere un collegamento con un problema completamente diverso e non genera necessariamente la domanda successiva.

È il rischio della pura solution extraction: estrarre la risposta senza assorbire il percorso intellettuale che l’ha prodotta.

Nel documento che accompagna il dibattito il problema viene descritto esattamente in questi termini: le scoperte intermedie possono rimanere sepolte nella black box, privando la comunità delle astrazioni e dei concetti sui quali costruire le scoperte successive.

Per la matematica pura può essere un costo enorme.

Per altre discipline il bilancio potrebbe essere differente. Se un sistema AI trovasse una terapia efficace contro l’Alzheimer, difficilmente qualcuno proporrebbe di rinunciarvi perché il percorso seguito dalla macchina non è sufficientemente elegante. IN questo caso è il risultato che conta.

Ma anche lì rimarrebbe una domanda: quanto ci costa non capire perché ha funzionato?

Perché la scoperta successiva potrebbe dipendere proprio da quella comprensione.

Venticinque Fields non stanno chiedendo di spegnere l’AI

È forse l’aspetto più facile da perdere leggendo la polemica come uno scontro tra uomini e macchine. Terence Tao non è precisamente conosciuto come un oppositore dell’AI applicata alla matematica. Al contrario, è tra i matematici di massimo livello che più seriamente ne stanno esplorando le possibilità.

La dichiarazione stessa riconosce che l’intelligenza artificiale può accelerare autenticamente la ricerca matematica. La contestazione riguarda gli incentivi.

Le aziende hanno bisogno di dimostrare progressi rapidi e risultati spettacolari. Da questo punto di vista, un problema rimasto aperto per decenni è un benchmark perfetto. Una soluzione produce attenzione, reputazione, capacità di attrarre capitale e una misura facilmente comunicabile dell’avanzamento tecnologico.

La matematica funziona con tempi differenti.

Una dimostrazione deve essere verificata, riscritta, semplificata, discussa. Bisogna capire quali passaggi siano realmente nuovi e quali derivino da risultati precedenti. Bisogna attribuire correttamente i contributi e se emerge una nuova tecnica, qualcuno deve estrarla dalla dimostrazione e trasformarla in qualcosa che altri possano utilizzare.

La comunità matematica non sta quindi dicendo alle aziende AI di smettere di risolvere problemi. Sta dicendo che una soluzione non diventa automaticamente matematica soltanto perché è corretta.

Ed è qui che compare lo “slop”

La parola utilizzata nella contestazione al Mathathon di Caltech è volutamente brutale: “slop mathematics”.

L’accusa è che la crescente capacità dei sistemi AI possa produrre una quantità sempre maggiore di risultati che vengono riversati sulla comunità scientifica, lasciando ai matematici umani il compito di verificare se siano corretti, capire se siano realmente nuovi, ricostruire la letteratura precedente, individuare eventuali errori e infine integrare ciò che resta nel corpus della disciplina.

Secondo i firmatari della lettera contro l’evento, dopo l’annuncio dell’ultimo risultato i matematici sono spesso costretti a intervenire per verificare, diffondere o talvolta confutare le conclusioni, svolgendo un lavoro che rimane non remunerato, non accreditato e spesso neppure riconosciuto.

È una versione scientifica di un problema che Internet conosce già bene: produrre costa sempre meno, verificare continua a costare.

Con l’AI il rapporto tra i due costi può diventare estremo.

Un cluster può generare in poche ore più ipotesi, dimostrazioni e varianti di quante una comunità di specialisti possa controllare in mesi.

A quel punto il collo di bottiglia della scienza non è più necessariamente produrre risultati, ma diventa capire quali meritino di diventare conoscenza.

Il Mathathon che doveva celebrare l’AI

È in questo clima che Caltech aveva organizzato il proprio Mathathon, una competizione pensata per far utilizzare ai giovani matematici large language model nell’affrontare problemi di ricerca aperti.

Il formato era ambizioso. Nella prima fase i team avrebbero avuto 40 ore e fino a 20.000 dollari in token AI per lavorare a un problema. I gruppi con risultati considerati più promettenti e meglio spiegati sarebbero passati a una seconda fase lunga sei mesi, con ulteriore capacità computazionale.

OpenAI e Anthropic avevano concordato di sostenere l’iniziativa con circa due milioni di dollari complessivi in crediti AI. Paradossalmente, per gli organizzatori, l’obiettivo era quasi opposto a quello denunciato dai critici: insegnare ai giovani matematici a utilizzare responsabilmente i nuovi strumenti per aumentare la comprensione umana della matematica.

Ma una parte della comunità di Caltech ha visto nell’esperimento qualcosa di diverso. Il rischio, sostengono i critici, è che il lavoro di studenti particolarmente talentuosi diventi parte di una macchina promozionale attraverso la quale le aziende possono successivamente rivendicare i progressi ottenuti con i propri modelli.

La protesta ha funzionato almeno sul piano immediato, tant’è che OpenAI si è ritirata dalla sponsorizzazione.

Dan Roberts, research lead della società, ha riconosciuto pubblicamente che il rapido progresso dell’intelligenza artificiale in matematica è disruptive e ha dichiarato che OpenAI intende confrontarsi maggiormente con la comunità matematica sul modo migliore di integrare questa tecnologia e comunicarne gli effetti.

Non è una capitolazione. Non sappiamo nemmeno se rappresenti un cambiamento sostanziale nella strategia di OpenAI sulla ricerca matematica ma, in ogni caso, è difficile considerarlo un episodio irrilevante.

Una delle aziende che più aggressivamente sta utilizzando la capacità matematica come dimostrazione del progresso dei propri frontier model ha deciso di fare un passo indietro da un evento costruito precisamente attorno all’utilizzo dei frontier model per risolvere problemi matematici.

E lo ha fatto dopo che i matematici hanno cominciato a contestare non tanto la tecnologia, quanto le regole del gioco.

Il lavoro invisibile dopo la risposta

C’è poi un altro elemento che collega questa storia a una questione più grande. Supponiamo che domani un sistema AI produca una dimostrazione rivoluzionaria.

Chi stabilisce che sia davvero rivoluzionaria? Altri matematici.

Chi controlla che non esista già? Altri matematici.

Chi individua le parti originali? Altri matematici.

Chi le trasforma in nuovi concetti? Altri matematici.

Chi le insegna? Ancora matematici.

L’AI può quindi ridurre drasticamente il costo della produzione di un risultato senza ridurre nella stessa misura il costo sociale e per certi versi intellettuale necessario a trasformarlo in conoscenza. Anzi, può aumentarlo.

È una dinamica economica interessante perché sposta una parte del costo dal produttore del modello alla comunità scientifica.

L’azienda dispone del compute necessario a generare il risultato, mentre la comunità deve spendere tempo umano altamente qualificato per stabilire che cosa quel risultato significhi.

E se alla fine il risultato è corretto, il successo viene facilmente attribuito alla capacità del modello. Se è sbagliato, qualcuno deve comunque aver speso tempo per dimostrarlo. È anche questa una forma di asimmetria.

Non è soltanto matematica

È probabilmente il passaggio più importante della dichiarazione dei matematici. Il problema, scrivono, riguarda più in generale il lavoro intellettuale ciò che si insegna a scuola e nelle università. La formazione di un medico, un ingegnere, un avvocato, un programmatore o un ricercatore non serve semplicemente a imparare una materia o come produrre una risposta ad un problema, serve, soprattutto, a costruire capacità di pensiero, di ragionamento, di riflessione ovvero la capacità di capire quale domanda porre dopo.

E una parte importante della competenza nasce infatti dal processo attraverso cui si arriva al risultato: gli errori, i tentativi falliti, le eccezioni, le astrazioni costruite per superare un ostacolo.

Se questo processo viene progressivamente delegato a un sistema artificiale, possiamo ottenere più output e contemporaneamente produrre meno competenza umana. Certo non è inevitabile ma è altamente probabile.

E questo cambia anche il modo in cui dovremmo misurare la produttività generata dall’AI. Un ricercatore che produce dieci paper invece di cinque è diventato due volte più produttivo, ma se comprende meno profondamente il processo che li ha generati, quale delle due metriche descrive meglio ciò che è successo?

Un programmatore che produce dieci volte più codice ma perde progressivamente la capacità di comprendere l’architettura che lo sostiene è dieci volte più produttivo?

Sono domande alle quali i benchmark non rispondono.

Più produzione e meno comprensione

Ed eccoci al punto nel quale questa storia si collega alla questione più ampia dell’AI nella ricerca.

Nel nostro precedente approfondimento ci eravamo chiesti cosa accadesse quando la stessa azienda che mette gratuitamente i propri modelli nelle mani di migliaia di ricercatori diventa anche capace di utilizzare sistemi enormemente più potenti per produrre direttamente ricerca.

La controversia matematica aggiunge ora un livello ulteriore. Non dobbiamo soltanto domandarci chi controlla lo strumento ma anche quali comportamenti quello strumento incentiva.

Se misuriamo il progresso dei sistemi artificiali contando quanti problemi aperti riescono a risolvere, le aziende saranno incentivate a risolverne sempre di più.

Se misuriamo la produttività scientifica contando paper, brevetti e risultati, università e ricercatori saranno incentivati a utilizzare sistemi capaci di produrne sempre di più.

Entrambe le parti possono quindi comportarsi in modo perfettamente razionale e arrivare collettivamente a un risultato che nessuno aveva realmente desiderato: più produzione scientifica e meno comprensione scientifica.

È questo il paradosso che Tao mette sul tavolo.

L’AI può diventare più brava a fare scienza mentre gli esseri umani diventano meno bravi a farla, non perché la tecnologia abbia qualcosa di intrinsecamente ostile alla conoscenza ma perché abbiamo scelto la metrica sbagliata.

Il problema che non risolvono diecimila agenti

Per questo la protesta dei matematici sarebbe letta male se venisse ridotta alla solita storia delle professioni che cercano di difendersi dall’automazione.

Venticinque medaglie Fields non stanno chiedendo che i modelli diventino meno capaci, stanno chiedendo che venga deciso a quale scopo vogliamo renderli più capaci.

È una distinzione fondamentale.

L’intelligenza artificiale può probabilmente accelerare enormemente la matematica. Può aiutare a verificare dimostrazioni, esplorare ipotesi, trovare controesempi, formalizzare risultati e forse scoprire strutture che nessun essere umano avrebbe trovato da solo. Ma una disciplina scientifica non è una collezione di caselle da spuntare, è una comunità che accumula comprensione.

Ed è per questo che la questione sollevata da Tao e dagli altri matematici non riguarda davvero chi sarà più bravo tra uomo e macchina ma dove finirà la conoscenza.

Possiamo immaginare un futuro nel quale le macchine producano più scoperte di quante gli esseri umani siano capaci di comprendere. Potrebbe essere un futuro di straordinaria abbondanza scientifica.

Oppure potrebbe essere un futuro nel quale possediamo un numero crescente di risposte e una capacità decrescente di formulare le domande.

La differenza non la stabilirà un benchmark e nemmeno il prossimo modello. La stabiliranno le regole, gli incentivi e le istituzioni attraverso cui decideremo di utilizzare questi sistemi.

Perché dopo aver costruito macchine capaci di risolvere problemi sempre più difficili, resta un problema che non possiamo delegare a diecimila agenti: decidere che cosa vogliamo che significhi fare scienza.