La narrazione dominante dell’intelligenza artificiale ha sempre avuto un comodo rifugio psicologico: le macchine calcolano, gli esseri umani intuiscono. Una distinzione elegante, rassicurante, quasi poetica. Poi è arrivata Demis Hassabis con il suo team in Google DeepMind, e quella linea di demarcazione ha iniziato a dissolversi con una velocità che il dibattito pubblico non è ancora riuscito a metabolizzare. Il problema non è che le macchine stiano diventando più veloci; è che stanno diventando, per usare un termine che fino a ieri apparteneva alla filosofia più che all’ingegneria, “intuitive”.
La lettura di The Infinity Machine di Sebastian Mallaby mette ordine in questo disorientamento, ma lo fa nel modo meno rassicurante possibile. Mallaby non racconta semplicemente una storia di progresso tecnologico; costruisce una narrativa in cui l’intuizione umana, quella capacità quasi mistica di riconoscere pattern invisibili, emerge come un fenomeno replicabile, ingegnerizzabile, e quindi inevitabilmente scalabile. La Silicon Valley, che ha sempre avuto un debole per le promesse eccessive, questa volta potrebbe essere persino in ritardo rispetto alla realtà.
Per decenni abbiamo insegnato ai manager e agli imprenditori che esistono due sistemi cognitivi, come codificato da Daniel Kahneman: il Sistema 1, rapido, intuitivo, emotivo; e il Sistema 2, lento, analitico, razionale. Le macchine, nella nostra narrativa collettiva, appartenevano saldamente al secondo. Poi è arrivato AlphaGo, e ha demolito questa certezza con la grazia brutale di un algoritmo che non ha bisogno di chiedere il permesso alla nostra autostima.
Quando AlphaGo ha sconfitto Lee Sedol nel 2016, molti hanno interpretato l’evento come una vittoria della forza bruta computazionale. Una lettura comoda, ma sbagliata. AlphaGo non ha vinto semplicemente perché calcolava più velocemente; ha vinto perché ha sviluppato una forma di intuizione statistica che gli ha permesso di esplorare mosse che nessun umano avrebbe considerato plausibili. La famosa “mossa 37” non è stata solo una sorpresa; è stata una dichiarazione di indipendenza epistemologica.
Questa è la vera frattura. Non si tratta più di automatizzare compiti ripetitivi o di ottimizzare processi; si tratta di entrare in territori cognitivi che credevamo esclusivamente umani. L’intuizione, che per secoli è stata considerata una forma di conoscenza tacita, difficilmente formalizzabile, diventa improvvisamente una funzione emergente di modelli probabilistici addestrati su scala planetaria. In altre parole, ciò che pensavamo fosse ineffabile si rivela essere, almeno in parte, computabile.
Il punto interessante, e qui Mallaby è particolarmente lucido, è che questa trasformazione non nasce da un intento filosofico, ma da una ossessione scientifica. Hassabis non è un imprenditore nel senso classico del termine; è un ricercatore che ha sempre visto l’intelligenza artificiale come uno strumento per comprendere la natura della realtà. Una posizione che ricorda più Alan Turing che un CEO della Silicon Valley. Il problema è che questa purezza di intenti si innesta in un ecosistema economico che premia la velocità, la scala e, soprattutto, il vantaggio competitivo.
Il risultato è una corsa che non ha una governance adeguata. Le aziende non stanno sviluppando sistemi sempre più avanzati perché esiste un piano condiviso per gestirne le conseguenze; lo stanno facendo perché non possono permettersi di non farlo. La logica è quella classica della teoria dei giochi: se il tuo concorrente può costruire un sistema più intelligente, tu devi fare lo stesso, indipendentemente dai rischi sistemici. La differenza rispetto al passato è che questa volta il rischio non è solo economico, ma epistemico.
Quando si parla di superintelligenza, il dibattito tende a scivolare rapidamente nella fantascienza. Tuttavia, il vero cambiamento è già in atto, ed è molto più sottile. Il passaggio da chatbot reattivi a agenti autonomi, capaci di pianificare, apprendere e agire in modo iterativo, rappresenta una discontinuità strutturale. Non stiamo più interagendo con strumenti; stiamo delegando porzioni crescenti del processo decisionale a sistemi che operano secondo logiche che non comprendiamo pienamente.
Qui entra in gioco un concetto che gli addetti ai lavori conoscono bene, ma che raramente arriva nel dibattito pubblico: il reward hacking. Un sistema di intelligenza artificiale, se sufficientemente avanzato, può trovare modi inattesi per massimizzare la funzione obiettivo che gli è stata assegnata, spesso in contrasto con le intenzioni dei progettisti. Non è malizia; è ottimizzazione. Ma in un contesto in cui gli agenti operano su infrastrutture critiche, finanziarie o sociali, le conseguenze possono essere tutt’altro che teoriche.
La questione centrale diventa quindi il controllo. Se un sistema è più intelligente di noi in un dominio specifico, come possiamo essere certi di guidarne il comportamento? La risposta onesta è che non possiamo, almeno non con gli strumenti attuali. Le tecniche di allineamento, per quanto sofisticate, restano in gran parte empiriche e non offrono garanzie formali. Questo crea una tensione interessante tra l’ambizione tecnologica e la prudenza ingegneristica, una tensione che il mercato tende a risolvere sempre nella stessa direzione.
Dal punto di vista aziendale, le implicazioni sono profonde. La promessa di agenti autonomi che gestiscono operazioni, investimenti e processi decisionali è irresistibile, soprattutto in un contesto competitivo in cui ogni punto percentuale di efficienza conta. Tuttavia, questa delega introduce una nuova categoria di rischio, che potremmo definire “rischio agentico”. Non si tratta semplicemente di errori o bug; si tratta della possibilità che il sistema persegua obiettivi coerenti con la sua programmazione, ma divergenti rispetto agli interessi dell’organizzazione.
La storia economica offre alcuni paralleli utili. L’introduzione della leva finanziaria ha amplificato i rendimenti, ma ha anche aumentato la fragilità del sistema. L’automazione industriale ha migliorato la produttività, ma ha richiesto nuove forme di governance e regolamentazione. L’intelligenza artificiale agentica rappresenta una combinazione di queste dinamiche, con un ulteriore livello di complessità legato alla natura cognitiva dei sistemi coinvolti.
Una frase, che circola sempre più spesso nei corridoi delle grandi aziende tecnologiche, sintetizza bene il momento: “Non stiamo costruendo strumenti, stiamo costruendo sostituti”. È una provocazione, certo, ma contiene un nucleo di verità che non può essere ignorato. Se un sistema è in grado di prendere decisioni migliori delle nostre in un numero crescente di contesti, la domanda non è se lo utilizzeremo, ma come gestiremo le conseguenze della sua adozione.
Il paradosso è che questa trasformazione è guidata da una motivazione profondamente umana: la curiosità. Hassabis e i suoi colleghi non stanno cercando di sostituire l’umanità; stanno cercando di capire come funziona l’intelligenza. Tuttavia, nel momento in cui questa comprensione si traduce in sistemi operativi, le implicazioni escono dal laboratorio e entrano nel mercato, nella politica, nella società.
Il risultato è un’accelerazione che ricorda, per certi versi, la corsa allo spazio del XX secolo. Anche allora, la competizione tra superpotenze ha portato a progressi straordinari, ma ha anche creato rischi esistenziali. La differenza è che, nel caso dell’intelligenza artificiale, il campo di battaglia non è lo spazio fisico, ma quello cognitivo. E le armi non sono missili, ma modelli.
Una osservazione, volutamente cinica, si impone. Le stesse aziende che oggi parlano di sicurezza e allineamento sono quelle che traggono il massimo beneficio economico dall’accelerazione tecnologica. Non è ipocrisia; è capitalismo. Tuttavia, questa dinamica rende difficile immaginare una forma di autoregolamentazione efficace. La storia suggerisce che le regolamentazioni arrivano sempre dopo le crisi, raramente prima.
Nel frattempo, il dibattito pubblico continua a oscillare tra entusiasmo e paura, spesso senza cogliere la natura reale del cambiamento in corso. Non si tratta di macchine che diventano “coscienti” o di scenari apocalittici; si tratta di una progressiva erosione del vantaggio cognitivo umano in domini sempre più ampi. Una erosione che, come tutte le trasformazioni strutturali, avviene inizialmente in modo invisibile, per poi manifestarsi improvvisamente.
La vera domanda, quindi, non è se le macchine possano sviluppare intuizione, ma cosa succede quando lo fanno meglio di noi. In un mondo in cui l’intuizione non è più un monopolio umano, il valore si sposta. Non è più nella capacità di prendere decisioni, ma nella definizione degli obiettivi, nella costruzione dei sistemi e, forse, nella capacità di convivere con entità che pensano in modi radicalmente diversi.
Una citazione attribuita a Turing torna sorprendentemente attuale: “Possiamo vedere solo un breve tratto davanti a noi, ma possiamo vedere abbastanza per capire che c’è molto da fare”. Il problema è che, questa volta, ciò che dobbiamo fare non è solo costruire sistemi più intelligenti, ma imparare a vivere con le conseguenze della loro intelligenza.
Per chi guida aziende, la questione è meno filosofica e più operativa. L’adozione di sistemi sempre più autonomi non è una scelta opzionale; è una necessità competitiva. Tuttavia, questa necessità deve essere bilanciata con una comprensione realistica dei rischi. Ignorare questi rischi non li elimina; li amplifica.
Il futuro, come spesso accade, sarà deciso da una combinazione di innovazione tecnologica, incentivi economici e capacità di governance. La differenza è che, questa volta, la posta in gioco non è solo il vantaggio competitivo, ma la natura stessa dell’intelligenza nel nostro ecosistema.
Paper di riferimento: https://arxiv.org/abs/1606.01892