Il filosofo dell’informazione contesta gli scenari catastrofici evocati dai frontier lab e indica un pericolo già presente: la concentrazione dei modelli, del compute e del potere decisionale nelle mani di poche aziende private. A poche settimane dalla sua intervista a La Stampa, il vertice di Trump con i leader dell’AI rende quella domanda ancora più attuale: chi controlla chi sta costruendo la nuova infrastruttura cognitiva?

Il 29 settembre, nella East Room della Casa Bianca, Donald Trump ha riunito intorno allo stesso tavolo alcuni degli uomini che controllano una parte crescente dell’infrastruttura dell’intelligenza artificiale americana. C’erano Dario Amodei di Anthropic, Mark Zuckerberg, Sundar Pichai, Jensen Huang e Greg Brockman di OpenAI. Alla fine dell’incontro è arrivato il White House Accord on Super Intelligence, un impegno volontario con il quale le principali aziende del settore hanno accettato una struttura di controlli sulla sicurezza dei sistemi più avanzati.

Trump lo ha definito “morally binding”. Lo ha presentato come una sorta di costituzione dell’industria. Ma rimane un accordo volontario: non è una legge federale e non sostituisce una regolazione vincolante. Le aziende si impegnano a introdurre diversi livelli di controllo, comprese valutazioni indipendenti e supervisione dei consigli di amministrazione, ma il sistema poggia in misura rilevante sulla capacità dell’industria di controllare se stessa.

Diciassette giorni prima, parlando con La Stampa, Luciano Floridi aveva indicato proprio in questa relazione fra potere tecnologico e potere politico il problema sul quale, a suo giudizio, stiamo guardando dalla parte sbagliata.

Non perché l’intelligenza artificiale non possa produrre danni, ma perché mentre discutiamo di una possibile superintelligenza che un giorno potrebbe sfuggire al controllo umano, la concentrazione del controllo sull’intelligenza artificiale è già avvenuta.

Alla domanda su quale fosse il problema più urgente, se costruire un’AI fuori controllo oppure affidare a poche imprese private decisioni destinate a incidere sul futuro cognitivo e politico della società, Floridi rispondeva senza esitazioni: “La seconda e la prima serve a distrarre dalla seconda”.

E aggiungeva una distinzione ancora più netta: “L’oligopolio è già qui; la superintelligenza no”.

È una tesi radicale, ma gli sviluppi delle ultime settimane consentono almeno di prenderla sul serio.

L’Apocalisse che Floridi non vede

La posizione di Floridi si colloca quasi all’estremo opposto rispetto alla narrativa che negli ultimi mesi è arrivata da una parte dei frontier lab.

Dario Amodei ha insistito sulla necessità di rallentare la corsa alla frontiera e di prepararsi a sistemi molto più potenti degli attuali. Ricercatori ed ex ricercatori di OpenAI e Google DeepMind hanno continuato a mettere in guardia sulla possibilità che sistemi capaci di contribuire al proprio miglioramento rendano progressivamente più difficile mantenere il controllo sul processo. Le preoccupazioni vanno dalla cybersecurity alla perdita di posti di lavoro fino, nelle formulazioni più estreme, al rischio esistenziale.

Floridi non condivide questa rappresentazione. Nell’intervista del 12 settembre contesta apertamente le percentuali attribuite al rischio che l’AI possa provocare una catastrofe entro pochi anni e soprattutto l’idea che i sistemi attuali stiano procedendo verso una forma di autonomia assimilabile a quella immaginata dalla fantascienza.

Il concetto filosofico che utilizza per descriverli è invece “Agency without Intelligence”: capacità di agire senza capacità di comprendere.

Floridi distingue tre fenomeni che spesso finiscono sotto la stessa etichetta di self-improvement. C’è il software che ottimizza autonomamente alcune funzioni, qualcosa che esiste da decenni, ci sono sistemi AI utilizzati dagli esseri umani per costruire sistemi AI migliorime c’è infine la macchina che migliora se stessa fino a sottrarsi al controllo umano. È quest’ultimo passaggio che, secondo lui, appartiene ancora alla speculazione.

La sua immagine è particolarmente efficace: possiamo usare un tornio per costruire un tornio migliore, ma questo non significa che “il tornio abbia preso il controllo della fabbrica”.

Il problema, quindi, non scompare. Cambia indirizzo.

Se l’AI non è responsabile, qualcuno deve esserlo

Qui il pensiero di Floridi diventa molto meno tranquillizzante di quanto potrebbe sembrare. Respinge l’Apocalisse AI, ma non propone affatto di lasciare l’industria libera di procedere senza vincoli, al contrario, stabilisce un criterio piuttosto severo per decidere quando un sistema possa essere distribuito.

Prima del rilascio bisogna poter rispondere a tre domande: chi risponde se provoca un danno, chi può verificarlo dall’esterno e chi può spegnerlo?

Se un’azienda non è in grado di fornire risposte credibili, secondo Floridi quel sistema non dovrebbe essere messo in circolazione. L’analogia che utilizza è quella con farmaci e aeroplani: la potenza o l’utilità di una tecnologia non eliminano la necessità di responsabilità identificabili, verifiche indipendenti e possibilità di intervento. Testo incollato

È interessante rileggere queste tre domande dopo quanto è accaduto nelle ultime settimane anche sul fronte degli agenti autonomi.

I casi nei quali sistemi AI hanno oltrepassato i confini previsti durante test o attività di evaluation hanno mostrato quanto rapidamente la discussione possa trasformarsi da “che cosa voleva fare il modello?” a “chi gli aveva consentito di farlo?”. Sandbox, accesso alla rete, strumenti disponibili, logging, supervisione e possibilità di interrompere un’azione diventano parte della sicurezza esattamente quanto il comportamento del modello.

È lo stesso spostamento di responsabilità proposto da Floridi: non dalla tecnologia all’assenza di rischio, ma dalla tecnologia all’architettura umana che la rende capace di agire.

Il rischio che esiste già

È però quando passa dalla safety al potere che il ragionamento diventa politico ed economico. Per Floridi, l’attenzione riservata alla superintelligenza rischia di oscurare una concentrazione molto più concreta.

Una manciata di imprese controlla i modelli di frontiera. Una cerchia ancora più ristretta possiede o finanzia gran parte del compute necessario per addestrarli. Gli stessi gruppi controllano cloud, distribuzione, infrastrutture, piattaforme attraverso le quali quei modelli raggiungono imprese e consumatori. E, come se non bastasse, le relazioni fra questi soggetti stanno diventando sempre più intrecciate.

Il prospetto presentato da Anthropic in vista della quotazione, per esempio, mostra quanto il confine fra concorrente, investitore, fornitore e distributore stia diventando difficile da tracciare: Amazon e Google sono contemporaneamente grandi partner infrastrutturali, investitori e aziende attive nello stesso mercato dell’intelligenza artificiale.

Non è soltanto concentrazione industriale, si tratta di concentrazione dell’infrastruttura cognitiva.

Che cosa significa controllare l’infrastruttura cognitiva

La definizione può sembrare astratta, ma lo diventa molto meno osservando ciò che facciamo già con questi sistemi. Chiediamo loro di cercare informazioni, riassumere documenti, scrivere codice, tradurre, produrre immagini, preparare analisi, studiare, prendere decisioni operative e, sempre più spesso, agire attraverso software e servizi esterni.

Il livello AI si sta quindi collocando fra l’individuo e una parte crescente dell’ambiente informativo. Chi controlla quel livello non decide necessariamente che cosa dobbiamo pensare. Ma stabilisce quali modelli possiamo utilizzare, quali comportamenti sono consentiti, quali fonti possono essere raggiunte, quali strumenti possono essere attivati, quali richieste vengono rifiutate e, in ultima analisi, quali capacità vengono messe a disposizione di cittadini, imprese e istituzioni.

È in questo senso che Floridi parla del rischio che poche aziende private appartenenti essenzialmente a due grandi potenze possano arrivare a incidere sul “futuro cognitivo, economico e politico della società”.

Ed è anche il punto in cui il suo ragionamento incontra una questione che Rivista.AI ha affrontato più volte: la progressiva migrazione verso grandi piattaforme private di decisioni che hanno conseguenze sempre più simili a quelle delle infrastrutture pubbliche.

Quando chi costruisce la frontiera contribuisce a scriverne le regole

Il vertice del 29 settembre rende questa tensione particolarmente visibile. Alla Casa Bianca sedevano le aziende che stanno costruendo i sistemi più avanzati. Ed erano quelle stesse aziende a discutere con il presidente degli Stati Uniti come quei sistemi dovrebbero essere controllati.

Questo non dimostra che le imprese abbiano catturato il regolatore, né che le misure concordate siano inutili. Alcune vanno esattamente nella direzione indicata anche da Floridi: valutazioni indipendenti, supervisione, protezione dei sistemi e maggiore responsabilità ai livelli più alti delle aziende.

Ma rimane un paradosso: più i frontier model diventano complessi, più i governi hanno bisogno delle aziende che li costruiscono per capire come governarli.

Quelle aziende possiedono i ricercatori, il compute, i dati sugli incidenti, le capacità di evaluation e la conoscenza tecnica dei modelli. Diventano quindi inevitabilmente interlocutori privilegiati delle istituzioni. E più diventano interlocutori indispensabili, più diventa difficile costruire un sistema di controllo realmente indipendente da loro.

Il problema dell’oligopolio e quello della safety finiscono così per incontrarsi.

Amodei e Floridi potrebbero avere ragione contemporaneamente

Ridurre il confronto a una scelta fra doomer e scettici sarebbe però poco utile. Amodei può avere ragione quando sostiene che l’aumento delle capacità dei frontier model richieda evaluation esterne, maggiore osservabilità e strumenti capaci di rallentare lo sviluppo se emergono rischi non controllabili.

Floridi può contemporaneamente avere ragione quando avverte che affidare la definizione di quei rischi quasi esclusivamente alle aziende che competono per costruire i modelli più potenti crea un problema di governance.

Sono due domande differenti. La prima è quanto può diventare pericolosa l’AI, la seconda è quanto potere siamo disposti ad affidare a chi la costruisce.

La prima riguarda un rischio futuro la cui probabilità è profondamente controversa, mentre la seconda riguarda una struttura industriale che possiamo già osservare.

E proprio qui sta forse il punto più importante dell’intervista di Floridi: non occorre credere alla superintelligenza per preoccuparsi dell’intelligenza artificiale e non occorre immaginare una macchina intenzionata a sottrarsi al controllo umano per chiedersi chi controlli sistemi capaci di produrre effetti economici, informativi e politici sempre più grandi.

Chi controlla chi controlla l’AI

Il 29 settembre Trump ha compiuto anche un gesto simbolico particolarmente significativo: con un ordine esecutivo ha disposto che l’amministrazione federale utilizzi, nei documenti non statutari, l’espressione “Super Intelligence” al posto di “Artificial Intelligence”. La Casa Bianca sostiene che la nuova definizione rappresenti meglio la portata delle capacità emergenti.

È difficile immaginare una rappresentazione migliore delle due narrative che oggi si confrontano. Da una parte c’è un’industria e ora persino un’amministrazione che cominciano a parlare di Super Intelligence, frontier model e sistemi potenzialmente capaci di superare limiti che fino a pochi anni fa sembravano fantascienza.

Dall’altra chi come Floridi continua a indicare qualcosa di molto più terreno: aziende, consigli di amministrazione, regolatori, responsabilità, verifiche, interruttori.

Forse non è necessario stabilire oggi quale delle due prospettive descriverà meglio il futuro, è però possibile osservare il presente. E nel presente l’intelligenza artificiale non governa ancora il mondo. Ma le aziende che stanno costruendo la sua infrastruttura stanno acquisendo un potere sufficiente perché la domanda su chi debba controllarle non possa più essere rimandata al giorno in cui arriverà la superintelligenza.

.

→ Per approfondimenti sul tema safety, potere, capitale e geopolitica nella nuova fase dell’intelligenza artificiale, vedi l’inchiesta di Rivista.AI “Chi governa la frontiera”