Dario Amodei non è esattamente il tipo di CEO che passa le giornate litigando su X. Quando interviene personalmente in una discussione nata sulla piattaforma per difendere Anthropic, la propria visione della regolamentazione dell’intelligenza artificiale e perfino il modo in cui l’intera industria sta raccontando il futuro, vale quindi la pena prestare attenzione.

Questa volta lo ha fatto con un messaggio molto lungo in risposta a un confronto tra l’investitore Gavin Baker e Sholto Douglas di Anthropic. E dentro migliaia di caratteri dedicati a regolazione, open models, concentrazione economica, data center e rischi dell’AI, Amodei ha condensato il problema in una frase molto più semplice.

Il settore tecnologico, sostiene in sostanza il Ceo di Anthropic, non riconquisterà la fiducia del pubblico dicendo che l’intelligenza artificiale potrebbe curare il cancro: dovrà curarlo davvero.

Una provocazione, naturalmente. Ma soprattutto una diagnosi interessante del momento che sta attraversando l’industria dell’intelligenza artificiale.

Per Amodei il problema dell’AI non è ormai soltanto tecnologico o regolatorio: è diventato un problema di fiducia.

Tutto parte dalla voce su un’Anthropic destinata a diventare “l’unica azienda privata al mondo”

La discussione era partita da un’affermazione decisamente più esplosiva. Gavin Baker, fondatore della società di investimento Atreides Management, aveva raccontato di aver sentito da più persone considerate affidabili che Amodei avrebbe ipotizzato internamente uno scenario nel quale Anthropic avrebbe potuto diventare, un giorno, sostanzialmente l’unica grande azienda privata rimasta al mondo.

La logica sarebbe quella di un’AI talmente potente da assorbire o rendere economicamente marginale una parte enorme delle attività oggi svolte dalle imprese.

Non proprio il genere di frase ideale da stampare sulle tazze aziendali.

Sholto Douglas, ricercatore di Anthropic, è intervenuto rapidamente definendo la ricostruzione completamente falsa e ricordando che una delle preoccupazioni espresse pubblicamente dalla società riguarda esattamente il contrario: il rischio che l’intelligenza artificiale produca una concentrazione estrema del potere economico.

Ed è proprio da questa smentita che la discussione è diventata molto più interessante.

Gavin Baker: il problema non è ciò che Amodei pensa, ma ciò che il pubblico sente

Baker ha accettato la correzione sulla presunta frase interna, ma ha spostato il problema. Perché, ha chiesto in sostanza, persone credibili della Silicon Valley hanno trovato plausibile che Amodei potesse aver detto qualcosa del genere?

La risposta di Baker è che quella voce sarebbe coerente con il modo in cui il Ceo di Anthropic descrive pubblicamente l’intelligenza artificiale: una tecnologia potenzialmente capace di produrre enormi benefici, ma anche rischi biologici, cyber, economici e politici sufficientemente grandi da richiedere forme di regolamentazione molto più forti rispetto a quelle applicate al software tradizionale.

È qui che Baker formula la critica probabilmente più dolorosa per Anthropic. Secondo l’investitore, Amodei avrebbe ormai “perso la discussione” sulla regolamentazione dell’AI e la sua comunicazione sui rischi starebbe producendo un effetto opposto a quello desiderato.

Le immagini e le frasi nelle quali il Ceo parla dei possibili pericoli dell’intelligenza artificiale potrebbero infatti diventare materiale perfetto per i movimenti che negli Stati Uniti si oppongono alla costruzione di nuovi data center.

Una specie di spot anti-AI involontario, gentilmente fornito da uno dei principali produttori mondiali di AI. Amodei, ovviamente, non ha gradito molto la conclusione.

La regolamentazione concentra il potere? Per Amodei è una falsa alternativa

Il primo punto sul quale il Ceo di Anthropic interviene riguarda probabilmente la frattura ideologica più importante che oggi attraversa la Silicon Valley.

Da una parte esiste l’idea che sistemi di intelligenza artificiale estremamente potenti debbano essere sottoposti a controlli più rigorosi.

Dall’altra cresce la convinzione che la miglior difesa contro una concentrazione eccessiva del potere sia esattamente l’opposto: diffondere il più possibile modelli e capacità AI, soprattutto attraverso modelli open-weight.

Amodei respinge però l’equazione secondo cui regolamentazione significherebbe automaticamente regulatory capture e quindi consolidamento del potere nelle mani di poche aziende.

Definisce l’alternativa tra “regolare e concentrare” oppure “aprire e distribuire” una falsa scelta. La regolamentazione, sostiene, dipende da come viene progettata e le istituzioni possono anche diventare strumenti attraverso i quali limitare il potere delle aziende più grandi, invece di rafforzarlo.

È esattamente la logica con cui Anthropic aveva sostenuto il California SB 53. La legge impone requisiti di trasparenza e gestione dei rischi soprattutto ai grandi sviluppatori di modelli frontier, prevedendo invece esenzioni per startup e operatori più piccoli. Anthropic aveva presentato esplicitamente questa impostazione come un modo per evitare di trasformare la safety regulation in una barriera all’ingresso per i nuovi concorrenti.

Amodei porta quindi l’argomento fino alla sua conclusione più politicamente interessante. Le regole che Anthropic propone, sostiene, dovrebbero rallentare soprattutto aziende come Anthropic, non le startup che cercano di raggiungerla.

Il paradosso degli open models

Il confronto entra inevitabilmente anche nel territorio degli open models. Per una parte della Silicon Valley sono diventati quasi una questione filosofica.

Meta, Nvidia e numerosi altri operatori sostengono che mantenere aperta una parte significativa dell’ecosistema AI sia essenziale per evitare che pochi grandi laboratori controllino l’accesso all’intelligenza artificiale. Una lettera promossa da Jensen Huang a luglio ha raccolto il sostegno di numerose grandi aziende tecnologiche proprio contro possibili restrizioni eccessive ai modelli open-weight. Anthropic non figurava tra i firmatari.

Amodei non nega che gli open weights possano ridurre una parte della concentrazione. Contesta però l’idea che siano la soluzione definitiva.

Se l’addestramento e l’utilizzo dei modelli più potenti richiedono quantità enormi di chip, energia e capacità computazionale, rendere disponibili i pesi non elimina automaticamente la concentrazione, può semplicemente spostarla.

Chi possiede centinaia di migliaia di GPU continuerà ad avere possibilità molto diverse rispetto a chi dispone di un cluster infinitamente più piccolo. Il vero collo di bottiglia, in altre parole, potrebbe non essere l’accesso al modello: potrebbe essere l’accesso al compute.

È un punto che Sholto Douglas ha ribadito a sua volta nel confronto con Baker: la disuguaglianza nella disponibilità di capacità computazionale potrebbe diventare più importante della semplice distinzione tra modelli aperti e chiusi.

Poi arriva Yann LeCun. E naturalmente non è d’accordo

A questo punto nella discussione è entrato Yann LeCun. E se l’obiettivo era semplificare il dibattito, diciamo che l’arrivo di LeCun non ha aiutato.

Da anni l’ex Chief AI Scientist di Meta sostiene una posizione praticamente opposta rispetto alla prudenza di Anthropic: l’intelligenza artificiale dovrebbe essere ampiamente accessibile, condivisa e aperta.

La paragona alla stampa e a Internet. Se l’AI amplifica l’intelligenza umana, la società avrebbe bisogno di molti sistemi differenti, con lingue, culture, competenze, valori e perfino bias differenti, esattamente come ha bisogno di una stampa pluralista.

Per LeCun questo risultato può essere ottenuto soltanto attraverso modelli fondamentali aperti sui quali soggetti diversi possano costruire sistemi propri.

La sua posizione coincide largamente con quella espressa recentemente da Mark Zuckerberg: se l’AI è davvero una tecnologia così potente, concentrare il suo controllo nelle mani di pochi attori potrebbe essere precisamente ciò che dovremmo evitare.

Il dibattito, insomma, non è tra chi crede nei benefici dell’intelligenza artificiale e chi non ci crede. È tra persone che credono moltissimo nell’AI e proprio per questo arrivano a conclusioni opposte su come dovrebbe essere distribuito il suo potere.

Amodei: state leggendo soltanto la parte negativa

Il secondo fronte della risposta di Amodei riguarda però direttamente la sua immagine pubblica. Il CEO respinge l’idea che la propria comunicazione sia stata dominata dai rischi.

Ricorda di aver scritto tanto sulle opportunità quanto sui pericoli e indica come prova soprattutto Machines of Loving Grace, il lungo saggio nel quale aveva cercato di descrivere un futuro radicalmente positivo reso possibile dall’intelligenza artificiale.

Il documento dedica gran parte della propria attenzione proprio alla biologia e alla medicina. Amodei ipotizza che sistemi AI sufficientemente potenti possano comprimere in cinque o dieci anni una quantità di progresso scientifico che, senza AI, avrebbe richiesto decenni. È una previsione estremamente ambiziosa, che lo stesso autore presenta come tale.

Nell’altro grande saggio, Policy on the AI Exponential, il registro cambia.

Qui Amodei descrive i rischi di cybersecurity, biologia, autonomia dei sistemi e impatto occupazionale, arrivando a sostenere che i modelli frontier dovrebbero essere sottoposti a test obbligatori e che le autorità dovrebbero poter impedire il deployment quando emergono rischi considerati inaccettabili.

Non è esattamente materiale da keynote motivazionale, ma è proprio questo il punto che Amodei rivendica. Parlare contemporaneamente dei benefici e dei rischi non sarebbe pessimismo. Sarebbe, secondo lui, semplicemente onestà.

Il problema è che il pubblico non si fida più

Poi il discorso abbandona per qualche riga la regolamentazione e diventa molto più interessante dal punto di vista politico e sociale. Amodei riconosce apertamente che una parte importante dell’opinione pubblica ha una percezione negativa dell’intelligenza artificiale, ma non attribuisce questa diffidenza alle dichiarazioni degli stessi leader dell’AI.

La interpreta come manifestazione di una crisi di fiducia molto più profonda.

Le persone, sostiene, non si fidano delle aziende, dei governi e dell’industria tecnologica. Quando questi soggetti presentano una nuova tecnologia come qualcosa destinato inevitabilmente a migliorare il mondo, una parte del pubblico tende ormai a chiedersi quale sia il conto da pagare.

È difficile sostenere che la Silicon Valley non abbia almeno qualche precedente utile a spiegare questo riflesso. Social network, privacy, gig economy, concentrazione delle piattaforme e trasformazione del mercato del lavoro hanno lasciato un capitale reputazionale non esattamente cristallino.

L’AI arriva dentro questa storia. Non parte da zero.

La biologia diventa il banco di prova di Anthropic

Non sorprende quindi che Amodei indichi biologia e medicina come uno dei terreni sui quali Anthropic intende aumentare significativamente il proprio impegno.

Nel suo intervento parla di risultati iniziali che potrebbero cominciare a emergere nei prossimi mesi e di progressi più importanti negli anni successivi. La direzione era già evidente nei suoi scritti.

In Machines of Loving Grace la salute rappresenta il primo grande campo nel quale immagina un’accelerazione radicale grazie all’AI. In Policy on the AI Exponential arriva invece al problema successivo: se l’intelligenza artificiale riuscisse davvero ad accelerare enormemente la scoperta di farmaci, sistemi come FDA ed EMA potrebbero diventare troppo lenti per gestire il nuovo ritmo dell’innovazione.

Qui emerge una componente personale che Amodei ha ricordato anche nel confronto. Suo padre morì di epatite C pochi anni prima dell’arrivo degli antivirali ad azione diretta che hanno trasformato radicalmente la prognosi della malattia. È un episodio che il CEO usa per spiegare perché consideri l’accelerazione della ricerca medica non soltanto un possibile beneficio dell’AI, ma una questione urgente.

Sul fronte politico, però, Amodei non pensa affatto di aver perso

C’è poi un’altra parte della risposta che merita di essere separata dalla questione reputazionale. Baker sostiene che la strategia regolatoria di Anthropic abbia sostanzialmente fallito. Amodei risponde quasi l’opposto.

Negli Stati Uniti il quadro rimane in forte evoluzione. La Casa Bianca sta sviluppando meccanismi di valutazione pre-deployment per alcuni modelli frontier e negli ultimi giorni è emersa la possibilità che forme di scrutinio possano estendersi anche ai modelli open-weight quando raggiungono capacità sufficientemente elevate.

Parallelamente Demis Hassabis ha proposto la creazione di un organismo indipendente per la sicurezza dell’AI ispirato, almeno concettualmente, al modello FINRA utilizzato nel settore finanziario americano.

Sono soluzioni differenti, ancora in evoluzione e tutt’altro che consolidate, ma sono sufficienti per spiegare perché Amodei non condivida l’idea che la discussione sulla regolamentazione sia terminata con una vittoria del fronte laissez-faire.

Semmai, sta diventando più complicata.

Il vero conflitto è su chi deve controllare l’intelligenza

Sotto tutte queste schermaglie appare però una domanda molto più grande. Chi dovrebbe controllare una tecnologia che, se le previsioni dei suoi stessi sviluppatori fossero anche soltanto parzialmente corrette, potrebbe diventare una delle infrastrutture economiche e politiche più importanti del XXI secolo?

Amodei teme la concentrazione prodotta naturalmente dalle scaling laws, dal capitale e dal compute e ritiene che istituzioni e regole possano limitarla.

LeCun teme che proprio quelle istituzioni e quelle regole finiscano per consegnare un vantaggio permanente a pochi grandi laboratori e vede negli open models il principale contrappeso.

Zuckerberg sostiene che considerare una tecnologia troppo pericolosa per distribuirla possa diventare il modo migliore per concentrare un potere enorme.

Douglas replica che l’apertura dei modelli non risolve il problema se soltanto pochi soggetti possono permettersi il compute necessario per sfruttarli davvero.

E Baker introduce un problema ulteriore. Anche quando la discussione è tecnicamente sofisticata, alla fine deve fare i conti con ciò che il pubblico percepisce.

Forse la prossima battaglia dell’AI non si vincerà con il modello migliore

Ed è proprio qui che l’intervento di Amodei diventa più importante della polemica dalla quale è nato.

Negli ultimi tre anni l’industria dell’intelligenza artificiale ha chiesto al pubblico di giudicare il futuro: modelli che avrebbero cambiato il lavoro, agenti che avrebbero moltiplicato la produttività, farmaci scoperti più velocemente, tutor personali per ogni studente, nuovi materiali, nuova energia, nuova scienza.

Ora, se è vero che una parte di quelle trasformazioni è già visibile, la maggior parte delle promesse più ambiziose appartiene però ancora al futuro.

Nel frattempo sono arrivati anche i costi: data center, consumi energetici, timori occupazionali, copyright, disinformazione, cybersecurity e una concentrazione di capitali che ha pochi precedenti nella storia recente della tecnologia.

La domanda che Amodei sembra porre alla propria stessa industria è quindi abbastanza brutale: per quanto tempo si può chiedere fiducia sulla base di ciò che l’AI farà domani?

La sua risposta è: probabilmente non molto. Il settore non deve semplicemente costruire modelli più intelligenti, deve cominciare a dimostrare che tutta quella intelligenza produce benefici che le persone possano vedere, misurare e riconoscere nella propria vita.

Altrimenti nessuna campagna pubblicitaria risolverà il problema. E per una volta il Ceo di una società di intelligenza artificiale sembra suggerire che forse non serva un modello migliore, ma una prova.