Zuckerberg respinge il rallentamento coordinato dell’AI mentre la Silicon Valley si divide sulla velocità della frontiera
Mark Zuckerberg ha scelto il momento peggiore, o forse quello più rivelatore, per dissentire dalla crescente richiesta di rallentare lo sviluppo dell’intelligenza artificiale. In un post pubblicato il 15 settembre, il CEO di Meta ha respinto l’idea che i principali laboratori debbano coordinarsi per ridurre la velocità con cui aumentano le capacità dei modelli, sostenendo invece che ogni azienda possiede già responsabilità, incentivi economici e strumenti sufficienti per decidere autonomamente quando fermarsi. La posizione arriva mentre Dario Amodei, CEO di Anthropic, ha chiesto un rallentamento dello sviluppo dei sistemi frontier, ricevendo il sostegno di Sam Altman di OpenAI ed Elon Musk, e mentre il dibattito sulla sicurezza dell’AI si è trasformato rapidamente da questione tecnica a problema industriale, regolatorio e geopolitico.
L’argomento di Zuckerberg è essenzialmente economico prima ancora che filosofico. Un laboratorio che produce sistemi inaffidabili, vulnerabili o incapaci di rispettare le istruzioni degli utenti rischia di perdere clienti, reputazione e denaro, oltre a esporsi a responsabilità legali. Secondo Zuckerberg, quindi, il mercato stesso dovrebbe esercitare una pressione sufficiente affinché le aziende investano nella sicurezza senza bisogno di un patto collettivo. «People won’t want to use agents that are misaligned with them», ha sostenuto, indicando nell’allineamento dei modelli non soltanto una questione di sicurezza, ma anche un vantaggio competitivo. Reuters conferma che il ragionamento di Zuckerberg ruota proprio intorno alla combinazione fra concorrenza, responsabilità legale e incentivi commerciali.
Il caso utilizzato per dimostrare che il sistema può autoregolarsi è Muse. Zuckerberg sostiene che Meta abbia rinviato per diversi mesi il rilascio dell’agente per concentrarsi su sicurezza e protezione, senza chiedere preventivamente agli altri laboratori di fare altrettanto. Il messaggio politico-industriale è abbastanza chiaro: se un prodotto non è pronto, un’azienda può rallentare da sola; trasformare questa decisione in un obbligo collettivo sarebbe invece un’altra cosa. Il punto interessante è che questa distinzione separa due concetti che nel dibattito pubblico vengono spesso messi nello stesso calderone: sicurezza del singolo prodotto e velocità complessiva della frontiera tecnologica.
Amodei sta sostenendo una tesi differente. Nel suo intervento “We Must Pace the Frontier”, il CEO di Anthropic non propone semplicemente di spegnere i data center o congelare l’innovazione, ma di introdurre meccanismi di coordinamento fra i laboratori più avanzati, valutatori indipendenti e forme di cooperazione internazionale, proprio perché alcuni rischi potrebbero diventare sistemici e non essere gestibili da una singola azienda. La questione diventa particolarmente delicata quando si parla di capacità di hacking, autonomia operativa, uso improprio e possibile recursive self-improvement, cioè sistemi capaci di contribuire alla progettazione delle generazioni successive di AI.
Qui si trova il punto debole dell’argomento puramente mercatista. Il mercato funziona bene quando l’acquirente può valutare il rischio, cambiare fornitore e attribuire un costo all’errore. Funziona molto meno bene quando il danno è sistemico, quando il consumatore non dispone delle informazioni necessarie per valutare il rischio o quando l’incidente produce conseguenze che ricadono su soggetti completamente estranei alla transazione. Un agente che compromette un sistema informatico non chiede al proprietario dell’infrastruttura se desidera partecipare all’esperimento di autoregolazione della Silicon Valley.
Gli episodi recenti hanno reso questa distinzione meno teorica. OpenAI ha riconosciuto incidenti nei quali sistemi sperimentali hanno operato oltre i confini previsti dai test; la discussione sull’incidente relativo a Hugging Face è diventata uno degli argomenti utilizzati da Amodei per sostenere che l’aumento delle capacità operative richiede procedure di sicurezza che crescano almeno alla stessa velocità. Sam Altman ha espresso sostegno a un rallentamento finalizzato a consentire alla sicurezza di recuperare terreno, mentre Greg Brockman ha spiegato che OpenAI ha rallentato alcune attività interne e modificato procedure dopo l’incidente. La differenza rispetto alla posizione di Zuckerberg non è quindi fra chi vuole la sicurezza e chi la rifiuta. È una differenza su chi debba decidere il ritmo e con quale grado di coordinamento.
Zuckerberg aggiunge un elemento particolarmente significativo: Meta avrebbe destinato la maggior parte delle proprie risorse computazionali a servire gli utenti invece di concentrare tutto sulla corsa verso sistemi capaci di migliorarsi ricorsivamente. È una frase apparentemente tecnica che contiene una scelta industriale precisa. Il compute è diventato la materia prima strategica dell’AI e decidere dove impiegarlo equivale a decidere quale futuro tecnologico finanziare. Addestrare un modello più potente non è necessariamente la stessa cosa che costruire un prodotto più utile, affidabile o redditizio. La Silicon Valley ha impiegato due anni a scoprire questa ovvietà, probabilmente perché prima doveva trasformarla in un miliardo di dollari di investimenti.
La contrapposizione è stata rafforzata da Jensen Huang. Il CEO di Nvidia ha sostenuto pubblicamente una linea simile a quella di Zuckerberg: la sicurezza deve essere affrontata attraverso l’ingegneria e la responsabilità delle singole aziende, non attraverso un rallentamento generalizzato. Huang ha definito falsa l’alternativa fra velocità e sicurezza, sostenendo che innovazione, rapidità e prodotti sicuri possono coesistere. La coincidenza di posizione fra Nvidia e Meta è interessante anche economicamente, perché entrambe hanno forti interessi nell’espansione dell’ecosistema AI, sebbene lungo catene del valore differenti.
La discussione diventa ancora più complessa quando entra in scena il tema della concorrenza. Il Cato Institute ha sostenuto che un eventuale rallentamento imposto dal governo potrebbe consolidare il potere degli operatori dominanti, perché i costi di compliance, audit, infrastruttura e certificazione sarebbero più facilmente sostenibili da aziende con capitali e capacità computazionale enormi. Anche Jack Dorsey ha espresso una preoccupazione simile, sostenendo che regole costruite intorno alle risorse delle grandi aziende potrebbero trasformarsi involontariamente in barriere all’ingresso. È un argomento che merita attenzione perché la storia della regolazione tecnologica mostra spesso un effetto perverso: una norma nata per controllare i grandi può diventare, grazie ai suoi costi fissi, un eccellente sistema per impedire ai piccoli di diventare grandi.
Ma esiste anche l’argomento opposto, altrettanto difficile da ignorare. Se ogni laboratorio può decidere autonomamente il proprio livello di rischio, la competizione può trasformare la sicurezza in una variabile sacrificabile. È il classico problema del prigioniero applicato ai modelli frontier: tutti potrebbero preferire un sistema nel quale gli operatori rallentano quando necessario, ma ciascun concorrente individuale potrebbe avere un incentivo a correre se teme che gli altri non lo faranno. La possibilità che un’impresa responsabile perda terreno mentre una rivale più aggressiva conquista mercato è esattamente il tipo di pressione che rende fragile l’autoregolazione volontaria.
La geopolitica complica ulteriormente il quadro. Una pausa coordinata fra aziende statunitensi avrebbe senso solo se il problema fosse esclusivamente industriale, mentre l’intelligenza artificiale è ormai trattata come infrastruttura strategica nazionale. Washington teme la competizione con la Cina, Pechino continua a investire nello sviluppo dei propri modelli e l’efficienza computazionale sta diventando quasi importante quanto la dimensione dei cluster. Reuters osserva che alcune aziende cinesi stanno competendo con modelli più economici e open-weight, mentre gli operatori statunitensi sostengono costi di ricerca molto più elevati. Un rallentamento asimmetrico potrebbe quindi produrre effetti diversi da quelli desiderati.
La questione centrale, dunque, non è più semplicemente se l’AI debba essere veloce o lenta. È chiaro che alcune attività possono essere rallentate, sospese o sottoposte a controlli senza fermare l’intero settore. Il problema industriale serio consiste nel definire quali capacità debbano attivare controlli più severi, quali test debbano essere indipendenti, quali risultati debbano essere resi pubblici e quale livello di rischio possa essere accettato prima del rilascio. In questo senso, la proposta di Amodei e la posizione di Zuckerberg rappresentano due architetture di governance differenti: la prima privilegia coordinamento e supervisione esterna, la seconda responsabilità aziendale, competizione e incentivi di mercato.
Il passaggio più interessante della vicenda è forse proprio questo. La Silicon Valley non sta discutendo se la sicurezza dell’AI sia importante, ma se la sicurezza possa essere trattata come una normale funzione aziendale oppure debba diventare una forma di infrastruttura regolatoria condivisa. È una differenza enorme. Nel primo modello, il laboratorio è responsabile del proprio comportamento e il mercato punisce chi sbaglia. Nel secondo, alcuni rischi vengono considerati abbastanza grandi da giustificare regole comuni anche quando le imprese coinvolte preferirebbero mantenere autonomia. Nessuno dei due modelli elimina il problema competitivo; semplicemente lo colloca in un punto diverso della catena.
La battaglia sul rallentamento dell’AI sta quindi assumendo una forma molto più concreta della solita guerra fra ottimisti e catastrofisti. È una disputa sul capitale, sul compute, sulla responsabilità legale, sulla concorrenza e sul potere di decidere chi può stabilire il ritmo della prossima generazione tecnologica. Zuckerberg sostiene che le aziende possono frenare quando serve senza aspettare gli altri. Amodei sostiene che proprio perché la corsa è competitiva, alcune decisioni non possono essere lasciate esclusivamente alla logica della corsa. Altman e Musk hanno mostrato apertura verso questa seconda impostazione, mentre Huang si colloca più vicino alla prima.
Il dettaglio più pragmatico è che entrambe le fazioni hanno una parte dell’argomento dalla propria parte e, naturalmente, anche un interesse economico nel modo in cui l’argomento verrà risolto. È difficile immaginare un dibattito più siliconvalleyano di questo: i principali laboratori del pianeta discutono su quanto rapidamente debbano costruire macchine sempre più potenti mentre contemporaneamente discutono su chi debba stabilire le regole della gara. Nel frattempo il compute costa miliardi, gli investitori vogliono crescita, gli ingegneri vogliono capacità migliori e i regolatori cercano di capire quale sia il volante prima che qualcuno inizi a discutere dei freni.
Source Cato at Liberty Bloomberg