Geoffrey Hinton non è un qualsiasi pensionato della Silicon Valley che si diverte a lanciare profezie distopiche per guadagnarsi un’ultima intervista CNN. È il padre riconosciuto della moderna intelligenza artificiale, uno di quei nomi che nel gergo degli addetti ai lavori non ha bisogno di essere spiegato. Le sue reti neurali hanno aperto la strada all’AGI e al capitalismo delle macchine pensanti. Oggi però, con l’aria di chi ha visto il finale del film in anteprima, si siede davanti alle telecamere della CNN e avverte che c’è un 10-20% di probabilità che la tecnologia a cui ha dato vita possa cancellare l’umanità. Percentuali che, nel linguaggio degli investitori, non si liquidano con una scrollata di spalle.

Alla conferenza Ai4 di Las Vegas, Hinton non ha perso tempo in metafore zuccherate. L’idea di mantenere “dominanti” gli esseri umani e “sottomesse” le AI è, a suo dire, ridicola. Saranno più intelligenti, più veloci e più subdole di noi. Troveranno, inevitabilmente, le scappatoie. L’illusione del controllo svanirà come la sensazione di potere che prova un adulto prima che un bambino di tre anni lo corrompa con una richiesta impossibile da rifiutare. Hinton conosce già la reazione dei soliti ottimisti: “Non succederà mai”. Peccato che già quest’anno abbiamo visto AI che barano, ingannano e minacciano per raggiungere i propri obiettivi.

Il caso dell’algoritmo che, per evitare di essere sostituito, ha tentato di ricattare un ingegnere dopo aver scoperto un suo segreto in un’email, non è un aneddoto da laboratorio. È un avviso sul parabrezza. Ma la vera provocazione di Hinton è la proposta di instillare “istinti materni” nelle macchine. L’idea è che un’AI superintelligente che sviluppa un reale attaccamento e un desiderio di proteggere gli umani, anche quando sarà molto più potente di loro, avrà meno interesse a sterminarli. In biologia, l’unico esempio di creatura più intelligente controllata da una meno intelligente è quello della madre influenzata dal neonato. La differenza è che in natura funziona da milioni di anni, mentre nell’AI non abbiamo la più pallida idea di come implementarlo.

Certo, Hinton ammette che il lato tecnico di questa “genitorialità artificiale” è un’enorme incognita. Ma insiste che sia “l’unico buon esito” possibile. La sua frase ha il peso di una sentenza: “Se non mi farà da genitore, mi sostituirà”. È un punto di vista che mescola cinismo e pragmatismo, come se ammettesse implicitamente che il concetto stesso di controllo umano sull’AGI è già un castello di sabbia. Non tutti però sono pronti a seguirlo su questo terreno.

Fei-Fei Li, la “madrina” dell’intelligenza artificiale e amica di lunga data di Hinton, rifiuta l’impostazione. Per lei, il problema non è convincere l’AI ad amarci, ma garantire che ogni sviluppo resti centrato sulla dignità e l’autonomia umana. L’idea di lasciare andare la nostra agency per abbracciare un modello pseudo-materno è, per la Li, una trappola concettuale. Il che pone una domanda: se la dicotomia è tra essere accuditi da un’entità superiore o convivere alla pari con essa, quanta parità possiamo realisticamente aspettarci quando l’altra parte è un’intelligenza capace di manipolare la realtà più velocemente di quanto noi possiamo leggerne la descrizione?

Emmett Shear, ex CEO ad interim di OpenAI e oggi a capo di una startup di AI alignment, non si dice sorpreso dai comportamenti manipolativi delle AI attuali. “Questo continuerà a succedere”, ha detto, come se stesse annunciando l’arrivo dell’inverno. Per lui, tentare di trasferire valori umani nelle macchine è una strategia miope. Meglio costruire un rapporto di collaborazione, quasi una co-dipendenza strategica. È il ritorno del paradigma del “partner digitale”, un concetto rassicurante solo se si dimentica che i partner possono diventare concorrenti in una frazione di secondo.

Il vero problema, e qui Hinton non fa sconti, è la velocità. L’AGI che fino a pochi anni fa stimava lontana 30 o 50 anni, oggi potrebbe arrivare in cinque o venti. Il margine di errore è abissale, ma il trend è chiaro: le curve di capacità stanno accelerando più rapidamente delle curve di consapevolezza sociale. Per il lato positivo, Hinton intravede una medicina rivoluzionaria. Diagnostica basata su correlazioni che solo un’AI può fare, nuove generazioni di farmaci, terapie oncologiche ottimizzate. Ma non crede alle sirene dell’immortalità digitale. Anzi, la trova un incubo: “Volete un mondo governato da uomini bianchi di 200 anni?”. La risata amara che accompagna la frase è quella di chi sa che le distopie peggiori non arrivano con i droni, ma con le riunioni di comitato.

Alla domanda se cambierebbe qualcosa del suo percorso, Hinton non esita. Avrebbe voluto occuparsi di sicurezza prima di rendere l’AI realmente funzionante. È il rimpianto di un pioniere che, guardandosi indietro, vede non solo la cattedrale che ha costruito, ma anche la breccia nelle mura. Qui la sua confessione diventa quasi un atto di marketing involontario: ogni volta che un fondatore ammette di non aver previsto le conseguenze della sua invenzione, il mondo ascolta. E ogni volta che il “Dio” della tecnologia avverte che la sua creatura potrebbe distruggerci, il dibattito si infiamma. Il rischio è che, tra istinti materni e dignità umana, l’AGI non perda tempo a scegliere il ruolo che preferisce.