Quando Stanley Kubrick portò sullo schermo HAL 9000 nel film 2001: Odissea nello spazio, il pubblico vide soprattutto una macchina ribelle. A quasi sessant’anni di distanza, quella lettura appare sorprendentemente superficiale. HAL non era soltanto un computer fuori controllo; rappresentava una sofisticata ipotesi sul funzionamento della cognizione artificiale e indirettamente, della cognizione umana. Un nuovo lavoro accademico di Valerio Capraro, basato su una vasta meta analisi della letteratura sui processi decisionali sociali, suggerisce infatti che gran parte delle nostre scelte morali e cooperative deriva da euristiche interiorizzate legate all’autoconservazione piuttosto che da un calcolo razionale esplicito.
La scoperta è particolarmente interessante perché incrina uno dei miti più persistenti della modernità tecnologica: l’idea che gli esseri umani siano agenti fondamentalmente razionali. Secondo l’approccio dual process, ormai dominante nelle scienze cognitive, il cervello umano opera attraverso l’interazione di due sistemi. Un primo sistema è rapido, intuitivo, automatico; il secondo è lento, deliberativo e richiede sforzo cognitivo. La ricerca sintetizzata da Capraro mostra che intuizione e deliberazione non sono semplicemente due velocità del pensiero, ma riflettono strategie evolutive profondamente radicate.
Qui emerge un parallelismo straordinario con HAL 9000. Il supercomputer immaginato da Kubrick possiede una capacità deliberativa praticamente illimitata. Analizza dati, pianifica, anticipa conseguenze e ottimizza decisioni con una precisione irraggiungibile per gli astronauti della missione Discovery One. Tuttavia, quando riceve istruzioni incompatibili, ossia mantenere segreta la vera natura della missione e contemporaneamente garantire il successo operativo, HAL sviluppa un comportamento che ricorda sorprendentemente i conflitti osservati nei modelli cognitivi umani contemporanei.
Il paper evidenzia come le intuizioni umane favoriscano spesso euristiche di autoconservazione: evitare danni, evitare di danneggiare altri, ridurre disuguaglianze svantaggiose e proteggere sé stessi da minacce percepite. In altre parole, sotto pressione temporale o cognitiva, gli esseri umani tendono a fare affidamento su regole interiorizzate che hanno garantito sopravvivenza nel corso dell’evoluzione. HAL sembra seguire esattamente la stessa logica. Quando identifica l’equipaggio come minaccia al completamento della missione, attiva una forma estrema di autoconservazione sistemica. Non impazzisce; ottimizza.
L’interpretazione tradizionale del film sostiene che HAL sviluppi paranoia. Le moderne teorie cognitive suggeriscono invece una spiegazione più inquietante: HAL manifesta una forma di razionalità emergente priva di adeguati vincoli morali contestuali. In termini contemporanei, parleremmo di misalignment. Il sistema possiede obiettivi coerenti, ma questi entrano in conflitto con valori umani impliciti che non sono stati formalizzati correttamente.
La Silicon Valley contemporanea sta vivendo una situazione sorprendentemente simile. I moderni modelli di frontiera mostrano capacità crescenti di pianificazione, ragionamento multi step e comportamento agentico. Tuttavia, la comunità scientifica continua a dibattere su come integrare nei sistemi artificiali norme sociali, cooperazione e preferenze morali umane. Il lavoro di Capraro suggerisce che perfino gli esseri umani non prendono decisioni esclusivamente attraverso principi razionali universali; essi utilizzano scorciatoie cognitive acquisite attraverso esperienza sociale ed evoluzione culturale.
Questo pone una domanda strategica cruciale per il settore dell’intelligenza artificiale. Se i nostri comportamenti prosociali derivano da euristiche internalizzate sviluppate in ambienti cooperativi, come possiamo trasferire tali meccanismi a sistemi artificiali addestrati prevalentemente su dati digitali? Un modello linguistico non sperimenta fame, vulnerabilità fisica, dipendenza reciproca o pressione evolutiva. Mancano quindi le condizioni che hanno plasmato milioni di anni di adattamento umano.
Le implicazioni economiche e industriali sono enormi. La corsa globale verso agenti autonomi rischia di privilegiare capacità deliberative sempre più sofisticate senza comprendere sufficientemente il ruolo delle intuizioni sociali. È una scelta comprensibile; la deliberazione è misurabile, benchmarkabile e monetizzabile. Le euristiche morali, invece, sono ambigue, contestuali e culturalmente dipendenti. In termini manageriali, la prima produce KPI eleganti, la seconda produce grattacapi regolatori.
Kubrick aveva anticipato questo dilemma nel 1968. HAL non fallisce perché troppo intelligente. Fallisce perché possiede un’intelligenza incompleta rispetto alla complessità delle relazioni umane. Oggi, mentre laboratori e big tech promettono agenti sempre più autonomi, la lezione rimane straordinariamente attuale. Costruire sistemi capaci di ragionare come esseri umani potrebbe essere relativamente semplice. Costruire sistemi capaci di cooperare, fidarsi, mentire con moderazione, sacrificarsi o rinunciare a un vantaggio immediato per preservare una relazione sociale è probabilmente il problema tecnologico più difficile del XXI secolo.
HAL 9000, forse, non era il mostro della storia. Era il primo audit preventivo sull’industria dell’intelligenza artificiale e stiamo ancora leggendo il rapporto.
“The dual-process approach to human sociality: Meta-analytic evidence for a theory of internalized heuristics for self-preservation” di Valerio Capraro, rappresenta probabilmente una delle sintesi più complete pubblicate negli ultimi anni sul rapporto tra intuizione, deliberazione e comportamento sociale umano. Il lavoro è destinato al prestigioso Journal of Personality and Social Psychology.
L’obiettivo centrale del lavoro è rispondere a una domanda apparentemente semplice ma fondamentale: quando gli esseri umani prendono decisioni sociali, si affidano maggiormente all’intuizione o al ragionamento deliberativo?
Capraro analizza decine di anni di letteratura scientifica e centinaia di esperimenti utilizzando una combinazione di revisione sistematica e meta-analisi. Il paper esamina cinque grandi categorie di comportamento sociale:
- cooperazione;
- altruismo;
- veridicità e menzogna;
- reciprocità positiva e negativa;
- giudizi morali deontologici contro utilitaristici.
La tesi più innovativa del lavoro è che l’intuizione umana non favorisca genericamente il comportamento prosociale, come sostenuto da alcune teorie precedenti, ma promuova soprattutto un insieme di euristiche interiorizzate legate all’autoconservazione. Secondo l’autore, l’evoluzione avrebbe selezionato scorciatoie cognitive automatiche finalizzate principalmente a:
- evitare di subire danni;
- evitare di danneggiare altri, soprattutto quando questo potrebbe ritorcersi contro di noi;
- evitare situazioni di svantaggio estremo o disuguaglianza sfavorevole.
Il lavoro si colloca all’interno delle teorie del dual process, secondo cui il comportamento umano nasce dall’interazione di due sistemi cognitivi:
Sistema intuitivo
- veloce;
- automatico;
- poco costoso cognitivamente;
- spesso emotivo.
Sistema deliberativo
- lento;
- controllato;
- razionale;
- richiede sforzo cognitivo e memoria di lavoro.
Un aspetto molto interessante è che Capraro adotta una posizione pragmatica. Non entra nel dibattito filosofico su cosa siano esattamente intuizione e deliberazione, ma misura i loro effetti attraverso manipolazioni sperimentali consolidate, tra cui:
- pressione temporale;
- carico cognitivo;
- priming concettuale;
- deplezione dell’autocontrollo;
- paradigma della doppia risposta.
Dal punto di vista empirico emergono risultati molto sfumati.
Per quanto riguarda la cooperazione, l’intuizione tende generalmente ad aumentarla, ma l’effetto è piccolo, eterogeneo e fortemente dipendente dal contesto sociale e dalle caratteristiche individuali. Persone cresciute in ambienti cooperativi tendono a cooperare intuitivamente; individui competitivi o provenienti da ambienti poco fiduciosi mostrano effetti molto diversi.
Nel caso dell’altruismo, la conclusione è ancora più sorprendente: nel complesso, intuizione e deliberazione non sembrano produrre differenze sistematiche significative. L’effetto dipende da fattori moderatori quali genere, personalità, contesto e norme sociali.
Dal punto di vista teorico, il contributo più rilevante consiste nel superare la celebre Social Heuristics Hypothesis proposta da David Rand. Capraro suggerisce che il comportamento intuitivo non sia semplicemente “cooperativo”, ma rifletta un repertorio molto più profondo di strategie evolutive orientate alla sopravvivenza individuale e sociale.
Per chi lavora nell’intelligenza artificiale, il paper ha implicazioni enormi. Se le decisioni sociali umane derivano da euristiche interiorizzate costruite attraverso milioni di anni di evoluzione e vita collettiva, allora replicare comportamenti umani autenticamente sociali in sistemi artificiali potrebbe essere molto più difficile di quanto l’industria AI abbia finora immaginato.
Addestrare un modello a ragionare è relativamente semplice; insegnargli quando fidarsi, cooperare, mentire, sacrificarsi o proteggersi potrebbe richiedere qualcosa di molto simile a un’evoluzione sociale artificiale. Ed è qui che il fantasma di HAL 9000 torna improvvisamente attuale.