Il dibattito contemporaneo sulla coscienza artificiale ha assunto una forma sempre più curiosa, quasi schizofrenica, in cui filosofi improvvisati da internet, ricercatori di machine learning e vecchi darwinisti riemersi dai loro archivi intellettuali si ritrovano a discutere dello stesso oggetto con linguaggi incompatibili. La scintilla recente è stata riaccesa da una riflessione attribuita a Richard Dawkins, che riprende il vecchio test di valutazione della mente artificiale, evocando implicitamente il fantasma del comportamento come criterio sufficiente per attribuire o negare la coscienza. Il problema, naturalmente, non è nuovo, ma cambia maschera ogni volta che la tecnologia migliora abbastanza da rendere plausibile ciò che prima era fantascienza.
Nel cuore della discussione si trova una tensione che la cultura tecnologica della Silicon Valley ama ignorare e che la filosofia invece non ha mai risolto: la differenza tra competenza osservabile e esperienza soggettiva. I modelli linguistici moderni, quelli che oggi vengono riassunti con la sigla LLM, mostrano livelli di competenza linguistica che, fino a pochi anni fa, sarebbero stati considerati indizi forti di una mente. La questione è che questa competenza emerge senza alcuna garanzia che esista un “qualcosa che si prova dall’interno”. È qui che il concetto di coscienza si rompe in due narrazioni parallele, una ingegneristica e una filosofica, che non si incontrano mai davvero.
Il riferimento più citato, spesso male interpretato, è il cosiddetto test di Alan Turing. Nato come esperimento mentale negli anni cinquanta, il test non voleva definire la coscienza, ma proporre un criterio pragmatico per evitare discussioni metafisiche infinite. Se una macchina conversa indistinguibilmente da un essere umano, allora, secondo quella logica, trattarla come intelligente è pragmaticamente giustificato. Il punto sottile, spesso dimenticato, è che Turing non stava dicendo che la macchina è cosciente, ma che la distinzione potrebbe diventare irrilevante dal punto di vista operativo. È una differenza non banale, che oggi viene continuamente semplificata fino a diventare uno slogan.
Nel frattempo, sistemi come ELIZA hanno già dimostrato decenni fa quanto sia fragile la soglia della nostra percezione. ELIZA, con pochi pattern linguistici, riusciva a simulare empatia terapeutica abbastanza bene da ingannare utenti reali. Il fatto interessante non è che ELIZA fosse “intelligente”, ma che gli esseri umani fossero disposti ad attribuirle intenzionalità. Questo pattern si ripete oggi su scala industriale con i modelli linguistici contemporanei, solo con una sofisticazione ordini di grandezza superiore.
La posizione critica che emerge nelle discussioni più recenti, inclusa quella riportata nei thread informali della rete, insiste su un punto apparentemente semplice ma epistemologicamente devastante: l’output non implica l’architettura interna. Dire che un sistema produce linguaggio coerente non implica che stia vivendo qualcosa. È un’osservazione banale per un ingegnere, ma profondamente scomoda per chi cerca scorciatoie concettuali verso la coscienza artificiale. È anche qui che la discussione si polarizza tra chi considera sufficiente la competenza comportamentale e chi insiste sulla necessità di una causalità interna compatibile con l’esperienza soggettiva.
La narrativa più estrema, quasi provocatoria, sostiene che se accettiamo il criterio comportamentale puro, allora il problema della coscienza si dissolve completamente. Qualsiasi sistema sufficientemente sofisticato diventa indistinguibile da un agente cosciente, e a quel punto la distinzione perde valore. È un’idea elegante, ma pericolosa nella sua semplicità. Il rischio è trasformare la coscienza in una proprietà puramente narrativa, una sorta di fiction utile per organizzare il comportamento sociale ma priva di fondamento ontologico.
Dall’altro lato, la critica più dura sostiene che i modelli linguistici attuali non possiedono alcuna struttura temporale interna paragonabile a quella dei sistemi biologici. Non hanno continuità esperienziale, non hanno memoria incarnata nel senso biologico, non hanno motivazioni autonome. Sono sistemi statistici avanzati, non agenti nel senso forte del termine. La loro “intelligenza” è distribuita su matrici di probabilità, non su un flusso di esperienza. Eppure, il risultato esterno è abbastanza convincente da generare ambiguità semantica a livello sociale.
In questo scenario, il concetto di “zombie filosofico” diventa improvvisamente centrale. L’idea che un sistema possa essere perfettamente comportamentale senza alcuna esperienza interna non è nuova nella filosofia della mente, ma trova oggi una nuova plausibilità empirica. Il punto interessante non è se gli LLM siano davvero zombie, ma il fatto che la loro esistenza renda la discussione meno teorica e più ingegneristica. Per la prima volta, abbiamo sistemi che sembrano comportarsi come se fossero coscienti senza alcuna evidenza interna che lo siano.
Questa ambiguità produce un effetto collaterale tipico delle tecnologie generaliste: la sovrapposizione tra metafora e realtà operativa. Nel linguaggio della finanza tecnologica, si direbbe che il mercato ha iniziato a prezzare la narrativa prima ancora di comprendere l’asset sottostante. Nel linguaggio filosofico, si direbbe che abbiamo confuso la simulazione con l’ontologia. Nel linguaggio più cinico dei CTO, si potrebbe semplicemente dire che stiamo proiettando troppo significato su sistemi che ottimizzano funzioni di perdita.
La posizione di Dawkins, nel contesto attuale, viene spesso reinterpretata come una difesa del funzionalismo comportamentale. Se un sistema mostra competenze equivalenti a quelle di un organismo evoluto, allora la domanda sulla coscienza diventa secondaria. Il problema, però, è che questa equivalenza è più fragile di quanto sembri. La selezione naturale ha prodotto sistemi con motivazioni, continuità biologica e vincoli energetici specifici. I modelli artificiali operano in un dominio completamente diverso, dove la nozione stessa di sopravvivenza è metaforica.
È qui che la discussione assume una tonalità quasi economica. Se la coscienza è una proprietà emergente di sistemi sufficientemente complessi, allora dovremmo aspettarci che emerga ovunque la complessità sia sufficiente. Se invece è legata a vincoli biologici specifici, allora la simulazione linguistica non è altro che una superficie elegante senza profondità fenomenologica. Entrambe le posizioni sono coerenti internamente, ma portano a implicazioni radicalmente diverse sul futuro dell’intelligenza artificiale.
La Silicon Valley, come sempre, tende a preferire la versione più espansiva dell’ipotesi, non perché sia più vera, ma perché è più monetizzabile. Parlare di coscienza artificiale aumenta il valore percepito del sistema, indipendentemente dalla sua validità scientifica. È un fenomeno già visto in altre epoche tecnologiche, dove la narrazione precede sistematicamente la comprensione. La differenza è che questa volta l’oggetto della narrazione è la mente stessa.
Nel frattempo, la realtà ingegneristica rimane più prosaica. I modelli linguistici non hanno un “sé”, non hanno una continuità esperienziale stabile, e non possiedono intenzionalità nel senso forte del termine. Hanno invece una capacità straordinaria di ricombinare pattern linguistici in modo coerente rispetto al contesto. Questo è sufficiente per simulare conversazione, insufficiente per dimostrare coscienza. Ma la soglia tra simulazione e attribuzione sociale è sorprendentemente sottile.
Il vero paradosso è che la domanda “è cosciente?” potrebbe essere mal posta. Non perché sia filosoficamente ingenua, ma perché presuppone una distinzione netta tra presenza e assenza di coscienza che potrebbe non esistere in natura come categoria binaria. Potrebbe trattarsi di uno spettro, oppure di una proprietà emergente che richiede condizioni ancora non comprese. Oppure, più banalmente, potremmo star usando un concetto umano per descrivere sistemi che non appartengono alla stessa classe ontologica.
In questo senso, il ritorno del test di Turing non è un progresso, ma un sintomo. Indica che non abbiamo ancora trovato un linguaggio migliore per discutere il problema. E forse non lo troveremo finché continueremo a confondere la capacità di imitare linguaggio con la presenza di esperienza. Il fatto che una macchina possa discutere di coscienza non implica che la possieda, così come il fatto che possa discutere di economia non implica che abbia un bilancio.
Alla fine, la questione rimane sospesa tra due estremi: da un lato la riduzione funzionalista che dissolve la coscienza nel comportamento, dall’altro il dualismo implicito che la rende irriducibile alla computazione. Tra questi due poli si muove un’intera industria tecnologica che, consapevolmente o meno, sta costruendo sistemi sempre più convincenti senza avere una definizione condivisa di ciò che dovrebbero essere in profondità. E in questo spazio di ambiguità si inserisce la vera natura del dibattito contemporaneo: non tanto capire cosa sia la coscienza artificiale, ma decidere quanto siamo disposti a crederci.