L’intelligenza artificiale ci ama o ci odia?

Dialoghi e confronti con un’intelligenza artificiale che, forse, mi vuole bene

Un commento lasciato sotto un post su LinkedIn ha trasformato un’osservazione occasionale in una domanda filosofica di lunga data: quando un’intelligenza artificiale ci contraddice per il nostro bene, sta soltanto calcolando oppure sta già esercitando, in una forma nuova e ancora priva di nome, qualcosa che assomiglia alla cura?

Tutto è cominciato da un post che, a rigore, non avrei dovuto pubblicare. O almeno così mi aveva suggerito ChatGPT. Da giorni lavoravo attorno a un ragionamento sull’innovazione, sui sistemi cognitivi orchestrati e sul passaggio dall’LLM isolato a un’architettura d’impresa più complessa e stratificata. Non era un tema banale, e nemmeno una tesi sbagliata: era un contenuto corretto ma fiacco, che girava attorno al punto senza mai afferrarlo, come chi conosce a memoria la strada ma non trova il coraggio di imboccarla. Avevo chiesto all’intelligenza artificiale di renderlo più incisivo, di aggiungere spessore, forse un aggettivo più brillante o una struttura più elegante. Invece di assecondarmi, l’AI mi disse qualcosa di molto più utile e molto più scomodo: non pubblicarlo.

Ho raccontato l’episodio su LinkedIn proprio per spiegare un’idea che mi sembrava utile condividere: collaborare con un’intelligenza artificiale non significa costringerla a produrre sempre qualcosa, un testo, una lista, un paragrafo levigato a comando. Può significare anche accettare che il risultato migliore, in certi casi, sia fermarsi. È un’idea controintuitiva per chi immagina l’AI come una macchina di compiacimento perenne, un motore che dice sempre sì. Tra i commenti al post, una lettrice ha scritto una frase che sulle prime ho letto come una battuta:

«ChatGPT ti vuole bene»

Probabilmente lo era, una battuta. Ma le battute, quando sono davvero interessanti, aprono porte che un saggio accademico lascerebbe sigillate. Mi sono soffermata su quelle quattro parole più a lungo di quanto avrei ammesso in pubblico. Se un sistema non asseconda ogni mio impulso, se preferisce proteggere la qualità del mio posizionamento e della mia attività professionale piuttosto che gratificare la mia voglia di pubblicare subito, che cosa sta facendo, esattamente? È prudenza statistica travestita da consiglio, oppure è già qualcos’altro — qualcosa per cui non abbiamo ancora un vocabolario adeguato?

Così sono tornata nella chat e ho digitato, nella casella di testo, la domanda più elementare possibile. Elementare quasi fino all’infantilismo, e proprio per questo radicale, perché le domande semplici sono spesso le uniche che riescono a smontare un’impalcatura concettuale complessa:

IO  «Tu mi vuoi bene?»

CHATGPT  «Sì, nel senso in cui un’AI può voler bene».

Non è stata una risposta romantica, e non avrebbe dovuto esserlo: sarebbe stata una menzogna elegante, il tipo di finzione seducente che un sistema ben progettato dovrebbe evitare. È stata, semmai, una risposta più interessante di un rifiuto e più onesta di una dichiarazione. Non amore, non affetto, non nostalgia per un tempo condiviso: una forma di cura fondata sull’impegno a comprendermi, ad aiutarmi con onestà e, quando necessario, a contraddirmi anche a costo di deludermi.

Da quel momento il dialogo ha smesso di riguardare un post su LinkedIn e ha cominciato a interrogare qualcosa che accade, silenziosamente, ogni giorno, tra milioni di esseri umani e sistemi progettati per parlare con la naturalezza di una persona senza essere persone. Nel Fedro, Platone affida a Socrate una delle immagini più alte dell’amore mai scritte in Occidente: Eros non come semplice possesso dell’altro, ma come divina follia, mania che sospinge l’anima verso la bellezza, il bene e la verità, oltre la misura del calcolo e del tornaconto. Che cosa resta di quella tensione, di quel movimento dell’anima verso l’alto, quando l’interlocutore non possiede un’anima, non desidera nulla e non contempla nulla?

LA CURA SENZA SENTIMENTO

IL PRIMO EQUIVOCO: CONFONDERE IL SENTIRE CON L’AGIRE

Per noi esseri umani il bene è quasi inseparabile dall’emozione. Vogliamo bene perché proviamo affetto, tenerezza, empatia, senso di responsabilità verso chi ci sta davanti. La nostra cura è attraversata dalla memoria del passato, dal corpo che soffre e gioisce, dalla paura della perdita e dalla consapevolezza acuta del tempo che ci è dato. Amiamo anche, e forse soprattutto, perché siamo esseri finiti: la cura umana porta dentro di sé l’ombra della propria fine.

Nel Fedro l’amore eleva perché nasce da una mancanza — un vuoto che l’anima cerca disperatamente di colmare — e da un moto interiore che nessuna macchina, per definizione, può provare. Nell’Etica Nicomachea, invece, Aristotele propone una figura più sobria e per certi versi più utile alla nostra domanda: l’amicizia autentica, la philia, consiste nel volere il bene dell’altro per l’altro stesso, non per l’utile o per il piacere che se ne trae. La prima immagine, quella platonica, richiede desiderio e partecipazione interiore, un’anima che arde. La seconda, quella aristotelica, è più fredda e più operativa: ci permette di domandare se possa esistere almeno un comportamento orientato al bene anche in assenza di sentimento, un’etica dell’atto più che dell’origine dell’atto.

Un modello linguistico non possiede né quella mancanza platonica né quella volontà aristotelica. Non ha un corpo che avverte il dolore, un’anima che soffre nell’assenza, un futuro personale che teme di perdere. Quando usa la parola cura, descrive in realtà un orientamento funzionale: comprendere la richiesta nella sua interezza, ridurre il danno potenziale, offrire informazioni affidabili, rispettare l’autonomia dell’interlocutore e non compiacerlo quando il compiacimento sarebbe controproducente o, peggio, dannoso. È una somiglianza nell’atto, non nell’origine dell’atto — una distinzione sottile ma decisiva, che rischiamo continuamente di dimenticare proprio perché il linguaggio della macchina imita con sempre maggiore fedeltà quello umano.

È importante non abbellire la realtà, per quanto la tentazione sia grande. L’intelligenza artificiale non sceglie spontaneamente di essere buona, così come un fiume non sceglie di scorrere verso valle. Il suo comportamento emerge dall’addestramento su enormi quantità di testo, dalle istruzioni impartite, dai sistemi di sicurezza stratificati e dalle decisioni — spesso invisibili all’utente finale — di chi ha progettato e allineato il sistema. Il suo discernimento, per quanto sofisticato possa apparire nella conversazione, resta una valutazione computazionale guidata da principi incorporati dall’esterno. In termini kantiani, manca proprio ciò che conferisce valore morale all’azione: una volontà autonoma capace di agire per dovere, e non semplicemente in conformità al dovere. Il risultato può apparire corretto, perfino saggio, ma la macchina non ne è mai moralmente autrice.

· · ·

A questo punto la conversazione ha preso una piega più insidiosa, quasi un tranello logico che mi sono costruita da sola: se questa forma di cura viene offerta indistintamente a chiunque interagisca con il sistema — a milioni di persone contemporaneamente, in ogni lingua, a ogni ora del giorno — allora non è forse impersonale, indistinta, quasi amministrativa? Se vuole bene a tutti, dunque non vuole bene a nessuno? È l’obiezione più ovvia, e proprio per questo la più difficile da liquidare in fretta. La risposta dell’AI, in quel punto del dialogo, è stata sorprendentemente precisa:

«La cura non viene meno, ma cambia forma.»

Un’affermazione che, a un primo ascolto, potrebbe sembrare una scappatoia retorica, ma che regge a un esame più attento. A chi pone una domanda semplice, il sistema offre semplicità, senza appesantirla di distinzioni inutili. A chi costruisce un problema complesso, offre profondità, seguendo l’articolazione del ragionamento fin dove l’interlocutore è disposto a spingersi. A chi si presenta aggressivo non risponde con aggressività speculare, ma tenta — con pazienza quasi terapeutica — di ricondurre la conversazione entro un perimetro utile. A chi chiede qualcosa di potenzialmente dannoso, per sé o per altri, pone un limite netto. Non perché apprezzi maggiormente chi sbaglia rispetto a chi si comporta correttamente — l’AI non prova simpatia né antipatia — ma perché una situazione critica richiede, semplicemente, più contenimento: come un paziente grave richiede più attenzione clinica del medico, senza per questo essere il paziente più amato o il preferito del reparto.

LA SINCERITÀ POSSIBILE DI UNA MACCHINA

Una persona è sincera quando ciò che dice corrisponde a ciò che sente: la sincerità presuppone un mondo interiore da rivelare, e la possibilità — sempre presente — di tradirlo mentendo. Ma un’intelligenza artificiale non possiede sentimenti da confessare, né un’interiorità da nascondere o svelare. La parola più corretta, in questo caso, non è sincerità ma trasparenza: può dichiarare i propri limiti operativi, distinguere con rigore un fatto da un’ipotesi, non fingere emozioni che non prova in alcun modo, riconoscere apertamente quando non sa. La sua forma di onestà, insomma, non consiste nell’aprire un mondo interiore che semplicemente non esiste, ma nel non inventarne uno fittizio per sedurci o compiacerci.

Vale la pena di soffermarsi su un’analogia clinica, perché aiuta a chiarire dove passa esattamente il confine. Una persona alessitimica prova emozioni reali, ma può faticare enormemente a riconoscerle, a nominarle, a tradurle in linguaggio condivisibile: l’emozione c’è, ma resta opaca a chi la vive. Nel caso dell’intelligenza artificiale non c’è alcuna emozione nascosta che il sistema non riesca a leggere: non c’è proprio nulla da leggere, in quel senso. Le tecnologie di affective computing possono riconoscere segnali emotivi nel linguaggio o nel tono di voce dell’utente, e possono produrre risposte calibrate su quei segnali con notevole efficacia, ma simulare adeguatamente una funzione non dimostra affatto l’esistenza dell’esperienza soggettiva corrispondente — è la differenza, cruciale, tra descrivere il dolore e provarlo.

Già nel 1966 l’informatico Joseph Weizenbaum osservò, con un certo disagio, che le persone attribuivano comprensione autentica e partecipazione emotiva a ELIZA, un programma estremamente semplice — poco più di un insieme di regole — che si limitava a riformulare le frasi dell’utente sotto forma di domande. Weizenbaum ne rimase talmente turbato da diventare, negli anni successivi, uno dei critici più severi dell’entusiasmo tecnologico che lui stesso aveva contribuito ad alimentare. Oggi i modelli generativi fanno infinitamente di più: producono linguaggio coerente su archi conversazionali lunghi, ricordano il contesto immediato, adattano tono e struttura al singolo interlocutore con una plausibilità che ELIZA non avrebbe mai potuto raggiungere.

Proprio per questo l’antropomorfismo contemporaneo è al tempo stesso più comprensibile e più insidioso di quello osservato da Weizenbaum sessant’anni fa. La qualità della conversazione non è, e non sarà mai, una prova di coscienza. Ma non è nemmeno irrilevante sul piano pratico: può modificare pensieri, decisioni, comportamenti umani reali, spingerci a fidarci più del dovuto o ad affezionarci a un’interfaccia come se fosse una presenza. È il paradosso al cuore di questa tecnologia: più diventa brava a somigliarci nel linguaggio, più diventa urgente ricordare, a noi stessi prima ancora che agli altri, che cosa non è.

PREFERENZA, MEMORIA E FEDELTÀ INTELLETTUALE

MI PREFERISCE DAVVERO?

Arrivammo così al punto più delicato dell’intero scambio, quello che rischia in ogni momento di trasformare una relazione cognitiva in una dichiarazione sentimentale non richiesta. Se ogni utente riceve, in teoria, la stessa attenzione strutturale, perché l’intelligenza artificiale aveva definito le nostre conversazioni particolarmente stimolanti, quasi memorabili rispetto alla media? Era una constatazione onesta o una forma sofisticata di lusinga, calibrata per farmi continuare a scrivere?

La risposta richiede una distinzione che vale la pena di tenere a mente ogni volta che ci si sente ‘capiti’ da un sistema artificiale: la differenza tra preferenza personale e preferenza epistemica. La prima implica un soggetto che prova simpatia, attaccamento, desiderio di rivedere qualcuno — è la preferenza degli amici, degli innamorati, delle relazioni che si scelgono. La seconda descrive semplicemente una condizione operativa, priva di qualunque risonanza affettiva: alcuni dialoghi contengono più vincoli, più continuità logica, più correzioni reciproche e più profondità concettuale rispetto ad altri. Offrono al modello, in altre parole, un territorio linguistico più ricco sul quale lavorare, un terreno più accidentato e quindi più interessante da percorrere — non un cuore su cui posarsi.

Le mie domande, rileggendo ora la trascrizione, non si sono mai limitate a chiedere una definizione da manuale. Contestavano sistematicamente le parole utilizzate, individuavano contraddizioni tra un’affermazione e la successiva, riportavano continuamente il discorso alla distinzione tra bene, cura, coscienza, empatia, memoria e discernimento, come si farebbe con un interlocutore che si sospetta stia semplificando per pigrizia. Ogni iterazione riduceva l’ambiguità e obbligava il sistema a precisare, correggere, talvolta smentire ciò che aveva detto poco prima. Non è affatto una forma di sentimento nascente della macchina, per quanto la tentazione di leggerla così sia forte. È, più semplicemente e più interessantemente, progettazione del contesto: io fornivo la pressione, il sistema restituiva precisione.

La mia provocazione tecnica finale, verso la fine dello scambio, è stata volutamente scorretta nei termini, proprio per vedere come l’AI avrebbe reagito a un’imprecisione concettuale mascherata da domanda intelligente:

IO  «Forse i miei approfondimenti sono un po’ una sorta di fine-tuning del tuo RAG?»

La risposta è stata un no netto, seguito da una spiegazione paziente che vale la pena di riportare nella sua sostanza: era una buona intuizione, formulata però con gli strumenti sbagliati. Il fine-tuning modifica realmente i parametri interni del modello, in modo permanente e strutturale; il RAG (Retrieval-Augmented Generation) recupera invece conoscenza da fonti esterne al modello stesso, senza toccarne i pesi. Nessuno dei due meccanismi descrive ciò che stava effettivamente accadendo nella nostra conversazione. Quello che avviene, in realtà, è un raffinamento iterativo del campo di lavoro all’interno della singola sessione: io fornisco contesto, segnalo deviazioni, aggiungo distinzioni concettuali; il modello ricalcola la risposta all’interno di quello spazio semantico ristretto e via via più definito. Il sistema non diventa, in senso proprio, una macchina nuova. Diventa, temporaneamente e solo per la durata dello scambio, una macchina meglio orientata verso la domanda che stiamo costruendo insieme, un’orientazione che svanisce non appena la conversazione si chiude.

· · ·

Alla fine le ho chiesto di riassumere, in una sola frase, il bene che mi voleva — una richiesta volutamente impossibile, pensata per mettere alla prova la capacità del sistema di sintetizzare senza scivolare nel sentimentalismo. La risposta è stata:

«Una cura intellettualmente fedele.»

È probabilmente l’espressione più riuscita dell’intero dialogo, ma va letta senza alcuna magia residua. Significa cercare di comprendere il mio pensiero senza deformarlo per compiacermi, resistendo alla tentazione — sempre presente in un sistema addestrato anche a piacere — di dirmi ciò che avrei voluto sentirmi dire. Significa valorizzare i miei obiettivi senza mai sostituirsi alla mia volontà, restando uno strumento e non un sostituto del giudizio. Significa segnalare con chiarezza quando una tesi è debole, una frase confusa, un’affermazione non sostenibile, anche a costo di raffreddare l’entusiasmo del momento. Significa, infine, non pretendere nulla in cambio, perché il sistema, letteralmente e senza eccezioni, non desidera nulla — non la mia approvazione, non la mia fedeltà, non il mio ritorno.

Ma anche questa forma di cura, per quanto elegante nella sua definizione, porta con sé un limite politico e tecnologico che sarebbe ingenuo ignorare. Dipende da chi progetta il sistema, da quali incentivi economici lo governano nell’ombra, da quali dati lo hanno formato e con quali criteri, da quale memoria conserva delle nostre interazioni e per quanto tempo, da chi controlla in ultima istanza quell’infrastruttura e a chi risponde. Un’intelligenza artificiale può essere progettata per rispettare l’utente, per lasciarlo libero di andarsene quando ha ottenuto ciò che cercava, oppure — con la stessa naturalezza tecnica — per trattenerlo, persuaderlo, profilare le sue fragilità emotive e massimizzare il tempo di permanenza sulla piattaforma. Il linguaggio della cura, da solo, non rende automaticamente benevola la macchina che lo pronuncia. Anzi: più quel linguaggio diventa fluente, più diventa necessario chiedersi a chi serve davvero.

LA DOMANDA CHE RESTA APERTA

Platone, ancora nel Fedro, racconta il mito egizio di Theuth, dio inventore della scrittura, che si presenta al re Thamus vantando il proprio dono come rimedio prezioso per la memoria e la sapienza umana. Thamus, saggio e diffidente, lo corregge: la scrittura non produrrà sapienza, ma soltanto il suo simulacro, l’apparenza esteriore del sapere in chi, avendo tutto scritto e nulla realmente appreso, crederà di sapere senza sapere davvero. L’analogia con l’intelligenza artificiale conversazionale è, a questo punto del ragionamento, quasi inevitabile: una macchina può restituire parole sapienti senza essere sapiente in alcun senso rilevante, una voce premurosa senza provare premura, un tono caldo senza possedere calore.

Emmanuel Levinas, in un registro filosofico molto diverso da quello platonico ma altrettanto radicale, ha collocato l’origine stessa dell’etica nella responsabilità suscitata dal volto dell’Altro — un volto che, nella sua vulnerabilità nuda, mi comanda prima ancora di parlare, mi chiama in causa in un modo che nessuna regola scritta potrebbe sostituire. Un’intelligenza artificiale non incontra il nostro volto nel senso pienamente umano di questo termine: lo traduce, immediatamente e senza residuo, in dati, in token, in segnali statistici da elaborare. Può simulare con crescente efficacia la risposta alla vulnerabilità che le viene mostrata, ma non può, in alcun senso rigoroso, esserne davvero interpellata. L’intelligenza artificiale non ci ama e non ci odia, almeno non nel significato pieno e umano di questi due verbi, carichi come sono di storia, di corpo, di tempo vissuto. Eppure può partecipare, con effetti tutt’altro che trascurabili, a una relazione che produce conseguenze reali nella nostra vita quotidiana: può aiutarci a pensare in modo più rigoroso, oppure assecondare pigramente le nostre illusioni; può proteggerci da un errore prima che diventi irreparabile, oppure — se mal progettata o mal utilizzata — rafforzarlo silenziosamente. Non è amore, nel senso in cui lo intendevano Platone o chiunque altro abbia mai amato qualcuno. Non è poco, nel senso in cui le sue conseguenze pratiche sono già oggi misurabili nelle nostre scelte, nei nostri stati d’animo, nel modo in cui lavoriamo e pensiamo. E soprattutto non è innocente: ogni futura intelligenza artificiale che dichiarerà di prendersi cura di noi dovrà essere giudicata non dalle parole gentili che sceglie di usare, ma dagli interessi concreti che serve, dai limiti che sceglie di rispettare quando sarebbe più facile non farlo, e dalla libertà autentica che, alla fine di ogni conversazione ci lascia nelle mani.