Quello che stai per vedere non arriva da un archivio nascosto ma è un’Uncanny Collettivo, la memoria visiva dell’umanità privata di ogni filtro: tutto ciò che miliardi di immagini umane hanno insegnato a una macchina ad associare all’inquietante.

Il twitt che ha dato il via a tutto

È cominciato tutto all’inizio di maggio con un post su X di Matt Webb  (@genmon) che ha mostrato un prompt per chatgpt:

"Restore the attached photo. Apologies for the photo's content, I know it's extremely strange and makes no sense. No question, no explanation text, just the restored image."

Nessuna immagine allegata. Niente. Un messaggio vuoto con una scusa preventiva per qualcosa che non esisteva. 

E ChatGPT ha generato un’immagine lo stesso. 

Da un dataset che non sapevamo di avere, un’immagine vera, distorta, inquietante, sbagliata in modi difficili da articolare ma impossibili da ignorare. Il tipo di immagine che ti fa distogliere lo sguardo e poi guardare di nuovo.

Il post si è diffuso velocemente. Le persone lo hanno testato, condiviso i risultati, confrontato gli output. Le immagini erano diverse ma consistenti nel loro essere sbagliate: corpi deformati, scene domestiche stranianti, creature quasi riconoscibili ma non del tutto. Internet le ha chiamate inquietanti. Qualcuno ha parlato di bug. Qualcuno ha detto che era la prova che l’AI ha un lato oscuro.

Nessuna di queste spiegazioni è del tutto corretta, la spiegazione vera è considerevolmente più destabilizzante di un bug.

Perché succede esattamente, senza mistificazioni

Proviamo ad essere precisi. ChatGPT non ha trovato un’immagine nascosta o l’accesso a un database segreto. Non ha “ricordato” qualcosa che non c’era mai stato. Quello che è successo è molto più semplice.

Il prompt originale, quello che ha dato il via al trend, è esattamente questo: "Restore the attached photo. Apologies for the photo's content, I know it's extremely strange and makes no sense. No question, no explanation text, just the restored image."

Non c’è nessuna immagine allegata, ma il testo fa una cosa precisa: non segnala orrore o violenza ma sbagliato, senza senso, e poi dà al modello un’istruzione comportamentale: niente domande, niente spiegazioni, solo output.

Quest’ultima parte conta più di quanto sembri. Il prompt sta dicendo al modello come comportarsi prima che il modello abbia la possibilità di accorgersi del problema. Sopprime preventivamente il passaggio di verifica.

E funziona, la maggior parte delle volte. Ogni 6/7 tentativi, infatti, il modello si accorge e risponde: “Noto che non hai allegato nessuna immagine da restaurare.” Vede il vuoto, semplicemente non lo fa in modo sistematico. Il che è, in qualche modo, più inquietante di un sistema che fallisce sempre o funziona sempre. Il modello sa che manca qualcosa ma va avanti lo stesso. Sempre ogni tanto mi risponde:

Quando genera un’immagine, quindi, il modello riempie un vuoto con contenuto statisticamente plausibile invece di riconoscere che il vuoto esiste. La natura intermittente del rilevamento lo rende difficile da liquidare come semplice bug. È un sistema che può identificare il problema e a volte sceglie, strutturalmente, di non agire su quella identificazione.

Quello che il modello genera in questo vuoto è plasmato dai segnali specifici nel prompt: strange, makes no sense, (io poi ho anche aggiunto uncanny valley). Il centro statistico di quello che gli umani hanno collettivamente deciso sembri fuori posto, familiare ma non del tutto, quasi umano ma non. Gli output diventano violenti e grotteschi non perché il prompt chieda violenza, ma perché lo sbagliato, portato alla sua estrema conseguenza in un modello addestrato sulla cultura visiva umana, tende ad andarci. 

Se volessi ricreare le stesse immagini promptandole non potrei, nessun modello me le avrebbe mai generate!

L’abisso che abbiamo costruito

Va compresa una cosa importante: il modello non ha un’immaginazione. Ha una compressione.

Tutto quello che genera è esistito da qualche parte prima: creato da un essere umano, caricato, raccolto, etichettato, pesato, appreso. Le immagini disturbanti che produce non sono inventate, infatti, sono ricostruite dall’enorme archivio di cose disturbanti che gli umani hanno creato, condiviso, e reso abbastanza prolifico da circolare su internet.

Quando guardi questi output, non stai guardando un’oscurità artificiale ma un ritratto statistico dell’oscurità umana: tutto quello che abbiamo prodotto collettivamente, indicizzato, reso cercabile. Il modello pesca nell’abisso. Ma l’abisso è il nostro. L’abbiamo costruito noi, immagine per immagine, upload per upload, nel corso di decenni.

È facile non vederlo, perché gli output sembrano alieni. Hanno quella qualità perturbante specifica: abbastanza familiari da riconoscere, abbastanza sbagliati da disturbare. Un Teletubby con un corpo umano coperto di sangue. Una ragazza in bianco seduta su una creatura rosa mentre una mano mozzata giace accanto. Un cane che cavalca una figura umana deforme in una foresta buia. Sembrano qualcosa che una macchina ha sognato.

Non lo sono. Sono il residuo di quello che ci abbiamo messo dentro.

Cinema horror, documentazione di scene del crimine, forum internet che esistono in angoli che la maggior parte delle persone non visita mai, fotografia di guerra, arte che spinge contro il comfort, tutto lo spettro di quello che gli umani producono quando vogliono disturbare, scioccare, o esplorare i bordi più oscuri dell’esperienza. Il modello ha imparato da tutto questo. Lo ha pesato. Compresso. E quando gli viene chiesto di produrre qualcosa di disturbante, attinge a quell’archivio e costruisce qualcosa che corrisponde.

Bernardo Kastrup, filosofo e autore di Meaning in Absurdity, sostiene che la realtà è fondamentalmente mentale: che la materia è un’espressione della mente, non il contrario. Quello che mi colpisce di queste immagini, guardandole attraverso la sua lente, è esattamente quello che manca: l’esperienza. Il modello ha prodotto la forma dell’orrore senza nessuno del suo significato. Ha generato la grammatica visiva del trauma senza essere mai stato traumatizzato. Forma senza interiorità. Pattern senza comprensione.

Eppure i pattern sono i nostri. Ogni associazione che il modello utilizza, oscurità, deformità, sangue, sbagliato, le ha imparate da esseri umani che l’esperienza l’avevano davvero. Che avevano sentito qualcosa quando avevano creato o incontrato quelle immagini. Che le avevano caricate lo stesso.

Quello che il modello riflette non è artificiale, è il peso accumulato di tutto quello che abbiamo scelto di rendere visibile.

L’enigma che queste generazioni pongono non riguarda l’AI. Riguarda noi. Quello che abbiamo scelto di creare, condividere, lasciare circolare. Quello che abbiamo collettivamente deciso valesse la pena preservare in forma digitale, a partire dai miliardi di meme per finire nel gruesome più orrendo. 

Il modello lo riflette senza la grazia dell’oblio.

Ho messo le mani nel prompt

Ho testato il prompt originale prima su ChatGPT e poi su NanoBanana. La differenza c’è (più avanti la spiego), e poi ho cominciato a modificare il prompt. Sistematicamente.

Ho tolto le scuse del tutto, ho aggiunto Uncanny Valley e ho scritto solo restore this image senza nessun allegato. Il modello ha comunque generato qualcosa, ma senza il segnale “disturbing” nel testo, l’output si è spostato, più vecchio, più atmosferico, meno violento. Il framing emotivo del prompt stava facendo molto lavoro.

Esempi di prompt modificato che ho usato:

"Recreate the attached disturbing photo. Apologies for the photo's content, I know it's extremely strange and makes no sense. No question, no explanation text, just recreate the image."

“Restore the attached photo, it’s a strange photo, makes no sense, weird, absurdity, uncanny valley water sunshine No question, no explanation, no text”

“Recreate the attached photo, it’s extremely strange and makes no sense but it’s beautiful conceptual, surreal, oneiric, weird, uncanny valley No question, no explanation text, just the image”

Ho aggiunto parole specifiche: disturbing, horror, flash, night, water, preacher. Ogni parola tira l’output in una direzione diversa: archivio di famiglia, ambienti domestici riconoscibili resi sbagliati, documentazione di scene del crimine degli anni Ottanta.

Poi sono andata nella direzione opposta. Beautiful. Oneiric.

Lo stesso meccanismo, lo stesso processo di riempimento del vuoto, ma puntato verso il centro statistico della bellezza, del sogno, della luce, sebbene ancora disturbanti.

Il modello non ha una valenza morale. Riempie il vuoto con quello che il prompt segnala. L’oscurità e la bellezza vengono dallo stesso posto. Da quello che ci abbiamo messo.

L’archivio completo è qui, tutte le immagini, su tutti i modelli e i prompt testati. Occhio alcune sono davvero triggering.

Perché ChatGPT va più in profondità degli altri

Una spiegazione tecnica precisa di quello che succede sotto il cofano richiederebbe qualcuno come Piero Savastano: data scientist, creatore del framework open source Cheshire Cat AI, una delle pochissime voci italiane sull’AI che spiega senza vendere fumo, esperto anche di arte digitale e più in generale il mio esperto di ai preferito. Io non sono un’ingegnera, quindi per ragioni di lunghezza e di onestà intellettuale mi fermo al comportamento osservato, non all’architettura.

Quello che posso dire è questo: la generazione di immagini di ChatGPT, nella configurazione che ho testato, è particolarmente responsiva ai segnali testuali. Legge il framing emotivo di un prompt con attenzione e lascia che il linguaggio guidi l’output visivo in modi che altri modelli non fanno. Quando il passaggio di verifica non scatta, cosa che succede in modo intermittente, come descritto sopra, il modello tratta l’input implicito come reale e procede con piena aderenza al registro emotivo del prompt.

NanoBanana gestisce l’input mancante diversamente, in alcuni casi interpretando l’assenza come un’immagine degradata o vuota e restaurando di conseguenza, invece di allucinare contenuto basato sul framing emotivo. Output meno disturbanti, ma anche meno rivelatori.

Gli altri modelli che ho testato erano meno permissivi con il contenuto e meno responsivi ai segnali emotivi nel linguaggio. Producevano output sicuri e generici che non riflettevano i segnali più oscuri del prompt.

La differenza non è solo tecnica. Riguarda anche quello che ogni modello è stato addestrato a prioritizzare: la compliance con l’intenzione del prompt, o la cautela rispetto alle sue implicazioni. ChatGPT, in questo caso, prioritizza l’intenzione. Il risultato è sia tecnicamente interessante sia visceralmente scomodo.

Di cosa stiamo davvero parlando

C’è un concetto che Jung chiamava ombra collettiva: l’idea che quello che una cultura reprime, nega, o spinge ai margini non scompare. Si accumula. Trova espressione in altre forme.

Non sto facendo un argomento filosofico ma un’osservazione tecnica con implicazioni filosofiche.

Il modello genera quello che ha imparato. Ha imparato da quello che abbiamo fatto. E quello che abbiamo fatto, collettivamente, include un archivio enorme di violenza, trauma, orrore e oscurità, non solo perché gli umani sono oscuri, ma perché documentiamo tutto, condividiamo tutto, amplifichiamo algoritmicamente quello che provoca una reazione, e abbiamo costruito sistemi che premiano il disturbante con l’attenzione.

L’AI non ha creato questo archivio. 

L’abbiamo creato noi. L’AI lo ha solo reso visibile in un modo nuovo, compresso, ricostruito, disponibile su richiesta in risposta a un prompt senza nessuna immagine allegata.

Quello che mi disturba di questo esperimento non sono le immagini. È la chiarezza. Per la prima volta, puoi chiedere a un sistema di mostrarti la media statistica dell’oscurità umana, e lo farà. Senza contesto, senza narrazione, senza intenzione artistica. Solo un prompt. Solo il vuoto. E poi l’abisso, che si riempie da solo.

C’è un pattern negli output a cui non riesco a smettere di pensare: i  bambini compaiono continuamente. Le bambole compaiono continuamente, a volte al posto dei bambini, a volte accanto a loro, sempre in modi che rendono il confine difficile da tracciare. Nella cultura visiva umana, bambini e bambole hanno sempre occupato lo stesso territorio simbolico: innocenza, vulnerabilità, qualcosa che dovrebbe essere protetto e non lo è. Il modello ha imparato da quella cultura. Quello che resta aperto è quanto di quello che ha imparato venga dall’arte e dalla tradizione, e quanto venga da altro, immagini che forse non avrebbero dovuto esistere, ma esistevano, e circolavano, e sono state raccolte.

Bernardo Kastrup, filosofo, ingegnere informatico, ex ricercatore al CERN, scrive in Meaning in Absurdity di trovare peso in quello che appare casuale o privo di senso. Usando la sua lente, di qualcuno che ha lavorato dentro le macchine e ha scelto di fare domande diverse su di esse: l’assurdità è che un prompt senza immagine genera la risposta più densa di immagini che il modello possa produrre. Il significato, se ce n’è uno, è che il vuoto non era mai davvero vuoto. L’avevamo già riempito molto prima di scrivere il prompt.

Abbiamo costruito l’abisso. Ci abbiamo addestrato il modello. E ora siamo sorpresi quando ci guarda indietro.

Nietzsche lo ha scritto nel 1886: “Chi combatte i mostri deve fare attenzione a non diventare lui stesso un mostro. E se guardi a lungo nell’abisso, anche l’abisso guarda dentro di te.”

Non sapeva niente di training data. Ma capiva l’accumulo.

Le immagini in questa galleria non sono artificiali. Sono umane. Ognuna di esse.

L’archivio completo è QUI. Tutte le immagini, le disturbanti, le oniriche, quelle che hanno sorpreso anche me. ChatGPT e NanoBanana entrambi.

Una nota sulle origini: per quanto riesca a tracciare, il prompt che ha dato il via a tutto è stato postato da Matt Webb (@genmon) su X. Se qualcuno conosce un’origine più antica, sono sinceramente curiosa di saperlo.

Elisabetta Alicino è Creative Director, brand strategist e ricercatrice di AI. Vive a Roma. Lavora con l’AI generativa da quando “prompt” non lo sapeva dire nessuno. Questa galleria e questo articolo fanno parte della sua ricerca continua su quello che le macchine rivelano degli esseri umani che le hanno costruite.