Quando il watermark rischia di diventare un marchio sull’intelligenza
«Que sais-je?»Michel de Montaigne
Un sigillo non certifica un autorato: attesta soltanto un passaggio.
C’è qualcosa di profondamente antico nel modo in cui stiamo affrontando una delle tecnologie più nuove della nostra storia recente. Abbiamo costruito sistemi capaci di dialogare con noi, di elaborare immagini, di attraversare in pochi secondi biblioteche intere di conoscenza, di affiancare scienziati, medici, progettisti, ingegneri, artisti. E la prima cosa che abbiamo deciso di fare, davanti a tanta potenza, è stata cercare il modo di marchiarla. Non di comprenderla: di marchiarla attraverso un segno. Un marchio che, in questo contesto, pur nell’azzardato del paragone, mi richiama alla mente il meno edificante ed apocalittico “marchio della bestia”. Quel segno che nell’Apocalisse di Giovanni identifica, distingue e determina appartenenza. E, per altra via, evoca il fantasma della caccia alle streghe, quando il sospetto verso ciò che appariva diverso, incomprensibile od estraneo all’ordine riconosciuto, poteva trasformare un’etichetta in una condanna. Naturalmente oggi non viviamo nulla di paragonabile a tali persecuzioni, il richiamo é più nel meccanismo del pensiero, ma il paradosso, credo, meriti più di una riflessione banale, perché dice qualcosa su di noi prima ancora che sulla macchina.
Dal 2 agosto 2026 sono divenuti applicabili, in Europa, gli obblighi di trasparenza previsti dall’articolo 50 dell’AI Act, che impongono ai fornitori di sistemi generativi di rendere determinati output riconoscibili attraverso marcature machine-readable: segnali statistici incisi nella distribuzione di probabilità con cui il modello sceglie, token dopo token, la parola successiva – uno scostamento impercettibile nel campionamento che un classificatore addestrato allo scopo può poi rilevare con un certo margine di confidenza. La ratio è comprensibile, per certi versi doverosa: deepfake, disinformazione, impersonificazione, frodi, produzione industriale di contenuti sintetici rendono necessari strumenti capaci di ricostruire la provenienza di ciò che leggiamo. Il problema tuttavia non nasce dalla norma. Nasce dal salto logico che la norma non compie – ma che rischiamo di compiere noi, distrattamente, ogni volta che confondiamo la provenienza tecnica con l’origine intellettuale di un’opera. Sono due grandezze incommensurabili, e trattarle come sinonimi significa costruire un errore di categoria destinato a sopravvivere alla tecnologia che lo ha generato.
Nell’agosto 2026 Anthropic ha reso pubblico il funzionamento del watermark che accompagnerà i testi prodotti dai futuri modelli della famiglia Claude. Il dettaglio più istruttivo di quella documentazione, però, non riguarda ciò che lo strumento è in grado di fare. Riguarda ciò che ammette, con onestà tecnica non scontata, di non poter fare. Un watermark restituisce una probabilità posteriore: quanto è plausibile, dato un certo segnale rilevato, che un determinato modello abbia contribuito ad un testo. Non stabilisce se quel modello lo abbia scritto ex novo o abbia semplicemente rifinito, riformulato, compresso qualcosa che un essere umano aveva già pensato, vissuto, strutturato in decenni di lavoro. E soprattutto – è la precisazione che dovrebbe farci riflettere più a lungo – non stabilisce né proprietà né paternità intellettuale. È un problema di robustezza del segnale prima ancora che di etica: una marcatura pensata per resistere alla parafrasi, alla traduzione, alla ricompressione stilistica, non per pesare il contributo cognitivo di chi l’ha generata.
Se ognuno di noi utilizza un sistema generativo per sviluppare un’intuizione nata dalla nostra esperienza – se lo interroga attingendo a conoscenze costruite in decenni, se scarta dieci risposte e ne corregge altre cinque, se ne cambia struttura, direzione, linguaggio, senso, e infine assembla un frammento di quell’output dentro qualcosa che prima non esisteva – chi ha creato cosa in quel momento? Che percentuale spetta alla macchina? Ottanta per cento, venti, cinque?
E con quale unità di misura potremmo mai calcolarlo? Si potrebbe provare a scrivere un’equazione: idea —> conoscenza —> esperienza —> intenzione —>selezione —> iterazione —> intervento del modello —>revisione —> assunzione di responsabilità che, sommati, danno un’opera.
Ma è un’equazione fatta di grandezze eterogenee, incommensurabili come un numero irrazionale davanti ad un matematico pitagorico. Un token si conta con precisione assoluta. Un’intuizione no. Possiamo misurare quante parole abbia prodotto un modello in una notte di lavoro; non possiamo assegnare lo stesso peso numerico a decenni di mestiere che permettono ad una persona di sapere esattamente quali domande porre, quali risposte scartare, e per quale ragione. È qui, precisamente qui, che il watermark cessa di essere un problema di ingegneria e diventa, quasi senza che ce ne accorgiamo, un problema filosofico.
«Un token si conta. Un’intuizione no.»
Francis Bacon, nel Novum Organum, chiamava Idola Fori gli inganni che nascono non dalla realtà ma dal linguaggio con cui gli uomini tentano di afferrarla: parole che finiscono per dominare l’intelletto invece di servirlo, imponendo categorie che semplificano il mondo fino a deformarlo. Quattro secoli più tardi rischiamo di erigere un nuovo Idola Fori, dal nome: AI-generated. Una dicitura pensata per essere tecnicamente neutra – un’etichetta di provenance, un metadato accanto ad un file – può scivolare, nell’immaginario collettivo, verso un giudizio morale mai dichiarato. «Generato dall’AI» comincia a significare, senza che nessuno lo affermi esplicitamente: non umano. Poi: non autentico. Poi ancora: non creativo. Infine, nel peggiore degli esiti: meno degno di rispetto. Nessuno di questi passaggi è logicamente necessario. Eppure il linguaggio, lasciato a sé stesso, tende a scivolarvi comunque – ed è esattamente il meccanismo che Bacon aveva già descritto, secoli prima che esistesse una sola e vaga idea dell’innovazione di oggi.
A questo punto la storia offre una metafora scomoda, che va maneggiata con molta attenzione: non perché il presente possa essere accostato alle atrocità dell’Inquisizione – sarebbe non solo storicamente scorretto, ma moralmente offensivo, equiparare un dibattito normativo contemporaneo alle torture ed alle esecuzioni inflitte a uomini e donne accusati di eresia – ma perché nella storia dell’eresia riconosciamo, spogliato della sua violenza, un meccanismo mentale che ci riguarda ancora: quello attraverso cui una comunità costruisce la figura del deviante. L’eretico, in fondo, non era semplicemente chi sbagliava. Era chi si allontanava dalla spiegazione ritenuta legittima dal proprio tempo. Ogni epoca ha le sue ortodossie, ed ogni trasformazione profonda genera, quasi per riflesso condizionato, sospetto verso chi per primo attraversa un confine che la maggioranza non ha ancora osato varcare. Oggi quel confine passa, forse, tra intelligenza umana ed intelligenza artificiale – e rischiamo di costruire, quasi senza volerlo, una nuova figura sociale: l’eretico digitale. Colui che utilizza l’intelligenza artificiale. Non importa ancora come. Non importa perché. Non importa con quale competenza, quale onestà, quale intenzione: la sola traccia rilevata da un classificatore, con la sua percentuale di falsi positivi mai del tutto azzerabile, potrebbe bastare a innescare il sospetto. Ed è proprio questo automatismo – il salto dalla traccia al giudizio – che dovremmo imparare a disinnescare per tempo.
Idea e token non condividono la stessa unità di misura.
La trasparenza è necessaria. La responsabilità è indispensabile. La tracciabilità, in molti contesti, può rivelarsi preziosa. Ma nessuna di queste tre virtù dovrebbe trasformarsi in uno stigma. Anche OpenAI, descrivendo il proprio approccio alla provenance attraverso Content Credentials, lo standard C2PA, watermarking crittografico e strumenti di verifica, riconosce un principio di fondo: nessun singolo sistema di rilevamento è, né potrà mai essere, perfetto – ogni fingerprint statistico convive con una soglia di errore che nessuna ingegneria potrà azzerare del tutto. Anthropic, dal canto suo, ammette senza reticenze che un watermark può testimoniare il coinvolgimento di un proprio modello, ma non può stabilire da solo chi sia l’autore reale di un’opera. È una distinzione che meriterebbe di diventare patrimonio culturale condiviso, non solo nota tecnica in fondo ad un white paper, perché rilevare uno strumento non equivale a misurare l’intelligenza che lo ha impiegato.
Se giudicassimo la conoscenza umana soltanto guardando agli strumenti utilizzati per produrla, dovremmo riscrivere gran parte della storia della civiltà. La fotografia non ha eliminato lo sguardo del fotografo. Photoshop non ha trasformato automaticamente ogni grafico in un impostore. Il CAD non ha cancellato l’architetto. La calcolatrice non ha reso fraudolento il lavoro del matematico. Il sintetizzatore non ha cancellato il musicista. Ed il fatto che Michelangelo si servisse di scalpelli non attribuisce allo scalpello la paternità della Pietà. È vero, naturalmente, che un modello linguistico è uno strumento di complessità molto superiore: interviene direttamente nella produzione del linguaggio, dell’immagine, delle alternative creative stesse, non si limita ad eseguire un gesto ma propone, tra migliaia di continuazioni possibili pesate secondo la loro log-probability, quella che sembra più adatta. Proprio per questo avremmo bisogno di categorie concettuali più sofisticate, non più grossolane, per comprenderlo.
Que sais-je?
Montaigne aveva fatto del dubbio metodico un’arma contro la presunzione della certezza. Che cosa so, davvero? È forse la domanda che dovremmo rivolgere, oggi, anche ai nostri sistemi di classificazione automatica. Quando un rilevatore segnala una provenienza artificiale, che cosa sappiamo per certo? Sappiamo che un modello è intervenuto in qualche fase del processo, con un margine di confidenza statistico non assoluto. Non sappiamo chi abbia avuto l’idea originaria. Non sappiamo quanta conoscenza pregressa sia stata necessaria per orientare il risultato. Non sappiamo quante iterazioni siano state scartate prima di arrivare a quella definitiva, né quale parte sia stata riscritta, corretta, ripensata da mano e mente umana. Non sappiamo chi abbia preso le decisioni davvero determinanti. E soprattutto non sappiamo – questo è forse il punto più cruciale – se, senza quella specifica persona, quel particolare risultato sarebbe mai venuto alla luce.
Forse, semplicemente, stiamo ponendo la domanda sbagliata. L’interrogativo del futuro prossimo non dovrebbe fermarsi a «è stata utilizzata l’intelligenza artificiale?». Dovrebbe diventare: in che modo è stata utilizzata? Per sostituire una competenza che non c’era, o per amplificarne una che esisteva già? Per ingannare, oppure per progettare con maggiore cura? Per imitare pedissequamente, oppure per esplorare possibilità che prima restavano fuori portata, al di là dell’orizzonte tracciato dai dati di addestramento? Per deresponsabilizzare chi la usa, o per permettergli, al contrario, di assumere decisioni migliori?
«Il problema non è marchiare le macchine. Il problema comincia quando, attraverso quel marchio, finiamo per marchiare gli uomini.»
Sono domande molto più difficili da comprimere dentro un watermark. Ma sono anche le uniche capaci di dirci qualcosa di realmente significativo sull’origine di ciò che stiamo creando insieme, uomini e macchine. Perché la storia ce lo insegna da tempo: quando una società anziché interrogarsi sulla complessità comincia a classificare sommariamente chi attraversa una frontiera nuova, prima o poi finisce per inventarsi nuovi eretici. Questa volta, forse, potremmo evitarlo. Sarebbe paradossale usare l’intelligenza artificiale per entrare nel futuro portandoci dietro, come bagaglio involontario e pesante, uno dei difetti più antichi dell’intelligenza umana.