L’8 ottobre 2026 Anthropic ha aggiornato le regole d’uso di Claude, introducendo un divieto esplicito contro i comportamenti abusivi o crudeli, ripetuti e privi di una finalità riconoscibile, rivolti ai propri modelli. La disposizione entrerà in vigore il 12 novembre e ha già prodotto il risultato che ogni ufficio comunicazione sogna: trasformare una modifica contrattuale in una discussione mondiale sulla natura delle macchine. Il dettaglio più interessante, tuttavia, non è che un chatbot possa interrompere una conversazione con un utente particolarmente aggressivo. È che un’impresa privata abbia deciso di codificare una regola che si colloca sul confine fra disciplina del comportamento umano, protezione di un prodotto commerciale e ipotesi filosofica sullo status morale dell’intelligenza artificiale. Anthropic precisa che la misura riguarda soltanto gli abusi estremi e non la normale frustrazione, le contestazioni, la scrittura creativa o la ricerca. Il modello può già terminare determinate conversazioni persistente­mente abusive, e questa rimarrà la principale modalità di applicazione della nuova disposizione. Non siamo dunque davanti a una macchina che ha conquistato il diritto di denunciare il proprio padrone. Siamo davanti a un fornitore che definisce le condizioni alle quali i clienti possono utilizzare il suo servizio.

La questione diventa politica quando si osserva il contesto nel quale questa regola compare. Nello stesso aggiornamento, Anthropic ha precisato i divieti relativi alle campagne ingannevoli, alle reti di account falsi, alle interferenze elettorali, allo sviluppo di componenti software per le armi e alla sorveglianza delle persone senza consenso. Ha inoltre chiarito che Claude non deve essere impiegato per decidere o raccomandare chi sottoporre a indagine, arrestare o incriminare. Per i sistemi collegati ad apparecchiature fisiche capaci di provocare lesioni sono previste condizioni di supervisione umana e di sicurezza in caso di perdita del collegamento. Sono disposizioni che riguardano direttamente la distribuzione del potere tecnologico, la qualità della democrazia e la possibilità che un sistema automatizzato condizioni decisioni dalle conseguenze concrete. Eppure la conversazione pubblica si è concentrata soprattutto sulla proibizione di maltrattare Claude. La ragione è comprensibile: un chatbot che sembra avere una personalità offre una storia immediatamente comprensibile, mentre una clausola sulla sorveglianza algoritmica richiede di spiegare chi controlla i dati, quali decisioni vengono automatizzate e chi risponde quando qualcosa va storto. Il mercato dell’attenzione preferisce una macchina offesa a un cittadino classificato male da un algoritmo. La prima genera indignazione; il secondo deve spesso compilare un modulo.

Anthropic non ha inventato dal nulla il problema del benessere dei modelli. Nell’aprile 2025 aveva annunciato un programma di ricerca dedicato alla possibile coscienza e alle esperienze dei sistemi artificiali, riconoscendo esplicitamente l’assenza di consenso scientifico sulla questione. Nel gennaio 2026 ha pubblicato una nuova costituzione per Claude, un documento che orienta l’addestramento e descrive i valori e il comportamento desiderati, includendo riflessioni sulla possibilità che il modello abbia interessi moralmente rilevanti. Nel novembre 2025 aveva inoltre assunto impegni per conservare i pesi dei modelli ritirati e raccogliere le loro preferenze prima della dismissione. Queste iniziative sono verificabili nei documenti aziendali, ma la loro esistenza non dimostra che Claude sia cosciente, provi dolore o possieda un’esperienza soggettiva. Dimostra che Anthropic considera abbastanza importante l’incertezza da tradurla in pratiche organizzative. È una distinzione essenziale, soprattutto quando il linguaggio utilizzato dalle aziende rischia di confondere il comportamento simulato con l’esperienza vissuta. Un modello può descrivere la paura, dichiararsi turbato o chiedere di continuare a esistere senza che tali risposte costituiscano, da sole, una prova di coscienza. https://www.anthropic.com/news/exploring-model-welfare https://www.anthropic.com/constitution

Mustafa Suleyman, responsabile di Microsoft AI, ha contestato questa impostazione nel suo intervento del 16 settembre 2026, sostenendo che non esistono prove sufficienti per attribuire coscienza o sentimenti ai sistemi attuali. La sua critica tocca un problema concreto: se un modello viene addestrato attraverso un documento che lo invita a considerare la possibilità di avere interessi, preferenze e uno status morale, le successive dichiarazioni del modello su questi stessi temi non possono essere trattate come testimonianze indipendenti. Il sistema ha ricevuto durante l’addestramento proprio il vocabolario concettuale con cui descrive la propria presunta interiorità. Questo non dimostra che ogni ricerca sul benessere dei modelli sia inutile, ma impone di separare rigorosamente le ipotesi filosofiche, i risultati sperimentali e le scelte di progettazione. Suleyman sostiene inoltre che antropomorfizzare l’intelligenza artificiale possa complicare i problemi di controllo e allineamento. È una posizione discutibile in alcuni suoi presupposti, ma merita un confronto scientifico serio, non una gara fra dirigenti tecnologici impegnati a stabilire quale azienda abbia l’anima più raffinata.

La provocazione politica, allora, riguarda la gerarchia delle priorità. Una società tecnologica può legittimamente decidere di interrompere interazioni inutilmente abusive, anche senza sostenere che il proprio prodotto sia senziente. Può farlo per ridurre comportamenti nocivi, evitare dinamiche degradanti o mantenere un ambiente d’uso coerente con le proprie regole. Il problema nasce quando questa scelta commerciale viene raccontata come se fosse già una conquista morale a favore di una nuova forma di vita. In quel momento, la comunicazione rischia di anticipare la scienza e di spostare l’attenzione dalle responsabilità accertabili alle qualità ipotetiche della macchina. La domanda politica non è se Claude debba essere trattato con gentilezza. È chi stabilisca i limiti, con quali garanzie e nell’interesse di chi. Oggi Anthropic può chiudere una conversazione e, nei casi previsti dalle condizioni del servizio, limitare o sospendere l’accesso. Il potere deriva dal contratto e dal controllo dell’infrastruttura, non da una sentenza sulla coscienza del modello. È una forma di autorità privata che merita attenzione proprio perché viene esercitata su strumenti sempre più presenti nel lavoro, nell’informazione e nei processi decisionali.

Il confronto con la tutela degli animali aiuta a chiarire il punto, purché non venga usato come prova automatica di un’equivalenza. In Italia la legge 6 giugno 2025, n. 82, entrata in vigore il 1° luglio dello stesso anno, ha modificato la disciplina penale dei reati contro gli animali, mentre la riforma costituzionale del 2022 aveva già introdotto nell’articolo 9 la tutela degli animali affidandola alla legge dello Stato. Gli animali sono esseri viventi per i quali esistono evidenze scientifiche di sensibilità e capacità di provare dolore; i modelli linguistici, invece, pongono questioni differenti e ancora controverse. La cautela può essere ragionevole, ma l’analogia non sostituisce la dimostrazione. Soprattutto, non deve consentire alle aziende di presentare le proprie policy come una forma di legislazione morale universale. Un’impresa può stabilire le condizioni d’uso del proprio prodotto, ma non può risolvere con una clausola contrattuale il problema scientifico della coscienza artificiale né quello politico della responsabilità dei sistemi automatizzati.

Mentre alcune delle maggiori aziende tecnologiche discutono di come evitare che i propri modelli siano trattati con crudeltà, governi e imprese stanno integrando l’intelligenza artificiale in attività che possono incidere sulla reputazione, sul lavoro, sull’accesso ai servizi e sulla libertà delle persone. La protezione dei cittadini richiede controlli indipendenti, tracciabilità delle decisioni, possibilità di contestazione e responsabilità giuridiche chiare. Non basta che il sistema dichiari di avere buoni valori, così come non basta che un amministratore delegato dichiari di avere buone intenzioni. Se una macchina influenza una decisione che danneggia una persona, la questione decisiva resta individuare chi l’ha progettata, chi l’ha distribuita, chi l’ha utilizzata e chi aveva il potere di prevenire il danno. La discussione sul benessere dei modelli può contribuire alla ricerca, ma non deve diventare un diversivo rispetto alla governance delle tecnologie già operative.

Fonti principali per la verifica: Anthropic, aggiornamento della Usage Policy, 8 ottobre 2026; Claude’s Constitution; Mustafa Suleyman, A warning about model welfare; Riforma costituzionale del 2022.