Per anni le grandi piattaforme digitali hanno prosperato dietro una distinzione giuridica apparentemente semplice: ospitare contenuti prodotti da altri non equivale a crearli. È il principio che ha sostenuto gran parte dell’economia di Internet, dai social network ai motori di ricerca. Una recente decisione di un tribunale tedesco, tuttavia, introduce una frattura potenzialmente storica in questa logica e potrebbe avere conseguenze che vanno ben oltre Google, arrivando fino al cuore dell’intera industria dell’intelligenza artificiale generativa.

Il caso nasce da due aziende che hanno scoperto di essere state descritte da AI Overviews, la funzione di risposta automatica integrata nella ricerca Google, come attività fraudolente. Il problema non era soltanto l’errore. Il problema era che tali accuse non comparivano nelle fonti citate dal sistema. Erano state generate autonomamente dal modello AI. Secondo il tribunale, non si trattava quindi di una semplice sintesi errata di contenuti esistenti, bensì di nuove affermazioni create dalla macchina. In altre parole, il testo contestato non apparteneva a Internet; apparteneva a Google.

La distinzione sembra sottile ma, dal punto di vista legale, è potenzialmente esplosiva. Il modello economico dei grandi operatori digitali si è fondato sull’idea di essere intermediari. Se invece un sistema AI produce affermazioni originali, la società che lo gestisce potrebbe essere considerata editore, autore o comunque soggetto responsabile del contenuto generato.

Il ragionamento del tribunale tedesco appare sorprendentemente pragmatico. Google aveva sostenuto che gli utenti possono sempre verificare le risposte controllando i link forniti come fonti. La corte ha risposto con una considerazione difficile da contestare: se ogni risposta AI dovesse essere verificata manualmente dall’utente attraverso tutte le fonti collegate, l’intera funzione perderebbe la propria ragion d’essere.

Questa osservazione colpisce il punto più vulnerabile dell’attuale entusiasmo per l’AI generativa. Il valore commerciale di questi sistemi non consiste nel mostrare documenti originali, ma nel risparmiare tempo all’utente. L’intero modello di business è costruito sull’idea che l’utente possa fidarsi della sintesi prodotta dalla macchina. Se la difesa legale diventa “controllate tutto da soli”, il prodotto smette di essere utile.

Da oltre trent’anni osservo l’evoluzione delle piattaforme digitali e raramente ho visto una contraddizione così evidente tra marketing e strategia legale. Le aziende tecnologiche promuovono l’AI come assistente intelligente, affidabile e capace di ragionare; quando emerge un problema, tendono invece a descriverla come uno strumento sperimentale che l’utente dovrebbe verificare autonomamente. Le due posizioni non possono convivere indefinitamente.

La questione assume una rilevanza ancora maggiore osservando il contesto internazionale. Negli Stati Uniti, la celebre Sezione 230 del Communications Decency Act ha garantito per decenni una forte protezione alle piattaforme online, stabilendo che non possono essere considerate responsabili per gran parte dei contenuti pubblicati dagli utenti. L’avvento dei modelli linguistici introduce però un’ambiguità completamente nuova. Se il contenuto non è scritto da un utente ma viene generato dall’algoritmo dell’azienda stessa, chi è realmente l’autore?

La sentenza tedesca non elimina automaticamente tali protezioni, ma evidenzia una zona grigia che legislatori e tribunali dovranno inevitabilmente affrontare. Quando un modello AI combina informazioni provenienti da più fonti e genera una frase mai esistita prima, non siamo più nel territorio dell’indicizzazione. Siamo nel territorio della produzione di contenuti.

L’impatto potenziale va ben oltre Google. Aziende come OpenAI, Anthropic, Microsoft e Meta stanno investendo miliardi di dollari in sistemi che producono risposte autonome. Tutti affrontano il medesimo problema strutturale: i modelli linguistici non recuperano semplicemente informazioni; le rielaborano, le reinterpretano e talvolta le inventano.

Dal punto di vista economico emerge una tensione significativa. Più un sistema AI viene reso creativo, autonomo e conversazionale, maggiore diventa il rischio legale associato agli errori. Al contrario, più viene limitato per ridurre tali rischi, meno appare rivoluzionario agli occhi degli utenti. L’industria sta scoprendo che l’innovazione e la responsabilità non crescono necessariamente nella stessa direzione.

Questa decisione potrebbe inoltre accelerare lo sviluppo di nuove architetture tecniche orientate alla verificabilità. Negli ultimi mesi il settore ha iniziato a parlare sempre più frequentemente di sistemi con citazioni puntuali, retrieval verificabile e tracciabilità delle fonti. Non si tratta soltanto di migliorare l’accuratezza; si tratta di costruire una difesa legale credibile.

Molti dirigenti della Silicon Valley preferiscono presentare il fenomeno delle allucinazioni come un difetto temporaneo destinato a scomparire con modelli più avanzati. La realtà è più complessa. L’errore non è un bug accidentale facilmente eliminabile. È una conseguenza diretta del modo in cui questi sistemi generano linguaggio. Miglioreranno certamente, ma la probabilità di affermazioni inesatte non arriverà mai a zero.

Per questo motivo la sentenza tedesca potrebbe essere ricordata come uno dei primi tentativi seri di adattare il diritto all’era dell’intelligenza artificiale generativa. Non punisce Google per avere indicizzato informazioni sbagliate presenti sul web. La responsabilizza per averne create di nuove. È una differenza apparentemente tecnica che, nel lungo periodo, potrebbe ridefinire il rapporto tra innovazione, responsabilità e fiducia.

L’intera corsa all’AI si fonda infatti su un presupposto implicito: gli utenti devono credere che le risposte prodotte abbiano un valore sufficiente da sostituire il lavoro di ricerca tradizionale. Se i tribunali iniziano a considerare quelle risposte come pubblicazioni autonome e non come semplici collegamenti intelligenti, l’industria potrebbe trovarsi di fronte alla sua prossima grande sfida. Non quella tecnologica, che continua ad avanzare a velocità impressionante, ma quella giuridica. E nella storia della tecnologia, le rivoluzioni spesso non vengono rallentate dai limiti dell’ingegneria; vengono ridefinite dai limiti della responsabilità.