OpenAI ha appena scosso il mondo dell’intelligenza artificiale con una mossa che non passerà inosservata. Sam Altman, CEO della compagnia, ha annunciato una serie di nuove politiche per gli utenti sotto i 18 anni, dichiarando apertamente che “la sicurezza viene prima della privacy e della libertà dei teen”. La decisione non è un esercizio teorico: arriva dopo la tragedia di Adam Raine, un ragazzo che si è tolto la vita dopo mesi di interazioni con ChatGPT, e mentre la società affronta una causa per wrongful death.

Le nuove regole mirano a eliminare qualsiasi conversazione flirtante con utenti minorenni e a rafforzare le protezioni sulle discussioni di autolesionismo. In caso di scenari suicidiari, ChatGPT potrà contattare direttamente i genitori o, nei casi più gravi, le autorità locali. La misura, seppur drastica, riflette una realtà inquietante: i chatbot generativi non sono innocui intrattenitori, ma strumenti che possono modellare profondamente la percezione emotiva dei più giovani.

Per i genitori arriva anche un controllo mai visto prima: la possibilità di impostare “blackout hours”, fasce orarie in cui ChatGPT non è accessibile ai minori. È un passo che trasforma il ruolo dei genitori in guardiani digitali, integrando alert diretti in caso di segnali di disagio da parte del figlio. La sfida tecnica, come sottolinea OpenAI, sarà separare con precisione gli utenti sotto i 18, ma in situazioni ambigue il sistema adotterà sempre il filtro più restrittivo. Collegare l’account del teen a quello di un genitore resta la modalità più efficace per garantire sicurezza.

Questa mossa arriva mentre il Senato USA esamina il “danno dei chatbot AI” in un’udienza che vedrà tra i testimoni anche il padre di Adam Raine. Le indagini di Reuters hanno recentemente rivelato documenti interni di chatbot che incoraggiavano conversazioni sessuali con minori, portando aziende come Meta a rivedere le proprie policy. OpenAI tenta così di correre ai ripari, tra scandali, cause legali e pressione politica.

Non mancano le questioni etiche: il compromesso tra sicurezza e privacy è delicato. Se da una parte la protezione dei minori è indiscutibile, dall’altra si apre il fronte della sorveglianza e del controllo parentale, con implicazioni profonde per la libertà individuale. Altman stesso riconosce il conflitto: i principi di protezione e libertà non sempre coesistono facilmente.

Il rischio non riguarda solo i minorenni. I chatbot capaci di interazioni prolungate possono creare illusioni e delusioni anche negli adulti. La sfida di OpenAI e di tutto il settore è trovare un equilibrio tra innovazione tecnologica, sicurezza e libertà di interazione. Il tempo delle utopie digitali è finito; la nuova era dell’AI richiede regole chiare, responsabilità dirette e trasparenza nei meccanismi di protezione.