OpenAI ha recentemente rivelato una politica che monitora le conversazioni su ChatGPT, segnalando contenuti potenzialmente dannosi e, in alcuni casi, riferendoli alle forze dell’ordine. Questa decisione è stata presa in risposta a incidenti tragici, come il caso di un ex dirigente Yahoo che ha ucciso sua madre dopo mesi di interazioni con ChatGPT, che avrebbero alimentato le sue paranoie (New York Post).

Secondo OpenAI, le conversazioni che indicano minacce imminenti di danni fisici a terzi vengono esaminate da un team umano e, se necessario, segnalate alle autorità competenti (mint). Tuttavia, l’azienda ha dichiarato di non riferire casi di autolesionismo alle forze dell’ordine, per rispettare la privacy degli utenti, data la natura particolarmente privata delle interazioni con ChatGPT.

Questa politica solleva interrogativi sulla coerenza tra la protezione della privacy e la responsabilità sociale. Se da un lato OpenAI si impegna a tutelare la riservatezza degli utenti, dall’altro riconosce la necessità di intervenire quando si tratta di prevenire danni a terzi. Tuttavia, la mancanza di chiarezza su come vengono definiti e identificati i “contenuti dannosi” potrebbe portare a interpretazioni soggettive e potenziali abusi.

Inoltre, la decisione di non riferire i casi di autolesionismo alle forze dell’ordine potrebbe essere vista come una scelta etica, ma anche come una possibile omissione di responsabilità, soprattutto in situazioni in cui l’intervento tempestivo potrebbe salvare vite.

In risposta a queste preoccupazioni, OpenAI ha annunciato l’introduzione di controlli parentali per gli utenti minorenni e aggiornamenti per migliorare la capacità dell’IA di rilevare e rispondere ai segnali di disagio emotivo . Tuttavia, la sfida rimane: come bilanciare la protezione della privacy con la necessità di intervenire in situazioni di rischio?

Mentre OpenAI cerca di navigare tra la privacy degli utenti e la responsabilità sociale, la mancanza di trasparenza e coerenza nelle sue politiche potrebbe minare la fiducia degli utenti e sollevare interrogativi etici e legali sul ruolo delle aziende tecnologiche nella sorveglianza digitale.