OpenAI: missione tradita o evoluzione necessaria?
OpenAI, fondata nel 2015 con l’ambizioso scopo di sviluppare un’intelligenza artificiale generale (AGI) che benefici tutta l’umanità, ha attraversato un percorso evolutivo che ha sollevato interrogativi sul suo impegno verso la missione originaria. Nel 2019, l’organizzazione ha adottato una struttura ibrida, combinando una componente no-profit con una a scopo di lucro, al fine di attrarre investimenti necessari per finanziare lo sviluppo dell’AGI. Tuttavia, nel 2024, OpenAI ha annunciato piani per ristrutturare ulteriormente la sua struttura, suscitando preoccupazioni riguardo alla possibile erosione dei principi fondanti. Di seguito, esaminiamo le principali questioni sollevate dalla comunità e le risposte fornite dall’organizzazione.
Dear OpenAI:
We write to you as the legal beneficiaries of your charitable mission.
OpenAI is currently sitting on both sides of the table in a closed boardroom, making a deal on humanity’s behalf without allowing us to see the contract, know the terms, or sign off on the decision.
Your organization was founded with a legally binding commitment to ensure AGI benefits the public. It enshrined that mission in its founding documents, and it used the goodwill it inspired to raise money and attract talent.
Your current structure includes important safeguards designed to ensure your technology serves humanity rather than merely generating profit, including profit caps for investors, nonprofit management of commercial operations, and explicit commitments to prioritize your charitable mission. However, you have proposed a significant corporate restructuring that appears to weaken or eliminate many of these protections, and the public deserves to know the details.
We call for at least a basic level of transparency about how this transition will affect your legal commitments to the public. Specifically, we request clear answers to the following questions: ¹1. Will OpenAI continue to have a legal duty to prioritize its charitable mission over profits?
2. Will OpenAI’s nonprofit continue to have full management control over OpenAI?
3. Which of OpenAI’s nonprofit directors will receive equity in OpenAI’s new structure?
4. Will OpenAI maintain profit caps and abide by its commitment to devote excess profits to the benefit of humanity?
5. Does OpenAI plan to commercialize AGI once developed, instead of adhering to its promise to retain nonprofit control of AGI for the benefit of all of humanity?
6. Will OpenAI recommit to the principles in its Charter, including its pledge to stop competing and start assisting if another responsible organization is close to AGI?
7. Will OpenAI reveal what is at stake for the public in its restructuring by releasing:
a. The OpenAI Global, LLC operating agreement, which sets out OpenAI’s duties to its charitable mission and the powers given to its nonprofit.
b. All estimates of the potential value of above-cap profits, including any estimates it has shared with investors.
We believe your response will help restore trust and establish whether OpenAI remains committed to its founding principles, or whether it is prioritizing private interests over its public mission.
The stakes could not be higher. The decisions you make about governance, profit distribution, and accountability will shape not only your organization’s future but also the future of society at large. Sam Altman has said that OpenAI wants to be held accountable to humanity, and we share this letter in the spirit of offering that accountability.
We look forward to your response and to working together to ensure AGI truly benefits everyone.1 Additional detail on the motivation for and context around each of these questions can be found in the attached appendix, particularly Section 3. To be explicit, we are not requesting trade secrets or any proprietary information — information irrelevant to the public’s entitlements can and should be redacted in any documents OpenAI chooses to disclose.
1. OpenAI continuerà ad avere l’obbligo legale di dare priorità alla sua missione caritatevole rispetto ai profitti?
OpenAI ha dichiarato l’intenzione di mantenere un equilibrio tra gli obiettivi di profitto e la missione sociale. Tuttavia, la transizione verso una Public Benefit Corporation (PBC) potrebbe ridurre gli obblighi legali di perseguire esclusivamente scopi caritatevoli, consentendo una maggiore flessibilità nella distribuzione dei profitti. Questo cambiamento solleva interrogativi sulla coerenza con gli impegni originali.
2. La componente no-profit di OpenAI continuerà ad avere il pieno controllo gestionale su OpenAI?
Inizialmente, la struttura ibrida prevedeva che la componente no-profit detenesse il controllo gestionale. Tuttavia, con la proposta di ristrutturazione, si prevede che la PBC assuma un ruolo di leadership operativa, mentre la componente no-profit manterrà un ruolo di supervisione strategica. Questo spostamento potrebbe ridurre l’influenza diretta della componente no-profit sulle operazioni quotidiane.
3. Quali dei direttori no-profit di OpenAI riceveranno equity nella nuova struttura di OpenAI?
Non sono stati forniti dettagli specifici riguardo alla distribuzione delle quote azionarie tra i membri del consiglio no-profit. Tuttavia, la proposta di ristrutturazione suggerisce che la componente no-profit manterrà una partecipazione significativa nella PBC, sebbene la distribuzione esatta delle quote non sia stata divulgata pubblicamente.
4. OpenAI manterrà i limiti sui profitti e adempierà al suo impegno di destinare i profitti eccedenti al beneficio dell’umanità?
La proposta di ristrutturazione prevede l’eliminazione dei limiti sui profitti, consentendo una maggiore libertà nella distribuzione degli utili. Tuttavia, OpenAI ha dichiarato l’intenzione di reinvestire una parte significativa dei profitti nel finanziamento della sua missione sociale. Nonostante ciò, l’assenza di limiti formali potrebbe ridurre la trasparenza e la responsabilità nell’utilizzo dei profitti.
5. OpenAI prevede di commercializzare l’AGI una volta sviluppata, invece di aderire alla sua promessa di mantenere il controllo no-profit dell’AGI a beneficio di tutta l’umanità?
La proposta di ristrutturazione suggerisce una maggiore apertura alla commercializzazione dell’AGI, con la PBC che assume un ruolo centrale nelle operazioni. Tuttavia, OpenAI ha dichiarato l’intenzione di mantenere un equilibrio tra gli obiettivi commerciali e la missione sociale, sebbene i dettagli specifici su come ciò sarà realizzato rimangano vaghi.
6. OpenAI si impegnerà nuovamente ai principi del suo Statuto, inclusa la promessa di fermarsi e iniziare ad assistere se un’altra organizzazione responsabile si avvicina all’AGI?
OpenAI ha riaffermato il suo impegno verso i principi etici e collaborativi delineati nel suo Statuto. Tuttavia, la transizione verso una struttura PBC potrebbe complicare la realizzazione pratica di tali principi, poiché gli obiettivi di profitto potrebbero entrare in conflitto con gli impegni etici.
7. OpenAI rivelerà cosa è in gioco per il pubblico nella sua ristrutturazione, rilasciando:
a. L’accordo operativo di OpenAI Global, LLC, che stabilisce i doveri di OpenAI verso la sua missione caritatevole e i poteri conferiti alla sua componente no-profit.
Nonostante le richieste di trasparenza, OpenAI non ha ancora reso pubblico l’accordo operativo di OpenAI Global, LLC. La mancanza di accesso a questo documento limita la capacità del pubblico di valutare appieno le implicazioni della ristrutturazione proposta.
b. Tutte le stime del valore potenziale dei profitti eccedenti il limite, comprese eventuali stime condivise con gli investitori.
OpenAI ha dichiarato l’intenzione di rendere pubbliche le informazioni finanziarie rilevanti, ma non sono stati forniti dettagli specifici riguardo alle stime dei profitti eccedenti il limite. La trasparenza in questo ambito è cruciale per garantire la fiducia del pubblico nella gestione dei fondi e degli utili.
La proposta di ristrutturazione di OpenAI solleva interrogativi significativi riguardo alla coerenza con gli impegni originali dell’organizzazione. Mentre OpenAI ha dichiarato l’intenzione di mantenere un equilibrio tra gli obiettivi di profitto e la missione sociale, la transizione verso una struttura PBC potrebbe ridurre gli obblighi legali di perseguire esclusivamente scopi caritatevoli.
La mancanza di trasparenza riguardo agli accordi operativi e alle stime finanziarie limita la capacità del pubblico di valutare appieno le implicazioni della ristrutturazione proposta. È fondamentale che OpenAI fornisca informazioni chiare e dettagliate per garantire la fiducia e l’impegno continuo verso la sua missione di sviluppare un’AGI che benefici tutta l’umanità.
Visita: https://www.openai-transparency.org/ e date una occhiata ai firmatari