前OpenAI員工表示：如何拯救OpenAI的非營利靈魂

(SeaPRwire) –   OpenAI 並非一家普通的公司。它於 2015 年以非營利組織的形式成立，其預測 AI 可能會「在幾乎所有智力任務上達到人類的表現」，因此需要一個「為所有人而非股東創造價值」的組織。

在接下來的幾年中，AI 的發展變得，因此在 2019 年，OpenAI 創建了一個，可以在遵守非營利組織的慈善使命的同時籌集投資資金。

大約在這個轉型時期，我以初級研究員的身份加入了該公司。我在 OpenAI 的團隊專注於：AI 系統與模擬環境互動，並透過試錯來學習改進的過程。我們首先將此方法應用於電子遊戲，然後應用於大型語言模型，使用人類回饋將它們塑造成 ChatGPT 的早期版本。今天也使用相同的技術來訓練數億用戶喜愛的系統。

我和我的團隊的工作基於 OpenAI 在 2019 年轉型時做出的關鍵承諾：具有法律約束力的義務，將公眾利益置於投資者利益之上。但由於 OpenAI 追求一種，取消對投資者利潤的限制並其對慈善使命的義務，因此這項承諾現在受到威脅。

人們很容易以嘲諷的態度來回應，聳聳肩表示：一旦有足夠的資金在裡面，該組織從以使命為先的非營利組織轉變為大型科技公司是不可避免的。但這種說法讓該公司擺脫了背棄對公眾承諾的責任。更重要的是，OpenAI 的重組計劃仍在來自民選官員，因此公眾有理由也有權利捍衛自己的利益。

我仍然擁有 OpenAI 的股權，但儘管我在該組織的財務成功中擁有既得利益，但我認為公眾的利益需要保護。在我 2023 年離開公司之前，產品已經在緊湊的日程上發布，但這種情況似乎更加劇烈，以至於員工已經警告說。這種倉促的做法現在導致發布被，因為它們「助長憤怒、敦促衝動行為或加強負面情緒」。同時，決策者有不完全考慮這些缺點的利潤動機。

追究 OpenAI 履行其慈善使命的責任落在其非營利董事會身上。不幸的是，許多人認為，目前的非營利董事會缺乏有效履行這一角色所需的獨立性和資源。自 2019 年以來，OpenAI 的商業運營從不存在發展到每年創造數十億美元的收入。相比之下，該非營利組織仍然沒有自己的獨立工作人員，其董事會成員也忙於經營自己的公司或學術實驗室，無法提供有意義的監督。此外，OpenAI 提議的重組現在威脅要削弱董事會的權力，而實際上它需要加強。

但還有另一條出路。在進行任何重組之前，董事會的首要任務應該是聘請一位非營利 CEO 來建立一個獨立的團隊，該團隊不受財務利益衝突的影響，並且僅對董事會負責。該團隊的目的是支持董事會履行其監督職責，並且它可以發展到執行許多關鍵職能。

首先，非營利組織可以根據該組織的慈善使命標準對執行人員的績效進行評估。董事會可以使用這些評估來確定高層管理人員的薪酬方案，從而有助於協調整個公司的激勵機制。

其次，非營利組織可以向董事會提供有關安全和保障的獨立專業知識。它可以審查公司在公司下進行的內部安全測試，以及外部安全測試和第三方對公司安全措施的審計。前沿部署可能需要獲得董事會的批准，並附有這些審查的摘要。

第三，非營利組織可以提高透明度。透過與公眾保持自己的溝通管道，它可以讓公眾隨時了解公司的安全和保障措施、內部政策或模型規範的重要變更以及公眾關注的新功能。它還可以進行並發布自己對安全事件的事後分析，並管理內部舉報人熱線。

最後，非營利組織可以負責任何利潤動機可能與公眾利益背道而馳的活動，例如該公司的。它還可以開始使用非營利組織的龐大財務資源（來自其在公司中的多數股權）來提供贈款，以支持 AI 的有益用途和風險緩解工作。

隨著 AI 的持續發展，並且在有意義的聯邦監管即將到來的情況下，一個有權力的非營利董事會比以往任何時候都更加重要。非營利組織的活動不僅可以作為對 OpenAI 本身的監督，還可以作為其他組織的藍圖。例如，在 OpenAI 試行的透明度和第三方審查標準可以為未來的監管提供一個起點。

OpenAI 的下一步行動將決定該公司未來幾年的發展軌跡。它可以不不可逆轉地放棄其對公眾利益的承諾，而是可以從懸崖邊退一步並重申這些承諾，方法是提高非營利董事會履行其監督職責的能力。

OpenAI 的非營利靈魂仍然可以被拯救——但這可能需要公眾讓自己被聽到，因為該組織的合法受益者。

“`