開放AI的計劃使人工智慧更「民主」

(SeaPRwire) –   2023 年 5 月初某個下午，科林·梅吉爾（Colin Megill）安坐在 OpenAI 舊金山總部會議室內，四周佈滿盆栽。

他被來自世界上領先的人工智慧實驗室的七名員工環繞著，該實驗室在幾個月前推出了 ChatGPT。其中一位是 OpenAI 的聯合創辦人沃伊切赫·紮倫巴 (Wojciech Zaremba)。他需要梅吉爾的幫助。

十多年來，梅吉爾一直在默默無聞地努力，他是波利斯 (Polis) 的聯合創辦人，波利斯是一個非營利的開源科技平台，用於進行公開審議。在梅吉爾看來，民主在數百年的時間裡幾乎沒有進化，而周圍的世界卻發生了不可逆轉的變化。每位選民都有大量信念，而他們必須將這些信念濃縮為單一信號：每隔幾年投票一次。每個人的異質性都會迷失和扭曲，結果是民主制度通常難以反映人民的意願，並傾向於兩極分化。

波利斯創立於 2012 年，是梅吉爾的解決方案。該系統的工作原理是允許用戶在簡短的陳述中表達他們的觀點，並允許他們對他人的觀點進行投票。系統可以使用機器學習來製作用戶價值觀的詳細地圖，清楚地識別出具有相似信念的人群。但真正的創新更為簡單：有了這些資料，波利斯可以提出即使是通常不一致的群體也能達成共識的聲明。換句話說，它消除了兩極分化並提供了一條前進的道路。台灣政府認為波利斯的前景足夠好，並讓波利斯支援了其「社區說明」事實查核功能。現在 OpenAI 前來敲門。

OpenAI 的計算機科學家團隊正在努力解決如何將他們的人工智能與人類價值觀保持一致的技術問題。但公司內部關注戰略和政策的員工也在努力應對棘手的後果：人工智能應該反映誰的價值觀？誰有權決定？

OpenAI 的領導者不願意單方面做出這些決定。他們已經看到社交媒體公司在 2010 年代陷入的政治泥潭，當時一小群矽谷億萬富翁為數十億人制定了公共話語規則。然而，他們也不願意將其人工智能的權力單獨交給政府或監管機構。相反，該人工智能實驗室正在尋找第三條道路：直接訴諸人民。梅吉爾的工作是最接近藍圖的東西，他找到了。

紮倫巴向梅吉爾提出了誘人的建議。兩人均知道波利斯技術有效，但勞動密集；它需要人類在平台上發生審議並事後分析資料。這複雜、緩慢且昂貴——梅吉爾懷疑這些因素限制了其在世界各地民主國家的採用。紮倫巴告訴他，大型語言模型 (LLM)——支持 ChatGPT 等工具的語言模型——可以幫助克服這些障礙。聊天機器人似乎非常適合與人們討論複雜的話題、提出後續問題並確定共識領域。

在他們會面後 11 天，紮倫巴向梅吉爾發送了一個正在工作的原型視頻。「那是科幻電影，」梅吉爾興奮地自言自語。然後，他接受了紮倫巴的邀請，就 OpenAI 最具野心的 AI 治理項目之一向其提供建議。該公司想了解像波利斯這樣的審議技術是否可以為人工智能對齊提供一條道路，讓公眾的大部分人都能達成共識。作為回報，梅吉爾可能會了解到大型語言模型是否是他在尋求的拼圖缺失部分，以幫助波利斯最終克服他看到民主存在的缺陷。

5 月 25 日，OpenAI 在其部落格上發文稱，它正在為一項名為「民主輸入人工智能」的 100 萬美元計劃徵集申請。十個團隊每支將獲得 100,000 美元的資金，以開發「可以回答人工智能系統應遵循哪些規則的民主程序的概念驗證」。目前沒有連貫的機制可以準確地了解全球公眾對任何事情的看法，更不用說像人工智能系統的行為這樣複雜的事情。OpenAI 正試圖找到一個。「我們真的試圖思考：讓人們對這些系統的行為方式發言權的最大可行機制是什麼？」OpenAI 的全球事務負責人安娜·馬坎朱 (Anna Makanju) 於 11 月告訴《時代雜誌》。「因為即使是法規在這個方面也顯然會失靈。」

梅吉爾將作為一個由三位專家組成的無償委員會的成員，就 OpenAI 為哪些應用提供資金向其提供建議。（該公司寫道，實驗結果「至少目前不會」具有約束力。）作為 OpenAI 正在尋找的研究項目的一個例子，OpenAI 發布了一份超級加強版波利斯的模型，其中 ChatGPT 將大規模推進審議，徵求人們的意見並確定共識領域。該公司的首席執行官山姆·阿特曼顯然被這個想法的潛力所吸引。他在 11 月告訴《時代雜誌》，「我們擁有以前從未有過的大規模直接民主的新能力」。「人工智能可以與所有人聊天並獲得他們的實際偏好。」

但在 OpenAI 能夠公開宣布其資助計劃的結果之前，公司陷入了混亂。管理 OpenAI 的非營利組織的董事會解雇了阿特曼，聲稱他對他們不誠實。在動盪的五天後，阿特曼又回到了掌舵位置，董事會也大多數是新人選。突然間，OpenAI 的 10 萬美元補助金獲得者試圖回答的人工智慧治理問題不再那麼理論化。顯然，對先進人工智能的控制現在已成為硬政治和經濟權力的問題，OpenAI 及其贊助商微軟似乎不太可能放棄大量或任何重大的影響力。微軟、谷歌、Meta 和亞馬遜之間正在為爭奪人工智能的主導地位展開激烈的競爭。這些科技公司已經開始競相構建「通用人工智能」，這是一個假設的系統，它可以匹敵甚至超過人類的能力，在此過程中創造數萬億美元的收入。在這種氣氛下，OpenAI 是否真的準備讓公眾決定其最強大系統的規則？而在利害關係如此之大時，真正實現人工智能的民主化是否真的可能？

九月份，在 OpenAI 的舊金山總部的禮堂裡，10 個獲獎團隊的代表聚集在一起展示他們的工作成果。舞台兩旁各有一棵大型屋內棕櫚樹，投影螢幕上掛著一排蔓延的植物。溫暖的金光灑滿了整個房間。OpenAI 的研究員蒂娜·埃倫杜（Tyna Eloundou）走上講台，歡迎聚集的來賓。「在我們的憲章中，我們明確承諾構建造福全人類的人工智能，」她說，指的是 OpenAI 員工應遵守的文件。「由於人類擁有眾多目標和抱負，這是一項艱鉅的任務。」設計一個能夠反映公眾民主意願的系統是否真的有可能？這樣的系統會是什麼樣子？如何解決人工智能系統使某些社區受益多於其他社區這一事實？「這些都是我們正在努力解決的問題，我們需要認真質疑誰有權力和合法性創建這樣的系統，」埃倫杜說。「這不是一個簡單的問題，這就是為什麼我們讓你們所有人都負責解決它。」笑聲在房間內響起。

下一位演講者更進一步說明了場合的莊嚴性。「如果不採用他們的意見，你就無法真正讓某人受益，作為人類，我們都希望對在我們生活中發揮重要作用的事情擁有自主權，」OpenAI 產品經理泰迪·李說。「因此，隨著這些 [AI] 模型變得越來越強大、使用越來越廣泛，確保世界上有相當一部分代表性的人口能夠對其行為方式發言權是極其重要的。」

觀眾中的一個人是安德魯·科尼亞。在向 OpenAI 的項目提交資助申請之前，科尼亞一直在 United 和其他組織合作，以協調被邊緣化聲音的意見。