人工智能何時會超越我們? 要看問誰

(SeaPRwire) –   在1960年,赫伯特·西蒙(Herbert Simon),他之後獲得了諾貝爾經濟學獎和計算機科學的圖靈獎,在他的著作《管理決策的新科學》中表示,「20年內,機器將能夠完成人類可以完成的任何工作。」

歷史上充滿了過於樂觀的技術預測未能實現。在人工智能領域,最狂妄的預測涉及可以執行人類任何任務的系統的到來,通常稱為通用人工智能或AGI。

所以,當Google DeepMind的聯合創始人兼首席AGI科學家Shane Legg表示,他認為AGI有50%的可能性在2028年前開發出來,這可能讓人覺得他也是又一位AI先驅沒有從歷史中吸取教訓。

然而,AI的進步確實在快速發展。OpenAI的ChatGPT使用的語言模型GPT-3.5是在2022年開發的,並在統一律師考試中獲得了213分,這項標準化測試是未來律師必須通過的,使其成為人類考生中分數最低的10%。只過了幾個月,開發的GPT-4就獲得了298分,進入前10%。許多專家預計這種進步將繼續。

Legg的觀點在目前建立最強大AI系統的公司領導人中很常見。在8月,Anthropic的聯合創始人兼CEO Dario Amodei表示,他預計「人類水平」的AI可能在2到3年內開發出來。OpenAI的CEO Sam Altman表示,AGI可能在未來4到5年內實現。

但是,在最近一項調查中,回答AI何時能夠在所有任務上都比人類更好和更便宜的問題時,1712名AI專家的大多數人對此持更保守的觀點。另一項對精英預測者的調查顯示,他們的看法更為保守。

判斷誰是對的的後果很重大。像Legg一樣,許多其他AI先驅都表示,未來強大的AI系統可能導致人類滅絕。即使對那些不太擔心「滅絕情景」的人來說,有人也警告說,能夠替代人類完成任何任務的AI系統可能會造成。

擴展假設

正在建立最大和最強大AI模型的公司領導人普遍認為,AGI的到來即將成為現實。他們認同一種理論,稱為「擴展假設」:即使需要途中有一些技術進步,但持續使用越來越多的計算能力和數據進行AI模型訓練,最終必將導致AGI的出現。

有一些證據支持這一理論。研究人員觀察到AI模型在執行特定任務時的表現與使用的計算能力(也稱為「計算」)之間存在非常整潔和可預測的關係。對於大型語言模型(LLM)——驅動ChatGPT等對話機器人的AI系統——擴展定律可以預測模型在預測句子中缺失詞的能力。OpenAI的CEO Sam Altman最近告訴時代周刊,他在2019年意識到,考慮到擴展定律,AGI的到來可能比大多數人想像的要快得多。

早在觀察到擴展定律之前,研究人員長期以來一直了解,使用更多計算資源進行AI模型訓練可以使其能力更強。過去70年來,用於訓練AI模型的計算資源隨著成本下降而相對可預測地增加。

早期基於預期計算能力增長的預測被專家用於預測AI何時可能與人類匹配(然後可能超越)人類。1997年,計算機科學家漢斯·莫拉維茨表示,便宜的硬件將在2020年代以計算能力匹配人腦。Nvidia A100半導體晶片廣泛用於AI訓練,每塊約為1萬美元,可以執行大約2萬億FLOPS,而本十年末開發的晶片性能將更高。然而,人腦計算能力的估計範圍很廣,從約1000萬億浮點運算每秒(FLOPS)到超過1000萬億FLOPS,使得很難評估莫拉維茨的預測。此外,訓練現代AI系統需要的計算資源遠超過執行它們,而莫拉維茨的預測並未考慮這一點。

最近,非營利組織Epoch的研究人員提出了一種更精細的計算預測方法。與估計AI模型何時將使用與人腦類似的計算資源不同,Epoch方法直接利用擴展定律,並作出簡化假設:如果使用一定計算資源訓練的AI模型可以忠實重現一部分文本——根據擴展定律是否預測該模型可以重複正確預測下一個詞——則它可以完成生成該文本的工作。例如,可以完美重現一本書的AI系統可以替代作者,可以完美重現科學論文的AI系統可以替代科學家。

有人認為,就因為AI系統可以產生人類似的輸出,並不意味著它們必然會像人類一樣思考。畢竟,羅素·克洛在2001年電影《美麗心靈》中扮演諾貝爾獎得主約翰·納什,但沒有人會聲稱他演技越好,他的數學技能就越出色。Epoch研究人員表示,這種類比基於對語言模型工作方式的誤解。隨著規模的增加,LLM獲得了與人類類似的推理能力,而不是僅僅表面模擬人類行為。然而,一些研究人員認為,目前的AI模型是否真正進行推理還不清楚。

Epoch的方法是定量模型擴展假設的一種方式,Epoch的副主任Tamay Besiroglu表示,研究人員傾向於認為AI的進步速度將比模型預測的更慢。該模型估計「轉型性AI」——定義為「如果廣泛部署,將導致與工業革命相比較的變化」——有10%的可能性在2025年出現,50%的可能性在2033年出現。Besiroglu表示,模型預測與Legg等人之間的差異很可能在於實現轉型性AI比AGI更困難。

詢問專家

雖然許多領先AI公司的領導人認為,目前AI進程的路徑很快就會產生AGI,但他們是少數派。為了更系統地評估專家對人工智能未來的看法,人工智能影響項目在非營利機構機器智能研究所進行了一項調查,對象是在過去一年在重要AI會議和期刊上發表同行評審研究的2778名專家。

其中,專家被問到何時認為「高級機器智能」可以「在沒有幫助下,比人類工作者更好和更便宜地完成每一項任務」可能實現。雖然個人預測差異很大,但預測的平均值表明,這一可能性有50%的機會在2047年實現,10%的機會在2027年實現。

與許多人一樣,專家似乎對過去一年AI快速進步感到驚訝,並相應更新了預測。當AI影響項目在2022年進行同樣的調查時,研究人員估計高級機器智能有50%的可能性在2060年實現,10%的可能性在2029年實現。

專家也被問到何時認為機器可以執行各種個別任務。他們估計AI有50%的可能性在2028年寫出排行榜前40名的流行歌曲,在2029年寫出能進入紐約時報暢銷書榜的書。

超級預測者持保守態度

儘管如此,有很多證據表明,專家不一定做出好的預測。