人工智能誤導資訊是世界上最大的短期威脅,WEF報告警告

(SeaPRwire) –   (倫敦)——假新聞和誤導性信息如果利用最新的人工智能技術加強,將會威脅民主和分裂社會,這是世界經濟論壇今天在報告中提出的短期內全球經濟面臨的最大風險。

在其最新《全球風險報告》中,該組織還表示,一系列環境風險在長期來看構成最大威脅。該報告發布在瑞士山城達沃斯舉行的年度精英聚會前,是根據近1,500位專家、行業領導人和決策者的調查得出的。

報告將假新聞和誤導信息列為未來兩年最嚴重的風險,強調技術的快速進步也在創造新的問題或使現有問題惡化。

作者擔心,由於ChatGPT等生成式人工智能對話機器人的興起,使用先進技術來操縱群眾的人不再限於具有專業技能的人。

人工智能將成為下周達沃斯會議的熱門話題,預計出席的科技公司首腦包括OpenAI CEO Sam Altman、微軟CEO賽特拉·納德拉和人工智能行業人士如Meta首席人工智能科學家Yann LeCun。

當美國、英國、印度尼西亞、印度、墨西哥和巴基斯坦等大型經濟體在今年和明年舉行選舉時,人工智能加強的假新聞和誤導信息正成為一個風險。

「您可以利用AI製作深假新聞,真的影響大量群眾,這真的會推動假新聞的傳播,」Marsh母公司Marsh McLennan共同撰寫報告的風險管理領導人卡羅琳娜·克林特(Carolina Klint)說。

「社會可能會進一步分裂,」因為人們越來越難核實事實,她說。假信息也可以用於質疑民選政府的合法性,「這意味著民主過程可能會被破壞,並且社會分裂也會進一步加深。」

人工智能的興起帶來許多其他風險,她說。它可以「惡意行為者」提供能力,使網絡攻擊如釣魚式攻擊或創建先進惡意軟件更容易進行。

用AI,「你不需要是最聰明的人也可以成為惡意行為者」,克林特說。

它甚至可以污染從網際網路上擷取數據來訓練其他AI系統,這「極其困難逆轉」,可能導致偏見進一步嵌入到AI模型中。

調查風險的其他主要全球問題圍繞氣候變化。

在假新聞和誤導信息之後,極端天氣是短期內第二嚴重的風險。

在長期——定義為10年——極端天氣被描述為第1大威脅,其後是4個其他與環境有關的風險:地球系統的重大變化;生物多樣性損失和生態系統崩潰;以及天然資源短缺。

「在未來10年,我們可能會被推過不可逆轉的氣候變化臨界點,因為地球系統正在發生長期變化。」克林特說。