教宗呼籲制定規範人工智慧的條約

(SeaPRwire) –   羅馬-教宗方濟各週四呼籲制定國際條約,確保人工智慧的發展和使用符合倫理原則,他認為缺乏人類的同情心、仁慈、道德和寬恕等價值的科技存在太大風險。

方濟各加入了越來越多呼籲全球對人工智慧實施具約束力的規範的聲音中,他在天主教會每年1月1日慶祝的世界和平日信息中表達了這一觀點。梵蒂岡周四公布了這份信息的全文。

對方濟各來說,這一呼籲帶有一定個人色彩:今年早些時候,一段人工智慧生成的深假影片在網絡上引起轟動,這充分顯示了現實深假影像如何迅速傳播。

教宗的信息發布在歐盟談判人員剛剛為世界上首部全面人工智慧規則取得初步批准後幾天。這些規則預計將成為考慮自身規範的政府的黃金標準。

去年,人工智慧技術因OpenAI的ChatGPT等前沿系統令人驚嘆的進步而引起全球關注。ChatGPT能夠以人類水平產生文字、照片和歌曲,但同時也引發了人工智慧對就業、隱私和版權保護以及人類生命本身的風險等擔憂。

方濟各認同人工智慧帶來的承諾,並讚揚技術進步是人類智慧創造力的體現,與梵蒂岡在今年聯合國大會上傳達的信息一致,當時不少國家領導人同時提出了人工智慧的機遇與挑戰。

但他在新的和平信息中進一步強調了倫理學家和人權倡導者就這項能夠徹底改變日常生活的技術提出的嚴重存在危險。

梵蒂岡發展辦公室的麥可·切爾尼樞機在新聞發布會上介紹這份信息時表示:「如果人工智慧的發展結果不佳,那就是人類的責任。」

這份文件強調,人工智慧的技術發展和應用必須以保證基本人權、促進和平以及防止誤導、歧視和歪曲為首要考慮。

方濟各最深的擔憂是人工智慧在軍備領域的應用,這一點也是這位耶穌會教宗經常關注的議題,他曾呼籲武器製造商是「死亡商人」。

他指出,遠程武器系統已導致人們「與戰爭的巨大悲劇隔離,對這些武器系統造成的毀滅性影響和使用責任的感知減弱」。

「道德判斷和倫理決策的獨特能力,不僅是一系列複雜算法的集合,也不能被還原為編程一台機器」,他寫道。

他呼籲對自主武器系統(LAWS)實施「適當、有意義和一致」的人類監督,認為世界不需要任何僅為「推動戰爭無謂」的新技術。

在更基本層面上,他警告說,對公民進行自動化排序或分類的系統將對人類造成深遠影響。除了全球各地可能被機器取代的工作外,方濟各指出,這種技術可能決定申請按揭的可靠性,移民是否有權獲得政治庇護,以及前罪犯再犯的可能性。

「不應允許算法決定我們如何理解人權,取代同情心、仁慈和寬恕等基本的人類價值,或消除個人改變和擺脫過去的可能性」,他寫道。

對方濟各來說,這個問題觸及到他作為教宗的一些優先事項,例如譴責社會不公,支持移民,以及服務社會邊緣人群如囚犯。

教宗的信息沒有深入討論可能的具約束力條約的細節,只表示它必須在全球層面進行談判,既促進最佳實踐,也防止有害實踐。他表示,技術公司無法自我監管。

他重申了以前用來譴責破壞地球資源和剝削當地原住民的跨國公司的觀點。

「只有當人類不再屈從於自私、自利、追求利潤和權力的誘惑時,自由和和平共處才不會受到威脅」,他寫道。

都靈理工大學人工智慧中心的芭芭拉·卡普托教授指出,歐盟規則和美國總統拜登10月公布的行政命令在一些基本倫理問題和定義上已有一致性。

「這是一項不小的成就」,她在梵蒂岡新聞發布會上表示。「這意味著任何想開發人工智慧的人,都有一個共同的規範基礎。」

—倫敦的Kelvin Chan也有報導貢獻。

本文由第三方內容提供商提供。SeaPRwire (https://www.seaprwire.com/)對此不作任何保證或陳述。

領域: 頭條新聞,日常新聞

SeaPRwire為公司和機構提供實時新聞稿發佈，覆蓋超過6,500個媒體庫、86,000名編輯和記者,以及90個國家350萬台財經用戶終端。SeaPRwire支持英語、韓語、日語、阿拉伯語、越南語、泰語、印度尼西亞語、馬來語、德語、俄語、法語、西班牙語、葡萄牙語、中文等多種語言的新聞稿發佈。部分中文媒體包括：BuzzHongKong, TIHongKong, TaiwanPR, TWZip, TaipeiCool, DotDebut, TWNut, BaseTopics, EastMud