人工智能成為戰爭新領域:「更難證明什麼是真實的」

耶路撒冷 – 在過去兩週,自從巴勒斯坦恐怖組織哈馬斯在以色列南部發動致命攻擊殺害約1400人以來,以色列和巴勒斯坦人之間的老戰爭可能在數字領域開啟新的戰線。

雖然在中東戰爭中長期使用過偽造圖片和假新聞,但隨著去年年底易於使用的人工智慧(AI)生成工具的出現,深偽圖像很可能很快就會出現在戰場上。

“哈馬斯和其他巴勒斯坦派別在過去曾將其他衝突中的殘忍圖片假冒為巴勒斯坦受以色列襲擊的受害者,所以這在這個戰場上不是唯一的,”民主保衛基金會的研究經理大衛·梅(David May)告訴數字。

他描述過去哈馬斯曾知道如何恐嚇記者不報導它在加薩走廊使用人體盾牌,以及安排圖片展示在瓦礫堆中的嬰兒和泰迪熊。

“哈馬斯在加薩走廊控制著敘事,”梅說,他密切關注哈馬斯的活動,加上”AI生成圖像將使已充滿誤導信息的以巴衝突更加複雜。”

已有一些報導指出圖片被重新上傳自不同衝突,上週一張在加薩瓦礫堆中爬行的哭泣嬰兒照片被揭發為AI創作。

“我稱之為升級的假新聞,”以色列賽博研究所(CyBureau)創始人兼主任塔爾·帕維爾博士(Dr. Tal Pavel)告訴數字。”我們已知假新聞一詞,大多數情況下是被操縱或置於虛假內容中的視覺或書面內容。AI或深偽是我們將這些圖像帶入生動視頻片段中。”

帕維爾稱AI生成深偽視覺圖像是”對民主的最大威脅”。

“不僅在戰時,也在其他時間,因為越來越難證明什麼是真實的,”他說。

在日常生活中,帕維爾指出,深偽誤導信息的案例已經出現。他舉例其在犯罪幫派進行欺詐時使用改變聲音的技術,或在選舉期間操縱視頻和聲音以改變公眾看法。

在戰爭中,他補充說,它可能更危險。

“這是處女地,我們只處於第一階段,”帕維爾說。”任何人,只需低成本資源就可以使用AI創建一些驚人的照片和圖像。”

這種技術已在俄羅斯在烏克蘭持續的戰爭中使用,民主保衛基金會另一研究員伊娃娜·斯特拉德納(Ivana Stradner)專門研究烏克蘭-俄羅斯領域也這樣說。

去年3月,一段假造且高度修改的澤倫斯基總統視頻要求他的士兵放下武器向俄羅斯投降被上傳到社交媒體並被烏克蘭新聞轉載。一旦發現是假的,該視頻很快被下架。

“深偽視頻可以非常逼真,如果製作得很好,則很難檢測,”斯特拉德納說,並補充實際照片很容易被竊取、修改和重用,語音模仿應用程式也很容易獲得。

在加薩,情況更加困難。幾乎沒有知名的可信記者目前在該地區-哈馬斯在10月7日攻擊中摧毀了進入巴勒斯坦走廊的主要人道通道,外國新聞機構無法進入-區分事實和假消息已經很大挑戰,使用AI平台可能變得更難。

然而,希伯倫大學耶路撒冷深偽研究專家耶迪德·霍申博士(Dr. Yedid Hoshen)表示,這些技術不完全無法騙過。

“創建圖像本身不難,市面上有許多技術可供使用,任何技術水平普通的人都可以生成圖像或視頻,但當我們說深偽時,我們指的是面部交換或面部置換。這類假圖像更難創建,對於這種衝突,它們必須用希伯來語或阿拉伯語製作,而大多數技術仍然只有英語版本。”

此外,霍申說,AI視覺圖像與真實圖像之間仍有明顯差異。

“聲音與視頻同步仍然很難,人眼可能無法檢測,但可以使用自動檢測技術檢測,”他說,並補充:”小細節如手、手指或頭髮可能看起來不太真實。”

“如果圖像看起來不太自然,那可能就是假的,”霍申說。”AI在很多方面都還不完美。”