深度偽造在巴以沖突中扮演了重要的角色,，包括篡改了約旦王后拉尼婭（左中）和時(shí)尚模特貝拉·哈迪德（右上）的視頻，以及俄烏沖突（左下）和電子游戲《武裝突襲3》（右下）的戰(zhàn)斗鏡頭,。圖片插圖來源：FORTUNE ; 圖片來源：SCREENSHOTS CLOCKWISE FROM TOP LEFT: @GLOOOUD/X, VERIFY/YOUTUBE, @AG_JOURNALIST/X, @GLOOOUD/X, THE QUINT/YOUTUBE

2023年10月7日破曉時(shí)分,，以色列的特拉維夫市響起了空襲警報(bào),，邁克爾·馬蒂亞斯（Michael Matias）和他的女朋友從床上跳起來，跑到公寓大樓的防空洞,。在防空洞里,，他們手機(jī)上的信息顯示了觸發(fā)警報(bào)的恐怖場景：哈馬斯的武裝分子正在向以色列發(fā)起大規(guī)模軍事行動(dòng)，并且扣押了數(shù)百名人質(zhì),，距離他們安全聚集的地方不到一個(gè)小時(shí)的車程,。

在令人驚愕的余波中，馬蒂亞斯突然意識(shí)到這對他的科技新創(chuàng)企業(yè)的影響,。2022年年底,，他創(chuàng)辦了人工智能公司Clarity，專注于檢測競選活動(dòng)中的深度偽造信息,；他認(rèn)為,，這種虛假信息對國家構(gòu)成了緊迫威脅。但由于在10月7日大約有1,200名以色列人喪生,，而且該國正處于戰(zhàn)爭狀態(tài),，因此這一任務(wù)需要暫時(shí)擱置。那天早上,，他與Clarity的團(tuán)隊(duì)緊急召開會(huì)議,，以啟動(dòng)一項(xiàng)行動(dòng)計(jì)劃?！拔覀儗Ρ舜苏f：‘在此次事件里,，我們的技術(shù)將大有用武之地?！盋larity的首席執(zhí)行官馬蒂亞斯說道。

這次襲擊是以色列建國75年來最致命的一次,，在之后的混亂中,，以色列對加沙地區(qū)進(jìn)行了封鎖，切斷了區(qū)域內(nèi)的一切水,、電,、物資供應(yīng)，并向沿海飛地（居住著200萬名巴勒斯坦人）的哈馬斯目標(biāo)投擲了數(shù)千枚炸彈,。隨著以色列的行動(dòng)升級(jí),，出現(xiàn)了全面的人道主義災(zāi)難，在一個(gè)月內(nèi)有超過10,000名巴勒斯坦人喪生,，其中包括平民,，恐怖的畫面充斥著電視和手機(jī)屏幕，引發(fā)了全世界的憤怒和抗議活動(dòng),。這不僅是一場彈藥戰(zhàn)爭,，而且是一場信息戰(zhàn)爭——真假信息混雜,。在對交戰(zhàn)雙方義憤填膺的同時(shí)，一些人質(zhì)疑這些令人毛骨悚然的可怕場景是否真實(shí),，或是這些圖像是否是在人工智能的助力下生成的所謂深度偽造圖像,。

事實(shí)上，隨著技術(shù)的進(jìn)步,，人工智能生成的虛假信息越來越難以辨別,。馬蒂亞斯表示，這讓Clarity這樣的新創(chuàng)企業(yè)陷入了“一場貓和老鼠的博弈”,。

問題是,，最后是貓贏，還是老鼠贏,？一些人擔(dān)心,，生成技術(shù)的便利性會(huì)讓惡意用戶比那些遠(yuǎn)不是那么靈活的科技公司和試圖控制他們的政府智高一籌。常駐英國劍橋,、為英國政府以及包括Adobe和Facebook的母公司Meta在內(nèi)的企業(yè)提供咨詢服務(wù)的人工智能技術(shù)顧問亨利·艾德爾（Henry Ajder）說：“該技術(shù)的發(fā)展速度快得令人難以置信,。20年或10年后會(huì)是什么樣子？這些工具將變得越來越容易獲得,。當(dāng)確實(shí)發(fā)現(xiàn)大量的深度偽造內(nèi)容時(shí),，我們可能會(huì)全然不知所措?！?/p>

俗話說,，軍事宣傳和戰(zhàn)爭本身一樣古老。但自從OpenAI在2022年推出第一版人工智能聊天機(jī)器人ChatGPT以來,，生成式人工智能爆炸性的流行增強(qiáng)了普通用戶創(chuàng)造自己敘事的能力,。當(dāng)涉及到教皇方濟(jì)各（Pope Francis）身穿白色大號(hào)羽絨服或者金·卡戴珊（Kim Kardashian）擔(dān)任公交車司機(jī)時(shí)，其影響相對微不足道,。但在戰(zhàn)爭里,，深度偽造技術(shù)可以用來制造混亂，可能會(huì)產(chǎn)生生死攸關(guān)的后果,。

2022年2月,，俄烏沖突爆發(fā)，引發(fā)了歐洲幾代人以來最大規(guī)模的陸地沖突,。幾天之內(nèi),，烏克蘭總統(tǒng)弗拉基米爾·澤連斯基（Volodymyr Zelensky）在Facebook上露面，命令士兵投降,。幾天后,，俄羅斯總統(tǒng)弗拉基米爾·普京（Vladimir Putin）在推特（Twitter）上也命令軍隊(duì)放下武器。抽搐的動(dòng)作和模糊的鏡頭很快就暴露了這兩段視頻是虛假的。但這預(yù)示著,，一旦人工智能工具得到改進(jìn),，有朝一日可能會(huì)發(fā)生的事情。

現(xiàn)在,，這一天已經(jīng)到來,，無論是在政府辦公室還是在家里，都能夠輕松地獲得生成式人工智能工具,。這項(xiàng)技術(shù)帶來了大量經(jīng)過篡改的內(nèi)容,，而這些內(nèi)容以前需要熟練的技術(shù)人員才可以制作出來。大西洋理事會(huì)（Atlantic Council）的數(shù)字取證研究實(shí)驗(yàn)室（Digital Forensic Research Lab）的研究人員萊拉·馬什庫爾（Layla Mashkoor）稱,，在以色列戰(zhàn)爭中,，這些內(nèi)容來自四面八方。該實(shí)驗(yàn)室隸屬于一家密切追蹤沖突中的社交媒體網(wǎng)站的美國智庫,。她指出,，雙方人士都在傳播深度偽造內(nèi)容，她舉例道,，一個(gè)親以色列的Instagram賬戶里有一張人工智能處理過的照片,，顯示成群的以色列人在陽臺(tái)上為士兵歡呼。對許多人而言,，手機(jī)屏幕上閃過的如海嘯般襲來的信息讓一切都顯得不可靠,。馬什庫爾說：“即便是真實(shí)的圖像，也會(huì)有反駁的聲音,，所以人們很難弄清楚真相,。”

當(dāng)馬蒂亞斯為他的人工智能新創(chuàng)企業(yè)取名Clarity時(shí),，這正是他想要解決的問題,。戰(zhàn)爭爆發(fā)后，團(tuán)隊(duì)立即行動(dòng)起來,。據(jù)馬蒂亞斯介紹,，隨著數(shù)以百計(jì)的視頻和照片在互聯(lián)網(wǎng)上流傳，其中一些是哈馬斯在襲擊期間拍攝的,，還有一些是加沙居民在遭到摧毀的社區(qū)拍攝的,，國際媒體機(jī)構(gòu)開始給Clarity發(fā)送電子郵件,，尋求幫助,，以剔除深度偽造的視頻和照片。馬蒂亞斯拒絕讓《財(cái)富》雜志透露他的客戶信息,。

這場戰(zhàn)爭在網(wǎng)上催生了大量的假新聞：時(shí)裝模特貝拉·哈迪德（Bella Hadid）為她的親巴勒斯坦言論道歉的視頻實(shí)際上是合成音頻,。約旦王后拉尼婭（Rania）說她的國家“與以色列站在一起”，這是在她露面接受美國有線電視新聞網(wǎng)（CNN）采訪的視頻基礎(chǔ)上，利用人工智能生成的音頻,。一段據(jù)稱是哈馬斯的戰(zhàn)士摧毀以色列坦克的視頻,，實(shí)際上來自俄烏沖突。另一段顯示哈馬斯擊落兩架以色列的直升機(jī)的視頻呢,？那是從電子游戲《武裝突襲3》（Arma 3）中截取的,。

總部位于美國加利福尼亞州帕洛阿爾托和以色列特拉維夫的Clarity還在戰(zhàn)爭里與以色列的情報(bào)機(jī)構(gòu)合作，以檢測戰(zhàn)爭錄像的真假,。幾乎所有的Clarity團(tuán)隊(duì)的成員,，包括馬蒂亞斯在內(nèi)，都在義務(wù)服兵役期間,，在以色列國防軍（Israeli Defense Forces）的精銳技術(shù)部隊(duì)中花了數(shù)年時(shí)間磨練技能,。馬蒂亞斯本人曾經(jīng)在被稱為“8200部隊(duì)”的情報(bào)機(jī)構(gòu)服役（人才選拔極其嚴(yán)格），該機(jī)構(gòu)的成員在服兵役后創(chuàng)辦了無數(shù)的全球新創(chuàng)企業(yè),。

憑借這樣的背景,，馬蒂亞斯利用經(jīng)驗(yàn)豐富的創(chuàng)始人網(wǎng)絡(luò)為公司提供建議和資金。Clarity的一位天使投資人烏迪·莫卡迪（Udi Mokady）說：“Clarity正在一個(gè)新的領(lǐng)域進(jìn)行創(chuàng)新,?！蹦ǖ弦彩恰?200部隊(duì)”的退伍軍人，他創(chuàng)立了身份安全公司CyberArk,。莫卡迪現(xiàn)在是CyberArk的執(zhí)行主席,，他預(yù)測深度偽造檢測市場將急劇上升。莫卡迪稱：“隨著ChatGPT的出現(xiàn),，人們對它的興趣一夜之間急劇上升：在家里就能夠創(chuàng)建深度偽造內(nèi)容,。”

Clarity并沒有對內(nèi)容進(jìn)行純粹的真假認(rèn)證,，而是使用人工智能來追蹤視頻中的一系列數(shù)據(jù)點(diǎn),，例如一個(gè)人的面部抽搐或語調(diào)的抑揚(yáng)頓挫，然后利用神經(jīng)網(wǎng)絡(luò)將它們置于儀表板上顯示的從綠色到紅色的確定性范圍內(nèi),?！斑@是人工智能與人工智能的較量?！瘪R蒂亞斯說道,。有些視頻，比如伊朗支持的（黎巴嫩）真主黨（Hezbollah）組織領(lǐng)導(dǎo)人譴責(zé)10月7日襲擊事件的視頻,，顯然是深度偽造的內(nèi)容（“遺憾的是”馬蒂亞斯打趣道）,。但其他視頻就不那么一目了然了，需要人工進(jìn)行判斷,，而不是由人工智能訓(xùn)練出來的機(jī)器進(jìn)行判斷,。

在打擊深度偽造內(nèi)容方面，Clarity并非孤軍奮戰(zhàn)。過去幾年里,，還有幾家類似的新創(chuàng)企業(yè)相繼成立,，包括美國紐約的Reality Defender和愛沙尼亞的Sentinel?？萍季揞^也在關(guān)注假新聞問題：從2024年1月開始,，Meta將要求政治競選活動(dòng)在Facebook的廣告中標(biāo)注任何人工智能生成的內(nèi)容，而谷歌現(xiàn)在也包含了有關(guān)圖像來源的數(shù)據(jù),。

各國政府也在努力打擊深度偽造,。2023年10月，美國總統(tǒng)喬·拜登（Joe Biden）發(fā)布了一項(xiàng)關(guān)于“安全,、可靠和值得信賴”的人工智能的行政命令,，授權(quán)美國商務(wù)部（Commerce Department）尋找方法來驗(yàn)證內(nèi)容的真實(shí)性，并在人工智能生成的媒體內(nèi)容上添加水印,。但該行政命令并沒有威脅要對違規(guī)者實(shí)施制裁,。

同樣是在2023年10月，在包括中國在內(nèi)的28個(gè)國家參加的,、在英國舉辦的首屆全球人工智能安全峰會(huì)（AI Safety Summit）上,，官員們同意采取類似的措施。在由27個(gè)國家組成的歐盟（European Union）,，一項(xiàng)旨在執(zhí)行安全標(biāo)準(zhǔn)并為新創(chuàng)企業(yè)提供資金的《人工智能法案》（AI Act）正在逐步通過錯(cuò)綜復(fù)雜的程序,，歐盟的高層官員希望對未能打擊虛假信息的社交媒體平臺(tái)處以巨額罰款。

“越來越多的國家達(dá)成的共識(shí)是：人工智能會(huì)帶來災(zāi)難性的風(fēng)險(xiǎn),?！庇斯ぶ悄茴檰柊聽柋硎荆八麄兿Ｍ苊馕覀冊谶^去18個(gè)月里看到的‘狂野西部’（Wild West）局面持續(xù)下去,，從某種程度上說,，風(fēng)險(xiǎn)會(huì)進(jìn)一步加劇?！?/p>

但其中的風(fēng)險(xiǎn)無法和以色列對加沙地區(qū)發(fā)動(dòng)的激烈戰(zhàn)爭相提并論,，美國的軍艦駐扎在靠近海岸的地方，伊朗和黎巴嫩也為可能發(fā)生的戰(zhàn)爭做好了準(zhǔn)備,。在長達(dá)數(shù)周的戰(zhàn)爭里,，Clarity團(tuán)隊(duì)一直在努力解決這一問題，同時(shí)分析了讓他們筋疲力盡的數(shù)百個(gè)視頻和照片,。

經(jīng)常觀看令人毛骨悚然的視頻對Clarity的小團(tuán)隊(duì)的影響是顯而易見的,，馬蒂亞斯稱，在戰(zhàn)爭結(jié)束后,，他們肯定需要進(jìn)行創(chuàng)傷后治療,。他說：“我們知道，我們正在進(jìn)入一場高度個(gè)性化的戰(zhàn)爭,?！彼a(bǔ)充道，這項(xiàng)工作讓他的團(tuán)隊(duì)感到“沉重的情感負(fù)擔(dān),，以及令人難以置信的重要性意識(shí),。”

*****

偵探力量

隨著深度偽造內(nèi)容的激增,，企業(yè)巨頭和新創(chuàng)企業(yè)都在競相對其進(jìn)行監(jiān)測,。以下是一些參與其中的公司：

?

DeepMedia

該公司由斯坦福大學(xué)（Stanford University）和耶魯大學(xué)（Yale University）的人工智能專業(yè)的畢業(yè)生于2017年創(chuàng)立。該公司總部位于美國加利福尼亞州奧克蘭,，與美國國防部（U.S. Department of Defense）,、聯(lián)合國（United Nations）和科技公司合作，利用神經(jīng)網(wǎng)絡(luò)處理技術(shù)發(fā)現(xiàn)虛假內(nèi)容,。

?

Reality Defender

這是一家總部位于美國紐約州紐約市曼哈頓的公司,，由高盛集團(tuán)（Goldman Sachs Group）的前高管本·科爾曼（Ben Colman）于2021年創(chuàng)立，他表示,，在深度偽造內(nèi)容病毒式傳播之前阻止它至關(guān)重要,。該公司在2023年10月的一輪融資中籌集了1,500萬美元，旨在推出能夠?qū)崟r(shí)識(shí)別合成語音的新工具,。

?

英特爾（Intel）

該公司在2022年推出了一款名為FakeCatcher的深度偽造內(nèi)容檢測器,，據(jù)稱可以實(shí)時(shí)分析視頻，并在幾毫秒內(nèi)提供準(zhǔn)確率高達(dá)96%的檢測結(jié)果,。其中一種罕見的工具是分析像素中的血流,，從而判斷圖像是否描繪的是真人。

譯者：Zhy