編者按

當(dāng)?shù)貢r(shí)間6月13日，以色列突襲德黑蘭，劍指伊朗核設(shè)施。伊朗怒斥此舉為“宣戰(zhàn)”，發(fā)動(dòng)彈道導(dǎo)彈反擊，雙方展開攻防戰(zhàn)。

12天后，伴隨著美軍下場(chǎng)參戰(zhàn)，以伊簽訂停火協(xié)議，這場(chǎng)突如其來的“戰(zhàn)爭(zhēng)”匆忙畫上休止符。但社交平臺(tái)上，一場(chǎng)看不見硝煙的戰(zhàn)爭(zhēng)仍在持續(xù)發(fā)酵——由于以伊在沖突期間不同程度地限制了國(guó)內(nèi)網(wǎng)絡(luò)和媒體報(bào)道，制造了一定程度的信息真空，網(wǎng)絡(luò)上開始流傳大量真假難辨的戰(zhàn)爭(zhēng)影像，各種用于滿足人們對(duì)沖突之想象的“證據(jù)”應(yīng)接不暇。

“澎湃明查”觀察到，在此次以伊沖突中，基于人工智能技術(shù)生成的AI視頻數(shù)量激增，遠(yuǎn)超俄烏沖突初期。這些視頻往往使用拙劣的畫面、夸張的敘事扭曲戰(zhàn)斗場(chǎng)景，誤導(dǎo)公眾認(rèn)知，卻是此次以伊信息戰(zhàn)的核心組成部分。此外，戰(zhàn)斗模擬游戲畫面被誤認(rèn)為真實(shí)戰(zhàn)況的情景仍在發(fā)生，一些無關(guān)的舊視頻也借助有心之人的包裝和剪輯再次進(jìn)入了公眾的視野。本文結(jié)合典型案例梳理了這些現(xiàn)象，望幫助讀者識(shí)別虛假信息，提升辨別能力。

明查

AI圖像席卷以伊沖突

自以色列空襲德黑蘭以來，社交平臺(tái)上出現(xiàn)了形形色色的AI生成圖片或視頻。這些圖像聲稱展示了以伊沖突中的某個(gè)戰(zhàn)斗場(chǎng)景，但呈現(xiàn)的視覺元素往往單一，畫面清晰度較低且存在物體比例失衡、背景扭曲等較為明顯的AI生成圖像的痕跡。

例如，一段在抖音、X等平臺(tái)廣泛流傳的視頻聲稱展示了“伊朗向以色列海法發(fā)射最強(qiáng)武器，以色列升起蘑菇云”，但視頻中，停靠在街道旁造型扭曲怪異的汽車、大小不一的樓房窗戶處處顯現(xiàn)著AI生成的細(xì)節(jié)。

聲稱展示了“伊朗向以色列海法發(fā)射最強(qiáng)武器，以色列升起蘑菇云”的視頻截圖。

對(duì)這一視頻進(jìn)行溯源后發(fā)現(xiàn)，這一視頻最早來自YouTube頻道@cmlacyn。發(fā)布者明確標(biāo)注了視頻由AI生成，但在傳播過程中，這類關(guān)鍵信息卻被抹去，被當(dāng)成了真實(shí)的戰(zhàn)爭(zhēng)畫面。

盡管許多內(nèi)容平臺(tái)都會(huì)采取措施防范虛假信息。例如X、微博、Facebook、Tiktok等平臺(tái)近年來均開始轉(zhuǎn)向“眾包”形式進(jìn)行事實(shí)核查，X甚至引入了人工智能聊天機(jī)器人Grok來幫助核查信息，但這些措施并不總是有效。

以X為例——美國(guó)智庫大西洋理事會(huì)數(shù)字取證研究實(shí)驗(yàn)室（DFRLab）近日發(fā)布的一項(xiàng)研究發(fā)現(xiàn)，Grok在核實(shí)已確認(rèn)的事實(shí)、分析虛假視覺效果以及避免未經(jīng)證實(shí)的指控方面仍存在較大缺陷，至少就以伊沖突而言，Grok無法穩(wěn)定、可靠地提供與沖突相關(guān)的驗(yàn)證信息，尤其“難以驗(yàn)證AI生成的內(nèi)容”。

DFRLab舉例，在驗(yàn)證一段聲稱與伊朗打擊以色列機(jī)場(chǎng)相關(guān)的AI生成視頻時(shí)，Grok一會(huì)兒稱“導(dǎo)彈由也門叛軍發(fā)射”，一會(huì)兒又錯(cuò)誤地將AI生成的機(jī)場(chǎng)認(rèn)定為貝魯特、加沙或德黑蘭的機(jī)場(chǎng)，此外還有將人工智能生成的視頻誤認(rèn)為“真實(shí)視頻”的情況。

Grok錯(cuò)誤地將AI生成的視頻判斷為真實(shí)視頻。

除Grok外，市面上還有相當(dāng)一部分AI檢測(cè)工具，聲稱能夠驗(yàn)證一張圖片或一段視頻是否由AI生成。盡管一些工具，如Hive Moderation，在識(shí)別圖像方面已有較為不錯(cuò)的表現(xiàn)，其提供的結(jié)論具有一定參考價(jià)值，但需要提醒的是，截至目前，市面上還沒有一款“完美”的工具能夠保證檢測(cè)結(jié)論的準(zhǔn)確性。想要做出更為準(zhǔn)確的判斷，我們?nèi)孕枵隙喾叫畔ⅲM(jìn)行交叉驗(yàn)證和綜合分析。

Hive Moderation 在判斷一張由AI生成的“以軍F-35殘骸”圖片時(shí)，反饋其由AI生成的概率為79.9%。

其中，溯源仍然是一種行之有效的方法。借助溯源，我們可以了解到一張圖片或一段視頻是在何時(shí)、何地、由何人發(fā)布的，從而通過這些元數(shù)據(jù)判斷圍繞視頻的相關(guān)說辭是否可信。例如，此次以伊沖突中，社交平臺(tái)上有一段視頻聲稱“以色列本·古里安國(guó)際機(jī)場(chǎng)遭伊朗轟炸后被毀”，畫面中滿是破損不堪的戰(zhàn)斗機(jī)。“澎湃明查”通過溯源發(fā)現(xiàn)，這段視頻早在5月22日就已經(jīng)出現(xiàn)，發(fā)布者是一個(gè)名為3amelyon的巴勒斯坦賬號(hào)，該賬號(hào)發(fā)布的作品均為由AI生成的災(zāi)難類題材視頻，由此可以推斷這一視頻與此次以伊沖突無關(guān)。

3amelyon賬號(hào)截圖。

除溯源外，許多AI生成的畫面中往往會(huì)包含失真的元素，如過多的手指、大小一致的牙齒、邊緣模糊的物體、表現(xiàn)為亂碼的文字、不符合物理定律的場(chǎng)景等，往往能夠成為判斷一段視頻由AI生成的依據(jù)。

例如，在網(wǎng)傳“伊朗把以色列間諜綁在導(dǎo)彈上發(fā)射”這一視頻中，畫面中與現(xiàn)實(shí)不符的伊朗國(guó)旗、結(jié)構(gòu)怪異的發(fā)射塔臺(tái)、被捆綁后能夠自由揮動(dòng)的人物雙手均泄露了該視頻是由AI生成的。

網(wǎng)傳視頻第3秒前后，人物揮動(dòng)的手臂和肩膀顯示直接穿越了捆綁他的繩子。該視頻由AI生成。

隨著人工智能技術(shù)的發(fā)展，AI生成圖像或視頻中的“失真細(xì)節(jié)”可能會(huì)越來越少，意味著人們可能越來越難以通過肉眼識(shí)別做出判斷。鑒于此，近年來，以O(shè)penAI、谷歌為代表的科技公司開始嘗試?yán)脭?shù)字指紋或數(shù)字水印技術(shù)，在其旗下人工智能工具生成的作品中嵌入能夠由機(jī)器識(shí)別但肉眼不可見的符號(hào)，從而遏制AI工具被濫用的狀況——OpenAI在2024年推出了一款可以專門用于檢測(cè)由DALL-E 3創(chuàng)建的圖像的工具；谷歌則在今年5月推出了SynthID Detector，用于檢測(cè)由Gemini、Imagen、Lyria 和Veo創(chuàng)建的AI生成內(nèi)容。Open AI和谷歌聲稱，其開發(fā)的工具的檢測(cè)準(zhǔn)確率極高，且受圖像壓縮、裁剪或飽和度變化等修改的影響極小。

游戲畫面冒充戰(zhàn)斗畫面

以伊開戰(zhàn)初期，伊朗媒體稱伊朗擊落了至少4架以色列F-35戰(zhàn)機(jī)。伊朗塔斯尼姆通訊社13日晚報(bào)道稱，伊防空部隊(duì)當(dāng)天擊落了兩架以色列F-35戰(zhàn)機(jī)，并俘獲了一名飛行員。社交平臺(tái)上流傳的一段視頻聲稱記錄了這一過程。

這段視頻在TikTok上的播放量超過了2000萬次，并被多國(guó)社交平臺(tái)用戶當(dāng)作真實(shí)視頻轉(zhuǎn)發(fā)。然而，反向搜索發(fā)現(xiàn)，這段視頻的畫面其實(shí)來自戰(zhàn)斗模擬游戲《數(shù)字戰(zhàn)斗模擬世界》（DCS World）。視頻模擬的是俄制蘇-57戰(zhàn)機(jī)對(duì)抗烏克蘭地對(duì)空導(dǎo)彈防御系統(tǒng)的場(chǎng)景，與美國(guó)洛克希德·馬丁公司制造的F-35戰(zhàn)斗機(jī)及近期的以伊沖突均無聯(lián)系。

無獨(dú)有偶。6月14日，X平臺(tái)上又有用戶上傳了另一段相似的視頻，稱“伊朗向以色列防空戰(zhàn)機(jī)開火”。但這段視頻很快被發(fā)現(xiàn)源自軍事模擬游戲《武裝突襲3》（Arma 3），視頻在2022年就已經(jīng)出現(xiàn)。

網(wǎng)傳“伊朗向以色列防空戰(zhàn)機(jī)開火”視頻，其實(shí)是游戲畫面。

諸如此類將游戲畫面包裝為真實(shí)戰(zhàn)斗場(chǎng)景的視頻，并不是第一次在網(wǎng)絡(luò)上出現(xiàn)，也不會(huì)是最后一次——2022年2月，俄烏沖突爆發(fā)，一段被傳作“基輔幽靈擊落俄軍戰(zhàn)斗機(jī)”現(xiàn)場(chǎng)視頻最終被證明是《數(shù)字戰(zhàn)斗模擬世界》中的游戲場(chǎng)景；2023年10月，以色列與哈馬斯開戰(zhàn)，網(wǎng)傳“哈馬斯在加沙擊落4架以色列作戰(zhàn)直升機(jī)”的視頻被證實(shí)出自《武裝突襲3》；2024年10月，以色列轟炸敘利亞大馬士革，一條聲稱“中國(guó)H9防空系統(tǒng)在敘利亞攔截導(dǎo)彈”的視頻最終再次被論證為《武裝突襲3》的游戲畫面。上述案例均可在“澎湃明查”過往發(fā)布的核查文章中找到。

盡管《武裝突襲3》游戲的開發(fā)商Bohemia Interactive和《數(shù)字戰(zhàn)斗模擬世界》的制作公司鷹動(dòng)力均曾發(fā)表聲明，呼吁網(wǎng)友不要將游戲畫面和真實(shí)戰(zhàn)斗畫面混淆在一起，用作戰(zhàn)時(shí)宣傳，然而，玩家對(duì)戰(zhàn)斗模擬游戲高度擬真的需求，與擬真畫面難以與真實(shí)世界相區(qū)隔的內(nèi)在矛盾，使這些游戲難以躲避成為虛假信息素材來源的命運(yùn)。

2022年11月28日，Bohemia Interactive在其官網(wǎng)發(fā)布文章，梳理了一系列可用以區(qū)分游戲視頻和現(xiàn)實(shí)世界中的視頻的方法。例如，由游戲生成的畫面，通常分辨率較低，游戲場(chǎng)景通常發(fā)生在夜晚或較暗環(huán)境中，畫面包含夸張的抖動(dòng)鏡頭。此外，視頻的音效與現(xiàn)實(shí)音效是否難以區(qū)分，視頻畫面是否缺乏人物動(dòng)作，是否包含不真實(shí)的車輛、制服、裝備和先進(jìn)技術(shù)，不自然的爆炸、煙塵、火焰或灰塵的粒子效果等，也是鑒別一段視頻是否是游戲畫面的重要依據(jù)。

Bohemia Interactive在博客文章中梳理了一系列可用以區(qū)分游戲視頻和現(xiàn)實(shí)世界中的視頻的方法。

移花接木的“現(xiàn)場(chǎng)畫面”

除游戲畫面外，社交平臺(tái)上流傳的另一些聲稱展現(xiàn)本次以伊沖突的“現(xiàn)場(chǎng)畫面”，其實(shí)是挪用自過往的視頻片段的。

例如，一段聲稱是“以色列炸毀伊朗核設(shè)施”的視頻，至少于2024年3月就已經(jīng)流傳于網(wǎng)絡(luò)，線索指向當(dāng)時(shí)伊朗對(duì)以色列的打擊。

另一段聲稱展示了“特拉維夫遭襲、大廈倒塌”的視頻，其實(shí)挪用了6月初迪拜一座大廈發(fā)生火災(zāi)的畫面。通過地理定位，可以確認(rèn)該視頻拍攝于迪拜的濱海頂峰大廈（Marina Pinnacle Tower）附近，該大廈在今年6月13日發(fā)生了火災(zāi)。

還有一段聲稱是“伊朗官員頭頂《古蘭經(jīng)》祈求導(dǎo)彈擊中目標(biāo)”的視頻，實(shí)則是德黑蘭當(dāng)?shù)貢r(shí)間3月拍攝的警察局人員正在進(jìn)行守夜祈禱儀式。

在以伊沖突的輿論場(chǎng)中，諸如此類張冠李戴的視頻素材屢見不鮮——從他時(shí)他地的軍事行動(dòng)到毫不相干的社會(huì)事件，但凡涉及武器硝煙、斷壁殘?jiān)蛞了固m宗教元素的畫面，都被生搬硬套地移植到這場(chǎng)沖突中。這些經(jīng)過精心篩選的影像，佐以似是而非的解說詞，恰如其分地迎合了人們對(duì)戰(zhàn)亂地區(qū)的刻板想象，在信息洪流中構(gòu)筑起一個(gè)虛實(shí)難辨的"中東戰(zhàn)場(chǎng)"。

那么，面對(duì)這樣的視頻，我們要如何才能實(shí)現(xiàn)真?zhèn)闻袛啵皇苊沈_呢？“澎湃明查”此前曾在“工具箱”系列中介紹過關(guān)鍵幀反向搜索和地理定位的方法。

簡(jiǎn)單來說，視頻關(guān)鍵幀反搜是一種通過提取視頻中的關(guān)鍵幀圖片，再對(duì)圖片內(nèi)容進(jìn)行反向搜索，尋找相同或類似視頻的方法。

例如，在核查“伊朗官員頭頂《古蘭經(jīng)》祈求導(dǎo)彈擊中目標(biāo)”的視頻時(shí)，明查員先通過InVID軟件截取了網(wǎng)傳視頻的關(guān)鍵幀，再使用Google Lens等工具對(duì)關(guān)鍵幀進(jìn)行反向搜索，最終在社交平臺(tái)Instagram上找到了一段與網(wǎng)傳視頻內(nèi)容完全相同的視頻。該視頻的發(fā)布時(shí)間顯示為今年3月25日，要明顯早于近期的以伊沖突。

網(wǎng)傳視頻最早于3月25日已出現(xiàn)在社交平臺(tái)Instagram。

地理定位則是一種通過鎖定視頻中出現(xiàn)的關(guān)鍵地理標(biāo)志物，由此確認(rèn)視頻拍攝地點(diǎn)的方法。

在核查聲稱展示“特拉維夫大廈倒塌”視頻時(shí)，明查員觀察到視頻中出現(xiàn)的一個(gè)藍(lán)色的酒瓶形狀的泳池。搜索后發(fā)現(xiàn)，這是迪拜濱海頂峰大廈西側(cè)臨近建筑Torch Tower的游泳池。由此可以確認(rèn)，網(wǎng)傳視頻的拍攝地點(diǎn)在迪拜境內(nèi)。

Torch Tower實(shí)景圖片。

此次以伊沖突表明，國(guó)家或地區(qū)間的沖突，不僅僅是導(dǎo)彈與戰(zhàn)機(jī)的較量，更是對(duì)“數(shù)字真相”的爭(zhēng)奪。盡管以伊沖突的硝煙暫時(shí)散去，但中東土地上的戰(zhàn)火仍未停息，人類社會(huì)的紛爭(zhēng)似乎永遠(yuǎn)在歷史的循環(huán)中往復(fù)。這也預(yù)示著，社交平臺(tái)上的輿論角力與信息博弈將持續(xù)上演。

在技術(shù)日益精進(jìn)、局勢(shì)愈發(fā)復(fù)雜的今天，真相的辨明變得比以往更加困難。我們呼吁更多讀者在使用社交平臺(tái)時(shí)，能夠?qū)徤魉伎肌⒅?jǐn)慎轉(zhuǎn)發(fā)，以理性與耐心共同構(gòu)筑清朗的信息空間。