機器之心報道

編輯：楊文

假作真時真亦假，無為有處有還無。

200 多年前，曹雪芹在《紅樓夢》中寫下這樣一句話：假作真時真亦假，無為有處有還無。翻譯成大白話就是，當虛假被當作真實時，真實也會被視為虛假；當虛無被強行視為存在時，存在也會消解為虛無。萬萬沒想到，放在今天的 AI 語境下，這句古話竟精準地映照了現實。

最近在 X 上沖浪，刷到了一段「人類在飛機上吵架看呆袋鼠」的視頻。視頻中，一只緊握登機牌、站得直挺挺的袋鼠，正滿臉無辜地看著自己的主人和一名空乘人員在登機口 battle。

視頻來自：https://www.instagram.com/infiniteunreality/

由于袋鼠的舉止表情「比小朋友還乖」，引發不少網友點贊轉發。其中 X 賬號 @DramaAlert 就在短時間內獲得了 7460 萬次觀看，Instagram 上這段視頻光點贊量就有 110.4 萬次。

不過很快有細心的網友發現了不對勁。袋鼠手中的「登機牌」上全是難以辨認的文字亂碼，而這往往是 AI 生成視頻的最大「罪證」。

視頻中的人類說著并不存在的語言，空乘人員佩戴的胸牌上也沒有名字。

此外，乘客的左手無名指一開始并沒有任何首飾，但突然無中生有出現了一枚戒指。

以上種種端倪，都在告訴我們一個真相：這是 AI 生成的。

我們繼續深扒，找到了這段視頻的最初來源 —— 一個名為 InfiniteUnreality 的 Instagram 賬號。

如果往下扒拉扒拉就會發現，該賬號還有一堆超現實的 AI 動物視頻，比如一只系在飛機座椅上的河馬、一只登機的長頸鹿以及一只躺在嬰兒車里的小豬。

那么問題來了：為什么千萬網友都被這個 AI 視頻騙了？

一方面，如今的視頻生成技術已經進化到「離譜」的地步，比如谷歌 Veo3 不僅能做出高清、自然的影像，連眨眼、輕微頭部動作都極其協調，還能生成逼真的聲音，普通網友很難一眼辨真假。

另一方面，該博主雖然在簡介和視頻中打上了 AI 標簽，就是那個代表無窮大的 Infinite Unreality 符號，但這種提示非常隱蔽，絕大多數網友根本意會不到。

同時在流量爭奪的賽道上，越「真實」、「離譜」的素材越容易火，其他博主在轉發時往往不會重復標注「AI 生成」，比如知名 X 賬號 DramaAlert 轉發時就未透露該視頻出自 AI 之手，這就更導致了大規模誤判。

這個AI 生成說明還是后來讀者添加的。

還有網友本身也是「幫兇」。很多人在評論區半開玩笑地說「這是袋鼠日常」、「袋鼠看著很有禮貌」，進一步造成「這是真的」的印象疊加。即使有少部分人指出「AI 生成」，也會被淹沒在玩梗與調侃中。

AI 制造的混亂還遠不止于此。

有人用 AI 生成的視頻假裝是真實的，還有人反其道而行之，直接用真實的視頻冒充 AI 生成的。

這事還得從半個月前說起。

當時我們在一篇文章里介紹了網友用 Veo 3 生成演唱會視頻，效果一個比一個逼真自然，其中就提到了一個妝容怪誕的鋼琴家彈唱歌曲的視頻。

該視頻來自 X 博主 @bitfalls 發布的帖子，聲稱這個視頻是使用 Veo3 生成的，甚至還給出了提示詞：Early 2000s footage of an australian goth pianist making a whimsical song about God in front of an orchestra（2000 年代初，一位澳大利亞哥特風鋼琴家在管弦樂隊前創作了一首關于上帝的異想天開的歌曲。）

我們再一聽歌詞：「感恩你，感恩你，我的上帝，治好山姆媽媽的白內障多虧了你……」越聽越像 AI 整活。

但在網友的提醒下，我們才后知后覺這是 12 年前 Tim Minchin 的真實鏡頭。

我們又去網上一搜，發現這并不是孤例，還有博主用Vitas的真實影像假冒 Veo3 生成的。或許該博主有開玩笑的成分，但確實誤導了不少人。

面對這種真假混雜的局面，我們普通人到底該怎么分辨？

說實話，現在靠「肉眼」去識別真偽已經越來越不靠譜了。AI 視頻不像以前的那種低劣 P 圖，僅憑「這個好像哪里不太自然」、「光線感覺有點怪」等直覺去判斷很容易掉坑里，有時候還得靠魔法打敗魔法。

Google DeepMind 和 Google AI Labs 推出了一款多模態 AI 內容鑒偽工具 ——SynthID，用來識別谷歌旗下生成式 AI（如 Gemini、Imagen、Lyria、Veo 等）所「生成」或「編輯」的圖片、視頻、音頻、文本中是否帶有 SynthID 水印，幫助用戶快速判斷內容是否來自谷歌 AI 模型。

地址：https://deepmind.google/science/synthid/

SynthID 本質上是一種「數字水印」技術。當你在使用谷歌生成 AI 時，系統會在內容中隱性嵌入一組不易察覺、但特定工具能探測到的數字「指紋」，即便你給它加濾鏡、裁剪、轉格式，這種水印依然能被檢測出來。

不過它的限制也比較明顯：只識別內置 SynthID 的內容，也就是必須是谷歌系模型（或者有合作伙伴模型）的產物。如果你用 ChatGPT、Stable Diffusion、Midjourney 生成內容，或者第三方 AI 服務根本沒嵌水印，它是檢測不出來的。換句話說它不是通用 AI 鑒定器，只是幫你確認「是不是用了谷歌 AI」的工具。

此外，雖然這種水印足夠隱蔽、兼容常規編輯，但如果有人惡意反復大幅改動、轉碼、翻譯、徹底重寫等，水印可能被破壞，從而導致檢測失敗。

目前它還在「早期測試」階段，需要提交 waitlist。

https://www.instagram.com/infiniteunreality/

https://x.com/DramaAlert/status/1927385371647594745

https://x.com/bitfalls/status/1925072790593405065