大數據文摘受權轉載自數字生命卡茲克

作者：卡茲克

昨天晚上，我在微博上看到了一條熱搜。

直接熱搜第二，全民討論，我不由的心就一下子糾緊了。

還是來了。

前幾天我剛寫過一篇

沒想到今天，AI居然以這種姿勢，再一次沖上了風口浪尖。

給大家簡單說一下事情經過。

1月7日9時5分，西藏定日縣發生6.8級地震，災情牽動人心，亦有許多網友在社交平臺上為災民祈福。

但是，在一些社交平臺上，冒出了很多AI偽造的圖片，比如這個：

（圖片來源：新京報）

在一些社交平臺上，至少有10個以上的賬號發布，并和西藏日喀則地震關聯，有些甚至獲得好幾萬的轉評贊。

許多網友看到圖片后，為圖中的孩子難受落淚，甚至都在追問，這個圖片中的小孩怎么樣了，并未留意到可能的疑點。

（圖片來源：新京報）

直到今天在熱搜上爆了，大家發現，原來自己心疼、同情的孩子，卻是一起徹頭徹尾的欺騙。

而且這個圖片和視頻，是原始作者在2024年11月18日發布的AI視頻，只是在最近被人瘋狂搬運。

我無意揣測這些搬運者的動機，有可能他們也只是在某些地方看到這張圖片，單純的想在社交平臺上發一下，但，流量他們是實實在在拿到了。

我也更無意揣測謠言的源頭，第一個發出來的人的動機。

我只想聊聊這件事。

AI偽造，不是一個很新的話題了，過往類似的AI偽造圖片出現過無數，其實對社會的影響都還好，但是我最害怕的，其實就是今天這種：

用AI，來偽造苦難。

它剿殺的，是全社會所有人的善意。

這不是第一次了，上一次，在地球的另一邊，也是弄的沸沸揚揚。

2024年10月4日，颶風海倫妮在美國引起了巨大的災難，是2005年颶風卡特里娜以來在美國本土大陸致死人數最多的颶風，北卡羅來納州阿什維爾及其他受影響地區被水淹沒。

在這樣的背景上，同樣的，有一張圖，在社交媒體上大爆特爆。

還有這個。

我一直相信，人性本善。

人是有一種對于苦難世界同情的天性的。

這些圖片，如果在正常非常冷靜的情況下，讓你去辨別是不是AI，我相信幾乎絕大多數人都可以，比如這個女孩手指有問題，比如船完全不一樣，比如狗也不一樣，比如救生衣有BUG等等等等。

但，當你知道如今是一個災難的背景，地震、颶風、海嘯，再看到這些圖片的時候，你的善意、你的同情會被本能的調動。

我們會悲傷，我們會同情，在情緒的沖擊下，我們會對圖片本身的細節看的不是那么深，而是會你心頭一震，立刻想要轉發，捐款，伸出援手。

可當你傾入了自己的善意，事后卻被人告知，這張圖片是偽造的。

那一刻，你的心里涌現的，不再是關切與同情，而是憤怒與無力。

你試圖相信你所看到的，試圖用自己的善意去幫助他人，但那些偽造的圖像正在一步步扼殺你的信任、你的情感。

這太恐怖了。

人類社會的善意其實已經冷漠了很多，2006年的彭宇案讓全社會對于扶不扶老人這事，都感到憤怒和心寒。

在真實世界里，善意的成本被提高了非常多，人們不可避免的變得越來越冷漠。

而如今在虛擬世界里，如果我們每次看到苦難的照片，都要去驗證，是不是AI生成的，是否真實、來源何處以及是否經過處理。

那信任，就會徹底崩盤。

人是萬物靈長，人，更不喜歡被愚弄。

一旦人們被誤導幾次，就會開始懷疑他們所看到的一切。

這種懷疑會讓我們，在真正的災難面前更難以激發真正的善意，因為再次被愚弄的恐懼，會掩蓋我們幫助他人的愿望。

世界只會變得越來越冷漠，我們更可能的是，選擇完全不關注災難新聞，而不是小心翼翼地在真實與虛假圖像之間游走。

當公眾對信息失去信任，真正需要幫助的人，也很難獲得應有的支持。

這是一場無限的循環。

這，更是人類善意的，黑暗森林。

作為一個AI博主，我從沒有像現在這樣，舉雙手雙腳，贊成AI標識，贊同AI內容的監管。

所幸，規則已在路上。

在信息泛濫的今天，AI本應是一把創造的利劍，幫助我們實現更多不可能的目標。

但真的不應該，變成削弱信任的刀刃。

我只能用古劍奇譚3里面很喜歡的一句話，作為這篇文章的結尾：

愿我人族于此魂夢江海，萬古河山之間。

星火世傳， 奮飛不輟。

GPU算力按需租用

A100/H100 GPU算力按需租用，

秒級計費，平均節省開支30%以上！

掃碼了解詳情?