近期，西藏定日縣發生6.8級地震，災情牽動了無數人的心。

然而，在一些社交平臺上，卻出現了大量AI偽造的災區圖片。

這些圖片逼真且引人同情，許多網友在不知情的情況下紛紛轉發，表達了對圖中“受害者”的關切與同情。

然而，當真相大白時，人們才發現自己內心的善意被一場徹頭徹尾的欺騙所利用。

在AI技術的加持下，猜疑鏈正在逐漸形成，而信任鏈則逐步被破壞。人們開始對所看到的一切產生懷疑，不再輕易相信他人，社會的信任基礎被一點點侵蝕。

類似的事件并非孤例，AI偽造的苦難圖片，甚至是AI偽造的音頻、視頻新聞內容，在社交媒體上屢見不鮮，嚴重擾亂了社會秩序。

例如，在2024年1月23日，東興市的駱某某為了獲取網絡流量并吸引粉絲關注，利用AI軟件的自動編輯功能，篡改和嫁接了其他地區抗洪、救災的視頻內容，虛構出新疆烏什縣發生地震的假視頻信息。這一虛假視頻在網絡上迅速傳播，導致大量網民不明真相地對其進行評論和轉發，造成了惡劣的社會影響。

又如，在2024年6月期間，網絡上流傳出一條短視頻，聲稱廣東省五華縣華陽鎮一位70多歲的老人遭到暴力襲擊陷入昏迷，其孫子因悲憤交加選擇跳河自殺。該消息迅速在網絡上發酵，引發了廣泛關注。然而，經公安網安部門調查核實，這條短視頻中的圖文信息完全是虛構的，是造謠者任某利用AI技術合成的虛假內容。

無論是偽造的AI圖片、AI音頻還是AI視頻其仿真程度讓人真假難辨。最近HeyGen和Sora聯名推出了一款數字人，如下所示。

大家看下，這夠真實吧？夠自然流暢吧？其實這是AI生成的！

AI技術的發展確實快速，也確實為我們帶來了諸多便利，但個別網民為了吸引眼球、蹭熱度，卻利用AI技術編造“偽消息”和“假新聞”，以此來獲取網民的關注和點贊量，進而實現流量變現。

這種行為不僅損害了新聞的公信力，還影響了救災資源的合理分配。

利用AI生成圖片本身不會因此受到處罰，但若肆意用AI技術生成與事實嚴重不符的地震受災畫面，甚至編造謠言，引發社會廣泛關注甚至網友的恐慌，則屬于擾亂公共秩序的行為。

在探討AI偽造的危害時，我們不禁會想到普利策獎的照片。

這些照片之所以為世人所認可，是因為它們基于真實的原則，向世人展現了一個急需被拯救的世界的局部真相。這些照片記錄了歷史的瞬間，展現了人性的光輝與陰暗，讓人們看到了世界的多樣性和復雜性。

例如，1993年攝影師凱文·卡特在蘇丹拍攝的《饑餓的蘇丹》的照片，真實地反映了蘇丹內戰導致的饑荒和戰爭給無辜百姓帶來的深重災難。它讓人們看到了一個弱小生命的無助與絕望，也引發了全球的關注和反思。

正是因為在新聞攝影中，真實性是至關重要的。普利策獎照片嚴格禁止修改照片上的任何一個像素。

紀實照片的價值就在于能夠真實地記錄和反映事實，讓人們看到事件的真相。任何對照片的修改都會破壞其真實性，誤導觀眾，損害新聞的公信力。

然而，這種可貴的信任正在被泛濫的AI技術一點點消解。

雖然，我們不能因噎廢食地否定AI技術，但也絕不能對其被惡意利用的現象視而不見。

是時候從技術防范、法律監管、公眾教育等多方面入手，杜絕AI偽造內容擾亂社會秩序的情況發生。

只有這樣，我們才能在享受AI技術發展成果的同時，守護好社會的信任基石，讓人們心中的善意不再被欺騙利用，讓新聞媒體與社交平臺的真實性得以保障。

而不是在一個新聞事件發生時，坐等“反轉”！