生成式AI出現后，標題黨、小編體、擦邊內容的制作門檻正變得越來越低。

在現代技術的加持下，這些低質內容、謠言的傳播力、說服力、偽裝性，也迎來了空前強化。

可以說。

隨著技術的不斷發展，一場沒有硝煙卻與所有人息息相關的“認知戰爭”正在打響。

頭條用魔法打敗魔法

今日頭條所發布的《2024年度治理報告》指出。

在2024年，平臺所攔截的不實信息超500萬條，封禁造謠、傳謠等違規賬號4.77萬個；處置低質量AI內容超93萬條，封禁、禁言相關賬號超2.9萬個；處罰同質化發文超781萬篇，封禁、禁言違規賬號超6.3萬個。

“作為內容資訊平臺，今日頭條有責任、有義務讓我們的用戶看到真實、有用的信息。”在相關報道中，今日頭條內容策劃負責人劉姍姍說道。

對平臺而言，虛假、低質內容的出現會破壞平臺生態，降低優質創作者的更新熱情；對用戶而言，虛假、低質內容的出現不僅會左右自己的事件認知，甚至還可能影響我們的深度思考能力、道德價值判斷。

所以在這場認知戰爭中，平臺作為內容的保管方+審核方，它們必須沖鋒在前。

為此，今日頭條推出了自己的“治謠套餐”。它們分別是謠言庫、權威信源庫、專業審核團隊，并基于此展開了一場“用魔法打敗魔法”的反擊行動。

依托謠言庫所建立的大模型，可以通過關鍵詞抓取、內容比對等方式快速驗證信息的真偽；權威信源庫的存在，不僅能幫助謠言庫、審核人員進行信息判定，還能夠在定位謠言后進行精準辟謠；人工審核團隊搭配AI審核機制，讓平臺內部“風險發現-風險識別-風險處置”的治理流程更加靈動可靠，在守護原創空間之余凈化了用戶的閱文環境。

想要擊敗對手，就不能一味加固自己的盾牌，還要磨利劍鋒。

為實現科普內容、權威內容的跨圈傳播，今日頭條官方同醫學、法律等領域專家合作推出了《頭條講真的》項目，對不實信息、劣質信息主動出擊。最終在維護優質內容增量的同時，和上述辟謠系統共同構成了今日頭條在認知戰爭中的“雙輪驅動體系”。

抖音劍指虛假信息

1月26日，抖音發布了2024年平臺治理報告。

報告內容顯示，2024年，抖音累計刪除謠言452萬條；提前攔截謠言340萬條；處置涉企謠言視頻4.8萬條。

另針對老年人易受騙一事，抖音日均下架違規視頻5000余條；每日成功勸阻約1萬人。

需要注意的是。

和今日頭條不同，身為短視頻平臺的抖音還面臨著“擺拍亂象”的沖擊。

談及此事，抖音集團副總裁李亮曾坦言稱：“其實，怎么識別擺拍是治理難點，一些媒體有時也會誤把段子當作新聞來報道。”

在擺拍亂象面前，抖音給出的答案是“專項核實”。當某個事件達到特定的熱度閾值或收到舉報后，平臺便會聯系當事人或邀請當地媒體進行真實性核查。在沒有明確的調查結果前，平臺會暫停相關內容的推薦，以此來確保信息真實性。

2月13日，字節跳動全員會上，CEO梁汝波特意提到抖音要做好虛假信息和謠言的治理，對無底線博流量的行為展開打擊。

據悉，目前抖音除準備安全與信任中心，去推動算法和平臺治理透明化外。還針對網友們關心的不同問題，推出了不同的治理方案。

比如。

針對爭議內容，抖音將擴大同權威媒體、機構的合作，在各類熱點事件中加強人工研判與核實；針對優質內容，抖音將加大扶持力度，預計在2025年增加300%的優質內容曝光；針對信息繭房，抖音將進一步完善推薦算法，加強內容多樣性探索、興趣探索和匹配等機制去補充推薦信源。

學會讓子彈再飛一會

想要取得認知戰爭的勝利，除了靠各平臺把好審核關以外，用戶自己的大腦防火墻構建也十分重要。

舉個例子。

近期，互聯網上有關“截至2024年末，80后死亡率突破5.2%，相當于每20個80后中就有1人已經去世”“80后的死亡率已經超過70后”的內容廣為流傳。

通過進行延伸搜索，我們發現這些借“80后死亡率”來博取流量的內容，大多稱自己的數據來源為2020年所進行的第七次人口普查。

那么問題就來了。

一份出自2020年的報告，又是怎樣得到“2021年-2024年的人口死亡數據”“80后在2024年的死亡率、存活率”的呢？莫非它學會了時空穿梭？

中國人民大學教授李婷在內容溯源后表示，這一錯誤信息的源頭可能是AI對話。

眾所周知，AI沒有意識。

與其說它掌握了和人類對話的能力，倒不如說它掌握了“詞語接龍Plus版”。在互動過程中，AI往往會根據提示詞、對話歷史進行延伸搜索，并在數據庫里抓取對應的內容進行回復。

倘若用戶提出的要求過于“抽象”，它就會因為數據庫無法錨定而出現“幻覺效應”，開始一本正經地胡說八道；或是被互聯網上的非權威信源所誤導，在自己生成的結果里摻雜錯誤的數據或內容。

除此以外，那些想要用AI截圖傳播謠言的惡意分子，還可以通過“角色扮演法”“復讀游戲法”等途徑去生成特定信息，混淆人們的視聽。

這類情況的出現，恰好為我們敲響了警鐘。

在今天，有太多人對AI呈現出了一種錯誤的“信任”，去盲目認為AI所給出的內容、數據都是絕對準確、權威的。

殊不知，AI也會犯錯，AI也會被人操控。

在日益復雜的網絡生態面前，每個人都將是認知戰爭的親歷者和參戰者。想要取得最終的勝利，除內容平臺本身要去強化審核機制外，我們每個人也都應該在大腦里建立“信息防火墻”；在按下轉發鍵之前，學會“讓子彈再飛一會”。

參考：

觀察者網：今日頭條2024年攔截不實信息超500萬條，處置不友善內容3億條

北京商報：當平臺治理遇上AI挑戰，今日頭條分享“經驗包”

新京報：抖音年度治理報告：不當言論展現量降63%，將建安全與信任中心

每日經濟新聞：打擊網暴及謠言、整治“信息繭房”??推進算法和平臺治理透明化，抖音出手了

光明網：“每20個80后就有1人去世”？謠言！罪魁禍首可能是AI

科學辟謠：警惕！全網熱傳的的AI截圖可能正在成為新的謠言制造機！