OSCHINA

凝視深淵過久，深淵將回以凝視。 —— 尼采

2022 年，全球最大的輕博客網站 Tumblr 上發生了一件挺有意思的事情。

大量的 Tumblr 用戶對馬丁?斯科塞斯（就是拍《華爾街之狼》的那位）1973 年執導的電影Goncharov大加贊賞，稱贊這部鮮為人知的電影是有史以來最大的黑手黨電影 ——“Goncharov 遠勝于它的時代，卻從未贏得它應有的贊賞。”

隨著一張電影海報被翻出，熱度一下子沖上網站前五 ，很多人都在 Tumblr 刷屏“求云盤”“帶價拿資源”。

但其實，馬丁?斯科塞斯根本就沒有拍過這部電影，人類歷史上也沒有一部名為 Goncharov 的電影！這意味著，一張掛名“Martin Scorsese”的電影海報，幾句互聯網背后的虛構影評，最終演變成了一場群體欺騙，直至現在還有人堅信這部電影的存在。

心理學將這樣的現象稱之為“媒體等同”（media equation），人類天生會傾向一些群體性認同事件，換言之，當群體對同一件事情表現出肯定時，個體對事件往往會丟失判斷。你或許會說，怎么可能，難道我就沒有獨立思考嗎？

來看下面這張圖片

表面上，這是一個被壓廢墟的孩子，讓人憐惜，但細看，孩子左手為六根手指。

央視新聞后續為此事件辟謠，該視頻為 AI 生成內容，并稱：AI 讓造謠變得更簡單和更“科學”。諸如此類的 AI 烏龍還有很多，比如川普被捕、AI 教皇，只要不是原則性問題，大家反而對這樣的“欺騙”趨之若鶩。

如果說 Goncharov 的群體欺騙，是藏在人性里的戲謔因子，那么，在人工智能迭代如此迅速的今天，AI “欺騙”人類，是技術缺陷還是人為？AI 所掀起的全球狂熱，是否也該降降溫？既然 AI 存在一定的失準，我們如何與 AI 相處？筆者想靜下心來和大家聊聊。

技術之病：AI 幻覺

AI 本身就有“病”——AI Hallucinations（即：“AI 幻覺”）。

簡單理解，它是指諸如 GPT4 、PaLM 、DeepSeek 等大語言模型“一本正經地胡說八道”，將編造的事實與多個段落的連貫性和一致性編織在一起，且稱之為真實信息的情況。比如，人有三條腿（常識錯誤）、李逵大鬧五臺山（劇情混淆）、第一個登上月球的人是 Charles （實際上是 Neil ，歷史虛構）、阿聯酋的首都是迪拜（實際上是阿布扎比，數據干擾）... 大致分為兩類：

• 事實性幻覺：指模型生成的內容與可驗證的現實世界事實不一致

• 忠實性幻覺：指模型生成的內容與用戶的指令或上下文不一致

就拿現在很多企業普遍接入的 DeepSeek R1 來說，幻覺率高達 14.3% ，遠高于 V3 的 3.9% 。

如果說 AI 幻覺是病，這些病是如何來的呢？

首先，病從口入，大數據的數據缺陷，是導致 AI 產生幻覺的一大原因。這其中包括數據缺陷、數據中捕獲的事實知識的利用率較低。

具體來說，數據缺陷分為錯誤信息和偏見（重復偏見、社會偏見），此外大模型也有知識邊界，所以存在領域知識缺陷和過失的事實知識 —— 即便大模型吃掉了大量數據，也會在利用時出現問題。

除了數據，訓練過程也會使大模型產生幻覺。

• 預訓練階段

【架構缺陷】：基于前一個 token 預測下一個 token，這種單項建模阻礙了模型捕捉復雜的上下文關系的能力；隨著 token 長度增加，不同位置的注意力被稀釋；

【曝露偏差】：模型推理時依賴于自己生成的 token 進行后續推測，錯誤的 token 會在整個 token 中產生級聯錯誤。

• 對齊階段

【能力錯位】：大模型內在能力與標注數據中描述的功能之間可能存在錯位。（邊界在哪里，也就放大了幻覺的風險）；

【信念錯位】：基于 RLHF 等的微調，使大模型的輸出更符合人類偏好，進而犧牲信息真實性。

簡言之，AI 的幻覺之病，并不是單一因素導致，而是數據集、架構、算法、訓練、推理等等，一系列的發展態疊加而成。

圖片來源：《 DeepSeek 與 AI 幻覺》@清華大學

既然 AI 幻覺會帶來如此多不確定性，科學家為什么不嘗試“去幻覺”？事實是，有些問題從根本上就無解，我們能做的：只有與幻覺共存。

不過，在某些特定的情況下，AI 幻覺也可能有一些“意外”的好處。比如，大衛?貝克團隊獲得 2024 諾貝爾化學獎，源于 AI 幻覺的“錯誤折疊” 啟發出新型蛋白質結構；DeepMind 團隊發現，AI 在圖像分割任務中產生的“超現實邊界”雖不符合真實場景，卻意外提升了自動駕駛對極端天氣的識別精度...

以至于，科學界目前正在構建“AI 幻覺 - 實驗驗證 - 理論重構”三階段研究流程，試圖通過 AI 幻覺卻發現一些人類尚未探索過的可能。

市場之病：AI 狂歡

從千模大戰，到 DeepSeek 一騎絕塵，AI 市場的狂歡背后，是每天少說都有十幾個 AI 新項目如雨后春筍一般誕生。筆者相信這些項目不單是追風口、蹭熱度，而是 AI 開辟出了新的道路、新的可能。

但高投入和低收益之間的“剪刀差”的背后，仿佛大家都開誠布公地默認了一件事情：搞 AI 就能賺錢！這又何嘗不是一種病態！

根據摩根士丹利的計算，亞馬遜、谷歌、Meta 和微軟這四大科技巨頭整 2024 年的資本支出達到 2460 億美元，其中大部分資金流向了 AI 領域，大頭是數據中心和先進芯片的建設，但實際產生的收益卻不夠理想，反而在繼續加碼。

IT 桔子統計，34 家 AI 上市公司中，有 19 家在 2024 年上半年仍然處于虧損狀態。顯然，盡管 AI 技術發展迅速，但大多數 AI 公司仍未實現盈利。

反而，第一批吃螃蟹的人除了像英偉達這種提供芯片的公司，就是趕上 AI 風口利用信息差割韭菜的自媒體博主。

為什么搞 AI 難賺錢，市場上還是有那么多狂熱分子？

首先，覆水難收。即便在大模型高唱降本的今天，想要研究一個大模型出來，所投入的資金、物力、人才都是極為龐大的。高昂的開發門檻，砸出了一個巨大的資金缺口，如果后面不持續投入，活到云開見日的那一天，前面的所有心血都會打水漂。（還不如賭一把！對吧。）

來源：新浪財經

其次，市場開拓不足。俗話說，好馬配好鞍，我花了那么多錢砸出來的 AI 產品，第一時間肯定是想開拓穩定的 ToB 、ToG 市場對吧。

但這類賽道，不僅決策期長，市場容量小，還伴隨一系列的人情邊際，一個招標文件就能急死一大批 AI 老板，誰能不發瘋？（如果 AI 老板是技術出身，瘋得更快！）

那么，ToC 賽道呢？

聊個人之常情的邏輯：有多少人用，才是 C 端市場的容積，一旦面臨經濟下行或消費轉移，就容易引發一系列的連鎖反應。

同時，在如此激烈的搶人環境下，許多 AI 公司不得不采取燒錢補貼、廣告曝光的策略來爭奪市場份額，實際利潤也就被稀釋了。

具體可以參考下圖

這些都是沉沒成本啊...

并且，AI 技術并不具備任何的商業邏輯，市場上的狂熱，也只能由市場去慢慢消化。筆者認為，市場之病，目前還只處于 1.0 階段，當大批量的 AI 公司擱淺，市場上僅剩下幾極之后，2.0 的 AI 市場才可能慢慢自愈。

個體之病：AI 依賴

AI 作為這個時代的新質生產力，確實帶給了人們很多的便利。比如，我要寫這篇稿子，可以找 AI 幫我寫個框架；開會要做總結，可以讓 AI 幫我劃重點；專業名詞不了解，交給 AI ，除了得到答案，還可以得到一些拓展性回答。

偷懶起來，簡直不要太爽！

但漸漸的，我發現：AI 其實只能幫助我們在短時間內提升一個領域的認知下限，對于一些專業性極強、需要實操，并伴生多種知識體系的領域（如：生命科學、國際經貿等），光是靠 AI 問問題，無異于管中窺豹。

并且，對于普羅大眾來說，目前的 AI 應用更偏重于提升效率，如 AI 搜索、AI 總結、AI 寫作，越是將簡單的工作交給 AI ，人們的內心預判就越不會覺得 AI 做得不好（但其實 AI 的出錯率真的很高），就越容易產生 AI 依賴。

2024 年的最后一天，南方日報發了一篇《“AI依賴癥”怎么治》的文章，其中點名：大學生作業里充滿了 AI 味，文科生快失去了原創寫作的能力。

據英國高等教育政策研究所發布的調研，1250 名英國本科生中，有 53% 的學生正在使用 AI 寫論文，而在使用 AI 的學生中，25% 的人用 AI 來制定論文主題，還有 5% 的學生直接承認曾直接將 AI 生成內容復制粘貼到論文中。

“這一現象已經不是新問題了。我們曾經發現，學生的畢業論文里，有的段落的中文‘不像中文’，后來才知道，學生是將自己以前發表的英文論文用 AI 工具翻譯成中文粘貼過來。” 南京大學人工智能學院副院長戴新宇教授表示。

百度相關問題的索引

不僅如此，純靠 AI 在職場上也混不走。

今年 2 月，美國知名律所 Morgan & Morgan 向 1000 多名律師發送了緊急郵件，警告稱 AI 可能生成虛假的判例信息，若律師在法律文件中使用這些虛構內容，可能會被解雇。

不可否認，生成式 AI 技術極大地縮短了律師研究判例和撰寫的時間，但 AI 也存在“編造事實”的風險。

反觀國內的醫療行業，則是在“AI 診療”上頻加紅線，北京市衛健委明確指出：醫療機構開展互聯網診療活動要加強藥品管理，嚴禁使用人工智能等自動生成處方，且人工智能軟件等不得冒用、代替醫師本人提供診療服務。

真是應了那句話：AI 能幫你上班，但不能幫你背鍋。那么，在這個高喊 All in AI 的時代，普通人該如何相處呢？筆者總結為八個字：敬畏工具，保持懷疑。

AI 真的只是一個工具而已，當你在使用 AI 的同時，不妨也向 AI 學習，它的思考方式、思維廣度，與 AI 共舞更能促進 AI 的發展；其次，開篇也提到了，雖然在群體認同保持清醒很難，但保持懷疑，卻很簡單，不妨試試！

AI 有病，但它并不是我們的敵人，這一點需要明確。

之所以放在最后來說，是因為筆者在查資料的過程中，發現了很多科學家正在研究如何降低 AI 幻覺，已經有很多企業開始了 AI 商業的探索，并且身邊的很多人都開始將 AI 看作是映射自身的鏡子，透過 AI 這個時代產物去完善自身的缺陷。

AI 的未來，其實就是與人類共愈的過程。

https://github.com/vectara/hallucination-leaderboard

http://views.ce.cn/view/ent/202412/31/t20241231_39252324.shtml

https://www.nju.edu.cn/info/1056/355561.htm

↓分享、在看與點贊~Orz