智東西
編譯 王涵
編輯 漠影

智東西6月9日消息，據(jù)外媒Business Insider報道，谷歌CEO桑達(dá)爾·皮查伊（Sundar Pichai）在6月6日發(fā)布的雷克斯·弗萊德曼（Lex Fridman）播客中將目前AI的發(fā)展階段稱為“AJI”（Artificial Jagged Intelligence，鋸齒人工智能）：“我不確定首創(chuàng)者是誰，或許是卡帕西。”他指向前OpenAI聯(lián)合創(chuàng)始人、深度學(xué)習(xí)專家安德烈·卡帕西（Andrej Karpathy）。

▲播客主持人雷克斯·弗萊德曼（Lex Fridman）與谷歌CEO桑達(dá)爾·皮查伊（Sundar Pichai）（圖源：YouTube）

技術(shù)進(jìn)步從來都不是線性發(fā)展，人工智能（AI）亦不例外。當(dāng)學(xué)術(shù)界、獨(dú)立開發(fā)者與科技巨頭共同推動通用人工智能（AGI），這種尚屬假想、能比肩人類能力的智能形態(tài)時，他們正遭遇多重障礙：許多新興模型易產(chǎn)生幻覺、錯誤信息及低級失誤。

一、AI技術(shù)的發(fā)展并非線性，而是呈鋸齒狀

AJI隱喻著AI發(fā)展的鋸齒狀軌跡，既有天才火花，又伴基礎(chǔ)錯誤。卡帕西在2024年發(fā)表的推文《鋸齒狀智能》中闡釋：“這個術(shù)語描述（反直覺的）現(xiàn)象：最先進(jìn)的大語言模型（LLM）既能解決復(fù)雜數(shù)學(xué)問題，又會栽在9.9>9.11這類低級錯誤上。”他列舉了大語言模型在井字棋中做出“荒謬決策”、計數(shù)障礙等案例。

▲前OpenAI聯(lián)合創(chuàng)始人、深度學(xué)習(xí)專家安德烈·卡帕西（Andrej Karpathy）在2024年發(fā)布推文《鋸齒狀智能》部分截圖（來源：X）

卡帕西提出核心差異：人類從幼年到成年“知識與問題解決能力呈線性協(xié)同增長”，而AI的“鋸齒邊緣”既不明晰也難以預(yù)測。皮查伊對此十分認(rèn)同：“你會驚嘆它們的能力，轉(zhuǎn)眼又發(fā)現(xiàn)其犯下數(shù)字錯誤或數(shù)不清‘strawberry’中的字母R，多數(shù)模型在此栽跟頭。我們正處于AJI階段：突飛猛進(jìn)中夾雜明顯缺陷，但整體仍在快速進(jìn)化。”

二、皮查伊預(yù)測：2030年將迎來AI的多維度進(jìn)展

皮查伊提到，2010年谷歌DeepMind成立時，其團(tuán)隊曾預(yù)測實現(xiàn)AGI需要20年，皮查伊認(rèn)為實際耗時可能更長。他還預(yù)計，到2030年世界將需要建立AI內(nèi)容標(biāo)識系統(tǒng)以“區(qū)分現(xiàn)實”，皮查伊說：“我要強(qiáng)調(diào)定義本身并不重要，因為屆時多個維度都將取得突破性進(jìn)展。”

“進(jìn)步”是個模糊概念，但皮查伊詳細(xì)闡述過AI將帶來的益處。在2024年9月舉辦的聯(lián)合國“未來峰會”上，他列舉了AI推動人類發(fā)展的四個具體方向：改善母語知識獲取、加速科學(xué)發(fā)現(xiàn)、緩解氣候災(zāi)難、促進(jìn)經(jīng)濟(jì)進(jìn)步。

不過首先，AI得學(xué)會正確拼寫“strawberry”這個詞。

結(jié)語：不出現(xiàn)低級錯誤是AI的安全底線

皮查伊引用的“鋸齒比喻”很形象地描繪出了當(dāng)下AI發(fā)展的局勢，同時也提醒我們：大模型的技術(shù)迭代不應(yīng)僅以 “攻克難題” 作為單一評價維度。當(dāng)模型能夠求解復(fù)雜數(shù)學(xué)方程、生成專業(yè)代碼時，我們更需審視其在基礎(chǔ)邏輯校驗、常識性判斷等 “底層能力” 上的表現(xiàn)。

解決高難問題是AI大模型的能力上線，而不出現(xiàn)低級錯誤則是其安全底線。一個在專業(yè)領(lǐng)域表現(xiàn)卓越卻頻繁輸出常識性錯誤的模型，不僅可能誤導(dǎo)用戶決策，更會侵蝕用戶信任。

或許，能否精準(zhǔn)識別“1.11與1.8的數(shù)值大小”“strawberry里有幾個字母R” 等基礎(chǔ)問題，才是更廣泛的普通用戶所真正關(guān)心的。

來源：Business Insider