圖源：pixabay

導讀：

如何在不同的工作場景中使用人工智能？這是當今時代的人們熱烈討論的一個話題。

亞馬遜云科技上海人工智能研究院院長張崢認為，要更好地應用人工智能，理解其工作原理非常必要。然而，曾經設計過上海紐約大學計算機導論課程的他，也發現專業教材門檻過高，傳統的教學設計過于陳舊，人工智能的教與學亟需更新。

在過去半年，張崢做了一個小試驗，他與機器大模型合作共同設計了一門課：LLM4LLM，以問答的方式讓人工智能來做多層次的人工智能教學，希冀為人工智能的學習與普及開創一條新的路徑。

用AI教AI，這是可能的嗎？以下是張崢關于這門課的設計思路、實踐與思考。

張崢|撰文

2016年我還在上紐大，組織了一個跨學科研究項目，召集了一群神經科學家和計算機科學家，主題是探索人腦和機器學習模型的異同。項目開始時，我向神經科學家們提了一個看似簡單的問題："當我們看到一個蘋果時，怎么說出'這是一個蘋果'？大腦中發生了什么？有哪些回路在工作？"我以為這個問題幾個小時就能搞清楚。結果，他們討論了整整一個月，最終得出的結論是：大腦很復雜。我想說，這個我也知道啊。

人的復雜就在于，永遠講不清楚自己。

2025年，DeepSeek R1的發布完美搶鏡春節檔，將AI從技術圈的小眾話題推向了全民視野。街頭巷尾，茶余飯后，無人不談大模型：大模型到底是什么？有多厲害？

那么，今天的大模型強大到能說清楚自己嗎？

SAIXIANSHENG

AI領域局外人的困惑

AI時代降臨的速度之快、影響之深，讓大家沒有足夠的思想準備。這個話題不僅在計算機領域熱議，認知科學、神經科學、人類學、歷史學、法律界、投資界等各個領域都在各自討論、爭論、舉辦研討會。

在這些場合和文章里，我經常能讀到耳熟能詳的AI詞匯，可是我的觀察是，很多不同領域的發言都建立在對AI了解不夠深入的基礎上。

我可以出幾道題：

·關于維度："人類用語言交流，大模型用低維向量……" ——12288（GPT-3的工作維度）是"低"維度嗎？

·關于預測："和我們人類不一樣，大模型的預訓練只是做下一個詞的預測而已，只是數據超級大……" ——next-token預測本質上在做什么？為什么如此重要？只是因為方便在大數據上訓練嗎？

·關于推理：那些"推理"模型的飛躍，只是因為"蘿卜加大棒"的強化學習嗎？

·關于"混合專家"模型："大模型像人類學習的一種方式是集成了多個專家在網絡中"——這里的"專家"是指什么？

這些問題并非故意刁難，十幾年前我從系統研究轉到機器學習時，第一個問題就困惑了我很久：我們難道不是生活在一個只有4個維度的時空世界里嗎？文本作為一個序列，難道不是一維的嗎？

我認為不同領域的專家在討論AI影響時，還是需要掌握一些最基本的AI通識。

SAIXIANSHENG

實踐者的盲區

如果說外界對于AI的理解不夠深入是因為跨行業的門檻太高、學習成本太高，AI從業者群體的問題則是另一回事。因為大模型能力的強大，很多工作實質性地變成了提示詞工程。而很多研究型的實習生，雖然能把Transformer的公式倒背如流，但對大模型中用了哪些模塊以及這些模塊的必要性經常說不清楚。

可惜的是，雖然到處都能找到關于大模型的論文、教材和科普材料，但都存在這樣那樣的問題：要么過于技術化，充滿數學公式和代碼細節，讓非專業人士望而卻步；要么過于淺顯，只停留在概念介紹層面，無法滿足真正想要深入理解的需求。在這兩個極端之間，似乎缺乏有彈性的中間地帶。

SAIXIANSHENG

用AI教AI的元實驗

普及AI通識是個新問題，卻也代表了AI時代教育的一般性問題：教什么？怎么教？怎么學？

我和上紐大的計算機院長Nasir Memon教授很熟，經常喝酒聊天，教育改革是其中一個常聊的話題。上紐大的計算機導論課程是我在2014年加入時從頭設計的，據說很受歡迎，其中的機器學習部分內容因此也有十多年歷史，相當老舊。今年3月，Nasir挑戰我說："暑期班還要教，你不滿意，有什么辦法？"

這促使我啟動了一個元實驗——用AI教AI。

“用AI教AI”，聽上去非常像一個遞歸陷阱——就像讓鏡子照鏡子一樣。但其可能性來自這一兩年我平時閱讀論文習慣的變化。

在前AI時代，一篇好文章的細讀要花不少時間，我的一個煩惱是會被技術細節困住。即便有些問題身邊的同事能解答，我也經常存疑跳過，原因有二：不想打擾別人，以及——說實話——不好意思暴露無知。

去年這個時間點AI還有大量幻覺問題，把文章扔進AI進行對話，經常會把人帶到溝里去。現在最新的模型幻覺問題顯著減少，可以深度討論、在提問中實時補充論文之外的必要知識，特別有用的論文再把原文讀一遍，效率非常高。

換句話說，“讓AI教AI”這個元實驗的可行性建立在兩個重要前提上：存在準確可靠的學術資料供AI參考，以及AI本身足夠靠譜不會胡說八道。

在這個前提下，用AI教學有明顯超越人類教師的優點：

·AI具有超強的適應性。它可以根據學習者的背景調整解釋方式，提供不同深度的答案，舉出各種類比，實時回應困惑和問題。

·AI的教學無限耐心。它不會因為反復提問而厭倦，不會因為問題簡單而不耐煩，也沒有任何情緒化反應，因此可以破解學習者"不好意思問"的心理障礙。

3.1設計理念

有了前面的分析和個人體驗，我開始著手設計這個"LLM4LLM"的課程。其中比較重要的設計理念是以下這些：

·多層次自適應。能適應三類學習者：通識學習者（注重概念理解和直覺建立）、技術實踐者（需要看到代碼實現和工程細節）、理論研究者（關心數學基礎和前沿進展）。

·端到端。除了教學內容，也要評估和反饋。通過pre-prompt設定期望，session prompt引導探索，post-prompt進行多維度評分，形成完整的學習循環，讓AI能夠感知學習效果并動態調整教學策略。

·第一性原理驅動。從"為什么"開始，再講"是什么"、"怎么做"。思維方式的訓練要遠比知識本身更重要。

·啟發式教學。模仿蘇格拉底對話風格，培養學生批判性思考和提問能力。但與傳統不同的是，我們鼓勵學生反向提問，打破師生界限，讓學習變成真正的雙向交流。

·走必要的捷徑。不拘泥于大模型發展的歷史軌跡，從第一性原理重構敘事線條。歷史很有趣，但課程的目標是讓學習者建立正確的概念框架，而不是重走研究者踩過的坑。如果學習者想了解歷史，可以在對話中直接問，但這不應該成為課程設計的主框架。

·保持開放，支持動態自我更新。AI領域變化太快，大模型的基礎研究仍在實時進行，我們要能實時收納新內容、更新錯誤，成為一門具有自我更新能力的"活"的課程。另一個重要方面是能吸納新的教學方式，關于這點我在后面討論課程局限時會專門分析。

3.2課程結構與內容概覽
整個課程采用漸進式設計，包含14個主題會話，圍繞從基礎預測到高級推理的3個核心模塊展開，系統涵蓋64個知識點——這些都是理解大型語言模型的關鍵概念，同時也是現代機器學習的部份分代表性理論基礎。大部分知識點都用三層學習架構，適配不同背景的學習者需求，并配備30+個交互式可視化工具，將抽象的技術概念轉化為直觀的學習體驗。 .

模塊內容架構

Module 1:詞預測與嵌入基礎(5個會話, 27個知識點)
核心問題：為什么簡單的下一詞預測能夠產生如此強大的語言理解能力？

從最直觀的統計語言建模開始，引導學習者深入理解預測的本質機制。我們以易于理解的N-gram模型為起點，讓學習者直觀體驗基于詞表和詞頻的預測方法及其固有局限性，從而自然地引出神經網絡方法的必要性。這一模塊是理解大模型在向量空間工作原理的關鍵基礎——不深入理解詞嵌入(embedding)的概念和機制，就無法真正掌握大型語言模型的工作原理。通過逐步構建從離散符號到連續向量表示的認知橋梁，為后續的復雜架構學習奠定堅實基礎。

Module 2: Transformer架構與訓練(4個會話, 15個知識點
核心問題Transformer是怎么練成的？

這是課程的核心模塊。我們摒棄傳統的歷史發展路徑(RNN→LSTM→Attention)，而是從用戶熟悉的關鍵詞搜索體驗出發，以"生成式搜索引擎"的概念作為理解Transformer的切入點。通過這個直觀的類比，我們系統闡釋Transformer架構中注意力機制和前饋網絡的設計邏輯，然后循序漸進地整合其他關鍵技術組件。這種從第一性原理出發的教學方法，最終引導學習者完整構建出一個可運行的大型語言模型，真正做到知其然且知其所以然。

Module 3:推理與對齊(5個會話, 22個知識點
核心問題推理能力是如何從簡單預測中涌現的？強化學習在其中扮演什么關鍵角色？

聚焦于當前最前沿的研究話題：大模型如何從基礎的模式匹配演進為具備復雜推理能力的智能系統。深入探討強化學習在這一轉變過程中的核心作用機制，思考過程的"暗數據"的發掘在其中的關鍵作用，以及人類反饋如何指導模型行為的對齊過程。

知識點分層

每個知識點都標注了適用層次：(C) Core Concepts- 適合所有學習者的概念理解,(I) Implementation- 需要基礎編程背景（Python）的實現細節,(T) Theory- 數學和理論基礎。C類適配AI通識教育，先實踐(I)再理論(T)的順序是基于以下的考量：數學公式雖然深入、精準，但遠不如可以跑的代碼直觀，而且大模型編程的技術，可以倒逼理論型研究者不要只在公式里繞圈，而是要有動手做實驗的能力。

學習過程：簡單三步法

首先選擇一個前沿聊天機器人（我測試了Claude、GPT、Gemini、Grok，以及初步試用了DeepSeek），一個比較重要的要求是對長上下文的支持。然后采用結構化的三步教學流程：

·加載pre-prompt建立學習框架和AI教學規則；

·打開某個session prompt開始圍繞核心問題的引導式學習；

·最后加載post-prompt進行多維度的學習效果評估和下一步建議。

每個主題會話都是一個完整的學習單元，可以按自己的節奏進行，支持暫停續學和知識點間的自由跳轉。如果學習者只對某個知識點感興趣，也可以通過對話直接切入。

整個過程支持即時語言切換——無論何時，學習者都可以用中文、英文、日文等任何語言發出請求，AI會立即適配，真正實現無語言障礙的學習體驗。這個功能純屬意外發現。當時我正在向一位希臘教授演示，演示進行到一半，我突然好奇心發作："Please teach this in Greek!" AI二話不說就切換了。那一刻我們倆都愣住了，然后笑著說，這大概是歷史上第一門真正的世界語課程。

從哲學問題先開始

大家當然可以按模塊順序學習，但我設計了一個特別的“哲學書簽”路徑：先從最后一課（Session 3.4）開始，憑直覺回答那些關于AI智能、理解和意識的哲學問題，學完所有技術內容后再回到3.4，再討論一遍同樣的問題。這就像給自己對智能的認知做了個“before-after”對比——沒有標準答案，但有更深刻的思考。

以經典的“中文房間”問題為例：哲學家Searle提出了一個思想實驗——想象一個不懂中文的人被關在房間里，房間里有一本詳細的規則手冊，告訴他如何根據收到的中文字符來輸出相應的中文回復。從外面看，這個房間似乎'理解'中文，但房間里的人其實完全不知道這些符號的含義。Searle以此論證：僅僅按規則操作符號并不等于真正的理解，因此計算機也不可能真正理解語言。

但當你理解了LLM的工作原理后，可以用全新的視角審視這個問題：房間里不是一個無知的人在查規則表，而是有數十億個'小人'（神經元），它們傳遞、加工和轉換的不是無意義的符號，而是在向量空間中編碼了真實語義關系的詞匯表示。這種分布式的語義處理是否構成了一種新形式的'理解'？

也許你會發現，中文房間論證本身可能基于了過于簡化的假設。第一，它假設輸入的是離散的'字符'而非連續的語義表示；第二，它假設處理單元是單一的'人'而非分布式的神經網絡。當這兩個假設都不成立時，整個論證的基礎就變得可疑了。事實上，推翻這兩個隱蔽的假設使得?腦和類腦更接近而不是相反。

很多經典的哲學問題——從意識的本質到智能的定義——在學習完AI的工作原理之后，都值得重新審視。

3.3課程局限與改進方向
這個課程有幾個需要持續改進的方面，這些挑戰既體現了當前技術的局限，也給將來的AI教育提供了一些參考。

教學方法的挑戰。蘇格拉底式的不斷提問雖然能激發深度思考，但也可能讓學習者感到疲憊和被"審問"的壓力，特別是對那些習慣被動接受知識的學習者。目前我們鼓勵學生注意節奏，不要每次學太多，更重要的是用主動反問來打破這種單向的質疑模式，但這種平衡仍需要更精細的調控。

更關鍵的是個性化教學適配的難度。一方面是層次差異難以彌合：某些核心概念（如embedding的高維語義空間）在純概念層面很難真正理解，不涉及代碼實現和數學推導就容易流于表面，但對于非技術背景的學習者，這些內容又可能過于復雜。另一方面是反饋整合機制的問題：AI目前的一個大問題是"諂媚"傾向，我做過一個測試：在整個學習會話中只說'你來告訴我'，完全不參與思考，然后用post-prompt評估。結果AI大方地給了我及格分數。這讓我意識到，AI可能是世界上最好脾氣的老師，但也可能是很不靠譜的評估者。換句話說，如果無法有效識別真實的學習狀態并據此調整后續的教學策略，個性化學習就會完全失效。

單一形式的局限。語言能力是人類能力中相當晚涌現出的能力，而就像科普作家、記者Ed Yong在“An Immense World”（《感官的巨大世界》）一書中提到的，人類在視覺能力上在動物界是可以稱王的。但是，即使用母語閱讀文字也會很快感到疲憊——若全部基于聊天機器人，閱讀純文字和代碼，時間一長還是很累。目前我們通過31+個靜態可視化工具來緩解這個問題，但這還遠遠不夠。短期內，我們需要更豐富的交互式媒體內容；長期來看，理想的解決方案是讓AI根據學習者的具體困難生成個性化的動態講解——當你對某個概念困惑時，AI能實時生成針對性的動畫演示，配上語音解說，隨時給你豎起一塊小黑板。

順便說一下，測試中有不少AI會熱情地說“我給你畫個圖解釋一下吧”——千萬別答應。我在pre-prompt中已經明確要求優先使用現有的可視化資源，因為目前AI的繪畫水平基本上停留在'靈魂畫手'階段，看了只會更困惑。

驗證覆蓋的不足。課程包含64個知識點和數千種可能的對話路徑，而目前的測試主要局限于設計者自己的體驗和少數試用者的反饋。這種"作者測試作品"的模式顯然不夠充分。理想的驗證方案應該包括：用零知識的大模型作為"學生模型"，讓它與"教師模型"進行完整的學習對話，然后設計標準化測試來評估各個知識點的掌握程度。

同時，AI領域的快速發展意味著內容需要持續更新——我們設計了一個讓LLM自主收集新研究并提出內容修改建議的機制，但這套動態更新系統還沒有經過實戰檢驗。

人類教師角色的重新定位。這或許是最根本也最復雜的挑戰。"LLM4LLM"代表了教學模式光譜的一個極端：完全自主學習。但在現實中，更可能的情況是各種混合模式——教師可以使用全部或部分材料來設計傳統課程，讓學生先自學某些知識點再進行課堂討論，或者在傳統教學中穿插AI對話環節。我的直覺是，最有效的方式可能是將AI自學和人際討論結合起來。畢竟，我自己最有創意的想法往往來自與同事們的討論，這門課程本身的制作就很說明了這一點。

如何利用好AI來做課程改革是一個非常重要的問題。但問題是，當前的學術體系并不鼓勵教學創新。研究型教師的職業發展主要看研究成果，教學創新在評價體系中的地位大概相當于餐廳里的裝飾品——有更好，沒有也不影響"主菜"。所以一旦課程設計完成，很少有人愿意投入精力持續改進教學方法。顯然，這是一個制度性挑戰。

3.4開發的故事
我們在“43天的開發周期中，在24個不同的日子里提交了代碼，平均每個活躍日進行6.4次提交，總共增加了19,419行代碼，刪除了9,014行，整體變更接近3萬行”（引號中數據由GPT的Codex工具調研完成），這還不包括30+個交互式可視化工具的開發工作。

這里的"我們"，指的是我與Claude、GPT的協作。因為白天還有研究院的工作，我只能在晚上和周末加班，這樣強度的工作沒有AI工具的加持，在以前是不能想象的。一般情況下我得設計完模塊和主題，以及知識點，相當于搭建好腳手架，然后讓Claude生成Prompt，在Claude和GPT上做測試，其中花時間最多的是建立學習框架和AI教學規則的Pre-prompt，如果不仔細調試的話，這些聊天機器人經常會不遵守知識點的順序，實際上我現在也不能保證它們不會橫跳（當然學生總是可以提示它回到知識點來）。

當然，這也解釋了為什么前面提到的測試覆蓋和驗證工作相對有限——一個人的精力終究是有限的，即使有AI助手。

正因如此，我們歡迎各種形式的貢獻。無論是內容完善、錯誤修正、新的可視化工具，還是測試反饋和教學實踐經驗分享，都將幫助這個項目變得更加完善。

SAIXIANSHENG

鏡像中的智能——AI教育中不可缺失的“I”

我認為

AI 的通識教育必須包括對 "I" ，也就是人類智能的部分，否則是不完整的。從這個角度來看，這個課程還缺了一大半。

但是我認為這門課程設計時背后的三個基本原理——信息的分布式表示、注意力與模式檢索、目標導向的學習——不僅解釋了AI系統的運作機制，同時也反映了人類認知的基本方面。關于智能，我屬于“智能與基質無關派”（intelligence is substrate independent）——智能體要在一個復雜動態的世界中'卷'，用硅基還是碳基來實現并不重要。

但是硅基智能（AI）從碳基智能（我們）的軌跡中學習，畢竟沒有走漫長的演化路線，結構不同并不意外。幾年前我強烈相信AI的打造必須要從類腦開始，現在基本放棄了這樣的信條，不過依然相信有借鑒的必要，只是必須有選擇性。

當我們用心理學家Kahneman的System 1和System 2框架來審視這個問題時，跨物種的對比變得格外有趣。人類的System 1（快速、直覺、自動的思維）對應著LLM的即時預測能力，而System 2（慢速、理性、需要努力的思維）則對應著推理模型的思維鏈條。兩者都在解決同樣的根本問題：如何在有限的計算資源下，既要快速響應環境，又要處理復雜的推理。

實現方式的差異同樣引人深思。比如腦科學的研究表明人類的語言處理主要來自兩個腦區的協作（Broca區負責語法和語言產出，Wernicke區負責語義理解），而大模型則是通過重復執行attention-FFN塊來實現語言理解。然而，在這些截然不同的架構背后，我們卻發現了驚人的功能相似性——比如預測（腦科學中的predictive coding），比如注意力機制，這些根本模塊似乎是智能系統篩選相關信息的通用解決方案。

來源：賽先生

原標題：張崢：用AI教AI可行嗎？

編輯：涼漸

轉載內容僅代表作者觀點

不代表中科院物理所立場

如需轉載請聯系原公眾號