智東西
作者｜程茜
編輯｜漠影

智東西7月26日報道，今日，世界人工智能大會開幕，在上海一家AI創(chuàng)企的展臺前，我們目睹了中國AI創(chuàng)業(yè)公司正向著主流Transformer架構(gòu)發(fā)起強(qiáng)勢沖鋒。

一臺機(jī)器狗，學(xué)習(xí)了用戶的打招呼手勢后，不到30秒就學(xué)會并復(fù)刻了動作，且完全模仿了用戶使用右手打招呼的動作，值得注意的是，這一過程是在不依賴云端、完全離線部署的情況下實(shí)現(xiàn)的。

這正是RockAI展臺正在上演的場景。RockAI 2024年1月發(fā)布了國內(nèi)首個基于非Transformer架構(gòu)的大模型Yan 1.0、2024年9月發(fā)布Yan 1.3群體智能單元大模型，再到如今最新的Yan 2.0 Preview模型，此次機(jī)器狗亮眼表現(xiàn)的關(guān)鍵之一就是其在Yan 2.0 Preview模型中引入了記憶、自主學(xué)習(xí)能力。

3B參數(shù)規(guī)模的Yan 2.0 Preview，在ARC-C、ARC-E、WinoGrande等部分榜單上的性能表現(xiàn)已經(jīng)超過參數(shù)規(guī)模更大的Llama 3、Qwen 3、Gemma 3。

RockAI CEO劉凡平談道，Transformer架構(gòu)是先預(yù)訓(xùn)練再微調(diào)、應(yīng)用，現(xiàn)在Yan架構(gòu)模型是在物理世界中學(xué)習(xí)、交互，不需要依賴云端，打破了現(xiàn)在大模型的學(xué)習(xí)模式，Yan 2.0 Preview的出現(xiàn)就承載了模型的自主學(xué)習(xí)能力。

一、30秒離線精準(zhǔn)復(fù)刻動作，讓模型擁有“原生記憶能力”

這次在WAIC上，RockAI發(fā)布的Yan 2.0 Preview同樣是基于非Transformer架構(gòu)Yan架構(gòu)，具備文本、視覺、音頻多模態(tài)理解，以及端到端音頻和文生成的能力。

話不多說，先來看效果。

基于Yan 2.0 Preview的靈巧手可以在展臺自主玩推箱子游戲，可以看到它會根據(jù)具體情況對下一步行動進(jìn)行分析、評估，最終使得箱子被放置到正確的位置。

2024年1月，Yan 1.0模型發(fā)布，擁有相較于同等參數(shù)Transformer架構(gòu)更高的訓(xùn)練推理效率、吞吐量及記憶能力，更低的機(jī)器幻覺表達(dá)，同時支持CPU運(yùn)行并100%支持私有化應(yīng)用。

8個月后，進(jìn)化為多模態(tài)的群體智能單元大模型Yan 1.3發(fā)布，實(shí)現(xiàn)了多模態(tài)大模型在樹莓派的單板計(jì)算機(jī)上的部署推理。

再到如今的Yan 2.0 Preview，RockAI完成了模型基于訓(xùn)推同步的自主學(xué)習(xí)能力驗(yàn)證。

不過，目前Yan 2.0 Preview仍是RockAI在模型自主學(xué)習(xí)能力探索上的中間階段，通過可微的記憶模塊來實(shí)現(xiàn)信息的存儲、檢索和遺忘。在RockAI CTO楊華看來，讓模型具備自主學(xué)習(xí)能力可能是未來的技術(shù)壁壘，這也是其探索AGI的重要階段。

目前，行業(yè)基于Transformer架構(gòu)的大模型雖然在短期對話中表現(xiàn)出色，但仍缺乏真正意義上的“原生記憶能力”。

行業(yè)主流做法是通過RAG（檢索增強(qiáng)生成）、長上下文窗口或外部數(shù)據(jù)庫等外掛機(jī)制來模擬記憶，讓模型能夠獲取歷史信息或知識背景。然而，這種方式本質(zhì)上是一次性調(diào)用，缺乏對用戶、任務(wù)或偏好的持續(xù)性理解與積累，也難以實(shí)現(xiàn)類似人類那樣可生長、可糾偏、具備連續(xù)性的長期記憶。

而原生記憶能力是大模型邁向通用人工智能的關(guān)鍵基石，其重要性在于不僅能夠讓模型記住用戶是誰、曾經(jīng)說過什么、喜好什么，更能在長期交互中實(shí)現(xiàn)知識更新、個性化演進(jìn)與情境理解，在此基礎(chǔ)上，模型才能從工具進(jìn)化為真正的個人助手，在內(nèi)容創(chuàng)作、教育輔導(dǎo)、商業(yè)決策等用戶的實(shí)際應(yīng)用場景中提供連貫、深度智能支持。

正如前文提到的，搭載Yan 2.0 Preview的機(jī)器狗可以在現(xiàn)場30秒內(nèi)精準(zhǔn)學(xué)習(xí)并復(fù)刻指定動作，且能持續(xù)記住每位觀眾的偏好與互動風(fēng)格。其實(shí)現(xiàn)的能力不依賴云端計(jì)算，完全在離線部署環(huán)境實(shí)現(xiàn)，且擁有原生記憶、自主理解與適應(yīng)能力。

離線部署Yan 2.0 preview后，機(jī)器狗擁有了成為“活著”的仿生伙伴的能力，當(dāng)大模型擁有原生記憶，終端設(shè)備被賦予了智能。

這都與RockAI“讓世界上每一臺設(shè)備擁有自己的智能”的使命一脈相承，從非Transformer架構(gòu)的模型開始，進(jìn)一步賦予其多模態(tài)、實(shí)時人機(jī)交互、自主學(xué)習(xí)的能力。

二、引入神經(jīng)網(wǎng)絡(luò)記憶單元，PC已落地

自主學(xué)習(xí)、多模態(tài)理解能力的提升，對Yan 2.0 Preview的底層架構(gòu)創(chuàng)新提出了更高要求。

Yan 2.0 Preview的核心在于，其通過可微的記憶模塊來實(shí)現(xiàn)信息的存儲、檢索和遺忘，前向過程可分為記憶更新與記憶檢索兩個階段。

其中記憶更新過程，可以使模型通過門控式更新保留長期依賴，又能基于輸入分布特性靈活整合新知識，記憶檢索過程可以在增大模型記憶容量的同時，增強(qiáng)其檢索能力。

在自主學(xué)習(xí)的基礎(chǔ)上，該模型還具備對不同模態(tài)數(shù)據(jù)的理解、生成能力，其核心組件包括基于Yan 2.0 Preview架構(gòu)的語言模型、視覺編碼器、視頻tokens壓縮模塊、視覺連接層、音頻離散化模塊和音頻解碼器。

其中，音頻離散化模塊通過將連續(xù)的語音信號量化至有限的離散值集合，提高音頻樣本的建模效率，可以做到低比特率實(shí)現(xiàn)統(tǒng)一建模語音的語義和聲音信息。

音頻模態(tài)能力擴(kuò)展方面，Yan架構(gòu)多模態(tài)模型能夠有效地學(xué)習(xí)音頻序列并建模細(xì)節(jié)聲學(xué)特征，其采用約100萬小時音頻數(shù)據(jù)進(jìn)行音頻模態(tài)擴(kuò)充與對齊訓(xùn)練，800萬對語音問答數(shù)據(jù)供音頻問答任務(wù)的有監(jiān)督微調(diào)。

最后音頻解碼階段，音頻解碼器負(fù)責(zé)將Yan架構(gòu)多模態(tài)模型生成的離散音頻Token解碼為最終的音頻波形，實(shí)現(xiàn)高質(zhì)量的端到端語音合成。

可以看出，Yan 2.0 Preview在多模態(tài)能力的各項(xiàng)底層架構(gòu)創(chuàng)新上，都在不斷突破降低計(jì)算資源、提高模型性能的邊界。

這些背后都是RockAI在非Transformer這條道路上堅(jiān)持的結(jié)果，與當(dāng)下端側(cè)模型部署的核心需求相契合。如今，RockAI的Yan系列模型已經(jīng)落地某品牌PC，并實(shí)現(xiàn)了集成大模型能力的會議助手等多項(xiàng)功能。

三、離線智能讓智能重新定義硬件，致力于實(shí)現(xiàn)群體智能

走一條非主流的底層創(chuàng)新，從一開始就注定十分艱難。RockAI自2023年6月成立，就堅(jiān)定了要做非Transformer架構(gòu)，

結(jié)合技術(shù)路線的選擇與對大模型產(chǎn)業(yè)發(fā)展趨勢的判斷，在模型研發(fā)之外，RockAI在去年7月正式宣布了自己的使命，也就是“讓世界上每一臺設(shè)備都擁有自己的智能”，這也正不斷內(nèi)化到這家公司的業(yè)務(wù)發(fā)展之中。

一方面，其Yan系列模型從參數(shù)規(guī)模、性能方面逐漸契合端側(cè)設(shè)備的場景；另一方面，RockAI實(shí)現(xiàn)模型在手機(jī)、電腦、無人機(jī)、機(jī)器人等端側(cè)硬件上的離線部署，還通過內(nèi)嵌或外掛的方式，部署在大疆無人機(jī)、樹莓派單板計(jì)算機(jī)等硬件。

最先發(fā)力非Transformer架構(gòu)的RockAI，最初面對了諸多行業(yè)質(zhì)疑以及技術(shù)難點(diǎn)，如這套新體系在現(xiàn)有體系上的技術(shù)復(fù)用性，以及從0到1搭建底層架構(gòu)、賦予機(jī)器自主學(xué)習(xí)能力等。

我們從RockAI的模型上看到了智能正在重新定義硬件，硬件的使用周期從一次性交付變?yōu)榱藫碛虚L期記憶，可以隨用戶一起成長。

傳統(tǒng)硬件的價值在售出瞬間達(dá)到頂峰，然后隨著磨損和過時而不斷折舊，真正的智能硬件，其核心價值是動態(tài)的，可以通過算法的迭代和模型的自學(xué)習(xí)持續(xù)提升。用戶購買的不再是一個功能固定的產(chǎn)品，而是一個能夠與自己共同成長的服務(wù)和進(jìn)化的平臺，而要實(shí)現(xiàn)這種“持續(xù)生長”的高階智能形態(tài)，則更需要底層的顛覆性創(chuàng)新來支撐。

隨著Yan系列模型的發(fā)布，以及其與PC等廠商合作的不斷深入，RockAI在這條難而正確之路上的堅(jiān)持已經(jīng)初見成效。

這背后離不開其創(chuàng)始團(tuán)隊(duì)的前瞻性洞察，以及過硬的技術(shù)積累。在當(dāng)行業(yè)還沉浸在Transformer架構(gòu)帶來的技術(shù)紅利中時，RockAI察覺到該架構(gòu)在計(jì)算效率與場景適配性上的局限，并果斷入局非Transformer架構(gòu)探索。

對于未來的愿景，RockAI堅(jiān)定“群體智能”的構(gòu)想。楊華解釋道，他們設(shè)想的不是單一智能體的演化，而是構(gòu)建一個由多個模型和終端組成的“機(jī)器社會”，如同人類社會般實(shí)現(xiàn)群策群力與高度協(xié)作。在這個體系中，每一個智能終端不僅具備環(huán)境感知能力，還能與物理世界實(shí)時交互、自主學(xué)習(xí)與進(jìn)化，共同構(gòu)成一個有機(jī)協(xié)同、持續(xù)成長的智能群體。

“群體智能”不僅是技術(shù)的躍遷，也是RockAI認(rèn)為邁向通用人工智能的關(guān)鍵路徑。Yan 2.0 Preview的發(fā)布與在終端設(shè)備的落地，或許很快能讓我們看到其這一愿景的雛形。

結(jié)語堅(jiān)守非Transformer架構(gòu)之路讓每臺設(shè)備都擁有智能

面對主流Transformer架構(gòu)，不盲目追隨這一浪潮，而是堅(jiān)持自主創(chuàng)新，探索更貼近真實(shí)智能本質(zhì)的技術(shù)路線，并以實(shí)際行動探索非Transformer架構(gòu)的創(chuàng)新可能，是當(dāng)下AI產(chǎn)業(yè)發(fā)展中最為可貴的。

RockAI當(dāng)下取得的成果固然重要，但其基于對產(chǎn)業(yè)痛點(diǎn)的深刻洞察，為AI技術(shù)多元發(fā)展注入活力，從底層邏輯出發(fā)解決實(shí)際問題的舉措，正推動AI產(chǎn)業(yè)從對技術(shù)紅利的依賴走向真正的創(chuàng)新突破。

Yan 2.0 Preview展示的不僅是一次技術(shù)范式的突破，更是我們對未來人機(jī)關(guān)系的思考：不是遙不可及的超級模型，而是每一個設(shè)備都能思考、協(xié)作和成長的智能新時代。

“讓世界上每一臺設(shè)備擁有自己的智能”是RockAI的使命，這已經(jīng)在其成立初期的技術(shù)路線選擇、創(chuàng)新布局中充分展現(xiàn)出來，并且在當(dāng)下取得階段性成果。