Manus近期撤出中國市場、清空國內(nèi)社交賬號內(nèi)容,全力轉(zhuǎn)戰(zhàn)海外市場,官方解釋原因主要基于經(jīng)營效率的調(diào)整及國際化布局。北京時間7月19日,Manus聯(lián)合創(chuàng)始人季逸超發(fā)布技術(shù)博客,首度從技術(shù)角度做出回應(yīng),總結(jié)創(chuàng)業(yè)以來在Agent研發(fā)與訓(xùn)練方面的經(jīng)驗(yàn)教訓(xùn)。
單從技術(shù)層面來看,季逸超表示Manus會側(cè)重押注上下文(Context)工程,借助構(gòu)造“記憶”與流程實(shí)現(xiàn)產(chǎn)品快速迭代。主要包括押注上下文、不再訓(xùn)練模型,強(qiáng)調(diào)KV-Cache(Key-Value Cache,一種緩存機(jī)制)命中率意義,不動態(tài)添加工具,以及用文件系統(tǒng)承載持久上下文等方面。核心即節(jié)省底層模型訓(xùn)練成本,側(cè)重訓(xùn)練效率的提高。
上下文在大模型中通常指模型在處理任務(wù)或生成輸出內(nèi)容時所參考的信息集合,能夠幫助模型增強(qiáng)理解能力、提高任務(wù)性能、增強(qiáng)輸出連貫性。此前月之暗面Kimi創(chuàng)始人楊植麟在采訪中強(qiáng)調(diào)過上下文的重要性,他稱,Ai-native(由AI定義產(chǎn)品形態(tài))產(chǎn)品的終極價值在于提供個性化交互,而無損長上下文(LosslessLongContext)是達(dá)成這一目標(biāo)的關(guān)鍵。他判斷模型的微調(diào)長期來看不應(yīng)存在,用戶與模型的交互歷史就是最好的個性化過程,而長上下文技術(shù)能更好地記錄和利用這些交互歷史。
另外,KV-Cache命中率至關(guān)重要,主要是因?yàn)楦呙新士梢蕴岣咄评硇剩瑑?yōu)化資源利用率,降低計(jì)算成本。也正基于此,KV-Cache常被稱為Transformer模型推理階段的效率核心。
選擇從上述各方面提高訓(xùn)練效率,而非從底層模型開始投入,是季逸超過往多年總結(jié)的教訓(xùn)。他稱,創(chuàng)業(yè)上一家公司(Peak Labs)時,團(tuán)隊(duì)決定從頭開始為開放信息提取和語義搜索訓(xùn)練模型,但之后不久,OpenAI的GPT-3與Google的Flan-T5模型出現(xiàn)了,團(tuán)隊(duì)從頭研發(fā)的內(nèi)部模型一夜之間變得無關(guān)緊要。“諷刺的是,這些模型標(biāo)志著上下文學(xué)習(xí)的開始,以及一條全新的前進(jìn)道路。”季逸超稱。
基于此前教訓(xùn),創(chuàng)業(yè)Manus后,團(tuán)隊(duì)不再投入基座模型研發(fā),而是從使用開源基礎(chǔ)模型訓(xùn)練端到端Agent,與基于前沿模型上下文學(xué)習(xí)能力構(gòu)建Agent兩個選項(xiàng)中進(jìn)行選擇。雖然Peak Labs的教訓(xùn)令Manus團(tuán)隊(duì)意識到上下文的重要性,但這并不容易,經(jīng)歷過四次Agent框架調(diào)整才實(shí)現(xiàn)局部最優(yōu)解。
但需注意的是,該策略仍存在局限,尤其在面對類似OpenAI剛發(fā)布的ChatGPT Agent時。核心原因在于ChatGPT Agent依托OpenAI專用模型,采用端到端訓(xùn)練,可以更好地處理復(fù)雜任務(wù),而Manus雖然可以提高效率,但仍依賴外部多模型組合與工程優(yōu)化,在任務(wù)執(zhí)行連貫性與準(zhǔn)確性上稍遜一籌。
另外,在Manus轉(zhuǎn)戰(zhàn)國際市場的節(jié)點(diǎn),OpenAI憑借底層模型優(yōu)勢將Agent行業(yè)帶入拐點(diǎn),吸引更多開發(fā)者與用戶至大廠平臺,雖然創(chuàng)業(yè)公司在垂直領(lǐng)域具備生存空間,但仍不可避免地面臨市場份額被爭奪的挑戰(zhàn)。尤其在當(dāng)下Agent類產(chǎn)品存在同質(zhì)化嚴(yán)重、商業(yè)模式不明、成本高企等困境時,上下文工程等方面的亮點(diǎn)不足以讓創(chuàng)業(yè)公司跳脫出來,團(tuán)隊(duì)仍需持續(xù)優(yōu)化技術(shù)策略,探索差異化發(fā)展路徑。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.