如何為AI Agent增加超長(zhǎng)記憶是一個(gè)非常難的研究領(lǐng)域。mem0.ai提出的Mem0創(chuàng)新方法,通過(guò)動(dòng)態(tài)提取、整合和檢索對(duì)話中的關(guān)鍵信息,有效地解決了在多輪對(duì)話中保持長(zhǎng)期連貫性的記憶難題。
并且能在需要時(shí)快速檢索這些信息,從而確保Agent在長(zhǎng)時(shí)間交互中保持一致性和準(zhǔn)確性。
根據(jù)mem0.ai公開的測(cè)試數(shù)據(jù)顯示,Mem0的響應(yīng)準(zhǔn)確率比OpenAI的記憶方法高出26%;與全上下文方法相比,Mem0的延遲降低了91%,同時(shí)可以節(jié)省90%的Token,這對(duì)于大面積應(yīng)用在Agent上非常實(shí)惠。
開源地址:https://github.com/mem0ai/mem0
Mem0框架的嵌入模塊主要負(fù)責(zé)將文本數(shù)據(jù)轉(zhuǎn)化為向量表示。給每一段文本信息貼上獨(dú)特的“數(shù)字標(biāo)簽”,這些標(biāo)簽以向量的形式呈現(xiàn),使得文本信息能夠以一種高效且便于計(jì)算機(jī)理解的方式被存儲(chǔ)和處理。
通過(guò)這種轉(zhuǎn)化,后續(xù)在進(jìn)行相似性搜索以及記憶存儲(chǔ)時(shí),計(jì)算機(jī)能夠快速、準(zhǔn)確地識(shí)別和處理相關(guān)信息。例如,當(dāng)用戶輸入一段關(guān)于“體育賽事”的文本時(shí),嵌入模塊會(huì)將其轉(zhuǎn)化為特定的向量,這個(gè)向量包含了該文本在語(yǔ)義、語(yǔ)法等多方面的特征信息。
當(dāng)需要檢索與體育賽事相關(guān)的記憶時(shí),就可以通過(guò)比較向量的相似度來(lái)快速找到匹配的內(nèi)容。這種方式大大提高了記憶存儲(chǔ)和檢索的效率,為智能體的高效運(yùn)行奠定了堅(jiān)實(shí)基礎(chǔ)。
大模型承擔(dān)Mem0框架智能交互核心的“大腦”,負(fù)責(zé)生成和處理自然語(yǔ)言文本。用戶向AI智能體提出問(wèn)題或進(jìn)行交流時(shí),大模型模塊會(huì)對(duì)輸入的自然語(yǔ)言進(jìn)行深入分析和理解,然后根據(jù)自身所學(xué)習(xí)到的語(yǔ)言知識(shí)和模式,生成合理、準(zhǔn)確且符合語(yǔ)境的回復(fù)。
以用戶詢問(wèn)“最近有哪些熱門的足球比賽?”為例,大模型模塊會(huì)迅速對(duì)這個(gè)問(wèn)題進(jìn)行解析,理解用戶的意圖是獲取近期熱門足球比賽的信息,然后基于其海量的知識(shí)儲(chǔ)備和強(qiáng)大的語(yǔ)言生成能力,給出諸如“近期英超聯(lián)賽中,曼城與曼聯(lián)的比賽備受關(guān)注”等詳細(xì)的回答。
其出色的自然語(yǔ)言處理能力,使得智能體能夠與用戶進(jìn)行流暢、自然的對(duì)話交流,為實(shí)現(xiàn)個(gè)性化交互提供了關(guān)鍵支持。
記憶存儲(chǔ)模塊是Mem0實(shí)現(xiàn)長(zhǎng)期記憶的關(guān)鍵所在,采用了一種混合數(shù)據(jù)庫(kù)方法來(lái)管理和檢索智能體的長(zhǎng)期記憶。
這種混合方法融合了多種數(shù)據(jù)庫(kù)技術(shù)的優(yōu)勢(shì),能夠確保不同類型的信息都能以最適宜、最高效的方式被存儲(chǔ)起來(lái)。例如,對(duì)于結(jié)構(gòu)化的數(shù)據(jù),可能會(huì)采用關(guān)系型數(shù)據(jù)庫(kù)的存儲(chǔ)方式,以保證數(shù)據(jù)的完整性和一致性;
而對(duì)于非結(jié)構(gòu)化的文本數(shù)據(jù),則可能利用文檔型數(shù)據(jù)庫(kù)或基于向量的數(shù)據(jù)庫(kù)進(jìn)行存儲(chǔ),以便于快速進(jìn)行相似性搜索和語(yǔ)義檢索。通過(guò)這種精心設(shè)計(jì)的存儲(chǔ)方式,后續(xù)在進(jìn)行記憶檢索時(shí),能夠?qū)崿F(xiàn)快速有效的數(shù)據(jù)獲取。
例如,當(dāng)智能體需要回憶用戶在一周前提到的關(guān)于旅游計(jì)劃的某個(gè)細(xì)節(jié)時(shí),記憶存儲(chǔ)模塊能夠迅速定位并提取相關(guān)信息,為大模型模塊生成準(zhǔn)確回復(fù)提供有力支撐。
評(píng)分模塊會(huì)根據(jù)相關(guān)性、重要性和最近性等多個(gè)維度對(duì)存儲(chǔ)的信息進(jìn)行全面評(píng)估,從而確定信息的重要程度。
當(dāng)智能體需要為用戶提供服務(wù)時(shí),可能會(huì)面臨大量的記憶信息,而這些信息并非都與當(dāng)前的任務(wù)或用戶需求直接相關(guān)。
此時(shí),評(píng)分模塊就會(huì)發(fā)揮作用,會(huì)對(duì)所有相關(guān)的記憶信息進(jìn)行逐一評(píng)估。例如,如果用戶正在詢問(wèn)關(guān)于當(dāng)前工作項(xiàng)目的問(wèn)題,評(píng)分模塊會(huì)優(yōu)先考慮與該項(xiàng)目近期進(jìn)展、用戶在該項(xiàng)目中的角色以及相關(guān)重要決策等密切相關(guān)的記憶信息,將這些信息的評(píng)分提高;
而對(duì)于那些與當(dāng)前項(xiàng)目關(guān)聯(lián)度較低的其他記憶,例如,用戶幾個(gè)月前提及的興趣愛好等信息,評(píng)分則會(huì)相應(yīng)降低。所以,只有那些最具個(gè)性化且對(duì)當(dāng)前任務(wù)最有價(jià)值的上下文信息才會(huì)被呈現(xiàn)給大模型模塊,使得智能體能夠基于最相關(guān)的信息生成精準(zhǔn)、貼合用戶需求的回復(fù),極大地提升了交互的質(zhì)量和效果。
目前,Mem0框架和最新迭代版本已經(jīng)開源,在Github上非常火爆超過(guò)33000顆星。
本文素材來(lái)源Mem0,如有侵權(quán)請(qǐng)聯(lián)系刪除
報(bào)告下載
大 佬觀點(diǎn)分享
關(guān)于RPA、AI、企業(yè)數(shù)字化轉(zhuǎn)型
(點(diǎn)擊文字即可閱讀)
| |
| | |
| | |
| | |
| |
行業(yè)知識(shí)交流分享,結(jié)識(shí)擴(kuò)展人脈圈層
公眾號(hào)后臺(tái)回復(fù)【RPA】或者【流程挖掘】
可受邀加入相關(guān)的交流群
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.