99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

中科大與華為提出首個生成式多階段統一框架,性能全面超越 SOTA

0
分享至



論文作者來自認知智能全國重點實驗室陳恩紅團隊,華為諾亞方舟實驗室

在信息爆炸的時代,推薦系統已成為我們獲取資訊、商品和服務的核心入口。無論是電商平臺的 “猜你喜歡”,還是內容應用的信息流,背后都離不開推薦算法的默默耕耘。然而,傳統的推薦系統普遍采用多階段范式(如召回、排序),這種設計雖然在工程上實現了效率,卻常常面臨階段間信息損失、性能瓶頸等問題。近年來,生成式人工智能的浪潮席卷全球,其強大的序列建模和內容生成能力為解決推薦系統的固有難題帶來了新的曙光。如果能將推薦過程中的多個階段融為一體,是否就能克服信息損失,實現更高效、更精準的推薦呢?

來自中國科學技術大學和華為諾亞方舟實驗室的研究者們,在即將于 SIGIR 2025 會議上進行口頭報告(Oral Presentation)的論文 Killing Two Birds with One Stone: Unifying Retrieval and Ranking with a Single Generative Recommendation Model 中,給出了一份創新的答案。他們提出了一個名為 UniGRF 的統一生成式推薦框架,巧妙地實現了 “一石二鳥”,用單個生成模型同時處理推薦系統中的召回和排序兩大核心任務。



  • 論文標題:Killing Two Birds with One Stone: Unifying Retrieval and Ranking with a Single Generative Recommendation Model
  • 論文鏈接:
  • https://arxiv.org/abs/2504.16454

一、傳統推薦范式的 “痛點” 與生成式 AI 的 “良方”

在工業界廣泛應用的推薦系統中,通常首先通過召回階段從海量物品庫中快速篩選出一個較小的候選集,然后由排序階段對這些候選物品進行精準打分和排序,最終呈現給用戶。這種分而治之的多階段級聯模式保證了效率,但每個階段獨立訓練和優化,上一階段的豐富信息難以完整傳遞給下一階段,信息繭房外的潛在興趣點被過早過濾,造成了信息損失、偏差累積、階段間難協作等固有問題。

受大語言模型(LLMs)在多任務處理上取得巨大成功的啟發,UniGRF 創新性地將召回和排序整合到一個生成模型中,實現了信息的充分共享,同時保持了模型的通用性和可擴展性。

二、突破傳統:如何用一個模型 “殺死兩只鳥”?



UniGRF 的核心思想是將檢索和排序兩個階段的任務都統一轉化為序列生成任務,并整合到同一個自回歸生成模型中。具體來說,模型通過學習用戶歷史交互序列(物品 ID 序列、行為類型序列等),在生成輸出序列時,特定位置的輸出分別對應召回任務(預測下一個交互物品)和排序任務(預測當前物品的點擊概率)。

這種統一框架帶來了諸多優勢:

1. 充分信息共享:由于參數在單一模型內共享,檢索和排序任務可以充分利用彼此的信息,有效減少信息損失。

2. 模型無關性與即插即用:UniGRF 是一個靈活的框架,可以與各種主流的自回歸生成模型架構(如 HSTU、Llama 等)無縫集成。

3. 潛在的效率提升:相比于維護兩個獨立的模型,單一模型在訓練和推理上可能更具效率優勢。

三、UniGRF 的兩大 “秘密武器”

僅僅將兩個任務放在一個模型里還不夠,如何讓它們高效協作并同步優化,是 UniGRF 成功的關鍵。為此,研究者設計了兩大核心模塊:

1. 排序驅動的增強器 (Ranking-Driven Enhancer):

這個模塊旨在促進召回和排序兩個階段之間的高效協作。一般來說,排序階段通常能更精準地捕捉用戶細粒度的偏好。該增強器巧妙地利用排序階段的高精度輸出來指導和優化召回階段。

  • 難樣本挖掘:識別那些在召回階段被高估但兩個階段存在分歧的樣本,將它們作為更具挑戰性的負樣本反饋給模型,提升模型的辨別能力。
  • 潛在正樣本識別:識別那些在負采樣中被錯誤標記,但排序模型認為用戶可能喜歡的樣本,糾正其標簽,為模型提供更準確的訓練信號。

通過這種方式,形成了一個互相促進的增強閉環,并且這一切幾乎不增加額外的計算開銷。

2. 梯度引導的自適應加權器 (Gradient-Guided Adaptive Weighter):

在統一框架下,召回和排序兩個任務的損失函數、收斂速度可能存在顯著差異。如果簡單地將兩者損失相加,可能會導致模型在優化過程中厚此薄彼。該加權器通過實時監測兩個任務梯度的變化率(即學習速度),動態地調整它們在總損失函數中的權重。如果一個任務學習較慢,就適當增加其權重,反之亦然。這確保了兩個任務能夠以協同的步伐前進,實現同步優化,最終達到整體性能的最優。

四、實驗效果:顯著超越SOTA,驗證統一框架威力





為了驗證 UniGRF 的有效性,研究團隊在三個公開的大型推薦數據集(MovieLens-1M, MovieLens-20M, Amazon-Books)上進行了大量實驗。結果表明:

  • 全面領先:無論是以 HSTU 還是 Llama 作為基礎生成模型,UniGRF 在召回和排序兩個任務上的性能均顯著優于現有的 SOTA 基線模型,包括那些為單一任務設計的強大生成模型以及傳統的級聯框架。
  • 排序性能提升尤為顯著:實驗發現,UniGRF 對排序階段的性能提升更為明顯。這對于實際應用更為重要,因為排序結果直接決定了最終呈現給用戶的推薦質量。
  • 良好的可擴展性:實驗還初步驗證了 UniGRF 在模型參數擴展時的性能提升潛力,符合 “越大越好” 的縮放定律(Scaling Law)。

值得一提的是,傳統的級聯框架在適配生成式模型時表現不佳,甚至可能產生負面效果,這反過來凸顯了 UniGRF 這種原生統一框架的優越性。

五、總結與展望

UniGRF 的提出,為生成式推薦系統領域貢獻了一個新穎且高效的解決方案。它首次探索了在單一生成模型內統一召回與排序任務的可行性與巨大潛力,通過精心設計的協作與優化機制,有效克服了傳統多階段范式的信息損失問題。

這項工作不僅為學術界提供了新的研究視角,也為工業界構建更強大、更高效的推薦系統提供了有益的借鑒。未來,研究者們計劃將該框架擴展到更多的推薦階段(如預排序、重排),并在真實的工業場景中驗證其大規模應用的可行性。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
世俱杯離譜一幕:主力不滿被換+指著教練鼻子罵 對方捂嘴瘋狂嘲諷

世俱杯離譜一幕:主力不滿被換+指著教練鼻子罵 對方捂嘴瘋狂嘲諷

風過鄉
2025-06-21 08:09:15
燃油車末日已至?我國“固態電池”正式裝車路試:充6分鐘續航1000km!

燃油車末日已至?我國“固態電池”正式裝車路試:充6分鐘續航1000km!

南海的波濤
2025-06-21 15:29:04
兩位上將大鬧司令部,聶榮臻郁悶至極,最終被徐帥反超錯失總長?

兩位上將大鬧司令部,聶榮臻郁悶至極,最終被徐帥反超錯失總長?

轉身微笑梅
2025-06-05 19:56:01
利空來襲!突然,大跌!

利空來襲!突然,大跌!

券商中國
2025-06-21 12:50:10
一汽奧迪全新 Q5L 完成工信部申報,提供兩種前臉設計

一汽奧迪全新 Q5L 完成工信部申報,提供兩種前臉設計

IT之家
2025-06-21 20:44:27
捐精生下超100個子女,“電報”創始人寫遺囑:都有資格繼承財產

捐精生下超100個子女,“電報”創始人寫遺囑:都有資格繼承財產

瀟湘晨報
2025-06-21 11:29:41
3比2絕殺!關鍵比分敢于出手!00后錢天一贏了,復仇張本美和?

3比2絕殺!關鍵比分敢于出手!00后錢天一贏了,復仇張本美和?

體壇知道分子
2025-06-21 14:57:22
伊朗嚴查間諜 在伊中國人:很多警察 重點查卡車

伊朗嚴查間諜 在伊中國人:很多警察 重點查卡車

看看新聞Knews
2025-06-21 20:44:39
盧克文:別墅里堆滿現金,溫哥華女富豪喜歡中國男空乘,管吃管玩

盧克文:別墅里堆滿現金,溫哥華女富豪喜歡中國男空乘,管吃管玩

史書無明
2025-06-21 21:47:57
永久停業!山東某知名蛋糕店大量倒閉!

永久停業!山東某知名蛋糕店大量倒閉!

萊蕪福禧今日信息
2025-06-21 06:34:43
狂開1863家店,全是預制菜!究竟是誰在吃這家網紅餐廳?

狂開1863家店,全是預制菜!究竟是誰在吃這家網紅餐廳?

阿傖說事
2025-06-17 10:55:33
4場得分不上雙!A-史密斯:要不是杰倫-格林拉胯 火箭都進西決了

4場得分不上雙!A-史密斯:要不是杰倫-格林拉胯 火箭都進西決了

直播吧
2025-06-21 20:48:14
廣西一大伯把南瓜花扎成花束賣,因太漂亮而走紅,網友:孤陋寡聞

廣西一大伯把南瓜花扎成花束賣,因太漂亮而走紅,網友:孤陋寡聞

平祥生活日志
2025-06-21 12:35:19
36712人,常州vs南京上座人數破蘇超紀錄,省外觀眾超1萬人

36712人,常州vs南京上座人數破蘇超紀錄,省外觀眾超1萬人

懂球帝
2025-06-21 21:40:59
糖尿病人可以吃哪些水果?推薦14種常見水果供選擇!

糖尿病人可以吃哪些水果?推薦14種常見水果供選擇!

天天聽健康
2025-06-21 01:22:18
女子出軌被抓包,丈夫抓她游行示眾:她把我的錢給其他男人花

女子出軌被抓包,丈夫抓她游行示眾:她把我的錢給其他男人花

唐小糖說情感
2025-06-15 08:46:47
當清華大學的刑法學教授懷疑自己的手機被監聽后

當清華大學的刑法學教授懷疑自己的手機被監聽后

鄒談
2025-06-21 10:11:39
極為奢華!1年電費40萬,網紅炫富被封禁!家中掛蘭博基尼,裝修花掉8000萬

極為奢華!1年電費40萬,網紅炫富被封禁!家中掛蘭博基尼,裝修花掉8000萬

21世紀經濟報道
2025-06-21 12:49:55
以色列空襲伊朗首都!伊軍防空系統疑無反應,F35實施臨空轟炸?

以色列空襲伊朗首都!伊軍防空系統疑無反應,F35實施臨空轟炸?

儒雅隨和老泰勒
2025-06-13 09:24:58
成都百花潭公園“聚眾淫亂”事件

成都百花潭公園“聚眾淫亂”事件

一個島島
2025-06-21 13:01:36
2025-06-21 23:40:49
機器之心Pro incentive-icons
機器之心Pro
專業的人工智能媒體
10687文章數 142343關注度
往期回顧 全部

科技要聞

Siri有救了?蘋果被曝正討論史上最大收購

頭條要聞

官方通報那爾那茜有關情況:涉嫌高考報名材料造假

頭條要聞

官方通報那爾那茜有關情況:涉嫌高考報名材料造假

體育要聞

王欣瑜:資格賽差點要退賽 夢幻般的一周

娛樂要聞

離婚7年,楊冪逆襲碾壓劉愷威

財經要聞

租金大撤退!房東正在批量跑路!

汽車要聞

扔掉"舊地圖”一汽-大眾大眾品牌要找"新大陸"

態度原創

房產
親子
藝術
旅游
游戲

房產要聞

坑慘2000多人!恒大財富海南高管被曝非吸12.6億元!

親子要聞

孕期缺乏這種元素,可能發生性別逆轉?

藝術要聞

故宮珍藏的墨跡《十七帖》,比拓本更精良,這才是地道的魏晉寫法

旅游要聞

熱聞|清明假期將至,熱門目的地有哪些?

韓國虛幻5重磅動作新作來了!上架多平臺 2026發售

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 阿巴嘎旗| 河源市| 呼伦贝尔市| 枝江市| 铁岭县| 铜山县| 屏边| 上杭县| 嘉义市| 循化| 同江市| 亚东县| 刚察县| 响水县| 成武县| 平果县| 钦州市| 景德镇市| 高青县| 晋州市| 利津县| 阳高县| 萍乡市| 东台市| 镇赉县| 昔阳县| 博客| 六安市| 密山市| 余江县| 临夏市| 甘德县| 淄博市| 淳化县| 镇安县| 梅州市| 綦江县| 蒙阴县| 尤溪县| 巴林右旗| 克拉玛依市|