99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

中國(guó)聯(lián)通對(duì)DeepSeek系列思維鏈模型進(jìn)行“自適應(yīng)慢思考”優(yōu)化升級(jí)

0
分享至


日前,DeepSeek團(tuán)隊(duì)宣布將在“2月27日至3月3日”陸續(xù)開源5個(gè)代碼庫,這與中國(guó)聯(lián)通一直秉持的開源普惠理念不謀而合。繼中國(guó)聯(lián)通于1月開源元景“自適應(yīng)慢思考”思維鏈大模型后,又針對(duì)DeepSeek系列模型進(jìn)行了“自適應(yīng)慢思考”優(yōu)化升級(jí),現(xiàn)已開源,開源地址詳見文末。這也是目前業(yè)界首個(gè)對(duì)DeepSeek系列思維鏈模型做“自適應(yīng)慢思考”優(yōu)化升級(jí)的工作。



DeepSeek官宣開源周

“以我為主,為我所用”的開放創(chuàng)新

元景思維鏈大模型具備多學(xué)科、多場(chǎng)景通用推理能力,且能在確保慢思考能力不打折的情況下,做到針對(duì)不同任務(wù)和難度的自適應(yīng)慢思考,大幅降低了資源消耗,實(shí)現(xiàn)了大模型“慢思考”能力高性價(jià)比落地應(yīng)用。

元景思維鏈大模型接入DeepSeek-R1并非簡(jiǎn)單的“拿來主義”,而是“從其善,優(yōu)其不善”,對(duì)DeepSeek-R1版本進(jìn)行了調(diào)整,最大程度規(guī)避了其面對(duì)簡(jiǎn)單問題“過度思考”的現(xiàn)象,使模型具備了“自適應(yīng)”能力。即在面向難度較高問題時(shí)使用慢思考模式生成長(zhǎng)思維鏈,面向簡(jiǎn)單問題時(shí)則傾向于生成簡(jiǎn)潔的思維鏈,迅速準(zhǔn)確的輸出相關(guān)答案。這樣避免了答案的冗余、資源的浪費(fèi)以及減少用戶等待時(shí)間,提升用戶體驗(yàn)。

調(diào)整步驟完整分享

難度自適應(yīng)微調(diào):為實(shí)現(xiàn)模型推理的難度自適應(yīng),中國(guó)聯(lián)通利用DeepSeek-R1滿血版模型采樣生成數(shù)據(jù),通過復(fù)雜度量化模塊構(gòu)造長(zhǎng)度偏好數(shù)據(jù)集,對(duì)于簡(jiǎn)單問題從采樣答案中挑選長(zhǎng)度較短的答案,對(duì)困難問題挑選長(zhǎng)度較長(zhǎng)的答案,使得答案長(zhǎng)度與當(dāng)前問題復(fù)雜度相匹配。在此基礎(chǔ)上對(duì)DeepSeek-R1進(jìn)行微調(diào),使得微調(diào)后的模型具備對(duì)不同難度題目的自適應(yīng)慢思考能力。具體改造流程如下圖所示。



自適應(yīng)慢思考的DeepSeek-R1滿血版模型訓(xùn)練流程圖

二次蒸餾:針對(duì)DeepSeek-R1的系列蒸餾模型,由于其使用的蒸餾數(shù)據(jù)來自訓(xùn)練滿血版R1時(shí)使用的訓(xùn)練數(shù)據(jù),而非由性能更好的R1滿血版自身生成的數(shù)據(jù),這會(huì)導(dǎo)致得到的蒸餾模型未能充分學(xué)習(xí)R1滿血版的能力,蒸餾效果大打折扣。為解決這個(gè)問題,中國(guó)聯(lián)通使用了二次蒸餾的策略,即利用DeepSeek-R1滿血版將已積累的高質(zhì)量數(shù)據(jù)轉(zhuǎn)化為包括深度思考過程的長(zhǎng)思維鏈格式數(shù)據(jù),在DeepSeek-R1蒸餾系列模型基礎(chǔ)上再進(jìn)行一次微調(diào),使模型具備更強(qiáng)的推理能力。

難度自適應(yīng)強(qiáng)化學(xué)習(xí):在對(duì)模型進(jìn)行二次蒸餾后,中國(guó)聯(lián)通進(jìn)一步借鑒DeepSeek-R1的構(gòu)建思路,在GRPO算法基礎(chǔ)上提出了一種難度自適應(yīng)強(qiáng)化學(xué)習(xí)算法DA-GRPO(Difficulty Adaptive GRPO),對(duì)二次蒸餾模型進(jìn)行難度自適應(yīng)的強(qiáng)化學(xué)習(xí)訓(xùn)練,進(jìn)一步提升其推理效果。除了使用傳統(tǒng)的基于規(guī)則的正確性獎(jiǎng)勵(lì)、格式獎(jiǎng)勵(lì)、語言一致性獎(jiǎng)勵(lì)外,DA-GRPO還基于每個(gè)問題的復(fù)雜程度和生成答案的長(zhǎng)度對(duì)獎(jiǎng)勵(lì)得分進(jìn)行校準(zhǔn)。具體而言,如果模型對(duì)一個(gè)簡(jiǎn)單問題輸出較長(zhǎng)的答案,則對(duì)獎(jiǎng)勵(lì)分?jǐn)?shù)進(jìn)行相應(yīng)的懲罰。同時(shí),若模型對(duì)困難的問題輸出較長(zhǎng)的答案,則給予其更高的獎(jiǎng)勵(lì)分?jǐn)?shù),以鼓勵(lì)其進(jìn)行更充分的思考。這樣,通過提高樣本答案獎(jiǎng)勵(lì)得分的區(qū)分度,使模型具備根據(jù)問題難度輸出相應(yīng)長(zhǎng)度答案的能力,在保證推理準(zhǔn)確率的前提下顯著減少了答案冗余和資源消耗,從而實(shí)現(xiàn)對(duì)不同難度問題的自適應(yīng)慢思考。



自適應(yīng)慢思考的DeepSeek-R1蒸餾版模型訓(xùn)練流程圖

推理計(jì)算量節(jié)省約30%!實(shí)測(cè)效果對(duì)比一覽

中國(guó)聯(lián)通以DeepSeek-R1-distill-32B模型為例,對(duì)上述方法的效果進(jìn)行了驗(yàn)證。通過在數(shù)學(xué)任務(wù)測(cè)評(píng)集(MATH500)上對(duì)比以及具體實(shí)驗(yàn)可以看到,經(jīng)過難度自適應(yīng)改造后的模型在不同難度等級(jí)問題上生成的回答長(zhǎng)度較原版均明顯下降,并且對(duì)于最高難度(Level 5)輸出的回答長(zhǎng)度降幅最大,體現(xiàn)了模型對(duì)不同難度等級(jí)問題具備自適應(yīng)慢思考能力。經(jīng)過測(cè)評(píng),這種創(chuàng)新的自適應(yīng)慢思考方法,平均可節(jié)省約30%的推理計(jì)算量,冗余輸出大幅減少,用戶體驗(yàn)得到有效提升。



回答長(zhǎng)度對(duì)比:原版DeepSeek-R1-distill-32B(淺藍(lán))vs自適應(yīng)版(深藍(lán))



除了通過對(duì)DeepSeek-R1模型進(jìn)行自適應(yīng)慢思考優(yōu)化升級(jí)外,中國(guó)聯(lián)通還在緊鑼密鼓推進(jìn)對(duì)DeepSeek-R1系列模型的能力邊界量化和安全價(jià)值觀增強(qiáng)等相關(guān)工作的探索。未來,中國(guó)聯(lián)通將持續(xù)與以DeepSeek為代表的先進(jìn)開源模型深度融合,不斷升級(jí)元景基礎(chǔ)模型能力和MaaS平臺(tái)功能,貫徹開源普惠理念,推進(jìn)算力普惠、模型普惠、應(yīng)用普惠,以先進(jìn)數(shù)智水平賦能社會(huì)千行百業(yè)。

目前,自適應(yīng)慢思考版的DeepSeek-R1-distill-32B已在GitHub、魔搭、始智等社區(qū)全面開源,地址如下:

GitHub:https://github.com/UnicomAI/Unichat-DeepSeek-R1-distill-32B

魔搭:https://www.modelscope.cn/UnicomAI/Unichat-DeepSeek-R1-distill-32B

始智:https://wisemodel.cn/models/UnicomLLM/Unichat-DeepSeek-R1-distill-32B

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
為什么全世界都真怕失去美國(guó)市場(chǎng)?

為什么全世界都真怕失去美國(guó)市場(chǎng)?

林小明商業(yè)評(píng)說
2025-07-09 01:52:34
德云社吊唁楊少華,追悼會(huì)曝光,百元大鈔擺滿桌,楊議難掩笑容

德云社吊唁楊少華,追悼會(huì)曝光,百元大鈔擺滿桌,楊議難掩笑容

尋墨閣
2025-07-11 09:59:31
飆車身亡的2初中生太慘!剛出改裝店就撞墻,當(dāng)場(chǎng)腰斷,身體折疊

飆車身亡的2初中生太慘!剛出改裝店就撞墻,當(dāng)場(chǎng)腰斷,身體折疊

譚談社會(huì)
2025-07-11 17:55:19
保安小哥在地鐵“發(fā)泄式演講”的三分鐘|深度聚焦

保安小哥在地鐵“發(fā)泄式演講”的三分鐘|深度聚焦

北青深一度
2025-07-11 11:41:34
國(guó)航一客機(jī)險(xiǎn)撞機(jī):操作失誤明顯,事因荒唐,機(jī)長(zhǎng)信息被扒

國(guó)航一客機(jī)險(xiǎn)撞機(jī):操作失誤明顯,事因荒唐,機(jī)長(zhǎng)信息被扒

溫柔看世界
2025-07-11 16:08:55
免簽紅利下暗流!老外回國(guó)后陷入空虛:瘋狂找工作只想早日返回!

免簽紅利下暗流!老外回國(guó)后陷入空虛:瘋狂找工作只想早日返回!

說說史事
2025-07-11 08:53:39
修了8年不修了!俄羅斯唯一現(xiàn)役航母或遭報(bào)廢拆解,改造期間曾發(fā)生多起事故

修了8年不修了!俄羅斯唯一現(xiàn)役航母或遭報(bào)廢拆解,改造期間曾發(fā)生多起事故

紅星新聞
2025-07-11 16:03:06
幼兒園鉛中毒案,我能回答所有疑點(diǎn)

幼兒園鉛中毒案,我能回答所有疑點(diǎn)

基本常識(shí)
2025-07-11 18:41:32
鬧大了!BBC等外媒報(bào)道幼兒園血鉛事件,網(wǎng)友:這下捅到國(guó)外了

鬧大了!BBC等外媒報(bào)道幼兒園血鉛事件,網(wǎng)友:這下捅到國(guó)外了

夢(mèng)史
2025-07-11 08:05:34
飯館發(fā)布“蛤蟆湯”視頻擬被罰45萬?官方通報(bào)

飯館發(fā)布“蛤蟆湯”視頻擬被罰45萬?官方通報(bào)

界面新聞
2025-07-11 20:23:51
今年夏天,年輕人買爆拼多多防曬三件套

今年夏天,年輕人買爆拼多多防曬三件套

定焦One
2025-07-11 14:03:46
不服特朗普的國(guó)家出現(xiàn)了,宣布對(duì)美征50%關(guān)稅,中國(guó)必須100%支持

不服特朗普的國(guó)家出現(xiàn)了,宣布對(duì)美征50%關(guān)稅,中國(guó)必須100%支持

掌青說歷史
2025-07-10 11:57:48
“不給6套房加1個(gè)億,不搬”,釘子戶張新國(guó)堅(jiān)守14年,終敗給現(xiàn)實(shí)

“不給6套房加1個(gè)億,不搬”,釘子戶張新國(guó)堅(jiān)守14年,終敗給現(xiàn)實(shí)

紅夢(mèng)史說
2025-07-11 11:23:39
見了!王毅、魯比奧首次會(huì)晤,吉隆坡之會(huì)將為中美元首峰會(huì)鋪路?

見了!王毅、魯比奧首次會(huì)晤,吉隆坡之會(huì)將為中美元首峰會(huì)鋪路?

上觀新聞
2025-07-11 17:40:52
蔣尚義警告:歐美芯片廠,撐不過三年

蔣尚義警告:歐美芯片廠,撐不過三年

大道微言
2025-07-11 09:21:23
市委書記跨省晉升,交通部總規(guī)劃師“空降”地方!省級(jí)政府領(lǐng)導(dǎo)班子密集調(diào)整

市委書記跨省晉升,交通部總規(guī)劃師“空降”地方!省級(jí)政府領(lǐng)導(dǎo)班子密集調(diào)整

上觀新聞
2025-07-11 11:38:31
梁興初被隔離審查8年,出來后上面給出2條路,梁擺擺手:一個(gè)不要

梁興初被隔離審查8年,出來后上面給出2條路,梁擺擺手:一個(gè)不要

南書房
2025-07-10 15:35:04
擊敗孫穎莎的00后國(guó)乒小將,來自杭州

擊敗孫穎莎的00后國(guó)乒小將,來自杭州

都市快報(bào)橙柿互動(dòng)
2025-07-11 15:11:28
哈工大爆冷登頂!清北失寵?00后選大學(xué)看透了

哈工大爆冷登頂!清北失寵?00后選大學(xué)看透了

史書無明
2025-07-11 16:26:04
已下架!七大著名酸奶全軍覆沒,實(shí)為科技糖水,以后別再被騙了

已下架!七大著名酸奶全軍覆沒,實(shí)為科技糖水,以后別再被騙了

阿天愛旅行
2025-07-11 00:17:45
2025-07-11 20:55:00
暴走通信
暴走通信
看盡通信江湖
1189文章數(shù) 362關(guān)注度
往期回顧 全部

科技要聞

稚暉君神操作 宇樹痛失"人形機(jī)器人第一股"

頭條要聞

媒體:王毅魯比奧首次會(huì)晤 美方被指正安排特朗普訪華

頭條要聞

媒體:王毅魯比奧首次會(huì)晤 美方被指正安排特朗普訪華

體育要聞

從無畏金蘭到薪火相傳,中國(guó)女籃新的花期來了

娛樂要聞

新聞聯(lián)播鏡頭下的宋佳面相變了

財(cái)經(jīng)要聞

管濤:百年美元信用將崩塌?

汽車要聞

最便宜滿血版華為智駕和鴻蒙座艙 嵐圖FREE+閉眼沖

態(tài)度原創(chuàng)

健康
數(shù)碼
家居
時(shí)尚
公開課

呼吸科專家破解呼吸道九大謠言!

數(shù)碼要聞

新款MacBook Pro要來了!搭載A18 Pro芯片,價(jià)格實(shí)惠?

家居要聞

生活憧憬 自由浪漫之境

今日熱點(diǎn):賈斯汀比伯回歸;宋佳回應(yīng)獲獎(jiǎng)感言出圈……

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進(jìn)入關(guān)懷版 主站蜘蛛池模板: 临沧市| 兴文县| 宁夏| 马尔康县| 丁青县| 全椒县| 孟州市| 阿城市| 得荣县| 大埔区| 北辰区| 白山市| 民县| 珠海市| 望都县| 桓台县| 南雄市| 钟祥市| 宾阳县| 丰都县| 普宁市| 牟定县| 巩留县| 峨山| 手游| 平顺县| 柏乡县| 嘉善县| 突泉县| 宿州市| 武川县| 土默特右旗| 江门市| 密山市| 探索| 甘谷县| 山阳县| 合川市| 南靖县| 右玉县| 博湖县|