99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

同一天開源新模型,一推理一編程,MiniMax和月之暗面開卷了

0
分享至



機器之心報道

機器之心編輯部

同一天,國內大模型廠商扎堆發起了新模型。

AI「六小龍」中的 MiniMax 和月之暗面各自公布了開源新成果。

其中,MiniMax 啟動了「MiniMax Week」,并在第一天開源了其最新的長上下文推理 LLM——MiniMax-M1。該模型支持全球最長的上下文窗口,包括 100 萬 tokens 輸入、8 萬 tokens 輸出

不僅如此,MiniMax-M1 還實現了開源模型中最強的智能體工具使用能力。強化學習效率也驚人,僅僅需要 53.47 萬美元即可完成訓練。

目前,MiniMax-M1 已經集成到了 MiniMax Chat 中。



如此強大的 MiniMax-M1 有哪些亮點功能呢?首先,它支持UI 組件聚焦(Spotlight),只需輸入提示詞,立即就可以構建一個具有基于畫布的動畫粒子背景的 HTML 頁面。



其次,MiniMax-M1 支持交互式應用程序。比如要求它構建一個打字速度測試,很快就生成一個干凈、實用的 Web 應用程序,可以實時跟蹤 WPM(每分鐘字數)。不需要插件,也不需要設置。



此外,MiniMax-M1 的可視化效果很強。比如輸入提示詞:創建具有基于畫布的動畫粒子背景的 HTML 頁面,顆粒應平穩移動并在靠近時連接,在畫布上添加中心標題文本。(Create an HTML page with a canvas-based animated particle background. The particles should move smoothly and connect when close. Add a central heading text over the canvas.)



最后,MiniMax-M1 可以玩游戲。比如輸入提示詞:創建迷宮生成器和尋路可視化工具,隨機生成一個迷宮,并可視化 A * 算法逐步解決它。使用畫布和動畫,使其具有視覺吸引力。(Create a maze generator and pathfinding visualizer. Randomly generate a maze and visualize A* algorithm solving it step by step. Use canvas and animations. Make it visually appealing.)



評論區的網友對 MiniMax-M1 也是翹首以盼,如今終于放出來了。



與此同時,月之暗面發布了強大的開源編程大模型 ——Kimi-Dev-72B

在所有開源模型中,Kimi-Dev-72B 在代碼生成評估基準 SWE-bench Verified 中取得了全新的 SOTA 分數

目前,Kimi-Dev-72B 已向社區開放,以供進一步研發,主要資源包括了模型權重、源代碼和技術報告(即將發布)。月之暗面希望開發者和組織能夠探索、集成和擴展該模型的應用。



  • Hugging Face 地址:https://huggingface.co/moonshotai/Kimi-Dev-72B
  • GitHub 地址:https://github.com/MoonshotAI/Kimi-Dev
  • 博客地址:https://moonshotai.github.io/Kimi-Dev/

面對同一天發布的這兩個大模型,已經有人進行了代碼實測 PK。

一位推特用戶使用 three.js 生成拆煙囪 demo,結果顯示,MiniMax-M1-80K 一把過,而 Kimi-Dev-72B 生成的代碼需要使用 Claude-4-Sonnet 修復 3 個 bug 才能運行。



圖源:https://x.com/karminski3/status/1934791130165727445

我們接下來介紹兩款開源大模型的技術細節。

MiniMax-M1



  • Hugging Face:https://huggingface.co/collections/MiniMaxAI/minimax-m1-68502ad9634ec0eeac8cf094
  • GitHub 地址:https://github.com/MiniMax-AI/MiniMax-M1
  • 技術報告:https://github.com/MiniMax-AI/MiniMax-M1/blob/main/MiniMax_M1_tech_report.pdf
  • 體驗地址:https://chat.minimax.io/

MiniMax-M1 是全球首款開源權重的大規模混合注意力推理模型,由混合專家(MoE)架構與閃電注意力機制共同驅動。該模型基于此前的 MiniMax-Text-01 模型開發而來,總參數量為 456 B,每個 token 激活 45.9 B 參數。

與 MiniMax-Text-01 一致,M1 模型原生支持 100 萬 token 的上下文長度,是 DeepSeek R1 上下文規模的 8 倍



此外,MiniMax-M1 中采用的閃電注意力機制實現了測試時計算成本的高效擴展 —— 例如,在生成長度為 10 萬 token 時,M1 所消耗的浮點運算次數(FLOPs)僅為 DeepSeek R1 的 25%。這些特性使得 M1 尤其適用于需要處理長輸入并進行深度思考的復雜任務。

MiniMax-M1 在從傳統數學推理到基于沙盒的真實世界軟件工程環境等各種問題上,均采用了大規模強化學習(RL)進行訓練。MiniMax 為 M1 開發了一個高效的強化學習擴展框架,重點突出以下兩個方面:

1. 提出了一種名為 CISPO 的新穎算法,該算法通過裁剪重要性采樣權重而非 token 更新來優化模型。 在 AIME 的實驗中,研究團隊發現這比包括字節近期提出的 DAPO 等強化學習算法收斂性能快了一倍,顯著的優于 DeepSeek 早期使用的 GRPO。



2. MiniMax 的混合注意力設計天然地提升了強化學習的效率,在此過程中,解決了在混合架構下擴展強化學習時遇到的獨特挑戰。

整個強化學習階段只用到512 塊 H800 三周的時間,租賃成本只有53.47 萬美金,這比一開始的預期少了一個數量級。MiniMax 訓練了兩個版本的 MiniMax-M1 模型,分別具有 40k 和 80k 的思考預算。

在標準基準測試上的實驗表明,該模型在性能上超越了其他強大的開源權重模型,如原始的 DeepSeek-R1 和 Qwen3-235B,尤其在復雜的軟件工程、工具使用和長上下文任務上表現突出。



對領先的商業模型與開源模型在競賽級數學、編程、軟件工程、智能體工具使用以及長上下文理解等任務中的基準性能進行對比評估。其中,MiniMax-M1 結果使用其 MiniMax-M1-80k 模型。

MiniMax 在 17 個業內主流評測集上對 M1 模型進行了全面評估,結果顯示,M1 在軟件工程、長上下文處理和工具使用等面向生產力的復雜場景中,擁有顯著優勢。



  • MiniMax-M1-40k 和 MiniMax-M1-80k 在 SWE-bench 驗證基準上分別取得 55.6% 和 56.0% 的優異成績,這一成績略遜于 DeepSeek-R1-0528 的 57.6%,但顯著超越其他開源權重模型。
  • 依托其百萬級上下文窗口,M1 系列在長上下文理解任務中表現卓越,不僅全面超越所有開源權重模型,甚至超越 OpenAI o3 和 Claude 4 Opus,全球排名第二,僅以微弱差距落后于 Gemini 2.5 Pro。
  • 在代理工具使用場景(TAU-bench)中,MiniMax-M1-40k 同樣領跑所有開源權重模型,并戰勝 Gemini-2.5 Pro。

值得注意的是,MiniMax-M1-80k 在大多數基準測試中始終優于 MiniMax-M1-40k,這充分驗證了擴展測試時計算資源的有效性。

MiniMax 還采取了極具誠意的開放策略:新模型在 MiniMax APP 和 Web 上都保持不限量免費使用,并以業內最低的價格在官網提供 API。



前面兩種模式都比 DeepSeek-R1 性價比更高,后面一種模式 DeepSeek 模型不支持。

發布 M1 只是一個開始。據 MiniMax 透露,在接下來的數個工作日內,還將公布一系列令人期待的技術更新,敬請關注。

Kimi-Dev-72B

作為一個強大的開源 LLM,Kimi-Dev-72B 具有以下亮點:

  • Kimi-Dev-72B 在 SWE-bench Verified 上取得了 60.4% 的成績,在開源模型中創下了新的 SOTA 紀錄。
  • Kimi-Dev-72B 通過大規模強化學習進行優化。它能夠自主在 Docker 中修補真實代碼倉庫,并且只有在整個測試套件通過的情況下才會獲得獎勵。這確保了其提供的解決方案是正確且穩健的,符合現實世界中的開發標準。
  • Kimi-Dev-72B 可在 Hugging Face 和 GitHub 上下載和部署。

下圖為 SWE-bench Verified 基準上,Kimi-Dev-72B 與其他開源模型的性能比較。



下圖為 SWE-bench Verified 基準上,Kimi-Dev-72B 與閉源模型的性能比較。



以下是 Kimi-Dev-72B 的設計理念與技術細節,包括 BugFixer 與 TestWriter 的協作機制、中期訓練、強化學習以及測試階段自博弈等內容。

BugFixer 與 TestWriter 的協作機制

一個成功的漏洞修復補丁,應該能夠通過準確反映該漏洞的單元測試。同時,一個成功的測試用例在復現漏洞時應能觸發斷言錯誤,并且在正確的補丁應用到代碼庫后能夠通過測試。這就形成了 BugFixer 和 TestWriter 的互補角色:BugFixer 負責修復問題,TestWriter 負責驗證和復現問題。一個足夠強大的編程 LLM 應當在這兩方面都表現出色。

BugFixer 和 TestWriter 遵循著相似的流程:它們都需要先找到正確的待編輯文件,然后執行相應的代碼更新 —— 無論是修正脆弱的代碼實現(BugFixer 的任務),還是插入單元測試函數(TestWriter 的任務)。

因此,為了同時支持這兩個角色,Kimi-Dev-72B 采用了一個統一的極簡框架,該框架僅包含兩個階段:(1) 文件定位 (File Localization) 和 (2) 代碼編輯 (Code Edits)。BugFixer 與 TestWriter 的這種協作機制的設計,為 Kimi-Dev-72B 的整體架構奠定了基礎

中期訓練

為了提升 Kimi-Dev-72B 作為 BugFixer 和 TestWriter 的基礎能力,使用了約 1500 億個 token 的高質量真實世界數據對其進行了中期訓練。以 Qwen 2.5-72B 作為基礎模型,收集了數百萬個 GitHub 上的問題報告 (issues) 和拉取請求中的代碼提交記錄 (PR commits) 作為中期訓練數據集。

該數據配方經過精心設計,旨在讓 Kimi-Dev-72B 學習人類開發者如何根據 GitHub 問題進行推理、構建代碼修復方案以及編寫單元測試。此外還進行了嚴格的數據去污染處理,以排除任何來自 SWE-bench Verified 測試集的代碼倉庫。

中期訓練充分增強了基礎模型在實用性錯誤修復和單元測試方面的知識,使其成為后續強化學習(RL)訓練的更佳起點。

大規模強化學習

通過適當的中期訓練和監督微調 (SFT),Kimi-Dev-72B 在文件定位 (File Localization) 方面已取得了優異的性能。因此,強化學習 (RL) 階段專注于提升其代碼編輯 (Code Edits) 的能力。

月之暗面采用了一種在 Kimi k1.5 中描述過的策略優化方法,該方法已在推理任務中展現出卓越成果。針對 SWE-bench Verified 測試基準,重點介紹以下三項關鍵設計:

  • 僅基于結果的獎勵機制(Outcome-based Reward Only)。只采用 Docker 最終執行結果(0 或 1)作為獎勵信號,在訓練過程中不使用任何基于格式或過程的獎勵。這意味著,只有當模型生成的補丁能夠使所有測試用例通過時,才會獲得獎勵,從而確保模型關注于實際有效的代碼修復結果。
  • 高效的提示集(Efficient Prompt Set)。過濾掉了模型在多樣本評估中成功率為零的提示(即過于困難的任務),從而能夠更有效地利用大批量數據進行訓練。同時應用了課程學習策略,即逐步引入新提示,漸進式地增加任務難度。
  • 正面范例強化(Positive Example Reinforcement)。在訓練的最后階段,將先前迭代中近期成功的樣本重新加入到當前的訓練批次中。這有助于模型鞏固成功的模式并提升性能。

Kimi-Dev-72B 通過使用高度并行、強大且高效的內部智能體基礎設施,從可擴展數量的問題解決任務訓練中受益匪淺。



測試時自博弈(Test-time Self-Play)

經過強化學習后,Kimi-Dev-72B 能夠同時掌握 BugFixer 和 TestWriter 的角色。在測試過程中,該模型會采用自博弈機制,協調自身 Bug 修復和測試編寫的能力。



BugFixer 和 TestWriter 之間的測試時 self-play。

每個問題最多可以生成 40 個補丁候選和 40 個測試候選(按照標準 Agentless 設置),可以觀察到測試時自博弈的擴展效應。

下一步計劃

最后,月之暗面表示,他們正在積極研究和開發擴展 Kimi-Dev-72B 功能的方法,并探索更復雜的軟件工程任務。未來的迭代將側重于與流行的 IDE、版本控制系統以及 CI/CD 流水線進行更深入的集成,使 Kimi-Dev-72B 更加無縫地融入開發人員的工作流程。

在持續改進 Kimi-Dev-72B 的同時,月之暗面還將進行嚴謹的紅隊測試,并向社區發布更強大的模型。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
正式任職!劉國梁遠赴美國紐約,聯合國任職,國乒功臣迎來新高度

正式任職!劉國梁遠赴美國紐約,聯合國任職,國乒功臣迎來新高度

趣味八卦
2025-06-16 18:00:07
8連敗!6連敗!張本美和打不過2大克星,日本天才少女多次被打哭

8連敗!6連敗!張本美和打不過2大克星,日本天才少女多次被打哭

體壇知道分子
2025-06-17 06:10:06
湖南省省長毛偉明赴臨澧事故現場指揮:徹查事故原因、嚴肅追責問責

湖南省省長毛偉明赴臨澧事故現場指揮:徹查事故原因、嚴肅追責問責

政知新媒體
2025-06-17 14:40:19
美國告急!日本告急!中國一招卡了全球車企的脖子

美國告急!日本告急!中國一招卡了全球車企的脖子

西莫的藝術宮殿
2025-06-17 16:51:06
張子宇去向被曝光!女籃因禍得福,宮魯鳴放狠話,難怪李夢離隊

張子宇去向被曝光!女籃因禍得福,宮魯鳴放狠話,難怪李夢離隊

體育就你秀
2025-06-17 11:11:59
王建華,升副部

王建華,升副部

新京報
2025-06-16 22:05:21
美聯儲傳聲筒:若非關稅對價格構成的風險 美聯儲本周將準備降息

美聯儲傳聲筒:若非關稅對價格構成的風險 美聯儲本周將準備降息

財聯社
2025-06-17 18:13:12
越南在美國45%的關稅大棒的重壓之下,轉頭就宣布加入金磚伙伴股

越南在美國45%的關稅大棒的重壓之下,轉頭就宣布加入金磚伙伴股

流蘇晚晴
2025-06-17 18:09:51
你信嗎?一邊很多人難找工作,一邊是15個行業近2億人天大缺口…

你信嗎?一邊很多人難找工作,一邊是15個行業近2億人天大缺口…

慧翔百科
2025-06-16 09:16:13
女網離奇1幕:申請挑戰遭拒后,消極比賽0-6吞蛋出局,鄭欽文利好

女網離奇1幕:申請挑戰遭拒后,消極比賽0-6吞蛋出局,鄭欽文利好

侃球熊弟
2025-06-17 00:41:09
官方直播!中國女排香港站國內觀看渠道出爐,終于購買版權了

官方直播!中國女排香港站國內觀看渠道出爐,終于購買版權了

啊噠體育
2025-06-17 15:10:32
“我真想丟了她”,寶媽發文公開厭惡10歲女兒,原因引來共鳴

“我真想丟了她”,寶媽發文公開厭惡10歲女兒,原因引來共鳴

熙熙說教
2025-06-17 18:50:23
王晶不再隱瞞!曝料17年前“艷照門”內幕,原來陳冠希竟是受害者

王晶不再隱瞞!曝料17年前“艷照門”內幕,原來陳冠希竟是受害者

清游說娛
2025-06-17 09:46:07
快要崩了!特朗普連遭俄羅斯、中國、以色列蔑視

快要崩了!特朗普連遭俄羅斯、中國、以色列蔑視

小笛科技
2025-06-17 17:46:41
3年2.1億頂薪,和總冠軍說再見!作為聯盟第一人,你終于該離開了

3年2.1億頂薪,和總冠軍說再見!作為聯盟第一人,你終于該離開了

老梁體育漫談
2025-06-17 00:34:33
伊朗和以色列,誰能熬到最后?

伊朗和以色列,誰能熬到最后?

樞密院十號
2025-06-15 23:23:40
東莞市民投訴:果子掉落在車上難清洗!官方回應

東莞市民投訴:果子掉落在車上難清洗!官方回應

南方都市報
2025-06-17 10:48:50
兩屆冠軍射手仍不受待見,球隊倒貼首輪才送走,你為何下滑這么快

兩屆冠軍射手仍不受待見,球隊倒貼首輪才送走,你為何下滑這么快

大衛的籃球故事
2025-06-16 20:30:36
CCTV5直播!中國女籃VS日本,張子宇無法阻擋,宮魯鳴或啟用雙塔

CCTV5直播!中國女籃VS日本,張子宇無法阻擋,宮魯鳴或啟用雙塔

寒士之言本尊
2025-06-17 11:16:33
美商務部長:“特朗普金卡”7萬人預約!有跨國科技公司要買100張

美商務部長:“特朗普金卡”7萬人預約!有跨國科技公司要買100張

北美商業電訊
2025-06-17 17:20:47
2025-06-17 22:55:00
機器之心Pro incentive-icons
機器之心Pro
專業的人工智能媒體
10663文章數 142339關注度
往期回顧 全部

科技要聞

51歲劉強東談幾年前"退休":當時太理想主義

頭條要聞

男童嘔吐送醫遭漏診身亡 首診醫生被刑拘院方賠146萬

頭條要聞

男童嘔吐送醫遭漏診身亡 首診醫生被刑拘院方賠146萬

體育要聞

杰威40+6雷霆3-2步行者 SGA31+10

娛樂要聞

重男輕女還雌競?朱丹行為引爭議

財經要聞

白酒股崩了,誰在“拋棄”茅臺?

汽車要聞

高級感拉滿 極氪9X全新配色“極晝白”亮相

態度原創

數碼
健康
藝術
手機
房產

數碼要聞

AOC 旗下“AG275UXM2” 27 英寸顯示器開售,3999 元

呼吸科專家破解呼吸道九大謠言!

藝術要聞

故宮珍藏的墨跡《十七帖》,比拓本更精良,這才是地道的魏晉寫法

手機要聞

Nothing Phone(3)官宣搭載驍龍 8s Gen 4 芯片,下月發售

房產要聞

又一城購房補貼!買房就發錢,正在海南樓市瘋狂擴散!

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 崇礼县| 江西省| 电白县| 长沙县| 翁牛特旗| 南昌县| 双江| 开江县| 犍为县| 北流市| 高州市| 治县。| 罗田县| 商城县| 桐乡市| 鄂伦春自治旗| 大埔区| 克拉玛依市| 盐山县| 青冈县| 娱乐| 库尔勒市| 山阳县| 西充县| 闸北区| 顺义区| 营山县| 北安市| 鄂托克旗| 犍为县| 河曲县| 上林县| 密山市| 惠水县| 东台市| 马尔康县| 甘南县| 潮州市| 东丽区| 伊川县| 叶城县|