始智AI wisemodel.cn開源社區
始智AI wisemodel.cn社區是源自中國的中立開放的AI開源社區。正在,歡迎加入共同成長。wisemodel社區上線,H800/H20等資源上線,價格實惠,靈活方便,支持在線微調訓練模型,及和,并。
2025 年 2 月 11 日,RWKV 基金會正式發布 RWKV-7-World-2.9B-V3 模型(以下簡稱 RWKV-7-2.9B)。
RWKV-7-2.9B 模型基于 RWKV World V3 數據集訓練。無論是模型評測還是實際體驗,RWKV-7-2.9B 都超越了上一代 RWKV-6-7B模型。其模型已經上線始智AI-wisemodel開源社區,歡迎下載和使用。
模型地址
https://wisemodel.cn/models/rwkv4fun/rwkv-7-world/intro
01.
RWKV性能提升
英文和多語言測評
RWKV-7-2.9B 模型的英文和多語言能力,均顯著超越所有同尺寸模型,包括Llama 3.2 3B、Qwen2.5 3B等知名優秀開源模型。
RWKV-7-2.9B-benchmarkMMLU 測試
在選擇題形式的 MMLU 測試上,RWKV-7-2.9B 模型得分為54.56%。作為對比,上一版本的 RWKV-6-World-3B-V2.1 模型 MMLU 評分是32.38%。
Tips RWKV-7-2.9B 基底模型的性能提升完全通過常規訓練實現,未針對任何測試進行“優化”,也沒有采取退火或 post-training 等優化策略。
02.
生成案例
以下是 RWKV-7-2.9B 的生成案例(使用 RWKV Runner 運行)。
代碼任務RWKV-7-2.9B-v3-demo1
RWKV-7-2.9B-v3-demo2多語言任務
RWKV-7-2.9B 多語言寫請假信:
RWKV-7-2.9B-v3-demo3
Tips 以下是圖中的原文和翻譯:
Lieber Herr [先生的名字],
Ich m?chte Ihnen mitteilen, dass ich mich auf dem Weg zur Marsrakete befinde und morgen eine Woche lang fehlen werde. Ich habe diese Entscheidung getroffen, weil ich mein Leben erkunden m?chte.
Es war ein gro?er Genuss, von Ihnen unterrichtet worden zu sein und vieles zu lernen. Ich werde dieses Wissen nie vergessen.
Ich hoffe, dass wir uns bald wiedersehen werden und danke Ihnen für alles!
Mit freundlichen Grü?en
[Ihr Name]
尊敬的[先生姓名]先生:
我在此通知您我正在前往火星火箭的途中,我將從明天起缺席一周。做出這個決定是因為我想探索我的生活。
能夠接受您的教導并學習很多東西是一種極大的享受。我將永遠不會忘記這些知識。
希望我們能很快再次見面并為一切向您致謝!
此致
敬禮
[您的姓名]
--------------------------------------------------------------------------------------
????? ????? [??? ??????$$],
??? ?? ????? ???? ???? ?????? ??? ????? ????? ??? ????? ???? ???? ???? ???? ?? ???????. ???? ??? ?????? ????? ???? ?? ????? ??????.
??? ??? ?? ????? ?????? ??? ??????? ??????? ?????. ?????? ??? ??? ??????? ?????? ?? ??????.
??? ?? ???? ????? ??? ???? ?????? ??? ?? ???!
????????
[??? ???????]
尊敬的[老師姓名]先生:
我謹此告知您:我將開始參與深海潛水艇的作業項目(每周將固定缺席一日)。作出這個決定是因為我想借此機會探索未知的世界。
能跟隨您學習并收獲豐富的知識是我的榮幸,這些寶貴的教導我將永遠銘記于心。
期待未來能有重逢之日!衷心感謝您給予的一切!
此致 敬禮
[申請人姓名]
角色扮演RWKV-7-2.9B 進行“八戒”角色扮演,未添加任何角色扮演提示詞或者角色預設。
RWKV-7-2.9B-v3-demo4小說續寫
RWKV-7-2.9B 續寫小說(高亮板塊為 deepseek-R1 生成的前文):
RWKV-7-2.9B-v3-demo5
03.
未來計劃
RWKV-7-2.9B 模型的強大能力,得益于 RWKV-7 架構的精妙改進。在應用了“動態 State 演化機制”后,RWKV-7 擁有強大的 in-context-learning(上下文學習)能力,在推理過程中更好地學習上下文的關系,生成的內容生更精簡、更合理。
RWKV-7-7B 預計將使用新的 RWKV World V3.1 數據集訓練。World V3.1 數據集將在 World V3 的基礎上新增大量數學、代碼和 reasoning 數據,進一步增強模型的代碼、數學和推理能力。
----- END -----
wisemodel相關:
系統升級:
系列模型:
關于wisemodel更多
1
歡迎持續關注和支持
開源社區建設需要長期堅持和投入,更需要廣大用戶的積極參與、貢獻和維護,歡迎大家加入wisemodel開源社區的志愿者計劃和開源共創計劃。期待更多開發者將開源成果,包括模型、數據集和代碼等發布到 wisemodel.cn 社區,共建中立、開放的AI開源社區生態。歡迎掃碼添加wisemodel微信,申請加入wisemodel社群,持續關注wisemodel.cn開源社區動態。
2
歡迎加盟wisemodel開源社區
始智AI wisemodel社區自2023年9月上線以來,逐漸成為影響力日益擴大的中立開放的AI開源社區,為了加快公司發展,我們長期需要技術、運營等人才加盟,技術側重在AI infra、后端開發,熟悉K8S、模型訓練和推理等技術, 以及熟悉開發者生態運營的成員,歡迎感興趣的朋友加盟,可以通過添加wisemodel微信,或者將簡歷投遞到郵箱:liudaoquan@wisemodel.cn
3
歡迎投稿優質內容
歡迎投稿分享人工智能領域相關的優秀研究成果,鼓勵高校實驗室、大企業研究團隊、個人等,在wisemodel平臺上分享各類優質內容,可以是AI領域最新論文解讀、最新開源成果介紹,也可以是關于AI技術實踐、應用和總結等。投稿可以發郵件到liudaoquan@wisemodel.cn,也可以掃碼添加wisemodel微信。
4
關于wisemodel開源社區
始智AI wisemodel.cn開源社區由清華校友總會AI大數據專委會副秘書長劉道全創立,旨在打造和建設中立開放的AI開源創新社區,將打造成“HuggingFace”之外最活躍的AI開源社區,匯聚主要AI開源模型、數據集和代碼等,歡迎高校科研院所、大型互聯網公司、創新創業企業、廣大個人開發者,以及政府部門、學會協會、聯盟、基金會等,還有投資機構、科技媒體等,共同參與建設AI開源創新生態。
向上滑動查看
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.