北京
我們注意到近期開源社區及網絡平臺關于盤古大模型開源代碼的討論。
盤古Pro MoE開源模型是基于昇騰硬件平臺開發、訓練的基礎大模型，并非基于其他廠商模型增量訓練而來，在架構設計、技術特性等方面做了關鍵創新，是全球首個面向昇騰硬件平臺設計的同規格混合專家模型，創新性地提出了分組混合專家模型（MoGE）架構，有效解決了大規模分布式訓練的負載均衡難題，提升訓練效率。其他技術特性創新，請參考昇騰生態競爭力系列技術報告披露內容。
盤古Pro MoE開源模型部分基礎組件的代碼實現參考了業界開源實踐，涉及其他開源大模型的部分開源代碼。我們嚴格遵循開源許可證的要求，在開源代碼文件中清晰標注開源代碼的版權聲明。這不僅是開源社區的通行做法，也符合業界倡導的開源協作精神。我們始終堅持開放創新，尊重第三方知識產權，同時提倡包容、公平、開放、團結和可持續的開源理念。
感謝全球開發者與合作伙伴對盤古大模型的關注和支持，我們高度重視開源社區的建設性意見。希望通過盤古大模型開源，與志同道合的伙伴一起，探索并不斷優化模型能力，加速技術突破與產業落地。
我們歡迎并期待大家在開源社區Ascend Tribe，就技術細節進行深入、專業的交流
盤古Pro MoE技術開發團隊
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
