快訊
得一微電子
校友企業
近日,艾新校友企業得一微電子(YEESTOR)發布集成AI-MemoryX技術的顯存擴展解決方案。該方案依托自研存儲控制芯片和AI存儲系統級創新,顯著提升單機的顯存容量,讓32B、70B、110B、671B等DeepSeek系列大模型實現單機微調訓練,為AI大模型的微調訓練提供功能強大且經濟實惠的解決方案。
得一微電子及相關合作伙伴將提供完整的微調訓練機解決方案,助力眾多行業拓展智能應用邊界,在產業競爭中占據先機。
低成本實現顯存擴展,
解鎖百倍大模型微調訓練提升
訓練和推理對GPU顯存的需求存在顯著差異。對于同一尺寸的模型,訓練所需的顯存通常是推理的20倍以上。目前市場上,訓推一體機在支持大模型微調訓練方面仍面臨顯存容量的挑戰,通常只能支持7B、14B等大模型的微調訓練,難以支持110B、70B、32B等更大模型的微調訓練。
得一微電子發布的AI-MemoryX顯存擴展卡,將促進訓推一體機能夠支持超大尺寸大模型的微調訓練,幫助客戶支持高達110B(甚至671B)規模的訓練任務。同時,AI-MemoryX技術將原本需耗費數百上千萬的硬件擴充成本,降低至數萬元級別,大幅降低了超大模型訓練的門檻。這將使得更多企業甚至個人都能夠以有限的資源,高效開展大規模模型的訓練與微調。
高效解決顯存瓶頸,
開啟單機微調訓練新方式
顯存不足,一直是單機微調訓練超大模型的最大障礙。當下受GPU技術以及商業模式的限制,單張GPU顯存容量極為有限,中端顯卡的顯存容量大多在48GB到64GB之間。以DeepSeek 70B模型為例,微調訓練所需的顯存高達1TB到2TB,這意味著需要動用30多張顯卡;而對于DeepSeek 671B模型,更是需要達到10TB到20TB的顯存,對應300多張顯卡。如此龐大的硬件需求,不僅成本高昂,還使得部署極為復雜,嚴重阻礙了大模型單機微調的普及。
得一微電子的AI-MemoryX技術通過其創新性的顯存擴展方案,使單機顯存容量從傳統顯卡的幾十GB提升到10TB級別,大幅降低了微調訓練對GPU數量的需求。得益于此,DeepSeek不同尺寸的大模型(如32B、70B、110B、671B等)僅需1到16張顯卡,配合顯存擴展技術,即可高效完成單機訓練微調。該技術為大模型在各行業的應用推廣提供了有力支持。
得一微電子推出的 AI-MemoryX 解決方案,是一個完整的微調訓練機方案,涵蓋大模型訓練框架、顯存擴展卡軟件棧以及顯存擴展卡X200系列,為大模型微調訓練提供全方位的技術支持與賦能。
得一微AI-MemoryX技術特色,
發掘微調的潛力和價值
· 監督微調SFT:小樣本撬動大效能
華裔科學家、“AI教母”李飛飛團隊等研究人員,僅用1000個樣本對模型進行監督微調,并創新性地提出預算強制(budget forcing)技術,讓s1-32B模型在多個基準測試中超越閉源模型OpenAI o1-preview,成為目前樣本效率極高的推理模型。
s1-32B模型并非從零構建,而是基于預訓練模型(阿里通義千問 Qwen2.5-32B - Instruct)進行監督微調。這一成果表明,當模型知識基礎足夠扎實時,少量高質量示例即可通過推理鏈激活其潛在推理能力,無需依賴海量數據,高效且實用。
· 思維鏈微調CoT: 注入行業思維,提升推理深度
各行各業都有其獨特的思維方式,而精心設計的推理鏈,不僅能助力模型精準理解問題,還能顯著提升其推理的準確性和泛化能力。
DeepSeek通過蒸餾技術,將R1模型的思考能力傳遞給其他模型,讓它們也具備R1級別的思考實力。企業開發者可以提供優質的行業問題與示范,引導模型自主深入思考,以微調為橋梁,將千行百業的人類專家的思維模式和思考過程融入大模型的推理鏈條中,使模型更契合行業特點和實際需求。
· 強化學習微調RFT:規則框架下的自我進化
每個行業都有每個行業需要解決的問題和方法。強化學習微調,相當于賦予AI一套復雜的規則與思考框架,使其在反復實踐與推理中,逐步掌握解決問題的高效方法。這一訓練方式依托微調數據集和測試數據集兩大核心數據集。模型先通過微調數據集進行學習,再使用測試數據集驗證推理能力,找出不足并針對性調整。通過這種持續迭代的自我訓練與驗證,模型推理能力不斷攀升,最終在特定領域達到專業級水平,為專業應用場景提供強大支撐。
嵌入式存儲跨越式成長,
賦能AI與智能化應用
得一微電子長期深耕存儲控制芯片領域,產品矩陣已覆蓋AI智能終端、智算中心、自動駕駛等多個前沿領域。在SSD存儲主控領域持續取得成功的基礎上,公司在嵌入式存儲領域更是實現了跨越式成長,成為中國汽車存儲和手機存儲主控的標桿。
自2013年成功研發中國大陸首顆量產的eMMC主控以來,得一微電子始終走在行業前沿,持續引領行業創新潮流。公司已推出UFS3.1、eMMC5.1等多款嵌入式存儲主控,全面滿足市場對高速、高可靠性嵌入式存儲的需求。嵌入式主控芯片已成功通過知名客戶的嚴格驗證并實現批量采用,打入了核心手機廠商供應鏈,為智能手機普及AI應用提供了強有力的支持。
從消費電子到智能家居,從工業物聯網到自動駕駛,得一微電子的存儲解決方案為AI技術的落地應用提供堅實支撐,推動智能化時代的加速到來。
車規/工規新品亮相,布局前沿科技市場
在CFMS|MemoryS 2025峰會上,得一微電子將攜多款車規及工規新品亮相。其中,全新國產車規級BGA SSD的推出,豐富了公司在車規存儲領域的產品矩陣,形成了全國產化的車規eMMC、BGA SSD、UFS全產品線布局。此外,面向工業控制、嵌入式系統等場景的工規級CFast存儲卡,進一步增強了工規產品陣容。
目前,得一微已與數十家車廠及Tier1客戶展開深度合作,持續推動車規存儲技術的創新與應用,并在通信、能源、電力等關鍵基礎設施領域得到了廣泛應用,產品市占率位居行業前茅。與此同時,得一微電子正積極拓展新興領域,加速布局機器狗、機器人、低空飛行等前沿科技市場,推動工規及車規存儲產品的多樣化與升級。
存算一體新生態,加速AI創新應用
得一微電子致力于構建存儲控制、存算一體及存算互聯的新生態,為AI、智能制造、自動駕駛等前沿領域賦能:
存儲控制
提供符合AI需求的大容量、高帶寬存儲器,滿足AI訓練和推理高要求。
存算一體
提供新一代AI存儲方案,將存儲與計算能力結合,提升數據處理效率。
存算互聯
開發低延遲、可擴展的CXL產品,實現存儲與計算資源的高效協同,打破數據瓶頸。
通過存儲技術的持續創新,得一微電子正推動存儲與計算的深度融合,AI-MemoryX顯存擴展技術已獲得市場關注。
關于得一微電子
得一微電子始終錨定存儲控制、存算一體、存算互聯領域的技術前沿,致力成為行業領先的芯片設計公司。公司面向企業級、車規級、工業級、消費級等全場景應用,提供量身定制的解決方案與服務。
以上內容來源得一微電子公眾號
艾新德魯夫&得一微電子
謝志峰博士(右一)為陳強先生(左一)頒獎
得一微的COO陳強先生是艾新德魯夫的六期校友,他通過在課堂上聽謝志峰博士的理論知識,課堂下深入到企業一線實踐,以及和校友們的傾心分享感到收獲頗豐。
陳強先生帶領艾新德魯夫八期校友參觀得一微
艾新和陳強先生以及得一微的友誼一直持續著,在艾新德魯夫第八期的時候,謝志峰博士帶領著校友去得一微參訪交流。陳強先生從家庭、創業、市場等多角度毫無保留地分享了他的獨家創業心得。
【校企快訊】欄目旨在報道艾新校友企業的最新進展,呈現各校友企業的新聞、企業文化、管理經驗等內容。我們關注每一家校友企業的成長與發展,通過建立有效的溝通與合作平臺,助力校友企業不斷取得成就,共同促進艾新校友圈整體影響力的提升!
艾新德魯夫
艾新德魯夫由謝志峰博士創辦于2016年,面向泛半導體產業,引導半導體企業創始團隊及高管探索適合自己企業的管理體系,培育科技獨角獸企業。
艾新德魯夫精英班現已累計完成九期超過 150 名校友培養,校友覆蓋芯片“設計-制造-封測-設備-材料”到下游應用領域各環節,已形成完整的集成電路產業生態鏈網絡。目前,艾新校友企業普冉半導體、思特威、廣立微已登錄科創板,泰凌微 IPO 申請獲通過,賽美特、加速科技、琻捷電子等多家校友企業獲大基金等知名基金投資。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.