今天,第四范式推出大模型推理一體機解決方案 SageOne Lite,8.8 萬元可運行滿血版 DeepSeek-R1,以極致性價比幫助企業乃至個人實現本地使用 DeepSeek-R1。該方案基于 KTransformers ,支持單機運行滿血模型服務。此外,一體機解決方案還集成了ModelHub平臺實現模型管理及不同模型服務的靈活切換,內置智能算力池化管理平臺提升 GPU 資源使用效率,并搭載了大模型開發平臺及開箱即用 AI 應用套件,幫助企業及開發者體驗滿血強大智能同時,快速創建生成式 AI 應用。
SageOne Lite 大模型推理一體機解決方案,具備三大核心優勢:
1)低成本,單機體驗滿血版 DeepSeek-R1
2)集成 ModelHub、大模型工具鏈,內置 SageSuite AI 應用套件:包含數百個開放模型服務供給及模型全生命周期管理、可視化 Workflow 流程編排等,并預裝 AI 應用套件,包括 AIGC、智能辦公、數字員工、智能問答等等
3)智能算力池化,資源動態調度:通過業界領先的第四范式 GPU 資源池化(vGPU)技術,可對算力和顯存進行智能切分,對計算任務智能調度,靈活在不同尺寸的大模型中進行切換
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.