我，是一臺「DeepSeek一體機」，開年以來，我可是賣瘋了。

無論是甲方還是乙方，都超級喜歡我，大家都把我視為靠譜的DeepSeek落地方案。

2025年ToB產品圈第一網紅，舍我其誰？

可是，人紅是非多，不少人羨慕嫉妒恨，對我進行各種攻擊。

但我，氣勢不會輸。來啊，放馬過來啊！

萬萬沒想到，這波攻擊者甚是兇猛，一上來就放大招。

他們把我前期實戰中暴露出來的弱點，都研究透了。

完了，這些家伙們，看起來很懂行啊…

個個不講武德，招招戳我要害，這是要把我虐成“戰五渣”。

啊啊啊啊啊，我有點扛不住了，難道真要被“干黃”了嗎？

確實，對于一體機來講，當客戶回歸理性，以上攻擊點都無法回避。

我如何絕地反擊、王者歸來？

“敵人”這么兇，我還有機會嗎？當然有！

有人給我換了“芯”，換“芯”后，我竟然無敵了！！！

從此，無論面對青銅段位還是王者段位的挑戰，我全部宛如“開掛”，所向披靡。

這么說吧，我可以根據客戶的業務發展，逐步擴展，共同成長。

1、青銅段位，相當于企業入手大模型的起步階段。

新手上路，選我這樣單臺一體機，單機八卡跑滿血DeepSeek，開箱即用，超高性價比。

而有些同行，可能需要兩臺聯手才能扛得動這樣的大活兒。

2、白銀段位，此時企業使用大模型已經過了新手期，開始嘗試更多的場景了。

一臺不夠用怎么辦？可以再添置幾臺，多臺負載均衡，各司其職，滿足不同業務需求。（每臺都獨立運行滿血大模型，分別處理不同業務）

3、黃金段位，到了這個段位的企業，已經漸入佳境，他們希望更高效率的使用大模型。

莫慌，我還有妙招：引入RDMA網絡，多臺一體機可以瞬間變陣，組成并行推理集群，MoE專家并行，模型吞吐量飆升。

4、鉆石段位，此時，企業已經是大模型深度應用的老司機了，他們可能要挖掘大模型的所有潛力。

沒問題，我可以繼續變陣，擴展成更大集群，并采用PD分離模式，以更高的性能滿足大規模企業級應用。

接下來，我就要挑戰“王者”段位了~

不過，走到這一步，大家可能就犯嘀咕：以前這貨“戰五渣”，為啥現在輕松“五連殺”？

我如何脫胎換骨、成為戰神？

嘿嘿，不裝了，其實我用了昆侖芯P800。

SO，我現在是內置8張P800加速卡的DeepSeek一體機。

給大家完整介紹下我的戰斗指標↓

目前，單機八卡的我，就可以支持滿血版DeepSeek V3/R1，推理吞吐量可以達到2400+ Tokens每秒。

而且，跟市面上絕大多數一體機不同，我不光支持推理，還支持訓練。

我是真正的「訓推一體」，給模型做個后訓練或者微調對齊，讓它在落地場景更加游刃有余。

同時，我還提供CUDA兼容技術，讓原來依賴于N家CUDA的模型，可以輕松遷移過來。

在單機的戰斗力方面，我正在修煉“16卡心法”，出關之日，單機性能又可以大幅攀升。

在組團“打群架”方面，我就更厲害了。

單一集群可以支持30000卡，所以，你絲毫不用擔心擴展性。

老司機都懂的，要想攀上王者巔峰，不能光靠單打獨斗，必須要團隊配合。

接下來，我就給大家展示下，我是如何通過“團戰”，拿下王者局的。

我如何組建超大規模集群？

想干更大業務，就要組更大集群，大家完全不需要擔心我的擴展能力（單集群30000卡）。

但是真正打起團戰來，光靠人多不行，還需要看“配合”和“微操”，更要看臨陣“指揮”。

此時，我會請來一位團隊指揮官：百度百舸·AI異構計算平臺。

這位老鐵身經百戰，最擅長指揮“大規模兵團作戰”，手段那是相當高明。

第一，看行軍（組網）：百度百舸的高性能網絡（HPN）延遲低至5μs，而且全網無阻塞。

這就使得參與團戰的兄弟們配合更加默契，彼此“喊話/補刀/Gunk”，絕不掉鏈子。

在低延遲基礎上，百舸還提供了機內機間互聯一體化通信調度，減少跨節點通信流量，并支持對訓推流量分級管理，確保推理服務低延遲。

第二，看布陣（部署）：百度百舸提供深度優化的「PD分離」部署方案。

所謂PD分離，就是將大模型推理的Prefill階段和Decode階段，分別交給不同的節點或算力卡來處理。

因為P階段是并行處理，D階段是串行處理，對算力的要求不同，摻和在一起跑影響效率。

百舸支持PD任意配比，推理團戰時，我和戰友們根據需求靈活分工，有的兄弟領“P活”，有的兄弟領“D活”，PD搭配，干活不累。

自動分好任務后，百舸通過細粒度PD調度、冗余專家編排等深度優化手段，讓我們整個集群的“團戰”實力完全發揮出來，人人都是“DPS”！

來看看PD分離模式下，我們的團戰輸出效果吧——

滿血版DeepSeek推理，單Token生成時長（TPOT）縮短了40%，整體吞吐（TPS）提升20倍以上。

也正是這套方案，支持了DeepSeek在百度智能云千帆平臺上大規模上線。

第三，看領導力（多芯異構）：不僅支持自家昆侖芯，還支持國內外各種主流算力卡、GPU。

每個企業實戰場景的「王者峽谷」都是非常復雜的，基礎設施多種多樣，存在不同出身的算力“英雄”（昆侖芯、英偉達、昇騰等）。

沒關系，英雄莫問出處，百度百舸指揮官可以把他們都納入麾下，統一管理，一云多芯，異構訓推。

第四，看“配合”和“微操”（彈性調度，訓推混布）：讓算力資源的使用更加極致，效率最大化。

這一步，百度百舸指揮官有幾項能力↓

首先通過GPU虛擬化，細粒度切分算力，來匹配小模型的算力要求（相當于微操補刀小兵），避免浪費。

接下來，百舸可以指揮同一個集群里兄弟，一部分打“推理仗”，另一部分打“訓練仗”，大家互不干擾。

這種訓推混布，能讓單一集群適配更靈活的業務場景。

最后，通過潮汐算力、資源超發等調度手段，實現白天推理、晚上訓練，高優任務搶占資源等，動態滿足不同部門、不同業務對算力的彈性需求。

總之吧，讓每個戰斗單位都卷起來，團隊戰斗力才能最大化。

就這樣，百度百舸指揮調度得當，算力戰隊小伙伴們人人奮勇、個個爭先，拿下王者局，自然不在話下。

不過，這還不算完，我還藏了一個大招↓

在今天舉辦的「Create2025百度AI開發者大會」上，我的超級變身來了，這就是昆侖芯超節點。

昆侖芯超節點專打“高端普惠局”，高密機柜內32/64卡機內互聯，卡間互聯帶寬是原來普通一體機的8倍，單節點訓練性能提升10倍，單卡推理性能提升13倍！

在推理上，一個機柜能頂過去100臺機器，做到“以一當百”。

變身“超節點”的我，堪稱國產算力神裝！不僅支持私有化交付，還不挑戰場，風冷機房也能部署。

來，come on baby，讓我們來一場酣暢淋漓的大模型訓推大戰吧！