我，是一臺「DeepSeek一體機(jī)」，開年以來，我可是賣瘋了。

無論是甲方還是乙方，都超級喜歡我，大家都把我視為靠譜的DeepSeek落地方案。

2025年ToB產(chǎn)品圈第一網(wǎng)紅，舍我其誰？

可是，人紅是非多，不少人羨慕嫉妒恨，對我進(jìn)行各種攻擊。

但我，氣勢不會輸。來啊，放馬過來啊！

萬萬沒想到，這波攻擊者甚是兇猛，一上來就放大招。

他們把我前期實(shí)戰(zhàn)中暴露出來的弱點(diǎn)，都研究透了。

完了，這些家伙們，看起來很懂行啊…

個個不講武德，招招戳我要害，這是要把我虐成“戰(zhàn)五渣”。

啊啊啊啊啊，我有點(diǎn)扛不住了，難道真要被“干黃”了嗎？

確實(shí)，對于一體機(jī)來講，當(dāng)客戶回歸理性，以上攻擊點(diǎn)都無法回避。

我如何絕地反擊、王者歸來？

“敵人”這么兇，我還有機(jī)會嗎？當(dāng)然有！

有人給我換了“芯”，換“芯”后，我竟然無敵了！！！

從此，無論面對青銅段位還是王者段位的挑戰(zhàn)，我全部宛如“開掛”，所向披靡。

這么說吧，我可以根據(jù)客戶的業(yè)務(wù)發(fā)展，逐步擴(kuò)展，共同成長。

1、青銅段位，相當(dāng)于企業(yè)入手大模型的起步階段。

新手上路，選我這樣單臺一體機(jī)，單機(jī)八卡跑滿血DeepSeek，開箱即用，超高性價比。

而有些同行，可能需要兩臺聯(lián)手才能扛得動這樣的大活兒。

2、白銀段位，此時企業(yè)使用大模型已經(jīng)過了新手期，開始嘗試更多的場景了。

一臺不夠用怎么辦？可以再添置幾臺，多臺負(fù)載均衡，各司其職，滿足不同業(yè)務(wù)需求。（每臺都獨(dú)立運(yùn)行滿血大模型，分別處理不同業(yè)務(wù)）

3、黃金段位，到了這個段位的企業(yè)，已經(jīng)漸入佳境，他們希望更高效率的使用大模型。

莫慌，我還有妙招：引入RDMA網(wǎng)絡(luò)，多臺一體機(jī)可以瞬間變陣，組成并行推理集群，MoE專家并行，模型吞吐量飆升。

4、鉆石段位，此時，企業(yè)已經(jīng)是大模型深度應(yīng)用的老司機(jī)了，他們可能要挖掘大模型的所有潛力。

沒問題，我可以繼續(xù)變陣，擴(kuò)展成更大集群，并采用PD分離模式，以更高的性能滿足大規(guī)模企業(yè)級應(yīng)用。

接下來，我就要挑戰(zhàn)“王者”段位了~

不過，走到這一步，大家可能就犯嘀咕：以前這貨“戰(zhàn)五渣”，為啥現(xiàn)在輕松“五連殺”？

我如何脫胎換骨、成為戰(zhàn)神？

嘿嘿，不裝了，其實(shí)我用了昆侖芯P800。

SO，我現(xiàn)在是內(nèi)置8張P800加速卡的DeepSeek一體機(jī)。

給大家完整介紹下我的戰(zhàn)斗指標(biāo)↓

目前，單機(jī)八卡的我，就可以支持滿血版DeepSeek V3/R1，推理吞吐量可以達(dá)到2400+ Tokens每秒。

而且，跟市面上絕大多數(shù)一體機(jī)不同，我不光支持推理，還支持訓(xùn)練。

我是真正的「訓(xùn)推一體」，給模型做個后訓(xùn)練或者微調(diào)對齊，讓它在落地場景更加游刃有余。

同時，我還提供CUDA兼容技術(shù)，讓原來依賴于N家CUDA的模型，可以輕松遷移過來。

在單機(jī)的戰(zhàn)斗力方面，我正在修煉“16卡心法”，出關(guān)之日，單機(jī)性能又可以大幅攀升。

在組團(tuán)“打群架”方面，我就更厲害了。

單一集群可以支持30000卡，所以，你絲毫不用擔(dān)心擴(kuò)展性。

老司機(jī)都懂的，要想攀上王者巔峰，不能光靠單打獨(dú)斗，必須要團(tuán)隊配合。

接下來，我就給大家展示下，我是如何通過“團(tuán)戰(zhàn)”，拿下王者局的。

我如何組建超大規(guī)模集群？

想干更大業(yè)務(wù)，就要組更大集群，大家完全不需要擔(dān)心我的擴(kuò)展能力（單集群30000卡）。

但是真正打起團(tuán)戰(zhàn)來，光靠人多不行，還需要看“配合”和“微操”，更要看臨陣“指揮”。

此時，我會請來一位團(tuán)隊指揮官：百度百舸·AI異構(gòu)計算平臺。

這位老鐵身經(jīng)百戰(zhàn)，最擅長指揮“大規(guī)模兵團(tuán)作戰(zhàn)”，手段那是相當(dāng)高明。

第一，看行軍（組網(wǎng)）：百度百舸的高性能網(wǎng)絡(luò)（HPN）延遲低至5μs，而且全網(wǎng)無阻塞。

這就使得參與團(tuán)戰(zhàn)的兄弟們配合更加默契，彼此“喊話/補(bǔ)刀/Gunk”，絕不掉鏈子。

在低延遲基礎(chǔ)上，百舸還提供了機(jī)內(nèi)機(jī)間互聯(lián)一體化通信調(diào)度，減少跨節(jié)點(diǎn)通信流量，并支持對訓(xùn)推流量分級管理，確保推理服務(wù)低延遲。

第二，看布陣（部署）：百度百舸提供深度優(yōu)化的「PD分離」部署方案。

所謂PD分離，就是將大模型推理的Prefill階段和Decode階段，分別交給不同的節(jié)點(diǎn)或算力卡來處理。

因?yàn)镻階段是并行處理，D階段是串行處理，對算力的要求不同，摻和在一起跑影響效率。

百舸支持PD任意配比，推理團(tuán)戰(zhàn)時，我和戰(zhàn)友們根據(jù)需求靈活分工，有的兄弟領(lǐng)“P活”，有的兄弟領(lǐng)“D活”，PD搭配，干活不累。

自動分好任務(wù)后，百舸通過細(xì)粒度PD調(diào)度、冗余專家編排等深度優(yōu)化手段，讓我們整個集群的“團(tuán)戰(zhàn)”實(shí)力完全發(fā)揮出來，人人都是“DPS”！

來看看PD分離模式下，我們的團(tuán)戰(zhàn)輸出效果吧——

滿血版DeepSeek推理，單Token生成時長（TPOT）縮短了40%，整體吞吐（TPS）提升20倍以上。

也正是這套方案，支持了DeepSeek在百度智能云千帆平臺上大規(guī)模上線。

第三，看領(lǐng)導(dǎo)力（多芯異構(gòu)）：不僅支持自家昆侖芯，還支持國內(nèi)外各種主流算力卡、GPU。

每個企業(yè)實(shí)戰(zhàn)場景的「王者峽谷」都是非常復(fù)雜的，基礎(chǔ)設(shè)施多種多樣，存在不同出身的算力“英雄”（昆侖芯、英偉達(dá)、昇騰等）。

沒關(guān)系，英雄莫問出處，百度百舸指揮官可以把他們都納入麾下，統(tǒng)一管理，一云多芯，異構(gòu)訓(xùn)推。

第四，看“配合”和“微操”（彈性調(diào)度，訓(xùn)推混布）：讓算力資源的使用更加極致，效率最大化。

這一步，百度百舸指揮官有幾項(xiàng)能力↓

首先通過GPU虛擬化，細(xì)粒度切分算力，來匹配小模型的算力要求（相當(dāng)于微操補(bǔ)刀小兵），避免浪費(fèi)。

接下來，百舸可以指揮同一個集群里兄弟，一部分打“推理仗”，另一部分打“訓(xùn)練仗”，大家互不干擾。

這種訓(xùn)推混布，能讓單一集群適配更靈活的業(yè)務(wù)場景。

最后，通過潮汐算力、資源超發(fā)等調(diào)度手段，實(shí)現(xiàn)白天推理、晚上訓(xùn)練，高優(yōu)任務(wù)搶占資源等，動態(tài)滿足不同部門、不同業(yè)務(wù)對算力的彈性需求。

總之吧，讓每個戰(zhàn)斗單位都卷起來，團(tuán)隊?wèi)?zhàn)斗力才能最大化。

就這樣，百度百舸指揮調(diào)度得當(dāng)，算力戰(zhàn)隊小伙伴們?nèi)巳藠^勇、個個爭先，拿下王者局，自然不在話下。

不過，這還不算完，我還藏了一個大招↓

在今天舉辦的「Create2025百度AI開發(fā)者大會」上，我的超級變身來了，這就是昆侖芯超節(jié)點(diǎn)。

昆侖芯超節(jié)點(diǎn)專打“高端普惠局”，高密機(jī)柜內(nèi)32/64卡機(jī)內(nèi)互聯(lián)，卡間互聯(lián)帶寬是原來普通一體機(jī)的8倍，單節(jié)點(diǎn)訓(xùn)練性能提升10倍，單卡推理性能提升13倍！

在推理上，一個機(jī)柜能頂過去100臺機(jī)器，做到“以一當(dāng)百”。

變身“超節(jié)點(diǎn)”的我，堪稱國產(chǎn)算力神裝！不僅支持私有化交付，還不挑戰(zhàn)場，風(fēng)冷機(jī)房也能部署。

來，come on baby，讓我們來一場酣暢淋漓的大模型訓(xùn)推大戰(zhàn)吧！