2025，各行各業(yè)基于DeepSeek探索各自領(lǐng)域的落地方式，由此開啟了AI智能化加速的新航程。然而，大模型應(yīng)用落地是一個系統(tǒng)工程，技術(shù)與資源門檻高，還存在大量未知挑戰(zhàn)。

面對不確定的海浪，具備全棧能力的云基礎(chǔ)設(shè)施，成為企業(yè)追逐AI的可靠巨輪。

大模型對云計算基礎(chǔ)設(shè)施的需求，與傳統(tǒng)云計算存在顯著差異。比如大模型訓(xùn)練需要萬卡級GPU集群支持，且對多芯混合訓(xùn)練效能和穩(wěn)定性要求極高。傳統(tǒng)以CPU為中心的云計算中心，需轉(zhuǎn)向以GPU為核心的智能算力架構(gòu)，并實現(xiàn)算力資源的極致調(diào)度。

而百度智能云與其他云廠商最大的區(qū)別，就是一直是百度AI技術(shù)和業(yè)務(wù)的堅定支持者，常年在AI基礎(chǔ)設(shè)施上進行投入。上云用大模型的需求爆發(fā)之后，百度智能云迅速躋身中國大模型平臺第一，領(lǐng)航AI云市場。

這一成績的背后，離不開百度所有核心業(yè)務(wù)的算力底座——百舸異構(gòu)計算平臺。借助百舸的大規(guī)模推理加速能力，以及自研昆侖芯P800芯片，百度智能云實現(xiàn)了算力性能與成本的雙重突破。

就在昨天，4月25日召開的Create 2025 百度AI開發(fā)者大會上，百度正式點亮了昆侖芯P800的三萬卡集群，發(fā)布昆侖芯超節(jié)點。僅有高性能芯片和大規(guī)模集群是不夠的，為了穩(wěn)定、高效地釋放算力價值，百度智能云也全面升級百舸推理加速能力。

云計算的大船，正乘AI之風(fēng)，揚時代之帆，迎來前所未有的增長機遇。這時候，有必要深入百舸內(nèi)部，去窺探一下百度智能云這艘AI巨輪的加速密碼。

為什么破解算力短缺和計算成本高的問題，僅靠單體硬件和集群還不夠，需要平臺級的優(yōu)化助力？

縱觀2025年的大模型算力格局，前有DS技術(shù)突破，算力需求激增；后有海外進口芯片供應(yīng)持續(xù)不穩(wěn)定，算力焦慮始終存在。多元異構(gòu)芯片的混合訓(xùn)練，成為國內(nèi)緩解算力荒的一個選擇。但異構(gòu)芯片之間的協(xié)議生態(tài)不同，合池訓(xùn)練難度大，對云基礎(chǔ)設(shè)施提出了挑戰(zhàn)。

首先，集群規(guī)模更大，推理場景下快速定位故障并恢復(fù)，十分考驗超大規(guī)模集群的穩(wěn)定性。

此外，異構(gòu)芯片多樣，國內(nèi)超萬卡集群多采用混合芯片方案，但不同架構(gòu)合池訓(xùn)練會出現(xiàn)性能損失。《AIDC白皮書》顯示，業(yè)界頂尖的千卡智算集群，其算力利用率不超過60%，萬卡集群不超過55%。提高國產(chǎn)集群的資源利用率和算效，避免資源浪費，刻不容緩。

DeepSeek之后，盡快用上DS等大模型，成為企業(yè)的當(dāng)務(wù)之急，云基礎(chǔ)設(shè)施承載的AI任務(wù)大幅上量。一方面考驗云基礎(chǔ)設(shè)施的敏捷性，是否支持在云上快速構(gòu)建和進行模型迭代，無縫集成AI開源生態(tài)，也需要調(diào)優(yōu)技術(shù)的加持，從而帶來極致的推理性能優(yōu)化，降低推理成本。

可以說，AI大模型深入千行萬業(yè)，上云深度用AI的當(dāng)下需求，進一步強化了多元異構(gòu)計算平臺的重要性和必要性。滄海橫流處，百度智能云和百舸，已經(jīng)做好了準(zhǔn)備。

一場以AI為核心、多元異構(gòu)算力為底座的云技術(shù)競賽，就此拉開帷幕。百度智能云率先點亮了昆侖芯萬卡集群，今年Create大會上，又正式宣布點亮3萬卡集群。那么，百度是如何解決多芯混訓(xùn)問題的？百舸平臺，是核心驅(qū)動。

百舸作為超大規(guī)模GPU算力平臺，可以對算力集群的AI-IaaS基礎(chǔ)資源進行調(diào)度，打造高性能AI基礎(chǔ)設(shè)施，支持高達10萬卡大規(guī)模集群，提供穩(wěn)定、極速、高效的算力服務(wù)，滿足企業(yè)的訓(xùn)練、精調(diào)、推理的全流程需求。

如果把AI云基礎(chǔ)設(shè)施看作一艘航船，那么百舸的存在，可以發(fā)揮幾個作用：

作用一，支撐更大的算力船身。百舸平臺不僅有更強的單節(jié)點性能，同時通過昆侖芯超節(jié)點（高密整機柜），把卡放在同一個機柜里，用更快的機內(nèi)通信替代機間通信，降低機柜之間通信的復(fù)雜性、高延遲和帶寬成本，從而支持超大規(guī)模集群建設(shè)。基于百舸，AI基礎(chǔ)設(shè)施可以納管的算力資源規(guī)模大，提供更加充沛、穩(wěn)定的智能算力。

作用二，提供穩(wěn)定的AI體驗。當(dāng)計算機群出現(xiàn)故障，每一次重寫checkpoint，都會給大模型的開發(fā)和企業(yè)平添波折。百舸平臺通過智能調(diào)度與冗余設(shè)計，實現(xiàn)99.5%有效訓(xùn)練時長，以分鐘級故障恢復(fù)能力，減少中斷，確保AI任務(wù)連續(xù)穩(wěn)定運行。

作用三，為AI任務(wù)加速的高效動能。類DeepSeek的長思維鏈推理模型，增加了思考環(huán)節(jié)，需要輸出的token更多，如果吞吐速度不夠快，用戶就需要長時間等待，AI體驗很差。百舸的大規(guī)模分布式PD分離推理系統(tǒng)，可根據(jù)不同的模型特點，選擇最優(yōu)的并行策略，做到token級別的PD負(fù)載均衡，同時結(jié)合算子融合、all-to-all 通信算子優(yōu)化、異步KV傳輸、雙流編排等技術(shù)進一步提升GPU利用率，推理成本節(jié)省95%，總吞吐提升20倍。同時，百舸還支持私有化部署。也就是說，無論是云上調(diào)用推理模型，還是本地部署，百舸都可以保障高效實時的體驗。

可以說，在百舸平臺的支撐下，百度得以打造堅固的異構(gòu)算力底座，擁有了在大模型時代遠航的穩(wěn)定推進力，在AI云服務(wù)的競爭中處于領(lǐng)先身位。

開年以來，AI云市場進入后DeepSeek時代，頭部云服務(wù)商都在積極升級AI基礎(chǔ)設(shè)施及服務(wù)。百度能否長期保持AI云的優(yōu)勢，還取決于AI底座與產(chǎn)業(yè)的融合深度。

說到底，只有讓企業(yè)真正用上AI，用好AI，AI基礎(chǔ)設(shè)施及AI云服務(wù)才能煥發(fā)出最寬廣的價值。

如何幫助千行百業(yè)高效地接入AI算力與模型，打造自己的AI應(yīng)用？百度智能云AI計算部負(fù)責(zé)人、百度杰出架構(gòu)師王雁鵬認(rèn)為，支撐AI應(yīng)用的創(chuàng)新大爆發(fā)，基礎(chǔ)設(shè)施必須讓算力不再成為瓶頸，讓算力唾手可得。全新升級的百舸，就是百度智能云交出的一份答卷，可以用三個字來概括：

全。王雁鵬提到，面對AI模型的爆發(fā)，敏捷的基礎(chǔ)設(shè)施能夠支持各種芯片、模型、框架以及工具鏈。全新升級的百度百舸算力平臺，不僅提供高性能的計算、存儲、網(wǎng)絡(luò)的基礎(chǔ)資源產(chǎn)品，也提供了一鍵式全站AI工程開發(fā)平臺以及各類工具集，能夠一鍵建設(shè)資源池，一鍵部署開發(fā)環(huán)境，一鍵部署模型，把GPU的利用率發(fā)揮到極致，為各類開源模型帶來顯著的加速效果。

作為企業(yè)級的一站式AI工程平臺，百舸覆蓋AI大模型的全周期、全流程，可以縮短AI開發(fā)周期，對于金融、互聯(lián)網(wǎng)等追求效率、時間敏感、競爭激烈的行業(yè)來說，意義重大。比如百度智能云攜手招行基于昆侖芯國產(chǎn)算力，接入開源模型，幫助招行快速提升了智能客服、多模態(tài)數(shù)據(jù)分析等場景的應(yīng)用效能。

省。領(lǐng)先的AI工程硬核加速能力，也可以讓各領(lǐng)域開源模型訓(xùn)推成本更低、周期更短、故障更少，能夠同時支持成百上千的各種任務(wù)不中斷，大幅節(jié)省了企業(yè)的時間和資源成本。北京人形機器人創(chuàng)新中心的通用具身智能平臺，就依托百度百舸AI異構(gòu)計算平臺和穩(wěn)定可靠的AI算力基礎(chǔ)設(shè)施，進行模型訓(xùn)練，為人形機器人打造更聰明的“大腦”。

強。王雁鵬介紹到，把訓(xùn)推系統(tǒng)的能力做到極致，充分壓榨出硬件的算力，是百舸一直以來追求的目標(biāo)。百舸的原生AI-IaaS 對接和管理能力，可以發(fā)揮出基礎(chǔ)設(shè)施最大效能，性能更強。

最近，百舸針對多模態(tài)模型以及智駕模型做了深度優(yōu)化，在多模態(tài)模型上取得了30%，在智駕模型上取得了150%以上的加速效果，助力更多行業(yè)、汽車企業(yè)等智能化降本增效。比如教育機構(gòu)好未來，就借助百舸的隊列超發(fā)能力，充分利用集群閑時資源，整體資源利用率提升10%以上。

當(dāng)一個企業(yè)打算落地應(yīng)用大模型，百舸是一條更短、更省、更快的智能化航路。

在未知的海域中探索，望向技術(shù)遠方的星辰，才能走在正確的方向上。十多年來，AI指引著百度的航向，從未偏離航道，才能成為大模型時代AI與云的領(lǐng)航人。

云基礎(chǔ)設(shè)施+AI技術(shù)的優(yōu)勢，讓百度智能云在大模型時代快速增長，成為大量政企上云賦智的首選。而百舸平臺，也為緩解行業(yè)智能化的算力焦渴，發(fā)揮了關(guān)鍵作用。

早在百度押注AI、大模型、昆侖芯的時候，就知道必須把多元異構(gòu)計算集群掌握在自己手中，那么百舸平臺的出現(xiàn)，也就是水到渠成了。

進入2025年，國產(chǎn)大模型+異構(gòu)算力，正在書寫智能中國的新篇章。我們已經(jīng)從百舸身上，發(fā)現(xiàn)了百度繼續(xù)領(lǐng)航AI與云時代的必要條件：

基礎(chǔ)設(shè)施完備。從昆侖芯，到百舸平臺，AI算力基礎(chǔ)設(shè)施底座是百度業(yè)務(wù)AI重塑的基本保障。

進化動能強勁。高性能優(yōu)化技術(shù)，降本增效，支撐百度大模型、AI應(yīng)用等低成本高效迭代，持續(xù)進化，競爭力不斷增強，避免掉隊。

商業(yè)邏輯清晰。AI即服務(wù)、模型即服務(wù)的商業(yè)邏輯想要成立，必須持續(xù)優(yōu)化token成本，帶給客戶上云用AI的真實價值，從而在用戶規(guī)模和資源回報比上占據(jù)優(yōu)勢。憑借百舸平臺能力，新業(yè)務(wù)模式得以成立。

為千行萬業(yè)，開算力通途，屬于AI與云的時代才剛剛開始。接下來，百舸支撐的AI云基礎(chǔ)設(shè)施及服務(wù)，不僅是行業(yè)和企業(yè)加速擁抱AI的時代航船，也將是百度增長的主航道。