文:董指導
題圖由文心4.5 Turbo生成
本期要點
#AI#AI 應用#百度智能云
AI開發者是最興奮的一群人,因為他們看到了一個萬億空間的機遇;AI開發者是最焦慮的一群人,因為大模型已經過去兩年,投資人、用戶們的耐心似乎快要消退,但爆款應用卻仍未出現。
這不禁令人思考:通往AI應用世界的大門,如何打開?如何更快邁入AI應用的世界?
01開發之旅,如闖三關
東市買駿馬,西市買鞍韉,南市買轡頭,北市買長鞭。《木蘭辭》的作者用“互文”的表達方式,講述了出征前置辦裝備的繁忙與辛苦。
這也是應用開發者“出征”的寫照。可以說,AI應用開發是一場充滿挑戰的旅程,“關關難過、關關得過”。
起點是產品設計。在商業創業史里,到處是空有一身技術、但卻做出失敗產品的案例。好產品,要能更好地切入用戶需求。因此,場景選擇就格外重要。
場景選擇,如果不能識別行業痛點、不具備行業know-how,卒;如果不了解大模型,不知道能力邊界在哪里、能解決哪些、解決不了哪些,卒。
產品設計關闖過去之后,就是應用開發:
選不對模型,卒;
提示詞工程完成度差,卒;
數據質量不高、可用性差,卒;
邏輯編排不佳,卒。
而且,應用開發就像練武功一樣,雖然招式看起來相同,但有的人能發揮得驚天動地,有的人卻像放了一個屁。差異就在于,作為內功的工程化能力。不少人以為AI應用,尤其Agent開發,就是套層皮就好了,實際并非如此。一年半載的功夫,還是要下的。
應用開發關闖過去、產品上線后,并不意味著萬事大吉。還要承接成本的壓力。前段時間,OpenAI首席執行官 Sam Altman就在抱怨,用戶對ChatGPT 說「請」和「謝謝」等禮貌用語,對Token的消耗,就讓 OpenAI 增加了數百萬美元成本。
用戶怎么做,是難以控制的。但毫無疑問,推理階段,如果控制不好算力成本,或者沒有穩定的算力支持,那也是一個大煩惱。
產品設計、應用開發、上線運營,三大關卡又嵌套著多個小關,一路坎坷。而且,由于用戶需求不斷疊加、產品技術不斷更新,開發旅程,也是一輪又一輪。
如何讓開發之路,越來越好走?
02系統方案, 應運而生
系統化,越來越成為商業發展的主旋律。
比如在芯片領域,最初的集成電路是多個獨立芯片互相配合運行,但自1990s以來,SoC(系統級芯片)技術,發展迅猛、成為主流。
SoC 將多種功能模塊集成于單個芯片上,融合了處理器核心、圖形處理器、內存控制器、各類接口以及存儲器等組件。一款芯片,就是一個系統。
與傳統集成電路相比,SoC 具備諸多優勢。比如,性能上,可以避免芯片間信號傳輸的延遲,提升運算速度;物理層面,體積大幅縮小,功耗顯著降低、也更適合做小型消費電子的開發使用;研發角度看,SoC 采用 IP 核復用技術,極大縮短了研發周期。
系統級的變化,讓芯片研發更加便捷,下游使用芯片的成本降低了、效果提升了、意愿也提高了。
再比如在新能源車領域,域控制技術的興起,也同樣體現了系統級方案的趨勢。
傳統汽車的電子電氣架構較為分散,各個功能模塊相對獨立,導致布線復雜、故障排查困難且升級成本高。
域控制,則將汽車的多個功能系統進行整合,通過少數幾個域控制器來集中管理。比如,將車身控制、動力系統、信息娛樂等功能分別劃分為不同的域,由相應的域控制器進行統一調配。
域控制的方案,不僅簡化了布線,減少了車輛的重量,降低了能耗,還使得汽車的軟件升級更為便捷。通過 OTA(空中下載技術),車企可以對車輛的部分功能進行遠程更新,提升用戶體驗,也讓汽車智能化發展加速。
系統級,一個通俗理解的角度,就是“一條龍”,把用戶所需要的,都提供了。但又不只是簡單的啥都做,而是通過有機組合,實現成本降低、性能提升。
他山之石可以攻玉。要讓AI應用開發,更低成本、更高效,也許思路就是“系統級”的全棧方案。
03全棧迭代,創新不止
系統方案,要陪跑開發全旅程,而不是只走一段路。
支撐AI應用開發的系統,最底層是算力。沒算力這個聲音,應用再好的戲也唱不出來。它決定了模型可以發揮多少性能、以及花費多少成本。
然后,要有一個好的模型平臺。所謂好,就是說不僅是個“模型超市”,提供種類豐富、性能優秀的多個模型供開發調用;有清晰的評價和引導,方便開發者選對模型。
也要是個“模型工廠”,支持開發者針對特定場景進行快速的模型優化、甚至定制化開發,最終讓開發者,可以相信模型、大膽使用模型。
模型支持完備后,還要有各類開發工具,也要兼容MCP等當下最火的開放協議,以及數據管理的相關工具。把工程化能力,打包升級。
這個系統級方案,并不只是規劃,而是已經在實踐了。百度智能云在2024年發布了全球首個智能計算操作系統:萬源,它包含了底層的GPU算力平臺“百度百舸”和“千帆大模型平臺”。在Create2025百度AI開發者大會上,這個系統,再次迎來升級。
在算力層面,百度正式點亮了昆侖芯P800的三萬卡集群,昆侖芯超節點更是把64張加速卡放到同一個機柜,用更快的機內通信替代機間通信,可以把卡間互聯帶寬提升8倍,單機訓練性能提升10倍,單卡推理性能提升13倍。
指數級的算力提升,還不夠。百度智能云通過大規模分布式推理的PD分離,又實現了推理吞吐提升20倍,推理速度提升50%以上。為大模型全面應用,做足了準備。
剛剛在全球首個人形機器人半程馬拉松中, “天工”機器人獲得了冠軍,而其背后的公司北京人形機器人創新中心,在訓練和推理階段,采用的算力資源正是百度百舸。
模型服務層面,千帆平臺上提供了自研和第三方在內的,共計超過100多個模型,而且文心大模型也進行了升級發布:文心4.5 Turbo和文心X1 Turbo,X1的價格僅為DeepSeek-R1的25%,降本顯著。
模型開發層,也是工具全面,并支持深度思考模型、多模態模型的定制、精調。模型蒸餾,也成為許多企業降低模型成本、提高性能的最佳選擇之一。
在應用開發上,智能體Pro成為亮點,從快問快答升級到了深思熟慮,也支持每個企業定制開發。與此同時,百度智能云正式發布了企業級MCP服務,也已經有超過1000個MCP Servers供企業和開發者選擇。
目前,千帆平臺的企業用戶數量超40萬,千帆平臺組件數量超1000個,企業在千帆平臺上已開發出了超100萬個應用。這只是開始,需求還遠未被滿足,未來應用會更多。
一個應用開發的背后,就是一個系統的打造。一個系統級的基礎設施,描繪了無數應用的未來。
04展望
常言說,創新來自于千百次試錯。但并不是每家企業都能扛住千百次試錯,需要勇氣、耐心、以及成本。
百度智能云構建的新一代系統級智能基礎設施,并不是靈丹妙藥,一定可以讓開發者成功,但確實可以降低開發者的試錯成本、提高試錯意愿,也撫慰開發者的“焦慮”;它不僅是解決某一個問題,而是讓企業擁有創造“創造的能力”。
全棧的便利,讓開發者面對征途,不必東跑西找,也不會躊躅不前;而是敢于輕裝上陣,沒有心理包袱、沒有技術包袱、沒有財務包袱,尋找開發的路,推開應用的門,走進AI的精彩世界。
---全文完,歡迎交流
理工/金融 復合背景
暢銷書《英偉達之道》譯者
百億私募/頭部自媒體 雙重經歷
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.