99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

推理性能提升13倍!百度智能云發(fā)布昆侖芯超節(jié)點

0
分享至

4月25日,以“模型的世界,應用的天下”為主題的Create 2025 百度AI開發(fā)者大會在湖北武漢召開。會上,百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖分享了百度智能云在智能基礎設施建設方面的最新成果,并在算力、模型及應用等方面發(fā)布一系列全新產(chǎn)品。

大模型的高效落地亟需從底層算力到應用的全棧、系統(tǒng)級支撐——既需高性能硬件與集群優(yōu)化,也需靈活的開發(fā)工具鏈與場景化解決方案。基于多年在大模型研發(fā)與產(chǎn)業(yè)落地的深厚積累,百度智能云構建了新一代系統(tǒng)級智能基礎設施,為企業(yè)大模型應用落地提供最佳解決方案。

相關數(shù)據(jù)顯示,2024全年百度智能云在大模型相關中標項目數(shù)、行業(yè)覆蓋數(shù)、央國企中標項目數(shù)三個維度均為第一,在能源、政務、金融三個行業(yè)的中標項目數(shù)位于所有廠商第一。截止目前,千帆平臺企業(yè)用戶數(shù)量超40萬,千帆平臺組件數(shù)量超1000個,企業(yè)在千帆平臺上已開發(fā)出了超100萬個應用。

沈抖表示,系統(tǒng)的價值,不僅是解決某一個問題,而是讓企業(yè)擁有創(chuàng)造“創(chuàng)造的能力”。企業(yè)可以結合自己的數(shù)據(jù)、流程、邏輯,利用百度智能云的系統(tǒng)級能力打造企業(yè)專屬AI基礎設施。



百舸+昆侖芯超節(jié)點:推理性能提升13倍、成本降低95%

算力是AI時代的“新電力”。百度智能云通過自研昆侖芯P800芯片及百舸大規(guī)模推理加速能力,實現(xiàn)算力性能與成本的雙重突破。

本次大會,百度正式點亮了昆侖芯P800的三萬卡集群。在金融行業(yè),招商銀行與百度智能云基于昆侖芯P800展開算力合作,能穩(wěn)定支持各類開源大模型,性能表現(xiàn)卓越,在智能客服、多模態(tài)數(shù)據(jù)分析等場景實現(xiàn)了顯著效能提升。目前,除了招商銀行這類金融機構,昆侖芯P800算力已在國家電網(wǎng)、中國鋼研等央企,同濟大學、北京大學等高校及一批互聯(lián)網(wǎng)企業(yè)進行規(guī)模化部署。

為了進一步降低算力使用成本,百度智能云正式發(fā)布昆侖芯超節(jié)點。

昆侖芯超節(jié)點支持把64張昆侖芯AI加速卡放到同一個機柜,實現(xiàn)單節(jié)點的超強性能,一個機柜就能頂過去100臺機器。與以往的方案相比,昆侖芯超節(jié)點用更快的機內通信替代機間通信,可以有效降低帶寬成本,最終實現(xiàn)卡間互聯(lián)帶寬提升8倍,單機訓練性能提升10倍,單卡推理性能提升13倍。



僅僅擁有高性能芯片和大規(guī)模集群是遠遠不夠的,如何穩(wěn)定、高效地釋放算力的真正價值才是關鍵所在。沈抖認為,未來三年,推理降本,一定是企業(yè)最重要的工作。

百度智能云全面升級百舸推理加速能力。通過大規(guī)模分布式推理的PD分離,百舸支持客戶根據(jù)不同場景的業(yè)務特點,自適應地設置PD配比,并做到token級別的PD負載均衡。針對MOE模型,百舸做到了大規(guī)模多機專家并行的極致優(yōu)化,可以大幅降低MOE模型推理的通信開銷。最后,百舸對核心鏈路上的每一個細節(jié)做了系統(tǒng)級的工程優(yōu)化,大幅提升GPU的有效利用率。

從百度內部實踐來看,百舸推理加速的能力正在作為千帆的算力底座,為40萬客戶提供服務。上線以來,千帆的推理吞吐提升20倍,推理速度提升50%以上。在外部,百舸不止支持著像招商銀行、中國石化、長安汽車等企業(yè)的超大規(guī)模算力需求,也很好地支撐著創(chuàng)企客戶、伙伴的模型訓練、推理需求。



以北京人形機器人創(chuàng)新中心為例,百度百舸為創(chuàng)新中心構建了穩(wěn)定的超大算力集群,確保具身模型的訓練和推理得以高效進行,支持了人形機器人的快速迭代。在近日全球首個人形機器人半程馬拉松中,北京人形機器人創(chuàng)新中心旗下純電驅全尺寸人形機器人“天工”,以2小時40分42秒的成績率先沖線一舉奪冠。?



為企業(yè)應用開發(fā)提效!千帆發(fā)布智能體Pro及MCP服務

企業(yè)部署大模型,不僅需要高性價比的模型服務,更需要全面的模型工具。在模型服務層面,目前千帆平臺上有超過100多個模型,不僅包括文心4.5Turbo、文心X1 Turbo等百度自研模型,還包括DeepSeek、Ilama、Vidu等第三方模型,服務穩(wěn)定、可靠。在模型開發(fā)層面,千帆平臺可以提供全面的模型開發(fā)工具鏈,支持深度思考模型、多模態(tài)模型的定制、精調。

以模型蒸餾為例,智聯(lián)招聘在人崗匹配場景使用了千帆平臺的模型蒸餾工具鏈,用千億參數(shù)的DeepSeek R1作為“教師模型”,用百億參數(shù)的ERNIE Speed作為“學生模型”,經(jīng)過調優(yōu)后的小參數(shù)模型,不僅可以媲美“教師模型”的效果,成本也降低至3成。



在應用開發(fā)上,本次大會千帆平臺全面升級了企業(yè)級Agent開發(fā)工具鏈,發(fā)布了全新推理式智能體——智能體Pro,從快問快答升級到深思熟慮,并且支持每個企業(yè)定制自己的專屬智能體。以污水寶為例,基于千帆Agentic RAG能力,讓Agent結合企業(yè)自己的私域數(shù)據(jù)和企業(yè)知識庫,可以基于對任務的理解去制定檢索策略,大幅降低模型幻覺。同時,智能體Pro也支持Deep Research深度研究模式,能讓Agent自主完成復雜任務的步驟規(guī)劃、信息篩選和整理,支持像人一樣操控電腦瀏覽網(wǎng)頁(computer use)進行探索式知識收集,也支持像人一樣使用多種工具繪制圖標、撰寫,生成結構清晰、內容豐富的專業(yè)報告。

基于DeepResearch能力,榮耀正在利用千帆平臺,面向高校學生、職場白領等群體,打造一款科研場景深度研究的應用,將很快會在榮耀筆記本上上線。



MCP的出現(xiàn),幫助開發(fā)者和企業(yè)在開發(fā)Agent時,能夠更好地利用行業(yè)數(shù)據(jù)和工具。本次大會,百度智能云正式發(fā)布國內首個企業(yè)級MCP服務,第一批已經(jīng)有超過1000個MCP Servers 供企業(yè)及開發(fā)者靈活選擇。另外,開發(fā)者也可以在千帆上開發(fā)自己的MCP Server,并發(fā)布到MCP廣場,支持免費托管,而且百度搜索也會索引這些MCP Server,讓它們被更多的開發(fā)者引用。



從模型服務到應用開發(fā),企業(yè)客戶已經(jīng)在千帆平臺上做出了很多行業(yè)創(chuàng)新。民生銀行與百度智能云合作,探索大模型在商業(yè)銀行的落地,完成了金融領域第一個端到端涵蓋算力、平臺、模型、應用四層架構的項目落地。



自研AI應用重磅升級:實現(xiàn)營銷全旅程服務,視覺AI應用成本大幅下降

百度智能云打造的智能基礎設施也支撐著百度自己的應用創(chuàng)新。本次大會,百度智能云面向智能營銷、視覺AI兩大領域,升級了兩大自研AI應用產(chǎn)品。

金融營銷場景需要高精準獲客、“高情商”客服及高效的流失預警,百度智能云本次升級發(fā)布客悅·ONE,在上述核心場景進行了全面優(yōu)化,為客戶提供全生命周期智能營銷服務,助力企業(yè)實現(xiàn)營銷效能全面提升。

以理財撤單場景為例,傳統(tǒng)模式下,用戶需經(jīng)歷復雜的說明閱讀和多層級菜單操作,效率低下。客悅通過AI驅動的智能交互,極大簡化了這一流程。AI不僅能識別并安撫用戶焦慮,更能在對話中直接引導解決問題,還能自動提煉關鍵信息并回流數(shù)據(jù),持續(xù)優(yōu)化服務體驗。

目前客悅已經(jīng)服務銀行、證券、保險等不同細分領域的金融企業(yè)50余家,落地金融行業(yè)10余個場景。



為了解決視覺AI模型訓練周期長、門檻高,需要大量人工干預的問題。百度智能云升級發(fā)布一見5.0,在標準化高、規(guī)則清晰的任務中,僅需一句自然語言,即可秒級生成專業(yè)級視覺AI應用,一線業(yè)務人員也能輕松上手,借助云邊協(xié)同,應用成本大幅降低,加速了視覺智能規(guī)模化的落地。



目前,百度智能云從算力、平臺到應用的系統(tǒng)級能力,已經(jīng)在多個企業(yè)場景中穩(wěn)定運行。中國鋼研與百度智能云聯(lián)合打造全棧智能基礎設施,基于昆侖芯和百舸,搭建了專屬的智算平臺;在千帆上做模型精調,使用大、小模型結合的方式獲得最佳效果;結合一見視覺平臺,快速完成了表面缺陷檢測、金相分析等核心場景的應用開發(fā)。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
俄羅斯軍事專家:“中國綜合國力遠超漢唐時期,美國毫無勝算”

俄羅斯軍事專家:“中國綜合國力遠超漢唐時期,美國毫無勝算”

農(nóng)夫史記
2025-05-31 20:20:43
著名港星方剛去世享年78歲,一生未婚無子女,最后露面瘦骨嶙峋

著名港星方剛去世享年78歲,一生未婚無子女,最后露面瘦骨嶙峋

開開森森
2025-05-31 15:08:45
暴雨增強!上海人今天請減少出門,這些活動已取消、延期!緊急通知

暴雨增強!上海人今天請減少出門,這些活動已取消、延期!緊急通知

環(huán)球網(wǎng)資訊
2025-06-01 07:47:23
直擊廣東疊滘龍船賽:300元的觀賽陽臺位一位難求,千元的龍船飯預訂一空

直擊廣東疊滘龍船賽:300元的觀賽陽臺位一位難求,千元的龍船飯預訂一空

紅星新聞
2025-05-31 15:16:17
這三種老人是禍害,誰攤上誰倒霉,真的希望你家里沒有

這三種老人是禍害,誰攤上誰倒霉,真的希望你家里沒有

小鬼頭體育
2025-05-25 21:19:18
每天至少一包,寧波男子同時查出三種癌癥!最終放棄治療

每天至少一包,寧波男子同時查出三種癌癥!最終放棄治療

魯中晨報
2025-05-31 14:05:36
最后24小時,三國對華下戰(zhàn)書,美航母殺個回馬槍,中方劃下落彈區(qū)

最后24小時,三國對華下戰(zhàn)書,美航母殺個回馬槍,中方劃下落彈區(qū)

說天說地說實事
2025-05-30 12:36:48
抵制二手煙,我成了戴防毒面具上班的“怪人”

抵制二手煙,我成了戴防毒面具上班的“怪人”

新京報
2025-05-31 09:47:41
陳妍希曬母子合照慶生,大秀美背,8歲小星星長勢喜人,體態(tài)像爸

陳妍希曬母子合照慶生,大秀美背,8歲小星星長勢喜人,體態(tài)像爸

西瓜愛娛娛
2025-06-01 11:25:53
美軍發(fā)力,鐵了心阻止大陸收臺!解放軍擺好戰(zhàn)斗姿態(tài),發(fā)出最強音

美軍發(fā)力,鐵了心阻止大陸收臺!解放軍擺好戰(zhàn)斗姿態(tài),發(fā)出最強音

兵器雜志
2025-06-01 10:51:21
玩不起中超的江蘇足球,玩玩“蘇超”也不錯,干凈純潔有奶香味

玩不起中超的江蘇足球,玩玩“蘇超”也不錯,干凈純潔有奶香味

譚浩俊
2025-06-01 07:38:19
加沙的孩子沒有兒童節(jié):每45分鐘有一名孩子死去

加沙的孩子沒有兒童節(jié):每45分鐘有一名孩子死去

環(huán)球網(wǎng)資訊
2025-05-31 11:01:23
前腳剛去莫斯科捧場,后腳就被克宮問罪:塞爾維亞的幾十萬發(fā)炮彈

前腳剛去莫斯科捧場,后腳就被克宮問罪:塞爾維亞的幾十萬發(fā)炮彈

鷹眼Defence
2025-05-30 18:17:32
華為余承東:我先把牛吹在這里,鴻蒙智行不是第一陣營就是第一名

華為余承東:我先把牛吹在這里,鴻蒙智行不是第一陣營就是第一名

叮當當科技
2025-06-01 11:05:37
王楚欽回應緋聞:希望大家給予理解與空間。

王楚欽回應緋聞:希望大家給予理解與空間。

大嘴說臺球
2025-05-29 13:29:43
曝圖赫爾報復曼聯(lián),建議德拉普選擇切爾西!拉爵或從大巴黎租前鋒

曝圖赫爾報復曼聯(lián),建議德拉普選擇切爾西!拉爵或從大巴黎租前鋒

羅米的曼聯(lián)博客
2025-05-31 10:12:06
他被張衛(wèi)健謝霆鋒打成重傷,發(fā)妻流產(chǎn)6次,如今靠鹵肉攤維持生計

他被張衛(wèi)健謝霆鋒打成重傷,發(fā)妻流產(chǎn)6次,如今靠鹵肉攤維持生計

新語愛八卦
2025-05-22 15:03:39
阿斯:皇馬今夏簽中場只是過渡選項,終極目標是明年簽羅德里

阿斯:皇馬今夏簽中場只是過渡選項,終極目標是明年簽羅德里

懂球帝
2025-05-31 21:25:15
最新情報傳來,朝鮮利用烏克蘭戰(zhàn)爭,與俄羅斯做了一筆大交易

最新情報傳來,朝鮮利用烏克蘭戰(zhàn)爭,與俄羅斯做了一筆大交易

張牧之
2025-05-31 12:05:06
美防長:這是我們的優(yōu)先戰(zhàn)區(qū)!中國專家:要錢?

美防長:這是我們的優(yōu)先戰(zhàn)區(qū)!中國專家:要錢?

環(huán)球時報新聞
2025-05-31 16:25:29
2025-06-01 12:20:50
光錐智能 incentive-icons
光錐智能
來這里,看千行百業(yè)的數(shù)字化、智能化。
640文章數(shù) 137關注度
往期回顧 全部

科技要聞

特朗普突然炒掉NASA準局長,嫌他不"忠誠"?

頭條要聞

玩滑翔傘被“吸”至8000米高空 當事人親述逃生細節(jié)

頭條要聞

玩滑翔傘被“吸”至8000米高空 當事人親述逃生細節(jié)

體育要聞

亞錦賽女子200米:16歲陳妤頡22秒97奪金

娛樂要聞

張若昀夫婦國外遛娃 男方推平價兒童車

財經(jīng)要聞

油價繼續(xù)下跌?歐佩克宣布將再度增產(chǎn)

汽車要聞

零跑汽車5月交付量達45,067臺 穩(wěn)居新勢力前三

態(tài)度原創(chuàng)

數(shù)碼
健康
本地
房產(chǎn)
手機

數(shù)碼要聞

榮耀Magic V5或六月發(fā),多款新品待發(fā)布

唇皰疹和口腔潰瘍是"同伙"嗎?

本地新聞

云游中國 |來仰天湖大草原,一起策馬奔騰

房產(chǎn)要聞

金地華南落子海南自貿(mào)港22萬㎡標桿項目,夯實代建行業(yè)領軍者地位

手機要聞

vivo S20、OPPO Reno13銷量大比拼,結果很意外

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 荆州市| 新巴尔虎右旗| 霍山县| 湟中县| 九龙城区| 龙泉市| 石林| 济阳县| 陆丰市| 富锦市| 化隆| 巴青县| 黔南| 图片| 获嘉县| 怀化市| 耒阳市| 涟源市| 大洼县| 罗源县| 利津县| 黎川县| 石狮市| 屏东县| 岗巴县| 梓潼县| 慈利县| 昔阳县| 二手房| 旬邑县| 南充市| 宜昌市| 台南县| 公安县| 油尖旺区| 罗山县| 饶河县| 东光县| 商南县| 和平县| 疏附县|