99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

推理性能提升13倍!百度智能云發布昆侖芯超節點

0
分享至

4月25日,以“模型的世界,應用的天下”為主題的Create 2025 百度AI開發者大會在湖北武漢召開。會上,百度集團執行副總裁、百度智能云事業群總裁沈抖分享了百度智能云在智能基礎設施建設方面的最新成果,并在算力、模型及應用等方面發布一系列全新產品。

大模型的高效落地亟需從底層算力到應用的全棧、系統級支撐——既需高性能硬件與集群優化,也需靈活的開發工具鏈與場景化解決方案。基于多年在大模型研發與產業落地的深厚積累,百度智能云構建了新一代系統級智能基礎設施,為企業大模型應用落地提供最佳解決方案。?

相關數據顯示,2024全年百度智能云在大模型相關中標項目數、行業覆蓋數、央國企中標項目數三個維度均為第一,在能源、政務、金融三個行業的中標項目數位于所有廠商第一。截止目前,千帆平臺企業用戶數量超40萬,千帆平臺組件數量超1000個,企業在千帆平臺上已開發出了超100萬個應用。

沈抖表示,系統的價值,不僅是解決某一個問題,而是讓企業擁有創造“創造的能力”。企業可以結合自己的數據、流程、邏輯,利用百度智能云的系統級能力打造企業專屬AI基礎設施。



百舸+昆侖芯超節點:推理性能提升13倍、成本降低95%

算力是AI時代的“新電力”。百度智能云通過自研昆侖芯P800芯片及百舸大規模推理加速能力,實現算力性能與成本的雙重突破。

本次大會,百度正式點亮了昆侖芯P800的三萬卡集群。在金融行業,招商銀行與百度智能云基于昆侖芯P800展開算力合作,能穩定支持各類開源大模型,性能表現卓越,在智能客服、多模態數據分析等場景實現了顯著效能提升。目前,除了招商銀行這類金融機構,昆侖芯P800算力已在國家電網、中國鋼研等央企,同濟大學、北京大學等高校及一批互聯網企業進行規模化部署。?

為了進一步降低算力使用成本,百度智能云正式發布昆侖芯超節點。

昆侖芯超節點支持把64張昆侖芯AI加速卡放到同一個機柜,實現單節點的超強性能,一個機柜就能頂過去100臺機器。與以往的方案相比,昆侖芯超節點用更快的機內通信替代機間通信,可以有效降低帶寬成本,最終實現卡間互聯帶寬提升8倍,單機訓練性能提升10倍,單卡推理性能提升13倍。



僅僅擁有高性能芯片和大規模集群是遠遠不夠的,如何穩定、高效地釋放算力的真正價值才是關鍵所在。沈抖認為,未來三年,推理降本,一定是企業最重要的工作。

百度智能云全面升級百舸推理加速能力。通過大規模分布式推理的PD分離,百舸支持客戶根據不同場景的業務特點,自適應地設置PD配比,并做到token級別的PD負載均衡。針對MOE模型,百舸做到了大規模多機專家并行的極致優化,可以大幅降低MOE模型推理的通信開銷。最后,百舸對核心鏈路上的每一個細節做了系統級的工程優化,大幅提升GPU的有效利用率。

從百度內部實踐來看,百舸推理加速的能力正在作為千帆的算力底座,為40萬客戶提供服務。上線以來,千帆的推理吞吐提升20倍,推理速度提升50%以上。在外部,百舸不止支持著像招商銀行、中國石化、長安汽車等企業的超大規模算力需求,也很好地支撐著創企客戶、伙伴的模型訓練、推理需求。



以北京人形機器人創新中心為例,百度百舸為創新中心構建了穩定的超大算力集群,確保具身模型的訓練和推理得以高效進行,支持了人形機器人的快速迭代。在近日全球首個人形機器人半程馬拉松中,北京人形機器人創新中心旗下純電驅全尺寸人形機器人“天工”,以2小時40分42秒的成績率先沖線一舉奪冠。



為企業應用開發提效!千帆發布智能體Pro及MCP服務

企業部署大模型,不僅需要高性價比的模型服務,更需要全面的模型工具。在模型服務層面,目前千帆平臺上有超過100多個模型,不僅包括文心4.5Turbo、文心X1 Turbo等百度自研模型,還包括DeepSeek、Ilama、Vidu等第三方模型,服務穩定、可靠。在模型開發層面,千帆平臺可以提供全面的模型開發工具鏈,支持深度思考模型、多模態模型的定制、精調。

以模型蒸餾為例,智聯招聘在人崗匹配場景使用了千帆平臺的模型蒸餾工具鏈,用千億參數的DeepSeek R1作為“教師模型”,用百億參數的ERNIE Speed作為“學生模型”,經過調優后的小參數模型,不僅可以媲美“教師模型”的效果,成本也降低至3成。



在應用開發上,本次大會千帆平臺全面升級了企業級Agent開發工具鏈,發布了全新推理式智能體——智能體Pro,從快問快答升級到深思熟慮,并且支持每個企業定制自己的專屬智能體。以污水寶為例,基于千帆Agentic RAG能力,讓Agent結合企業自己的私域數據和企業知識庫,可以基于對任務的理解去制定檢索策略,大幅降低模型幻覺。同時,智能體Pro也支持Deep Research深度研究模式,能讓Agent自主完成復雜任務的步驟規劃、信息篩選和整理,支持像人一樣操控電腦瀏覽網頁(computer use)進行探索式知識收集,也支持像人一樣使用多種工具繪制圖標、撰寫,生成結構清晰、內容豐富的專業報告。

基于DeepResearch能力,榮耀正在利用千帆平臺,面向高校學生、職場白領等群體,打造一款科研場景深度研究的應用,將很快會在榮耀筆記本上上線。



MCP的出現,幫助開發者和企業在開發Agent時,能夠更好地利用行業數據和工具。本次大會,百度智能云正式發布國內首個企業級MCP服務,第一批已經有超過1000個MCP Servers供企業及開發者靈活選擇。另外,開發者也可以在千帆上開發自己的MCP Server,并發布到MCP廣場,支持免費托管,而且百度搜索也會索引這些MCP Server,讓它們被更多的開發者引用。



從模型服務到應用開發,企業客戶已經在千帆平臺上做出了很多行業創新。民生銀行與百度智能云合作,探索大模型在商業銀行的落地,完成了金融領域第一個端到端涵蓋算力、平臺、模型、應用四層架構的項目落地。



自研AI應用重磅升級:實現營銷全旅程服務,視覺AI應用成本大幅下降

百度智能云打造的智能基礎設施也支撐著百度自己的應用創新。本次大會,百度智能云面向智能營銷、視覺AI兩大領域,升級了兩大自研AI應用產品。

金融營銷場景需要高精準獲客、“高情商”客服及高效的流失預警,百度智能云本次升級發布客悅·ONE,在上述核心場景進行了全面優化,為客戶提供全生命周期智能營銷服務,助力企業實現營銷效能全面提升。

以理財撤單場景為例,傳統模式下,用戶需經歷復雜的說明閱讀和多層級菜單操作,效率低下。客悅通過AI驅動的智能交互,極大簡化了這一流程。AI不僅能識別并安撫用戶焦慮,更能在對話中直接引導解決問題,還能自動提煉關鍵信息并回流數據,持續優化服務體驗。

目前客悅已經服務銀行、證券、保險等不同細分領域的金融企業50余家,落地金融行業10余個場景。



為了解決視覺AI模型訓練周期長、門檻高,需要大量人工干預的問題。百度智能云升級發布一見5.0,在標準化高、規則清晰的任務中,僅需一句自然語言,即可秒級生成專業級視覺AI應用,一線業務人員也能輕松上手,借助云邊協同,應用成本大幅降低,加速了視覺智能規模化的落地。



目前,百度智能云從算力、平臺到應用的系統級能力,已經在多個企業場景中穩定運行。中國鋼研與百度智能云聯合打造全棧智能基礎設施,基于昆侖芯和百舸,搭建了專屬的智算平臺;在千帆上做模型精調,使用大、小模型結合的方式獲得最佳效果;結合一見視覺平臺,快速完成了表面缺陷檢測、金相分析等核心場景的應用開發。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
中國科技公司爭先恐后地拋棄英偉達

中國科技公司爭先恐后地拋棄英偉達

EETOP半導體社區
2025-05-31 10:35:51
兩周賣出150萬部,蘋果將國產手機逼瘋,被迫降價近2000元

兩周賣出150萬部,蘋果將國產手機逼瘋,被迫降價近2000元

柏銘銳談
2025-05-30 17:04:04
巴黎5-0國米!隊史首奪歐冠冠軍+創決賽最大分差 19歲紅星2射1傳

巴黎5-0國米!隊史首奪歐冠冠軍+創決賽最大分差 19歲紅星2射1傳

我愛英超
2025-06-01 05:04:29
節后,A股沖擊3400點,讓股民感受下牛市初期魅力!

節后,A股沖擊3400點,讓股民感受下牛市初期魅力!

數據挖掘分析
2025-06-01 08:59:16
知名機構出現大規模兌付異常!“存的黃金提不出來,也無法退款”,有人投了上千萬元!銀行、保險公司回應,警方已立案

知名機構出現大規模兌付異常!“存的黃金提不出來,也無法退款”,有人投了上千萬元!銀行、保險公司回應,警方已立案

每日經濟新聞
2025-05-31 17:05:27
樊振東加入薩爾布呂肯,莫雷加德:很榮幸和你成為隊友

樊振東加入薩爾布呂肯,莫雷加德:很榮幸和你成為隊友

懂球帝
2025-06-01 09:34:20
調整有魄力!馬琳用人有想法,放棄孫穎莎隊友,王曼昱成中流砥柱

調整有魄力!馬琳用人有想法,放棄孫穎莎隊友,王曼昱成中流砥柱

忠橙家族
2025-05-31 18:05:26
數據不會騙人!2025年高考會是未來10年最容易考上的一年!

數據不會騙人!2025年高考會是未來10年最容易考上的一年!

特特農村生活
2025-05-31 12:38:52
孫儷把唇下痣切了,網友猜測與朱媛媛有關,娘娘也沒想到鬧這大吧

孫儷把唇下痣切了,網友猜測與朱媛媛有關,娘娘也沒想到鬧這大吧

體育官已上任
2025-06-01 08:52:22
納賽爾在歐冠抽簽時眼神充滿驚恐,如今成為冠軍主席

納賽爾在歐冠抽簽時眼神充滿驚恐,如今成為冠軍主席

懂球帝
2025-06-01 05:52:15
42歲王心凌端午節曬照!表演“立蛋”游戲好厲害,穿著少女好有料

42歲王心凌端午節曬照!表演“立蛋”游戲好厲害,穿著少女好有料

觀察鑒娛
2025-06-01 10:30:15
歐冠封神戰!19歲小將脫衣狂奔:2+1創紀錄,奪冠后跪地落淚

歐冠封神戰!19歲小將脫衣狂奔:2+1創紀錄,奪冠后跪地落淚

葉青足球世界
2025-06-01 05:08:54
余承東演講原文:鴻蒙智駕不是第一陣營,而是第一名!

余承東演講原文:鴻蒙智駕不是第一陣營,而是第一名!

互聯網坊間八卦
2025-05-31 23:27:15
古天樂官宣電影《尋秦記》將于2026年元旦上映

古天樂官宣電影《尋秦記》將于2026年元旦上映

魯中晨報
2025-05-30 16:53:22
好神奇!邵美琪中年發腮顏值下滑,60歲腮幫子消失,又美回來了

好神奇!邵美琪中年發腮顏值下滑,60歲腮幫子消失,又美回來了

上官晚安
2025-05-30 16:31:23
簽了簽了!弗拉格正式加盟!2025屆NBA準狀元

簽了簽了!弗拉格正式加盟!2025屆NBA準狀元

籃球實戰寶典
2025-05-31 19:29:14
思想疫苗:禁止宗教干涉世俗,這些名稱全都得改

思想疫苗:禁止宗教干涉世俗,這些名稱全都得改

疫苗與科學
2025-05-31 07:12:23
尊界S800是誰在買?華為系最貴新車上市,售價自“砍”30多萬元

尊界S800是誰在買?華為系最貴新車上市,售價自“砍”30多萬元

時代周報
2025-05-30 22:57:07
自絕后路!5月30日,蔡英文警告大陸,誰都無法阻止臺“立國”

自絕后路!5月30日,蔡英文警告大陸,誰都無法阻止臺“立國”

星辰故事屋
2025-05-31 11:15:44
官宣!樊振東加盟德甲薩爾布呂肯開啟首次留洋 奧運亞軍小莫歡迎

官宣!樊振東加盟德甲薩爾布呂肯開啟首次留洋 奧運亞軍小莫歡迎

醉臥浮生
2025-06-01 08:02:23
2025-06-01 11:40:49
解碼Decode incentive-icons
解碼Decode
關注TMT領域
1137文章數 1036關注度
往期回顧 全部

科技要聞

特朗普突然炒掉NASA準局長,嫌他不"忠誠"?

頭條要聞

玩滑翔傘被“吸”至8000米高空 當事人親述逃生細節

頭條要聞

玩滑翔傘被“吸”至8000米高空 當事人親述逃生細節

體育要聞

亞錦賽女子200米:16歲陳妤頡22秒97奪金

娛樂要聞

張若昀夫婦國外遛娃 男方推平價兒童車

財經要聞

油價繼續下跌?歐佩克宣布將再度增產

汽車要聞

零跑汽車5月交付量達45,067臺 穩居新勢力前三

態度原創

旅游
房產
時尚
健康
數碼

旅游要聞

熱聞|清明假期將至,熱門目的地有哪些?

房產要聞

金地華南落子海南自貿港22萬㎡標桿項目,夯實代建行業領軍者地位

五十歲女人,穿衣拒絕暗沉、廉價、跟風,免得被人說油膩老土

唇皰疹和口腔潰瘍是"同伙"嗎?

數碼要聞

榮耀Magic V5或六月發,多款新品待發布

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 公安县| 新丰县| 奇台县| 宜川县| 内乡县| 颍上县| 瓮安县| 永兴县| 花莲市| 社旗县| 安仁县| 沙湾县| 临洮县| 平陆县| 平南县| 疏勒县| 东台市| 通山县| 思茅市| 文化| 石楼县| 阳信县| 庆城县| 清水河县| 巴青县| 肃南| 泊头市| 锡林郭勒盟| 潼关县| 乌鲁木齐县| 八宿县| 普格县| 察雅县| 正阳县| 小金县| 福安市| 临颍县| 灵山县| 桦甸市| 忻州市| 西林县|