99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

推理性能提升13倍!百度智能云發(fā)布昆侖芯超節(jié)點

0
分享至

4月25日,以“模型的世界,應(yīng)用的天下”為主題的Create 2025 百度AI開發(fā)者大會在湖北武漢召開。會上,百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖分享了百度智能云在智能基礎(chǔ)設(shè)施建設(shè)方面的最新成果,并在算力、模型及應(yīng)用等方面發(fā)布一系列全新產(chǎn)品。

大模型的高效落地亟需從底層算力到應(yīng)用的全棧、系統(tǒng)級支撐——既需高性能硬件與集群優(yōu)化,也需靈活的開發(fā)工具鏈與場景化解決方案。基于多年在大模型研發(fā)與產(chǎn)業(yè)落地的深厚積累,百度智能云構(gòu)建了新一代系統(tǒng)級智能基礎(chǔ)設(shè)施,為企業(yè)大模型應(yīng)用落地提供最佳解決方案。

相關(guān)數(shù)據(jù)顯示,2024全年百度智能云在大模型相關(guān)中標項目數(shù)、行業(yè)覆蓋數(shù)、央國企中標項目數(shù)三個維度均為第一,在能源、政務(wù)、金融三個行業(yè)的中標項目數(shù)位于所有廠商第一。截止目前,千帆平臺企業(yè)用戶數(shù)量超40萬,千帆平臺組件數(shù)量超1000個,企業(yè)在千帆平臺上已開發(fā)出了超100萬個應(yīng)用。

沈抖表示,系統(tǒng)的價值,不僅是解決某一個問題,而是讓企業(yè)擁有創(chuàng)造“創(chuàng)造的能力”。企業(yè)可以結(jié)合自己的數(shù)據(jù)、流程、邏輯,利用百度智能云的系統(tǒng)級能力打造企業(yè)專屬AI基礎(chǔ)設(shè)施。



百舸+昆侖芯超節(jié)點:推理性能提升13倍、成本降低95%

算力是AI時代的“新電力”。百度智能云通過自研昆侖芯P800芯片及百舸大規(guī)模推理加速能力,實現(xiàn)算力性能與成本的雙重突破。

本次大會,百度正式點亮了昆侖芯P800的三萬卡集群。在金融行業(yè),招商銀行與百度智能云基于昆侖芯P800展開算力合作,能穩(wěn)定支持各類開源大模型,性能表現(xiàn)卓越,在智能客服、多模態(tài)數(shù)據(jù)分析等場景實現(xiàn)了顯著效能提升。目前,除了招商銀行這類金融機構(gòu),昆侖芯P800算力已在國家電網(wǎng)、中國鋼研等央企,同濟大學、北京大學等高校及一批互聯(lián)網(wǎng)企業(yè)進行規(guī)?;渴?。

為了進一步降低算力使用成本,百度智能云正式發(fā)布昆侖芯超節(jié)點。

昆侖芯超節(jié)點支持把64張昆侖芯AI加速卡放到同一個機柜,實現(xiàn)單節(jié)點的超強性能,一個機柜就能頂過去100臺機器。與以往的方案相比,昆侖芯超節(jié)點用更快的機內(nèi)通信替代機間通信,可以有效降低帶寬成本,最終實現(xiàn)卡間互聯(lián)帶寬提升8倍,單機訓練性能提升10倍,單卡推理性能提升13倍。



僅僅擁有高性能芯片和大規(guī)模集群是遠遠不夠的,如何穩(wěn)定、高效地釋放算力的真正價值才是關(guān)鍵所在。沈抖認為,未來三年,推理降本,一定是企業(yè)最重要的工作。

百度智能云全面升級百舸推理加速能力。通過大規(guī)模分布式推理的PD分離,百舸支持客戶根據(jù)不同場景的業(yè)務(wù)特點,自適應(yīng)地設(shè)置PD配比,并做到token級別的PD負載均衡。針對MOE模型,百舸做到了大規(guī)模多機專家并行的極致優(yōu)化,可以大幅降低MOE模型推理的通信開銷。最后,百舸對核心鏈路上的每一個細節(jié)做了系統(tǒng)級的工程優(yōu)化,大幅提升GPU的有效利用率。

從百度內(nèi)部實踐來看,百舸推理加速的能力正在作為千帆的算力底座,為40萬客戶提供服務(wù)。上線以來,千帆的推理吞吐提升20倍,推理速度提升50%以上。在外部,百舸不止支持著像招商銀行、中國石化、長安汽車等企業(yè)的超大規(guī)模算力需求,也很好地支撐著創(chuàng)企客戶、伙伴的模型訓練、推理需求。



以北京人形機器人創(chuàng)新中心為例,百度百舸為創(chuàng)新中心構(gòu)建了穩(wěn)定的超大算力集群,確保具身模型的訓練和推理得以高效進行,支持了人形機器人的快速迭代。在近日全球首個人形機器人半程馬拉松中,北京人形機器人創(chuàng)新中心旗下純電驅(qū)全尺寸人形機器人“天工”,以2小時40分42秒的成績率先沖線一舉奪冠。




為企業(yè)應(yīng)用開發(fā)提效!千帆發(fā)布智能體Pro及MCP服務(wù)

企業(yè)部署大模型,不僅需要高性價比的模型服務(wù),更需要全面的模型工具。在模型服務(wù)層面,目前千帆平臺上有超過100多個模型,不僅包括文心4.5Turbo、文心X1 Turbo等百度自研模型,還包括DeepSeek、Ilama、Vidu等第三方模型,服務(wù)穩(wěn)定、可靠。在模型開發(fā)層面,千帆平臺可以提供全面的模型開發(fā)工具鏈,支持深度思考模型、多模態(tài)模型的定制、精調(diào)。

以模型蒸餾為例,智聯(lián)招聘在人崗匹配場景使用了千帆平臺的模型蒸餾工具鏈,用千億參數(shù)的DeepSeek R1作為“教師模型”,用百億參數(shù)的ERNIE Speed作為“學生模型”,經(jīng)過調(diào)優(yōu)后的小參數(shù)模型,不僅可以媲美“教師模型”的效果,成本也降低至3成。



在應(yīng)用開發(fā)上,本次大會千帆平臺全面升級了企業(yè)級Agent開發(fā)工具鏈,發(fā)布了全新推理式智能體——智能體Pro,從快問快答升級到深思熟慮,并且支持每個企業(yè)定制自己的專屬智能體。以污水寶為例,基于千帆Agentic RAG能力,讓Agent結(jié)合企業(yè)自己的私域數(shù)據(jù)和企業(yè)知識庫,可以基于對任務(wù)的理解去制定檢索策略,大幅降低模型幻覺。同時,智能體Pro也支持Deep Research深度研究模式,能讓Agent自主完成復雜任務(wù)的步驟規(guī)劃、信息篩選和整理,支持像人一樣操控電腦瀏覽網(wǎng)頁(computer use)進行探索式知識收集,也支持像人一樣使用多種工具繪制圖標、撰寫,生成結(jié)構(gòu)清晰、內(nèi)容豐富的專業(yè)報告。

基于DeepResearch能力,榮耀正在利用千帆平臺,面向高校學生、職場白領(lǐng)等群體,打造一款科研場景深度研究的應(yīng)用,將很快會在榮耀筆記本上上線。



MCP的出現(xiàn),幫助開發(fā)者和企業(yè)在開發(fā)Agent時,能夠更好地利用行業(yè)數(shù)據(jù)和工具。本次大會,百度智能云正式發(fā)布國內(nèi)首個企業(yè)級MCP服務(wù),第一批已經(jīng)有超過1000個MCP Servers供企業(yè)及開發(fā)者靈活選擇。另外,開發(fā)者也可以在千帆上開發(fā)自己的MCP Server,并發(fā)布到MCP廣場,支持免費托管,而且百度搜索也會索引這些MCP Server,讓它們被更多的開發(fā)者引用。



從模型服務(wù)到應(yīng)用開發(fā),企業(yè)客戶已經(jīng)在千帆平臺上做出了很多行業(yè)創(chuàng)新。民生銀行與百度智能云合作,探索大模型在商業(yè)銀行的落地,完成了金融領(lǐng)域第一個端到端涵蓋算力、平臺、模型、應(yīng)用四層架構(gòu)的項目落地。



自研AI應(yīng)用重磅升級:實現(xiàn)營銷全旅程服務(wù),視覺AI應(yīng)用成本大幅下降

百度智能云打造的智能基礎(chǔ)設(shè)施也支撐著百度自己的應(yīng)用創(chuàng)新。本次大會,百度智能云面向智能營銷、視覺AI兩大領(lǐng)域,升級了兩大自研AI應(yīng)用產(chǎn)品。

金融營銷場景需要高精準獲客、“高情商”客服及高效的流失預警,百度智能云本次升級發(fā)布客悅·ONE,在上述核心場景進行了全面優(yōu)化,為客戶提供全生命周期智能營銷服務(wù),助力企業(yè)實現(xiàn)營銷效能全面提升。

以理財撤單場景為例,傳統(tǒng)模式下,用戶需經(jīng)歷復雜的說明閱讀和多層級菜單操作,效率低下??蛺偼ㄟ^AI驅(qū)動的智能交互,極大簡化了這一流程。AI不僅能識別并安撫用戶焦慮,更能在對話中直接引導解決問題,還能自動提煉關(guān)鍵信息并回流數(shù)據(jù),持續(xù)優(yōu)化服務(wù)體驗。

目前客悅已經(jīng)服務(wù)銀行、證券、保險等不同細分領(lǐng)域的金融企業(yè)50余家,落地金融行業(yè)10余個場景。



為了解決視覺AI模型訓練周期長、門檻高,需要大量人工干預的問題。百度智能云升級發(fā)布一見5.0,在標準化高、規(guī)則清晰的任務(wù)中,僅需一句自然語言,即可秒級生成專業(yè)級視覺AI應(yīng)用,一線業(yè)務(wù)人員也能輕松上手,借助云邊協(xié)同,應(yīng)用成本大幅降低,加速了視覺智能規(guī)模化的落地。



目前,百度智能云從算力、平臺到應(yīng)用的系統(tǒng)級能力,已經(jīng)在多個企業(yè)場景中穩(wěn)定運行。中國鋼研與百度智能云聯(lián)合打造全棧智能基礎(chǔ)設(shè)施,基于昆侖芯和百舸,搭建了專屬的智算平臺;在千帆上做模型精調(diào),使用大、小模型結(jié)合的方式獲得最佳效果;結(jié)合一見視覺平臺,快速完成了表面缺陷檢測、金相分析等核心場景的應(yīng)用開發(fā)。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
蘇群發(fā)文透露,楊瀚森面臨激烈競爭!會有1/3時間在發(fā)展聯(lián)盟度過

蘇群發(fā)文透露,楊瀚森面臨激烈競爭!會有1/3時間在發(fā)展聯(lián)盟度過

籃球掃地僧
2025-06-27 03:51:20
明明一滴血就夠了,非要抽血好幾管?驗血背后的真相你該知道了

明明一滴血就夠了,非要抽血好幾管?驗血背后的真相你該知道了

大魚簡科
2025-06-24 23:30:03
長得漂亮也沒用!河南一戶人家6個女兒都未婚:怕她們是扶弟魔

長得漂亮也沒用!河南一戶人家6個女兒都未婚:怕她們是扶弟魔

唐小糖說情感
2025-06-26 23:58:52
以伊?;鸷蠊穬?nèi)伊首次發(fā)表講話

以伊?;鸷蠊穬?nèi)伊首次發(fā)表講話

財聯(lián)社
2025-06-26 18:10:21
美航母緊急調(diào)頭!1100架殲16殲20鎖死臺海,五角大樓急撤亞太兵力

美航母緊急調(diào)頭!1100架殲16殲20鎖死臺海,五角大樓急撤亞太兵力

科學知識點秀
2025-06-26 07:00:13
30CM漲停!固態(tài)電池概念繼續(xù)爆拉

30CM漲停!固態(tài)電池概念繼續(xù)爆拉

21世紀經(jīng)濟報道
2025-06-26 17:18:58
再造一個萬億城市!河南下一張王牌呼之欲出

再造一個萬億城市!河南下一張王牌呼之欲出

小鬼頭體育
2025-06-26 14:14:05
電視臺主持人COS《最終幻想7》蒂法:相似度極高!

電視臺主持人COS《最終幻想7》蒂法:相似度極高!

游民星空
2025-06-26 15:09:24
淮安通過一批人事任免,張笑辭去副市長職務(wù)

淮安通過一批人事任免,張笑辭去副市長職務(wù)

魯中晨報
2025-06-26 18:40:01
福建出臺重要條例,7月1日起施行!

福建出臺重要條例,7月1日起施行!

幸福福鼎
2025-06-26 17:24:39
男人資助山村貧困女生15年,畢業(yè)后女生登門拜訪,打開門后愣住了

男人資助山村貧困女生15年,畢業(yè)后女生登門拜訪,打開門后愣住了

球場的看客
2025-06-26 19:56:10
哈梅內(nèi)伊最新發(fā)聲

哈梅內(nèi)伊最新發(fā)聲

環(huán)球時報新聞
2025-06-26 18:44:43
寧可下跪也不反抗,靠西方施舍立國的國家,都鄙視中國的斗爭精神

寧可下跪也不反抗,靠西方施舍立國的國家,都鄙視中國的斗爭精神

來科點譜
2025-06-24 07:40:03
赤裸裸內(nèi)涵馬伊琍!文章復出的第一部電影,一腳被馬踢飛內(nèi)涵了誰

赤裸裸內(nèi)涵馬伊琍!文章復出的第一部電影,一腳被馬踢飛內(nèi)涵了誰

扒星人
2025-06-24 16:47:28
12天戰(zhàn)事讓中東戰(zhàn)略再平衡,以色列、美國和伊朗都在“報喜”,分析:真贏家在這里

12天戰(zhàn)事讓中東戰(zhàn)略再平衡,以色列、美國和伊朗都在“報喜”,分析:真贏家在這里

紅星新聞
2025-06-25 17:03:03
東部戰(zhàn)區(qū):若武統(tǒng)臺灣,不會斬首賴清德,只因一個極其重要的原因

東部戰(zhàn)區(qū):若武統(tǒng)臺灣,不會斬首賴清德,只因一個極其重要的原因

樂趣紀史
2025-06-25 21:14:26
????貸款!雷霆15號秀大放豪言:準備兩連冠!

????貸款!雷霆15號秀大放豪言:準備兩連冠!

直播吧
2025-06-26 15:53:48
普京這一次的表現(xiàn),的確很不明智

普京這一次的表現(xiàn),的確很不明智

羅富強說
2025-06-24 10:28:55
外國心理學家好奇:為何中國打過仗的老兵,很少有戰(zhàn)后應(yīng)激障礙?

外國心理學家好奇:為何中國打過仗的老兵,很少有戰(zhàn)后應(yīng)激障礙?

小童歷史
2025-06-25 10:06:18
你還記得當年的高考成績嗎?全國多地已開放往年考分查詢通道,有省份可線上查詢03年成績

你還記得當年的高考成績嗎?全國多地已開放往年考分查詢通道,有省份可線上查詢03年成績

極目新聞
2025-06-26 16:27:24
2025-06-27 06:27:00
新眸深度 incentive-icons
新眸深度
看見商業(yè)另一面。
1264文章數(shù) 2431關(guān)注度
往期回顧 全部

科技要聞

小米YU7價格來了!標準版起售價25.35萬元

頭條要聞

小米YU7開啟預定3分鐘大定破20萬臺 只比SU7貴3萬

頭條要聞

小米YU7開啟預定3分鐘大定破20萬臺 只比SU7貴3萬

體育要聞

蓄謀已久的開拓者,就是最適合楊瀚森的球隊

娛樂要聞

倪妮,怎么突然下桌了?

財經(jīng)要聞

央視再揭茅臺鎮(zhèn)“年份酒”造假黑幕

汽車要聞

智界全系2萬元現(xiàn)金減免 豪華智能限時普惠

態(tài)度原創(chuàng)

房產(chǎn)
本地
家居
數(shù)碼
公開課

房產(chǎn)要聞

最強黑馬殺出!海南這些區(qū)域,教育正悄悄崛起!

本地新聞

被貴妃帶火的“唐代頂流”,如今怎么不火了

家居要聞

木質(zhì)簡約 空間極致利用

數(shù)碼要聞

戴爾16 Premium筆記本發(fā)布:XPS 16繼任者,可選RTX 5070顯卡

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關(guān)懷版 主站蜘蛛池模板: 富裕县| 金堂县| 恭城| 始兴县| 突泉县| 微山县| 陆良县| 疏勒县| 临夏县| 卓尼县| 西吉县| 富民县| 沙坪坝区| 会东县| 聂荣县| 习水县| 靖宇县| 葫芦岛市| 翁牛特旗| 白朗县| 四会市| 含山县| 二连浩特市| 海南省| 屏南县| 鞍山市| 梅州市| 时尚| 商丘市| 杭锦后旗| 柳江县| 响水县| 山西省| 宜宾市| 衡阳市| 长治市| 琼中| 嘉兴市| 尼勒克县| 嘉祥县| 兴业县|