99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

DeepSeek只是前菜,LPU才是王炸

0
分享至



當下,人工智能蓬勃發展,創新技術不斷涌出, 整個行業正經歷著一場意義深遠的變革。

而這其中,DeepSeek 和 LPU 的出現格外引人注目。DeepSeek 憑借其卓越的性能和強大的成本優勢,迅速在全球范圍內圈粉無數,掀起了一股使用熱潮。而LPU,作為專為語言處理任務量身定制的硬件處理器,以其區別于傳統 GPU 的創新架構、令人驚嘆的性能表現和超低的成本優勢,成為了 AI 領域的新寵。

DeepSeek與LPU的結合,或許會為這場變革注入新的動力。

01

LPU是什么?

2024年2月,由谷歌TPU設計者Jonathan Ross創立的Groq公司發布新一代LPU,實測性能引發行業震動:在Meta Llama 2-70B推理任務中,其LPU相較英偉達H100實現10倍性能提升,推理成本降低80%。而LPU本質為減少計算中內存調用次數,從而實現推理效率的提升。對推理芯片而言,更高性能、更低成本的LPU,提供了一個新的技術路徑選項。

LPU,全稱 Language Processing Unitix,是一種專門為語言處理任務設計的硬件處理器。它與我們熟知的 GPU(Graphics Processing Unit,圖形處理器)有著本質的區別。GPU 最初是為處理圖形渲染任務而設計的,在并行計算方面表現出色,因此后來被廣泛應用于人工智能領域的模型訓練和推理。然而,LPU 則是專門針對語言處理任務進行優化的,旨在更高效地處理文本數據,執行諸如自然語言理解、文本生成等任務。

從硬件架構來看,LPU 有著獨特的設計,采用了時序指令集計算機架構。同時,LPU 不需要芯片外內存,這是其區別于傳統硬件架構的重要特點。傳統的 GPU 在運行過程中,需要依賴高速的數據傳輸和大量的芯片外內存來存儲和處理數據,這不僅增加了硬件成本,還可能在數據傳輸過程中產生延遲,影響系統性能。而 LPU 使用的是 SRAM(Static Random - Access Memory,靜態隨機存取存儲器),其速度比 GPU 所用的存儲器快約 20 倍。這種高速的內存使得 LPU 在處理數據時能夠更快地讀取和寫入信息,大大提高了處理效率。

在能效方面,LPU通過減少多線程管理的開銷和避免核心資源的未充分利用,實現了更高的每瓦特計算性能,在執行推理任務時,無需像GPU那樣頻繁從內存加載數據,消耗的電量也低于英偉達的GPU。

Groq公司作為LPU的重要推動者,公布的LPU性能令人驚嘆。與當前行業內的領先模型相比,LPU展現出了巨大的優勢。例如,在與GPT - 4的對比中,Groq的LPU比 GPT - 4 快18倍,在處理速度上達到了每秒500 token的驚人成績,打破了行業紀錄,其性能是英偉達GPU的10倍。而且,不同于英偉達GPU對高速數據傳輸和高帶寬存儲器(HBM)的依賴,Groq的LPU系統中沒有采用HBM,而是通過優化的SRAM設計,實現了高效的數據處理。這種獨特的設計使得LPU在保證高性能的同時,還降低了硬件成本和系統復雜性。

這一突破也凸顯了計算模式的潛在轉變,即在處理基于語言的任務時,LPU 可以提供一種專業化、更高效的替代方案,挑戰傳統上占主導地位的 GPU。

02

國產企業布局LPU

國產LPU當然也受到市場關注。

目前,清華系的無問芯穹已研發出全球首個基于FPGA(現場可編程邏輯門陣列)的大模型處理器,稱其為無穹LPU,通過大模型高效壓縮的軟硬件協同優化技術,使得LLaMA2-7B模型的FPGA部署成本從4塊卡減少至1塊卡,并且性價比與能效比均高于同等工藝GPU,即展示“一張卡跑大模型”。

無問芯穹研發的端側大模型推理處理器 LPU采用異構計算技術。其核心目標是提供如水電煤般便捷的算力服務,解決當前市場中算力資源匱乏的問題。目前已通過適配多種 AI 芯片,實現不同模型高效并行處理,根據無問芯穹的內部測試數據,這款芯片在大規模模型推理場景中,算力成本下降高達90%,為國內算力之困開辟了一條前路。

據悉,無問芯穹成立于2023年5月,創始團隊來自清華大學電子工程系,致力于成為大模型落地過程中的"M×N"中間層,以打造大模型軟硬件一體化方案,鏈接上下游,建立AGI(通用人工智能)時代大模型基礎設施。

03

DeepSeek利好上游,將推動AI大規模應用

2025年1月20日,DeepSeek正式發布DeepSeek-R1模型,在數學、代碼、自然語言推理等任務上,性能成功比肩OpenAI-o1正式版,在1月24日國外大模型排名Arena上,DeepSeek-R1基準測試升至全類別大模型第三,在風格控制類模型分類中與OpenAI-o1并列第一,展現出強大的技術實力。僅僅一周后,DeepSeek在中國區及美區蘋果App Store免費榜均占據首位,成為首個同期在中國和美區蘋果App Store占據第一位的中國應用,用戶量在短時間內迅速攀升,在全球范圍內掀起了使用熱潮。

DeepSeek發展速度之快令人咋舌,日活數據的增長堪稱 “火箭式” 上升。前幾日,DeepSeek 的日活剛突破 2000 萬,然而不到一周的時間,日活已經飆升至 3000 萬,短短 7 天內用戶增長一個億。與之形成鮮明對比的是,曾經風靡全球的 ChatGPT 達到同樣的用戶增長規模需要 2 個月的時間。DeepSeek 的快速崛起,彰顯了其在人工智能領域的強大競爭力和市場吸引力。

隨著 DeepSeek 用戶的大規模增長,對上游做算力的公司產生了顯著的利好影響。算力作為人工智能運行的基礎支撐,是模型訓練和推理得以實現的關鍵。DeepSeek 的火爆意味著對算力的需求呈指數級增長,這為上游的算力供應商提供了廣闊的市場空間。

值得一提的是,三家基礎電信企業均全面接入 DeepSeek 開源大模型。這一舉措不僅進一步推動了 DeepSeek 的廣泛應用,還為電信企業自身的業務發展帶來了新的機遇。電信企業擁有豐富的網絡資源和龐大的用戶基礎,接入 DeepSeek 大模型后,可以將人工智能技術融入到通信服務、智能客服、大數據分析等多個業務領域,提升服務質量和用戶體驗,同時也為自身在人工智能時代的轉型發展奠定了堅實的基礎。

在市場層面,DeepSeek 的成功也引發了資本的關注。大量的投資涌入與 DeepSeek 相關的產業鏈,從算力支持到算法優化,再到應用開發,各個環節都成為了資本追逐的熱點。這不僅促進了相關企業的技術研發和業務拓展,還加速了整個行業的發展進程。

之所以DeepSeek如此受到關注,除了其在性能上的卓越表現外,還在于其具有強大的成本優勢。DeepSeek模型厲害的地方在于,整個訓練僅花費了557.6萬美元,在2048xH800集群上運行55天完成。性能卻能和OpenAI的頂尖模型ChatGPT-o1比肩,甚至在某些領域還強一點。

這筆費用是什么概念呢?Anthropic 的 CEO曾透露,GPT-4o這樣的模型訓練成本約為1億美元。而目前正在開發的AI大模型訓練成本可能高達10億美元。他還預測,未來三年內,AI大模型的訓練成本將上升至100億美元甚至1000億美元。換句話說,DeepSeek-V3的這個成本幾乎可以忽略不計。由于OpenAI的大模型成本巨大,在美國政府的支持下,甚至發起了總投資5000億美元的星門計劃來建設AI設施。

04

高性能低價平權之下,LPU被看好

AI基礎設施建設的巨額成本一直是阻擋AI大規模應用的絆腳石。

DeepSeek-R1具備高性能、低成本、開源三大屬性。DeepSeek-R1問世,其開源屬性為企業提供了技術底座,如教育機構可基于開源代碼定制學科知識庫、教學場景交互邏輯等,人力資源機構也可針對招聘培訓等垂直場景構建垂直助手。且DeepSeek-R1大模型單次訓練和推理對算力的需求低,因此基于DeepSeek-R1二次訓練的成本也更低,更有利于企業低成本訓練及本地部署。簡而言之,DeepSeek-R1的突破性發展,直接降低了AI應用的研發落地成本,將加速AI技術在各行業的滲透。

如果說,DeepSeek屬于“核彈”級,那LPU就是“氫彈”級。據了解,美國Groq公司已經在自己的LPU芯片上實機運行DeepSeek,效率比最新的H100快上一個量級,達到每秒24000token。某種程度上,單純靠堆砌硬件算力,實現智力的邏輯也將失效。隨著硬件芯片制程逐漸到達瓶頸,后期人工智能主要靠算法和芯片架構優化推動。

而DeepSeek 與 LPU 的結合標志著 AI 算力領域的重要變革,特別是在大語言模型(LLM)推理場景中展現出顯著的技術突破和市場潛力。這種結合使得大語言模型在處理速度、成本控制和應用范圍等方面都有了新的突破,為人工智能的發展開辟了新的道路。

作為LPU的主要供應商,美半導體初創公司Groq也受到了投資市場的看好。據了解,目前該公司已獲得沙特阿拉伯15億美元的承諾投資,以支持 Groq 擴建位于沙特達曼的 AI 推理基礎設施。Groq 的達曼數據中心由該企業同石油巨頭沙特阿美旗下子公司合作建設,目前該數據中心已包含 19000 個 Groq LPU(語言處理單元),可向 41 個國家的 40 億用戶提供服務。

另一方面,這也對英偉達和其他美國人工智能科技公司造成打擊,三星電子和 SK 海力士預計將在快速增長的人工智能 (AI) 內存芯片業務中面臨越來越多的不確定性。而這兩家公司主要生產用于英偉達GPU的HBM芯片。SK海力士1月份的數據比12月下跌了19.3%。這是自2023年4月該公司開發出全球12層HBM3芯片以來,環比跌幅最大的一次。

當LPU技術將AI創作成本降至消費級硬件可承載范圍,普通人使用RTX顯卡即可運行百億參數模型時,UGC內容生產將迎來核爆式增長。這種生產力解放可能提前10年實現"人人都是創作者"的預言。

當 LPU 架構與神經擬態芯片結合后,個人設備的計算能力將得到質的飛躍。也許,未來的智能手機或筆記本電腦,借助這種技術,用戶無需聯網就能在本地快速運行復雜的語言模型,實現高效的個人工作流部署。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
網傳某知名公司裁員近萬人,真實案例揭露失業后到底有多慘…

網傳某知名公司裁員近萬人,真實案例揭露失業后到底有多慘…

慧翔百科
2025-06-20 09:15:06
公務員吃空餉大整頓!這6類人員將被重點清退,一個都跑不掉!

公務員吃空餉大整頓!這6類人員將被重點清退,一個都跑不掉!

愛下廚的阿椅
2025-06-22 05:30:42
蘇州發布:張韶涵演唱會結束昆山奧體連夜拆舞臺,1周后迎接蘇超

蘇州發布:張韶涵演唱會結束昆山奧體連夜拆舞臺,1周后迎接蘇超

直播吧
2025-06-22 17:43:15
巴鐵急紅眼!40架殲35交付突生變數,印度連夜笑醒

巴鐵急紅眼!40架殲35交付突生變數,印度連夜笑醒

健身狂人
2025-06-22 12:19:40
七寶老街沿街商鋪店招店牌發生脫落,無人員受困受傷

七寶老街沿街商鋪店招店牌發生脫落,無人員受困受傷

澎湃新聞
2025-06-22 19:50:30
血栓開始形成,耳朵先知?醫生:血栓患者,耳朵一般有這5個表現

血栓開始形成,耳朵先知?醫生:血栓患者,耳朵一般有這5個表現

華庭講美食
2025-06-22 16:25:47
伊朗再次迎來新幫手,公開威脅:若美敢出兵,將立即使出3大絕招

伊朗再次迎來新幫手,公開威脅:若美敢出兵,將立即使出3大絕招

通文知史
2025-06-21 15:21:57
無福斯特!總決搶七大戰裁判名單:卡珀斯主裁 蒂文賴特副裁

無福斯特!總決搶七大戰裁判名單:卡珀斯主裁 蒂文賴特副裁

直播吧
2025-06-22 21:31:16
《花兒與少年7》正式官宣,看完新一季嘉賓陣容,網友們激動不已

《花兒與少年7》正式官宣,看完新一季嘉賓陣容,網友們激動不已

動物奇奇怪怪
2025-06-22 12:01:37
廣州一女子醉駕拒檢稱“人大代表可以喝酒” 次日被責令辭去職務

廣州一女子醉駕拒檢稱“人大代表可以喝酒” 次日被責令辭去職務

五味壇
2025-06-22 10:45:29
這也太慘了吧!這名98年生人的美女,就因15000多欠款,被懸賞500

這也太慘了吧!這名98年生人的美女,就因15000多欠款,被懸賞500

火山詩話
2025-06-22 07:14:29
記者:海港主場落敗主要責任在教練組,去年更多還是球隊實力太強

記者:海港主場落敗主要責任在教練組,去年更多還是球隊實力太強

直播吧
2025-06-22 20:13:18
克服麻痹思想和僥幸心理!湖南省委書記沈曉明赴受災現場檢查督導

克服麻痹思想和僥幸心理!湖南省委書記沈曉明赴受災現場檢查督導

政知新媒體
2025-06-22 21:47:23
天塌了!李月汝隊友,WNBA狀元佩奇官宣戀情,對象也是美女球員

天塌了!李月汝隊友,WNBA狀元佩奇官宣戀情,對象也是美女球員

老王大話體育
2025-06-22 16:01:14
雷軍還是瞞不住了!su7ultra跑紐北賽道圈速,被英國媒體頭版刊登

雷軍還是瞞不住了!su7ultra跑紐北賽道圈速,被英國媒體頭版刊登

火山詩話
2025-06-22 09:37:50
大眾打出“降價牌”!9.88萬又降3萬,6.42萬起售,只為賣出去

大眾打出“降價牌”!9.88萬又降3萬,6.42萬起售,只為賣出去

愛論歷史
2025-06-20 22:10:17
1979年以來首次!美國直接襲擊伊朗 專家:很震驚,接下來關鍵看伊朗如何評估

1979年以來首次!美國直接襲擊伊朗 專家:很震驚,接下來關鍵看伊朗如何評估

紅星新聞
2025-06-22 11:56:26
炸完伊朗,以色列下一個目標定了:是一個有核國家,想為伊朗出頭

炸完伊朗,以色列下一個目標定了:是一個有核國家,想為伊朗出頭

利刃號
2025-06-20 17:38:04
武大畢業典禮后現場遺留垃圾引質疑,教師建議今后遇突發天氣到室內舉行

武大畢業典禮后現場遺留垃圾引質疑,教師建議今后遇突發天氣到室內舉行

澎湃新聞
2025-06-22 21:06:50
女子炫耀800萬蘭博基尼掛墻上,餐桌150萬,一年電費40萬遭封禁

女子炫耀800萬蘭博基尼掛墻上,餐桌150萬,一年電費40萬遭封禁

漢史趣聞
2025-06-21 14:47:35
2025-06-22 22:59:00
半導體產業縱橫 incentive-icons
半導體產業縱橫
賦能中國半導體產業,我們一直在路上。
1603文章數 1206關注度
往期回顧 全部

科技要聞

"你應該靠嘴吃飯",羅永浩自述被梁文鋒勸退

頭條要聞

伊議會贊成關閉霍爾木茲海峽 一美軍監管的中心發警告

頭條要聞

伊議會贊成關閉霍爾木茲海峽 一美軍監管的中心發警告

體育要聞

中國女排0-3意大利 香港站3勝1負收官

娛樂要聞

離婚四年!趙麗穎被曝新戀情惹爭議

財經要聞

蘋果后院起火

汽車要聞

首搭華為雙王牌/6月24日預售 嵐圖FREE+正式下線

態度原創

親子
教育
健康
手機
公開課

親子要聞

機靈姐禮物開箱第一波#土豆王國彩虹糖#我是機靈姐#盲盒

教育要聞

52所學校上榜!160名學生入選北京“后備人才計劃”公示名單

呼吸科專家破解呼吸道九大謠言!

手機要聞

小米 REDMI K80 至尊版手機搭載瑞聲科技全家桶

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 贺州市| 西安市| 句容市| 图木舒克市| 郑州市| 马鞍山市| 虎林市| 宁明县| 兴国县| 姚安县| 集贤县| 阳东县| 江孜县| 图们市| 精河县| 芒康县| 武宣县| 麻江县| 农安县| 罗山县| 浪卡子县| 大关县| 论坛| 连江县| 张家界市| 怀安县| 长治市| 嘉善县| 日照市| 广东省| 宜阳县| 沾化县| 明溪县| 襄汾县| 张家口市| 建宁县| 乌兰浩特市| 岳西县| 鲁山县| 阿鲁科尔沁旗| 同江市|