文章轉載自「InfoQ」
近日,網上曝出 Lepton AI 已通知用戶,Lepton 將于 2025 年 5 月 20 日正式停止運營,此后用戶將無法再訪問 Lepton AI 平臺上的服務或提交的數據,建議用戶在該日期之前盡快下載或備份所需數據。服務終止時,若用戶賬戶中仍有未使用的積分,官方將會在關停后予以退款處理。
不僅如此,官方網站已經禁止新賬戶注冊,顯示正在維護。
Lepton AI 的官方推特顯示也已經被注銷。
就在大約兩周前,The Information 報道,英偉達已完成對 Lepton AI 的收購,交易價值數億美元,知情人士透露稱創始人賈揚清及聯合創始人白俊杰都已加入英偉達,目前還不清楚具體擔任職位。
值得注意的是,黃仁勛還一直稱英偉達是一家軟件公司, Lepton Al 創始團隊都是軟件方面的頂尖人才,或許這也是雙方契合的一點。
收購消息剛被曝出來時,許多人猜測英偉達收購后是會僅保留機器學習人才、大砍業務,還是會繼續運營 Lepton AI 的云平臺。目前看來,英偉達似乎更在意的人才,而非其相關具體業務,畢竟如今已經選擇了關閉服務。
交易完成時 Lepton AI 約有 20 名員工,目前還未有消息指出這些員工的去留。英偉達此番價值可能達數億美元的收購,實現了讓 LeptonAI 投資方紅杉中國、CRV 和 Fusion Fund 較為可觀的退出,大約在兩年前他們參與了該公司 1100 萬美元的種子輪融資。
Founder Park 正在搭建開發者社群,邀請積極嘗試、測試新模型、新技術的開發者、創業者們加入,請掃碼詳細填寫你的產品/項目信息,通過審核后工作人員會拉你入群~
進群之后,你有機會得到:
高濃度的主流模型(如 DeepSeek 等)開發交流;
資源對接,與 API、云廠商、模型廠商直接交流反饋的機會;
好用、有趣的產品/案例,Founder Park 會主動做宣傳。
01
起于「百模大戰」
Lepton AI 成立還不到兩年的時間。兩位創始人在業內都頗有名氣:賈揚清在博士期間創立并開源了深度學習框架 Caffe,白俊杰是開放式神經網絡交換標準 ONNX 的共同創始人以及 Caffe2 的核心開發者。賈揚清先后在谷歌、Meta 任職多年,2019 年 3 月起在阿里擔任技術副總裁。白俊杰也曾分別在 Meta、阿里云任職。兩人擔任 AI 研究員時,共同開發了 PyTorch 框架。
2023 年 3 月,賈揚清離開阿里云,四個月后宣布聯合創立了 Lepton AI。他們創業時,正值國內「百模大戰」,賈揚清等人沒有直接入局大模型,而是選擇成為大模型的基礎設施提供商。不過,他們自己沒有購買 GPU,而是用租用的方式,然后對外提供算力租賃等服務。這種模式被稱為是典型的「人工智能即服務 (AIaaS) 」,即通過云計算平臺預配人工智能 (AI) 服務和工具。
Lepton AI 整個團隊主要在海外,所以目標客戶主要為海外企業和國內想要拓展海外市場的企業。官網顯示,Lepton 的服務主要包括:
全托管的 AI 云平臺 Lepton:支持模型的開發、訓練和部署,包括開箱即用的 Serverless 接口,兼容 OpenAI API;完全自定義的專屬推理接口;支持運行分布式訓練或批處理作業等。
企業版 Lepton:管理節點組,同時允許用戶使用自有服務器創建自托管的節點組。
Python SDK,幫助用戶構建 AI 應用。
與 Lepton AI 同名的云平臺專為 AI 工作負載優化,用戶可以在平臺上進行模型訓練和推理。該公司提供了一個可視化界面,幫助用戶在其云平臺上配置訓練集群,并支持多款 Nvidia 顯卡選擇。對于需要并行訓練多個模型的團隊,平臺還提供了一種集中管理每個項目分配硬件資源的工具。
在模型訓練過程中,有時會出現降低輸出質量的錯誤,Lepton AI 的平臺具備檢測此類錯誤的功能,同時還能發現更為隱蔽的技術問題,比如神經網絡在訓練過程中使用了超出預期的內存等。
模型開發完成后,Lepton AI 用戶可以將模型部署在平臺提供的推理優化實例上。該平臺承諾,在推理過程中能夠實現超過每秒 600 個 token 的處理速度,同時將延遲控制在 10 毫秒以內。平臺還具備自動擴展功能,當推理需求增加時,可自動為客戶增加計算資源。
Lepton AI 還采用開源工具 vLLM 來加速推理。該技術能夠將相似的大模型提示合并成一次請求,從而減少模型所需處理的計算量。開發者還可借助 vLLM 降低模型的內存占用。
此前,賈揚清在接受 時表示,團隊在技術實現上沒用什么「黑科技」,而是將很多耳熟能詳的單點技術結合起來,以實現成本的顯著降低,如大模型處理服務收到大量請求時的動態批處理(Dynamic Batch)、用小模型預測數個 token 的預測解碼等。具體如何實現單點技術的有機結合,就是他們工作的重點和難點。
期間,團隊還基于 Lepton 做了一些產品 demo。比如,賈揚清曾在其社交平臺分享了他基于 Lepton Al 實現的 AI 搜索引擎 (類似 Perplexity),而且只用了不到 500 行代碼。這個項目當時引起了大家熱議,目前也已經開源,斬獲 8.1k 顆星。
Lepton Al 開源了旨在通過主動監控 GPU 和有效管理 AI/ML 工作負載來確保 GPU 效率和可靠性的 GPUd。據悉,GPUd 基于團隊多年來在 Meta、阿里云、Uber 和 Lepton AI 運營大規模 GPU 集群的經驗而構建,能與 Docker、containerd、Kubernetes 和 Nvidia 生態系統等無縫集成。
「通過這些產品,我們可以展示自己在開源模型上能做的事情,以及 Lepton 平臺幫助用戶構建應用的能力。 」賈揚清曾表示。團隊希望通過這些產品或 demo 可以在用戶中形成好的口碑,當有人需要部署大模型時就會想到 Lepton AI。
賈揚清還積極對外分享最新的大模型進展思考。比如 DeepSeek 爆火后,賈揚清分析稱,它的成功更多體現了純粹的智慧與務實:在計算資源和人力有限的前提下,通過聰明的研究方法,產出最好的成果。這與當年 Alex Krizhevsky 在只有兩塊 GPU 的情況下造出 AlexNet 模型一樣,靠的不是超大規模集群,而是扎實的能力。
目前,賈揚清的 x 分享停留在了 3 月中旬。
02
止步于算力巨頭的野望
AI 爆發后面臨的主要問題就是缺算力。為了減少投入,不少企業「由買轉租」,這催生了算力租賃的誕生,算力租賃價格一年就可實現翻倍。
北美和歐洲地區仍是算力租賃市場的主導者。像 CoreWeave 是挖礦起家,英偉達通過投資支持、供貨保障等方式扶持 CoreWeave。CoreWeave 采用「GPU 即服務」(GAAS)模式,擁有 32 個數據中心,運行超 25 萬 + GPU,主要服務微軟、英偉達、OpenAI、Meta、Google 等北美大客戶。而歐洲本地云服務商 Nebius,在芬蘭擁有一個部署了約 2 萬個 GPU 的數據中心。受益于歐洲扶持政策,Nebius 以短期租賃性價比取勝。值得注意的是,Nebius 也獲得了英偉達的投資。
值得注意的是, Lepton AI 與英偉達若干主要客戶的服務存在競爭關系,其中包括 AI 云服務商 CoreWeave。賈揚清去年 6 月時曾透露,Lepton AI 的客戶數量和整體營收都處于非常健康的增長狀態,他對此也比較滿意,驗證了團隊之前的想法和產品在用戶中的接受度。
對于英偉達此次收購 Lepton Al 的目的,業內猜測是其欲試圖完全掌控供應鏈,而不僅僅是負責制造部分。與其只出售顯卡或 AI 芯片,英偉達選擇提供完整的解決方案:自己開發芯片、組裝服務器、再提供租賃服務。這正是人們常說的「垂直整合」——一家公司掌控從上游到下游的整個流程。
這種垂直整合策略讓英偉達能夠從芯片設計到算力租賃的全產業鏈中獲利,同時還能更好地控制其 GPU 芯片的使用方式和價格策略,進一步增強其在 AI 計算領域的主導地位。
通過這一策略,英偉達還成功規避了一個行業中常見的問題:庫存積壓。當市場降溫、銷量下滑時,許多公司往往會被大量滯銷的設備所拖累。但如果英偉達可以自己出租服務器,就能讓設備始終保持運轉狀態,同時還能繼續從中盈利。
SemiAnalysis 指出,通過收購 Lepton,英偉達不僅獲得了額外的收入來源,還可能擠壓其他云服務提供商的生存空間。通過打造這套自有體系,英偉達也更有能力與亞馬遜、谷歌和微軟等巨頭競爭,它們同樣在 AI 領域布局,并采用定制芯片(也就是常說的 ASIC)提供服務。
這也對應了黃仁勛的想法。他在今年 3 月的 GTC 大會上表示,英偉達不再是一家芯片公司,也不再是一家 AI 公司,而是一家算法和基礎設施公司。
目前,英偉達正在投入構建 AI 基礎設施,規劃周期必須在上游和下游都延伸多年。黃仁勛想要把英偉達打造成一個 AI 工廠,直接成為客戶的收入來源。「每個行業、每個國家、每家公司都來到這里,因為我們已經成為一個基礎平臺,其他公司可以在此基礎上構建自己的業務。」
https://www.theinformation.com/briefings/nvidia-closes-acquisition-gpu-cloud-startup-lepton
https://www.infoq.cn/article/w155KHeD4mR860s7cPEz?utm_source=chatgpt.com
https://siliconangle.com/2025/03/27/report-nvidia-close-acquiring-ai-cloud-provider-lepton-ai-nine-figure-deal/
https://tecfoco.com.br/nvidia-compra-lepton-ai-e-entra-de-vez-no-aluguel-de-servidores-com-ia
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.