「本智激活」孵化自上海交通大學(xué)并行與分布式系統(tǒng)研究所（IPADS），該研究所在操作系統(tǒng)、分布式系統(tǒng)等底層技術(shù)領(lǐng)域享譽(yù)國(guó)際，近 10 年在計(jì)算機(jī)領(lǐng)域國(guó)際著名排行榜 CSRankings 中名列操作系統(tǒng)領(lǐng)域全球第一。「本智激活」團(tuán)隊(duì)核心成員為來(lái)自 IPADS 研究所的教師及博士生，由上海交通大學(xué)副教授、博導(dǎo)糜澤羽擔(dān)任創(chuàng)始人及 CEO，在端側(cè)大模型、端側(cè) Infra 底層系統(tǒng)等領(lǐng)域擁有世界一流的技術(shù)實(shí)力。團(tuán)隊(duì)曾主導(dǎo) PowerInfer、SmallThinker 等在全球范圍內(nèi)產(chǎn)生顯著影響的開(kāi)源項(xiàng)目與大模型，展現(xiàn)了其在前沿技術(shù)探索和工程化落地上的卓越能力。

以 “端側(cè)原生” 全棧設(shè)計(jì)破局，重塑個(gè)人 AI 范式

新一代 AI 技術(shù)突破正深刻變革產(chǎn)業(yè)，尤其將徹底重塑 PC、手機(jī)、智能終端等承載用戶 “數(shù)字人生” 的端側(cè)設(shè)備。當(dāng)前，全球數(shù)十億端側(cè)設(shè)備存儲(chǔ)著工作機(jī)密文檔、往來(lái)郵件、私人聊天記錄、家庭相冊(cè)等海量的高價(jià)值、極私密的個(gè)人數(shù)據(jù)資產(chǎn)。然而，在云端 AI 模式下，將這些數(shù)據(jù)資產(chǎn)轉(zhuǎn)化為真正的個(gè)人 AI 助理卻面臨著 “三座大山”—— 隱私焦慮方面，個(gè)人全部數(shù)據(jù)上傳云端不僅存在泄露風(fēng)險(xiǎn)，用戶心理上也難以接受將 “數(shù)字靈魂” 托管第三方；高昂成本與延遲問(wèn)題，每次與云端大模型的文字和多模態(tài)交互都是昂貴的跨網(wǎng)算力調(diào)用，高延遲與高成本阻礙高頻、深度的 AI 應(yīng)用；而缺乏深度個(gè)性化則表現(xiàn)為，云端通用大模型無(wú)法安全、持續(xù)地學(xué)習(xí)個(gè)人全部數(shù)據(jù)，服務(wù)停留在 “千人一面” 的淺層交互，無(wú)法成為真正懂用戶、具備長(zhǎng)期記憶的私有化大腦。

面對(duì)這些挑戰(zhàn)，「本智激活」提出顛覆性的 “端側(cè)原生” 全棧設(shè)計(jì)破局 —— 不依賴模型壓縮，而是從底層重構(gòu)軟硬件技術(shù)體系，在不犧牲模型智力的前提下，實(shí)現(xiàn)真正的端側(cè)智能。

團(tuán)隊(duì)率先實(shí)現(xiàn)了從端側(cè)大模型、端側(cè) Infra 到硬件優(yōu)化的協(xié)同設(shè)計(jì)與極致優(yōu)化，致力于在保護(hù)用戶 100% 隱私的前提下，將強(qiáng)大的 AI 能力無(wú)縫融入日常。這不僅定義了端側(cè) AI 新范式，更構(gòu)建了 “技術(shù)研發(fā) - 硬件賦能 - 生態(tài)構(gòu)建” 的價(jià)值閉環(huán)。當(dāng)傳統(tǒng) AI 仍在與云端延遲和隱私問(wèn)題博弈時(shí)，「本智激活」已經(jīng)通過(guò)解碼端側(cè)設(shè)備的極限潛能，將 AI 的未來(lái)交還用戶手中。

世界級(jí)技術(shù)成果：從端側(cè)大模型到端側(cè) Infra 的全棧創(chuàng)新

目前，「本智激活」在端側(cè)大模型算法和 Infra 領(lǐng)域已積累了一系列世界級(jí)領(lǐng)先成果，并在全球開(kāi)源社區(qū)產(chǎn)生了巨大影響。

· PC 端性能突破： 團(tuán)隊(duì)于 2023 年 12 月發(fā)布的 PowerInfer 端側(cè)大模型 Infra 系統(tǒng)，突破性地實(shí)現(xiàn)了在消費(fèi)級(jí) NVIDIA GTX 4090 GPU 上高效運(yùn)行千億參數(shù)大模型的能力，其性能達(dá)到數(shù)據(jù)中心級(jí) A100 GPU 的 90%，推理速度較前代技術(shù)提升最高 11.69 倍。該項(xiàng)目開(kāi)源后，連續(xù)兩天蟬聯(lián)開(kāi)源平臺(tái) GitHub 國(guó)際開(kāi)源項(xiàng)目趨勢(shì)榜第一。

· 手機(jī)端 “從零到一”： 2024 年 6 月，團(tuán)隊(duì)推出 PowerInfer-2，基于自研的 TurboSparse 大模型稀疏化方法，進(jìn)一步將技術(shù)邊界擴(kuò)展至移動(dòng)端，首次在智能手機(jī)上流暢運(yùn)行 470 億參數(shù)模型，推理速度超越國(guó)際標(biāo)桿系統(tǒng) llama.cpp 達(dá) 29 倍，推動(dòng)終端硬件智能水平到達(dá)新高度，實(shí)現(xiàn)了手機(jī)側(cè)百億級(jí)大模型部署 “從零到一” 的跨越式發(fā)展。

· 端側(cè)原生大模型算法創(chuàng)新：2025 年 7 月 26 日，「本智激活」將聯(lián)合上海交通大學(xué)發(fā)布并開(kāi)源全球首批端側(cè)原生大模型。該系列模型采用原創(chuàng)算法架構(gòu)，從零開(kāi)始預(yù)訓(xùn)練構(gòu)建。這一架構(gòu)專門(mén)針對(duì)端側(cè)設(shè)備的算力、內(nèi)存和存儲(chǔ)限制進(jìn)行設(shè)計(jì)，通過(guò)與原生端側(cè) Infra 深度協(xié)同，實(shí)現(xiàn)了百億參數(shù)大模型在百元級(jí)硬件上的流暢運(yùn)行。這標(biāo)志著研發(fā)團(tuán)隊(duì)已貫通從模型算法創(chuàng)新、大規(guī)模預(yù)訓(xùn)練到端側(cè) Infra 部署的全棧核心能力。值得一提的是，「本智激活」團(tuán)隊(duì)在 2024 年 12 月 30 日曾開(kāi)源全球首個(gè) 30 億參數(shù)長(zhǎng)鏈推理大模型 SmallThinker。憑借出色的推理性能，該模型在發(fā)布僅 7 天內(nèi)，就在 HuggingFace 等平臺(tái)累計(jì)下載量突破 10 萬(wàn)次，并一度在 HuggingFace 模型全球趨勢(shì)榜總榜位列第二（僅次于 DeepSeek-V3 模型），文本生成類大模型榜排名第一。

云啟資本合伙人陳昱表示：“隨著對(duì)隱私保護(hù)與低時(shí)延的需求持續(xù)上升，端側(cè)智能正成為連接虛實(shí)世界的關(guān)鍵入口。云啟持續(xù)關(guān)注端側(cè)智能領(lǐng)域的系統(tǒng)性創(chuàng)新，本智激活以全棧自研能力打通模型與端側(cè)算力之間的技術(shù)斷點(diǎn)，率先實(shí)現(xiàn)了大模型在手機(jī)、PC 等主流終端的低成本高效部署。期待本智激活憑借在技術(shù)演進(jìn)和商業(yè)化進(jìn)程中積累的先發(fā)優(yōu)勢(shì)，繼續(xù)推動(dòng)端側(cè)智能的高效部署與規(guī)模化落地。”

BV 百度風(fēng)投董事總經(jīng)理劉水表示：“本智團(tuán)隊(duì)通過(guò)‘模型 - 系統(tǒng) - 硬件’的協(xié)同優(yōu)化，為智能終端市場(chǎng)提供強(qiáng)大的推理能力，降低 AGI 使用成本。AI 模型落地到端側(cè)是技術(shù)發(fā)展的必然趨勢(shì)，端側(cè)智能為用戶帶來(lái)即時(shí)響應(yīng)的交互能力，數(shù)據(jù)隱私保護(hù)以及云端算力的成本節(jié)省，未來(lái)將出現(xiàn) AI PC、AI 手機(jī)等其他形態(tài)的 AI 終端。公司依托上交科研團(tuán)隊(duì)的技術(shù)積累，在端側(cè)模型推理性能提升、模型 Infra 加速等技術(shù)上具有明顯優(yōu)勢(shì)，將推動(dòng) AI 與硬件的深度融合。”

光源資本 3i 孵化業(yè)務(wù)負(fù)責(zé)人黃欣欣指出：“端側(cè)是解決當(dāng)前模型部署問(wèn)題和 AI 硬件全面普及的關(guān)鍵路徑，本智激活在端側(cè)模型部署性能、參數(shù)規(guī)模、推理速度等方面的技術(shù)積累全球領(lǐng)先，成為世界范圍內(nèi)極少數(shù)具備頂尖研發(fā)能力與量產(chǎn)交付經(jīng)驗(yàn)的端側(cè) AI 廠商之一。我們十分榮幸參與本智激活孵化與本輪融資，相信在糜老師的帶領(lǐng)下，本智激活會(huì)持續(xù)為端側(cè) AI 行業(yè)帶來(lái)驚喜，我們也將繼續(xù)作為本智激活忠實(shí)的創(chuàng)業(yè)伙伴，攜手前行。”