OSCHINA

當前，人工智能技術正加速向大模型時代邁進，在政務、金融、醫療、工業等領域展現出顛覆性潛力。

然而，大模型的訓練與部署面臨算力成本高、技術生態依賴性強、行業落地門檻高三大挑戰。在此背景下，昇騰與國產大模型的深度結合，為破解上述瓶頸提供了新路徑。

為加速技術普惠，4 月 23 日晚，開源中國直播欄目《數智漫談》邀請昇騰生態技術專家與行業先行者，分享一線開發經驗，聊一聊昇騰結合大模型，如何促進創新，助力開發者與企業用戶抓住國產 AI 新紅利。

演講議題 1：昇騰插件化接入 vLLM 加速大模型推理創新最佳實踐

演講專家：姚圣偉，華為云 HCDE、微軟 Insider Dev Tour China

議題簡介：

隨著大模型技術的快速發展，如何高效部署與加速推理成為業界核心挑戰。基于自主研發的昇騰處理器及 CANN 異構計算架構，昇騰推出插件化接入方案，與開源推理框架 vLLM 深度適配，為大模型推理提供高性能、低時延的創新實踐。

用戶可以實現自己的 Woker、ModelRunner、Attention、Communicator 以及自定義算子。在進一步促進 vLLM 多樣性發展的同時，盡可能的解決了兼容性、可維護性的問題。

實踐案例覆蓋自然語言處理、多模態交互等場景，驗證了昇騰生態的開放性與技術普適性，為行業提供可復用的國產化大模型部署范式，推動 AI 基礎設施高效進化。

演講議題 2：基于昇騰 + 大模型的國內智慧園區項目實踐

演講專家：李小雨，唐山愛尚產品總監，AI 應用探索者與出海實踐者

議題介紹：

年初 Deepseek 引發了國產大模型浪潮，國內涌現大量需要通過 AI 提效、優化體驗的需求。但是目前大部分傳統行業對于 AI 提效的具體實踐還在探索中，沒有明確的 AI 落地場景。

智慧園區為我們為某國企開發的系統，包括車輛道閘、人臉終端消費、考勤機、監控筒機等多種類業務、多種類設備，是集成一臉通、一平臺、數據共享、數據可視的完整解決方案。

本次分享，我們站在企業的角度分析 AI，能給實際業務帶來哪些方式的效率提升，并結合實際的某智慧園區項目，分享如何結合昇騰與大模型，在產品體驗和功能形態上做出創新和提效。

演講議題 3：基于香橙派 AI Studio 實現本地大模型部署和應用最佳實踐

演講專家：徐洋帆，香橙派系統工程師，昇騰社區核心開發者

議題簡介：

隨著大模型技術的快速發展，個人和企業對大模型的需求呈現爆發式增長。在云端大模型層出不窮的同時，隱私安全問題也日漸嚴峻。

因此實現低成本的本地化 AI 大模型部署和應用勢在必行。香橙派攜手華為昇騰，推出了 orangePi AI studio 和 orangePi AI studio Pro 產品，旨在為用戶提供低成本的本地化 AI 大模型部署能力。

在本次議題中，香橙派將展示算力高達 352Tops，超大的 192G 顯存的 orangePi AI studio Pro 產品上極簡部署 AI 大模型的步驟，半小時實現從 0 到體驗本地 AI 聊天機器人。

↓一鍵預約直播↓

另外，我們還建了一個交流群，一起聊聊自己 AI 技術～～當然啦，如果你有什么特別棒的開源項目，可以推薦過來呀～

【數智漫談】

OSCHINA 視頻號直播暢聊欄目【數智漫談】，每期一個技術話題，三五位專家圍坐，各抒己見，暢聊開源。給大家帶來最新的行業前沿、最熱門的技術話題、最有趣的開源項目、最犀利的思想交鋒。

如果你手上也有新點子、好項目，想要跟同行交流分享，歡迎聯系我們，講壇隨時開放～

↓分享、在看與點贊~Orz