GSMA 2025 MWC上海昨日正式拉開帷幕,6月19日,在大會期間的AI終端峰會上,高通公司AI產品技術中國區負責人萬衛星就高通對推動智能體AI在終端側部署方面的看法與規劃進行了闡述。
對于智能體AI終端側部署方面有何規劃,萬衛星表示,智能體AI正在重塑終端消費者的交互界面,高通相信,AI將成為新的UI,并且高通已經開始了技術儲備,目前端側小模型的算力、性能和能效正在逐漸升級,AI已能支持跨邊緣側規模化部署的應用。與此同時,高通正通過打造領先的異構計算技術,更高效的端到端解決方案和強大的軟件棧,為端側智能體AI部署的全流程提供支持。
作為最早展示大模型可以完全在邊緣運行的芯片平臺廠商之一,高通非常重視生成式AI和智能體AI。萬衛星提出,在硬件層面高通能提供集成定制化CPU、GPU、NPU和低功耗子系統的行業領先系統級芯片,既能保障終端側高性能、高能效的 AI 推理,又能在兼顧電池續航與整體能效的同時,輕松應對復雜 AI 任務。
高通不僅擁有手機、汽車、PC等豐富的產品線,還擁有支持應用面向這些廣泛產品線進行開發和擴展的軟件和工具支持,這就為端側模型的發展和規模化部署提供了廣泛的生態支持,從而為更多行業帶來高性能、經濟實惠、快速響應和關注隱私的變革性AI體驗。
具體來說,高通通過統一的高通AI軟件棧幫助客戶將端側模型擴展至更多終端產品之上,并為開發者提供跨不同邊緣終端領域的統一工具、框架和SDK,賦能開發者在邊緣側加速采用AI智能體和應用,使開發者可以更輕松適應不同的環境和情況。
萬衛星表示,高通已經推出了高通AI規劃器(Qualcomm AI Orchestrator)這一端側解決方案,它可以整合用戶的個性化偏好、本地情境信息以及終端側應用與服務功能,在終端側引入智能體AI體驗。舉例來說,在AI規劃器的支持下,用戶可以要求AI智能體規劃自己和家人一起用餐,智能體能整合用戶以往的聊天信息及家人的興趣愛好,自動分析出合適的餐廳,并自主調用用戶常用的應用程序預訂座位,然后在日歷上預留時間,甚至規劃好行車路線。
萬衛星還強調,隨著AI能力的升級,用戶對隱私、安全以及個性化的要求越來越高,更全面的智能體AI需要依托高通強大的端側AI處理能力、統一高效且靈活的AI軟件棧,同時也離不開端到端的高通AI規劃器等解決方案,以及各類傳感器中樞提供的實質性輔助。這種面向未來的強大技術基礎設施,使高通能夠不斷滿足AI日新月異的需求。
展望未來,高通也將持續引領AI推理創新時代,利用AI從大規模訓練向大規模推理轉型的趨勢,與客戶、合作伙伴,包括整個生態系統共同推動智能體AI體驗在端側的發展,實現“AI是新的UI”的未來愿景。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.