3月21日,百度智能云召開千帆產品發布會,發布包括ERNIE Speed、ERNIE Lite、ERNIE Tiny在內的三款輕量級大模型,宣布升級產業級AI原生應用開發平臺千帆AppBuilder,大幅降低AI原生應用開發門檻,提升開發效率。
ERNIE Speed、ERNIE Lite、ERNIE Tiny,參數量由大到小,分別適用于在特定場景作為基座模型進行精調,兼顧模型效果與推理性能并搭載低算力AI加速卡進行推理,適配極致低成本和低延遲應用。
此外,百度智能云ModelBuilder還基于百度自身業務沉淀,推出了ERNIE Character和ERNIE Functions兩款垂直場景大模型,分別適配客戶在角色扮演類應用場景(如游戲NPC、客服對話等)、工具調用場景(對話中使用外部工具、調用業務函數等)中的不同使用需求。企業無需再額外精調,可直接應用專有模型來開發智能助理。
升級后的AppBuilder底層由基礎組件和高級組件構成,總數多達55個。作為基礎組件的代表,全新發布百度向量數據庫VDB1.0,幫助企業輕松管理數以千萬計的文檔知識,最大支持百億向量存儲規模、秒級的向量檢索速度,相比同類型開源產品,VDB1.0性能最高提升10倍。
AppBuilder預置的Agent(智能體)應用框架,具備精準的任務自主規劃能力,對多種應用工具的自動編排準確率超過90%。同時,支持開發者接入自定義工具,通過將自動編排與手動編排相結合,實現更復雜場景應用的需求定制。代碼解釋器作為Agent框架內的核心能力,大幅提升40%的性能、在數據分析場景的生成結果可接受度高達95%。
面向零代碼態開發,升級后的千帆AppBuilder最快三步即可完成Agent應用構建(一句話生成應用、應用適配自動優化、多渠道一鍵發布)。開發完成后,應用可多渠道分發與集成,AppBuilder支持將應用一鍵分發到微信客服、微信公眾號、Web端/H5及百度靈境矩陣等主流渠道。基于百度靈境矩陣,應用可在百度搜索、百度信息流等主流場景分發與掛載。真正實現應用開發出來后,就直接觸達用戶,打通從AI原生應用創建到開發再到分發的全流程。
百度副總裁謝廣軍表示,千帆大模型平臺發布一周年以來,已經累計服務超過8萬家企業用戶,累計幫助企業用戶精調1.3萬個大模型,基于千帆平臺開發的應用數超過了16萬個。
“千帆平臺自發布以來一直保持高速增長,跟去年12月比,千帆的日均調用量季度環比增長了97%,翻了近一倍。千帆平臺服務客戶數突破了8萬,最近一個月就增長了近1萬。”謝廣軍表示:“從這些數據可以看到,大模型已經真正進入到了快速增長的階段,2024年將成為國內大模型產業應用爆發的元年。”
不過,謝廣軍表示,去年一整年在和企業的接觸中發現,大模型真正實現產業化落地還面臨:落地場景需要探索、如何大幅降低大模型訓練和推理成本、如何大幅降低應用開發門檻、如何提升應用效果4大挑戰。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.