文 | 智能相對論
作者 | 陳泊丞
在DeepSeek爆火之后,各行各業對AI大模型的應用與部署明顯加快。在這個過程中,端側AI模型的價值逐步被發掘,憑借低時延、實時處理、安全可靠以及成本優化等特性備受市場重視,成為業內探索AI大模型應用的一個重要方向。
以智能手機行業為例,蘋果、小米、OPPO等終端廠商都在積極探索端側AI模型在智能終端上的部署和應用,以提升智能終端的體驗。但是,由于移動設備的計算能力和存儲空間有限,如何在保證模型性能的同時減小模型體積,并成功部署在移動端是一個關鍵問題。
直到今天,這一問題正在被湖南的一家科技公司破解。湖南匯視威發布基于國產算力預訓練的視覺基座大模型V1端側版本,成功滿足了視覺模型在移動端(如手機、電腦等)上的部署和推理需求,實現輕量級文生圖功能體驗。
繼DeepSeek之后,又一國產模型迎來新突破,并很有可能在端側革新AI模型的應用范式。這在技術層面和商業層面都有著特別的意義。
端側視覺模型照進現實,補上云端AI的短板
即使在DeepSeek火爆的基礎上,廠商們依然致力于探索和優化端側AI模型的部署與應用。通過湖南匯視威的視覺基座大模型V1端側版本可見,端側模型在實際應用中所展現出來的優勢正好彌補上了云端AI的短板。
一、擺脫云端算力限制,具備更低的時延和更強的場景適配性。端側AI模型可以直接在用戶的移動端實現本地運行,無須依賴云端傳輸。湖南匯視威的視覺基座大模型V1端側版本不僅能顯著降低時延,快速響應用戶的創作需求,還支持離線場景使用,哪怕是在偏遠地區或是網絡不穩定場景也能保障體驗,讓用戶隨時隨地體驗輕量級的視覺文生圖手機應用。
基于本地化運行,端側模型對比云端方案更穩定可靠。由此,B端的企業和開發者就可以基于湖南匯視威的視覺基座大模型打造自己的專屬AI產品,如虛擬試衣等,不僅可以基于端側部署提供更優質的體驗,還能顯著降低視覺大模型邊端推理成本,從而實現更優的商業回饋。
二、隱私安全保護進階,真正實現“數據不出域”。基于本地化運行模式,端側AI模型直接處理本地數據,避免將生成的圖片數據共享在云端,提升了用戶數據的隱私保護性,也將顯著降低數據泄漏風險。
三、推動邊緣智能普及,加速AI普惠。湖南匯視威的視覺基座大模型V1端側版本通過實現輕量級的視覺文生圖手機應用,有利于進一步提升手機端AI的用戶滲透率和場景滲透率,并在企業和開發者的二次開發下讓越來越多的用戶用上安全可靠的、低成本文生圖功能。
隨著這種端側部署模式推廣開來,更多的邊緣智能如電腦、可穿戴終端等都將迎來新一輪的產品功能變革,釋放更多的AI紅利,讓更多的人接觸到AI,享受AI。
又一次國產重大突破,湖南把視覺大模型塞進了端側
雖說端側模型方案被視為是接下來智能進階、實現邊緣智能的關鍵,但是很長一段時間內,云端AI方案占據主流。究其原因,在于AI模型的端側部署考慮到模型性能、模型參數以及移動終端的算力局限、本地存儲局限等一系列問題,在實際落地上存在較為嚴苛的要求。
湖南匯視威基于國產算力預訓練的視覺基座大模型V1端側版本是國內相關領域的首個突破項目,尤其是在國產算力和端側AI領域。面向特定領域從0到1的技術攻關,背后的難度可想而知,而具體聚焦國產算力、模型蒸餾以及性能保障三個方面,我們或許更能體會到這一項目落地的嚴苛與高標準。
這或將成為國產端側模型進一步擴大發展的關鍵起點,湖南匯視威基于國產算力預訓練的視覺基座大模型V1端側版本為行業帶來了三個亮點。
一、國產路徑。本次項目基于中科曙光國產算力在4千多萬張圖片上從0到1搭建視覺基座大模型并完成預訓練。這也就意味著,其底層計算資源已經開始傾向于國產化路徑,打破了此前AI領域高度依賴國外算力的單一局面,不只是端側模型的部署,更為國產模型的發展提供了更多的可能性。
二、極限蒸餾。此前,視覺大模型多采用云端方案,能真正實現端側部署的在國內還是首次。在這方面,湖南匯視威設計了跨模型結構極限蒸餾技術,將基座大模型和 8.1B大模型進行混合蒸餾,保證在最小性能損失下,得到了0.4B的輕量化模型,讓視覺模型具備了在端側部署的可能,填補了國產端側視覺模型的技術空白。
三、性能在線。盡管是0.4B的端側模型,但是在相關的文生圖測試上依舊可以媲美8.1B的通用大模型。據了解,湖南匯視威的視覺基座大模型V1端側版本在移動端文生圖體驗處于國內第一梯隊,在安卓和IOS端均可以做到秒級生成一張圖片,成功突破移動端生成高分辨力圖像的能力,生成圖像分辨率可達1024?1024。
秒級圖像生成能力意味著用戶可以在手機上直接完成高質量圖像AI創作,并支持離線場景。這對攝影、設計、娛樂等場景的用戶體驗具有革命性意義,湖南匯視威的視覺基座大模型V1端側版本通過端側部署解決隱私、延遲等問題的同時,還能保障性能在線,將進一步加速端側AI在智能終端的爆發,打造全新的端側AI生態。
本次項目的突破充分證實了一點:小模型,也有大作為;國產化,開拓新局面。不管是在國產算力層面還是在端側AI層面,湖南的這次突破作為行業標桿將推動更多的國產AI技術走向成熟,并可能催生更多的端側AI商業生態。
那么,對于用戶而言,更高效、更安全、更可靠的本地化AI體驗即將到來,未來在更多的智能終端上,我們將可以無懼網絡、算力等諸多嚴苛要求一鍵開啟AI創作體驗。而對于行業而言,這是國產化路徑和端側AI技術突破的重要里程碑,新的行業發展范式將持續革新AI產品形態,創造更多的可能。
*本文圖片均來源于網絡
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.