就在這幾天,我們開源了deepseekAI大模型,在全球掀起了大浪。
其低成本高性能的特性讓眾多標榜領先的AI模型瞬間崩塌。
就在這幾天國外對deepseek服務器發起了猛烈的攻擊,導致很多用戶無法正常使用。
那么今天我來教大家如何本地部署deepseek,讓我們在無需網絡的情況下也能流暢使用deepseek。
此次本地部署過程簡化了很多操作,部署好模型到本地后,使用瀏覽器插件就可以直接使用,對于電腦小白,只要跟著操作幾分鐘就可以順利完成部署。
所需要用到的工具有ollama和瀏覽器插件。
為了保存大家能順利下載,我已經將工具打包好,大家可以在這里去獲取。
首先安裝ollama,安裝過程很簡單,雙擊安裝程序即可,工具包中包含了mac和windows兩個安裝包,大家按需選擇即可。
安裝完成之后,以windows系統為例,在開始菜單中搜索powershell,然后以管理員身份運行。
在打開的命令窗口中輸入:ollama run deepseek-r1:8b,來下載deepseek模型,大家可以根據自己的顯存大小針對性的下載相應的模型。
這里附一張對應顯存的模型示意圖,數字越大,所需顯存越大。
下載完成后,打開edge瀏覽器或者是谷歌瀏覽器,在擴展,管理擴展中。
把開發人員模式打開,把工具包中的page assist插件拖進去,并添加擴展。
點擊瀏覽器右上角的插件圖標,選擇好模型,在設置中的RAG設置中嵌入模型。在一般設置中選擇中文。
至此整個本地部署就結束了。
這個部署過程相對來說還是十分簡單的,幾分鐘就可以自行完成,如果你也想體驗一下deepseek的功能,可以跟著教程用起來。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.