就在這幾天,我們開源了deepseekAI大模型,在全球掀起了大浪。
其低成本高性能的特性讓眾多標(biāo)榜領(lǐng)先的AI模型瞬間崩塌。
就在這幾天國外對deepseek服務(wù)器發(fā)起了猛烈的攻擊,導(dǎo)致很多用戶無法正常使用。
那么今天我來教大家如何本地部署deepseek,讓我們在無需網(wǎng)絡(luò)的情況下也能流暢使用deepseek。
此次本地部署過程簡化了很多操作,部署好模型到本地后,使用瀏覽器插件就可以直接使用,對于電腦小白,只要跟著操作幾分鐘就可以順利完成部署。
所需要用到的工具有ollama和瀏覽器插件。
為了保存大家能順利下載,我已經(jīng)將工具打包好,大家可以在這里去獲取。
首先安裝ollama,安裝過程很簡單,雙擊安裝程序即可,工具包中包含了mac和windows兩個(gè)安裝包,大家按需選擇即可。
安裝完成之后,以windows系統(tǒng)為例,在開始菜單中搜索powershell,然后以管理員身份運(yùn)行。
在打開的命令窗口中輸入:ollama run deepseek-r1:8b,來下載deepseek模型,大家可以根據(jù)自己的顯存大小針對性的下載相應(yīng)的模型。
這里附一張對應(yīng)顯存的模型示意圖,數(shù)字越大,所需顯存越大。
下載完成后,打開edge瀏覽器或者是谷歌瀏覽器,在擴(kuò)展,管理擴(kuò)展中。
把開發(fā)人員模式打開,把工具包中的page assist插件拖進(jìn)去,并添加擴(kuò)展。
點(diǎn)擊瀏覽器右上角的插件圖標(biāo),選擇好模型,在設(shè)置中的RAG設(shè)置中嵌入模型。在一般設(shè)置中選擇中文。
至此整個(gè)本地部署就結(jié)束了。
這個(gè)部署過程相對來說還是十分簡單的,幾分鐘就可以自行完成,如果你也想體驗(yàn)一下deepseek的功能,可以跟著教程用起來。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.