99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

DeepSeek本地化部署(Windows+Ollama+Docker+OpenWebUI)

0
分享至

DeepSeek本地化部署(Windows+Ollama+Docker+OpenWebUI)

最近抖音熱搜的DeepSeek AI火遍國內外, 在AI 行業引起了廣泛關注!

2025年1月,DeepSeek 正式發布 DeepSeek-R1 推理大模型,DeepSeek-R1 成本價格低廉,性能卓越。

最近,DeepSeek的訪問出現了不穩定的問題,一個有效的解決方案是進行本地化部署。本地化部署不僅可以避免網絡波動帶來的影響,還能提供更高的隱私保護和數據安全性。通過本地化部署,用戶可以在自己的設備上運行DeepSeek模型,無需依賴外部網絡連接,從而實現更穩定、更可靠的使用體驗。

DeepSeek 提供了多種使用方式,滿足不同用戶的需求和場景。本地部署在數據安全、性能、定制化、成本、離線可用性和技術自主性方面具有顯著優勢。

接下來我詳細講解下基于Windows+Ollama+Docker+OpenWebUI 的本地化部署流程,并通過實例代碼演示。



1. 軟硬件需求

1.1 硬件需求

DeepSeek R1 本地部署的硬件需求如下:

基本推薦配置:CPU: 8核或以上,內存: 32GB或以上,存儲: 100GB SSD或以上

GPU: NVIDIA GTX2080或同等性能

DeepSeek-7B 推薦配置:RTX3060 以上顯卡 + 16G以上 內存 + 50G SSD 存儲空間

DeepSeek-70B 推薦配置:RTX4060 以上顯卡 + 32G以上 內存 + 200G SSD 存儲空間

本教程使用的硬件配置為:

CPU: Intel i5-12490/3.00GHz

內存: 32GB

存儲: 500GB SSD

GPU: NVIDIA GTX 3060。

1.2 軟件依賴

DeepSeek R1 本地部署的軟件依賴包括操作系統、容器化工具、編程語言、深度學習框架、數據庫、消息隊列、Web 服務器、GPU 加速工具、版本控制、包管理工具、監控與日志工具以及安全工具。

本教程采用 Windows10 操作版本、Python 3.8 版本、PyTorch 1.7 版本。

2. Ollama 下載與安裝

2.1 Ollama 的下載

Ollama 是一個開源的本地模型運行工具,可以方便地下載和運行各種開源模型,如 Llama、Qwen、DeepSeek 等。

Ollama 提供高效、靈活的大模型部署和管理解決方案,可以簡化模型的部署流程。支持macOS、Linux、Windows 操作系統。

官網地址:https://ollama.com/

下載地址:https://ollama.com/download





本教程選擇 Ollama Windows 版本 下載。



2.2 Ollama 的安裝

下載完成后直接點擊 OllamaSetup.exe 進行安裝。



安裝完成后,cmd 打開命令行窗口,輸入 “ollama -v” 測試,顯示 ollama 的版本為 “0.5.7”,表明安裝成功。



2.3 Ollama 的運行

Ollama 沒有用戶界面,在后臺會自動運行,重啟電腦也會自動啟動。

打開瀏覽器,輸入 :

“http://localhost:11434/”,

顯示 “Ollama is running”。



3. deepseek-r1 模型安裝

3.1 Ollma 安裝 deepseek-r1 模型

(1)從 ollama 官網 查找 deepseek-r1 模型。



(2)點擊進入 deepseek-r1 模型,可以選擇不同版本的模型(1.5b/7b/14b/32b/70b/671b)。

deepseek-r1 提供多個版本,參數量越大,模型的性能越強大,但也需要更多的存儲和計算資源。

1.5b 模型參數為15億/1.1GB,

7b 模型參數約為 70億/4.7GB,

14b 模型參數約為 140億/9GB。

deepseek-r1 不同版本模型的執行命令不同:

1.5b 的命令為:“ollama run deepseek-r1:1.5b”

7b 的命令為:“ollama run deepseek-r1:7b”

14b 的命令為:“ollama run deepseek-r1:14b”

推薦大家先下載較小的 1.5b 模型,把本教程的安裝程序跑通,再根據自己的硬件配置和需求安裝適當的版本。



(3)本教程選擇選擇 7b 模型,在命令行窗口運行安裝命令 “ollama run deepseek-r1:7b”,程序會自動下載和安裝運行。



默認地址是 “C:\Users%username%.ollama\models”。

如果要修改模型的保存地址,可以新建一個文件夾如 “C:\Model”,然后在系統環境變量添加系統變量:

“變量名:OLLAMA_MODELS,

變量值:C:\Model”。

(4)安裝完成后顯示 “success”,表明安裝成功。



3.2 使用 deepseek-r1 模型

(1)在命令行窗口運行命令 “ollama run deepseek-r1:7b”,就可以在提示行輸入,與 deepseek-r1 進行聊天。



(2)輸入 “/?”,可以獲得幫助。



通過本地命令行窗口可以使用 deepseek-r1,但這讓人回到了 DOS 年代,交互體驗很差。接下來我們按照 Docker 和 Open WebUI 用戶界面,可以更便捷地使用 deepseek-r1。

4. 安裝 Docker

Docker是一種虛擬化容器技術。Docker基于鏡像,可以秒級啟動各種容器。每一種容器都是一個完整的運行環境,容器之間互相隔離。

4.1 檢查安裝環境

在 Windows 任務管理器中,檢查系統是否開啟虛擬化。

打開任務管理器(Ctrl+Alt+Delete),選擇:性能 - CPU - 虛擬化,確認“虛擬化”已啟用。



如果未開啟虛擬化,則要開機重啟并進入BIOS 進行設置:在 BIOS 選擇:Advanced(高級)-- CPU Configuration – Secure Virtual Machine,設置為:Enabled(啟用)。

在 “控制面板” 打開 “程序”,然后點擊 “啟用或關閉 Windows 功能”,勾選 “Hyper-V 管理工具” 和 “Hyper-V 平臺”。



以管理員身份打開命令行窗口,輸入 “wsl --set-default-version 2”,將默認設置為 WSL 2。

通過適用于 Linux 的 Windows 子系統 (WSL),開發人員可以安裝 Linux 發行版,并直接在 Windows 上使用 Linux 應用程序、實用程序和 Bash 命令行工具,不用進行任何修改。

命令行窗口,輸入 “wsl --update --web-download”,更新安裝 wsl。



4.2 安裝 Docker for Desktop

Docker Desktop 是 Docker 官方提供的桌面應用程序,旨在讓開發者能夠在 Windows 和 macOS 系統上輕松地構建、運行和共享容器化應用程序。Docker Desktop 提供了一個方便的工具集,使用戶能夠快速部署容器化應用程序,同時還包括了一些強大的功能和工具,如 Docker Engine、Docker CLI、Docker Compose 等。

從 Docker 官方 下載 Docker 安裝程序。



我們進入docker 官網,選擇自己電腦對應的版本,然后點擊下載。



依照提示完成安裝即可。



安裝時選擇推薦設置。

根據提示登錄賬號,如使用 GitHub 賬號登錄。



安裝完成后,cmd 打開命令行窗口,輸入 “docker version” 檢查,顯示 docker 的版本為 “27.4.0”,表明安裝成功。



4.3 配置docker

安裝完成后,我們打開docker,注冊登錄一下docker,然后在右下角點擊Terminal,打開控制臺,然后輸入下面命令,然后等待安裝完成。

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main



安裝完成之后,我們在左側點擊Images(鏡像),點擊運行,如果需要有配置,默認即可。



點擊Container(容器),點擊



此時會打開web ui網頁,注冊open web-ui賬號即可使用。如果無法顯示,可以點擊進入容器查看



查看log日志,查看有沒有存在什么問題,或者嘗試重啟



注意(重啟電腦后,如果出現 500:Internal Error)



進入 Containers 頁面,選擇 open-web 項的 Actions列,點擊小三角啟動就行。



5. 安裝 Open WebUI

Open WebUI是一個可擴展、功能豐富、用戶友好的自托管 WebUI,旨在完全離線操作。它支持各種LLM運行程序,包括 Ollama 和 OpenAI 兼容的 API。Open WebUI 適配了 Ollama 接口,提供了 web 的方式來訪問 Ollama API。

5.1 安裝和啟動 open-webui

打開 open-webui 項目的 Github 倉庫

https://github.com/open-webui/open-webui:



從 README 的安裝指南找到用于 Ollama 的安裝命令

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main



在命令行執行 docker 命令,自動下載并安裝 open-webui。



5.2 登錄 Open-WebUI 進入 deepseek-r1z

在瀏覽器輸入 “localhost:3000/auth” 或 “http://127.0.0.1:3000”,進入 Open-WebUI 首頁。



注冊賬號密碼,創建管理員賬號。

注冊完成并登錄,就進入 deepseek-r1 模型的首頁:



現在,我們就可以用本地部署的 deepseek-r1 模型進行聊天了。

聲明:個人原創,僅供參考

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
國內將逐步淘汰“白內障手術”?做完人就瞎了?醫生告訴您真相

國內將逐步淘汰“白內障手術”?做完人就瞎了?醫生告訴您真相

素衣讀史
2025-07-01 10:18:29
虧損超19億,中美觀眾都不買賬,2025年暑期檔最大票房慘案誕生了

虧損超19億,中美觀眾都不買賬,2025年暑期檔最大票房慘案誕生了

靠譜電影君
2025-07-01 12:05:41
廣西一相親現場,100多名男生默默玩手機:不想當舔狗了

廣西一相親現場,100多名男生默默玩手機:不想當舔狗了

唐小糖說情感
2025-07-01 09:40:43
只剩最后3天時間,馬斯克對2.5億人發誓,要讓特朗普付出慘痛代價

只剩最后3天時間,馬斯克對2.5億人發誓,要讓特朗普付出慘痛代價

涵豆說娛
2025-07-01 11:34:37
果然,李嘉誠反擊了

果然,李嘉誠反擊了

妮妮玩不夠
2025-05-28 12:22:04
南海突發,菲方突然攔截50艘中國漁船,莎拉兩個詞給中菲關系定調

南海突發,菲方突然攔截50艘中國漁船,莎拉兩個詞給中菲關系定調

boss外傳
2025-06-30 15:50:03
虧損超8000萬!日本壽司巨頭宣布退出內地市場

虧損超8000萬!日本壽司巨頭宣布退出內地市場

紅餐網
2025-07-01 09:36:09
女孩考公成績第一,政審卻被淘汰,原因讓家人無法接受

女孩考公成績第一,政審卻被淘汰,原因讓家人無法接受

深度報
2025-06-25 22:40:48
炒作日本“單身稅”的官媒,可沒安什么好心

炒作日本“單身稅”的官媒,可沒安什么好心

基本常識
2025-06-30 19:40:03
女子高考成績差清華1分,父親托關系查卷,看到卷上3字瞬間癱倒

女子高考成績差清華1分,父親托關系查卷,看到卷上3字瞬間癱倒

蘭姐說故事
2025-06-19 17:00:07
加沙男子扛救濟面粉回家 遭以軍襲擊當場死亡

加沙男子扛救濟面粉回家 遭以軍襲擊當場死亡

看看新聞Knews
2025-06-30 17:41:35
曹德旺預言成真?中國二三十層的電梯房,最終將面臨同一個結局!

曹德旺預言成真?中國二三十層的電梯房,最終將面臨同一個結局!

山丘樓評
2025-06-26 17:45:48
烏軍俘虜15名特殊俄軍,炸毀3架直升機!開戰后最大規模空襲

烏軍俘虜15名特殊俄軍,炸毀3架直升機!開戰后最大規模空襲

鷹眼Defence
2025-06-30 17:59:54
又一家泡泡瑪特宣布閉店,拉布布價格崩盤后留下的是一地雞毛

又一家泡泡瑪特宣布閉店,拉布布價格崩盤后留下的是一地雞毛

說故事的阿襲
2025-07-01 12:11:36
朱德警衛員晚年時透露:十大元帥真正的排序,你想的完全不一樣

朱德警衛員晚年時透露:十大元帥真正的排序,你想的完全不一樣

內向的故事小生
2025-06-30 14:48:07
難得一見的絕版老照片,有些從未公開

難得一見的絕版老照片,有些從未公開

霹靂炮
2024-10-26 16:10:03
42歲技術總監被辭僅得8萬,秒退所有工作群,次日217個未接來電

42歲技術總監被辭僅得8萬,秒退所有工作群,次日217個未接來電

磊子講史
2025-06-21 16:39:29
52歲董卿近況曝光,醫院出來需要攙扶,才發現撒貝寧早已暗示一切

52歲董卿近況曝光,醫院出來需要攙扶,才發現撒貝寧早已暗示一切

二月侃事
2025-07-01 10:44:53
利雅得新月淘汰曼城引熱議,球迷:理解C羅在沙特無冠,給他道歉

利雅得新月淘汰曼城引熱議,球迷:理解C羅在沙特無冠,給他道歉

側身凌空斬
2025-07-01 12:33:50
南航空少靜江去世,年僅38歲!吃生腌引發病情,最后畫面讓人破防

南航空少靜江去世,年僅38歲!吃生腌引發病情,最后畫面讓人破防

壹月情感
2025-06-24 23:07:16
2025-07-01 16:55:00
軟測試驗田
軟測試驗田
軟件測試領域最新最前沿資訊
116文章數 127關注度
往期回顧 全部

科技要聞

不懼小米YU7?特斯拉逆勢漲價

頭條要聞

美軍前司令抱怨主力預警機"嚴重過時":它看不見殲-20

頭條要聞

美軍前司令抱怨主力預警機"嚴重過時":它看不見殲-20

體育要聞

創造歷史!世俱杯首次亞洲球隊戰勝歐洲

娛樂要聞

瘦到脫相!鹿晗首度回應暴瘦內情?

財經要聞

習近平:縱深推進全國統一大市場建設

汽車要聞

2026款MG Cyberster/MG5 兩款新車售5.99萬起

態度原創

藝術
數碼
旅游
公開課
軍事航空

藝術要聞

故宮珍藏的墨跡《十七帖》,比拓本更精良,這才是地道的魏晉寫法

數碼要聞

掠奪者存儲推出 GP30 RGB 電競移動固態硬盤,待機、讀寫不同光效

旅游要聞

熱聞|清明假期將至,熱門目的地有哪些?

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

涉伊核機密情報再泄露 白宮急了

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 阳东县| 融水| 称多县| 阿鲁科尔沁旗| 梁山县| 科技| 宝应县| 深州市| 邵阳县| 灯塔市| 开阳县| 嘉兴市| 布尔津县| 城市| 新乡市| 喀什市| 南丰县| 台前县| 嘉黎县| 柘城县| 屏东市| 旌德县| 东阳市| 手游| 广河县| 宝兴县| 琼中| 信丰县| 来宾市| 石河子市| 铜陵市| 呼玛县| 奉化市| 六枝特区| 淳安县| 台北县| 西贡区| 崇信县| 广元市| 广州市| 福贡县|