99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

太牛了!400塊洋垃圾,也能在本地部署DeepSeek?!

0
分享至



在我看來,2025年絕對能稱得上是中文大模型的顛覆之年。

DeepSeek的橫空出世,不僅打破了英偉達主導的“算力決定一切”的刻板印象,也打破了美國在大模型領域的長期主導地位,甚至一度挑起了全球大模型領域的價格戰,讓更多的人能夠體驗到大模型帶來的樂趣。

至少從抖音、快手上的反應來看,對普羅大眾而言,DeepSeek的出現確實把“人工智能”這樣一個遙不可及的概念帶到了人們身邊。

哪怕是我這個浸淫大模型兩年半的雷科技練習生,在過年期間不僅沒少給身邊的父母親戚介紹這DeepSeek到底是什么,自己也是時不時就拿起手機來玩一下,沒辦法,能在不要錢的基礎上提供這種問答質量的中文大模型,目前也就DeepSeek能做到了。

要說有什么問題嘛,還得是這服務器的問題了。



特別是我這邊發出請求,然后看著DeepSeek在那里轉個半天,最終卻只能憋出個“服務器繁忙,請稍再試”的時候,那種挫敗感是真的難受,讓人迫切想要在本地部署一個屬于自己的DeepSeek推理模型。

問題就出在成本上,按照常理來說,想要購入一臺能在本地運行大模型的設備,那要不就是售價在5000元以上的AI PC筆記本,要不就得自己著手去裝配一臺搭載獨立顯卡的整機,不管哪個選擇對普通消費者來說都不夠友好。

不過將預算壓縮到極致,然后搭配出一套「能用」的主機,正是每一位DIY玩家的終極樂趣,而這給我帶來的挑戰就是,如果真的想弄一臺可以本地運行DeepSeek模型的電腦,到底需要多少錢?

我的答案是,400元。

盡管近期正經的內存和硬盤有價格上漲的趨勢,但是在洋垃圾這邊其實價格變化倒是不大,甚至一批早年的洋垃圾CPU和礦卡GPU還有價格下跌的趨勢。在如今大模型潮流席卷而來的背景下,我甚至不準備拘泥于辦公影音需求,決定挑戰一下用四百塊錢的預算,試著去打造出一套性價比頗高的入門級本地大模型主機。

至于具體應該怎么操作,最終成效是否如意,跟著我一起看下去自然就知道了。

越陳越香的洋垃圾

既然說了要在400塊內搞定,那么如何在盡量低的價錢內完成整機的裝配就變得至關重要了。

在CPU的選擇上,我直接從PDD上撿了一顆Intel? Core?i3-4170,售價22元。

該處理器為二核四線程,3.7GHz主頻,沒有睿頻能力,具備3MB智能緩存,采用22nm制程工藝的Haswell架構,而它最大的特點就是擁有一顆HD4400核顯,這也是我選擇它的關鍵。

(圖源:PDD)

俗話說得好,低價U配低價板嘛。

所以主板的話,我就選擇購入了一塊銘瑄MS-H81M Turbo,只有兩根DDR3內存插槽不說,甚至都沒有HDMI輸出接口,也沒有M2硬盤位,USB 3.0、SATA III接口都只有兩個,但是它在PDD上面只要79塊錢。

這加起來僅需100左右的板U套裝,性價比放在今時今日也是出類拔萃的。



(圖源:雷科技)

這種CPU,散熱就不用太擔心了。

PDD上面14.9包郵寄過來的雙熱管風冷散熱器,雖然外觀上是丑了一點,簡陋了一點,但是用來壓我這一套超低價配置肯定是綽綽有余了。



(圖源:雷科技)

至于顯卡嘛,近期閑魚上面流出了一大堆P106-090和P106-100礦卡,其中前者的價格普遍在70塊錢左右,后者的價格普遍在120-140塊錢左右。

兩者之間最大的差別在顯存上,P106-090僅有3GB顯存,而P106-100則有6GB顯存,盡管我這次的初衷并不是為了游戲而來,但是更高的顯存規格確實可以運行更高效的本地大模型,所以我最終還是拿下了一張技嘉的P106-100,售價130元。



(圖源:雷科技)

最后,給它簡單配上兩根雜牌DDR3內存,組成內存雙通道,用一個300W長城電源供電,一塊120GB SATA SSD做系統盤,用上次裝機剩下來的大水牛硅脂湊合湊合,最后再配上個20塊錢的電腦城小機箱...

完成!請欣賞一下我用四百元裝機的成果吧。



(圖源:雷科技)

然后是我給出的參考價格表,感興趣的大伙也可以試著照這張表格上的配置自己配一下,總之價格上不會差太多。

你要是更追求性價比的話,甚至把機箱換鞋盒也不是什么大問題。



(圖源:雷科技)

裝機完成,點亮主機!

先做個簡單的性能測試,作為多年服役的老將,Intel? Core?i3-4170的性能也就那樣,即便是在用TrottlesStop解鎖功耗的情況下,也就差不多相當于移動端酷睿六代、酷睿七代處理器的水平。



(圖源:雷科技)

在實測環節中,CPU-Z測試單核跑分有373.4分,多核跑分有1025.2分,在CINEBENCH測試標準下,CINEBENCH R20多核824cb、單核346cb,CINEBENCH R23多核1914cb、單核905cb。

亮眼肯定是不夠亮眼,但是拿來日常辦公、輕度娛樂倒是夠了。



(圖源:雷科技)

再看看GPU部分,我手上這張技嘉P106-100采用16nm工藝打造,顯卡核心為GP106,核心頻率為1506MHz,可提升到1709MHz,具有1280個著色單元,支持DirectX12,顯存規格為6144MB/192Bit GDDR5內存,顯存頻率可達2002MHz。

在測評DX11性能的Fire Strike測試中,P106-100在Extreme測試中取得了6490分的圖形分數;在測評DX12性能的TimeSpy測試中,P106-100在基本測試中取得了4428分的圖形分數。





(圖源:雷科技)

這個性能表現和GTX1060差不多,甚至能和移動端RTX 3050碰一碰了。

存儲方面,我們斥資40元購入的這塊雜牌128GB SATA SSD硬盤,順序讀寫速度達到505.24MB/s和369.63MB/s,隨機4K讀寫達到132.06MB/s和246.55MB/s,雖然和M2 SSD硬盤沒得比,但是作為系統啟動盤肯定是綽綽有余了。



(圖源:雷科技)

至于這對雙通道的DDR3內存,使用AIDA64進行內存緩存測試,測得的讀取速度為18557MB/s,寫入速度為19889MB/s,復制速度為17914MB/s,延遲為67.2ns,給這臺電腦用可以說是剛剛好。



(圖源:雷科技)

百元機,用上DeepSeek

既然目的是在幾百塊錢的預算下,打造出一套可用的本地DeepSeek主機,那么體驗肯定是我們最關注的一環。

首先,要說真正的DeepSeek-R1,那便只有一個版本,即671B的原始版本,其中包含大量的參數,推理精度確實高,但需要大量計算資源,而且顯存至少為1342GB。



(圖源:HuggingFace)

這顯然是P106-100承受不起的,也沒有哪張消費級顯卡能承擔得起就是了,官方推薦的方法是用16張NVDIA-A100 80GB顯卡,或者是組成Mac電腦集群,用高速度的統一內存去跑。

像我們這種消費級顯卡,就只能用“蒸餾模型”

所謂蒸餾模型,可以看成“老師教學生”,通過知識蒸餾,教更精簡的模型學會復制較大模型的行為,擴充性能,減少資源需求,而用DeepSeek-R1蒸餾的話,主要就是給這些模型加入“深度推理”的概念。

再降低一下模型精度,就能看到我們能夠部署的蒸餾模型。



(圖源:HuggingFace)

然后根據Unsloth提供的報告,DeepSeek-R1-Distil-Qwen-7B是符合需求的蒸餾模型中表現最出色的,各方面測試成績均超越了理論參數更多的DeepSeek-R1-Distil-Llama-8B。

那么我們今天要部署的,自然就是DeepSeek-R1-Distil-Qwen-7B



目前想在PC本地部署DeepSeek有兩種辦法,其中最常見的應該是Ollama+Chatbox AI的組合。

所謂Ollama,其實就是一款比較流行的本地大模型服務端工具,部署起來也很簡單,只要在Ollama官網搜索DeepSeek-r1,下面就會有不同大小的蒸餾模型渲染,然后搭配客戶端啟動就行了。



(圖源:Ollama)

安裝后,Ollama一般就在本地的11434端口開啟服務了,但此時你只能在終端中進行交互,但是要獲得像DeepSeek官網一樣的體驗,還是需要額外的前端客戶端才行。

而Chatbox AI,就是最常見的一款前端產品。

不同于服務端的純文字內容展示,Chatbox AI將大部分設置、功能進行了圖形化,使用戶的體驗更加直觀,而且這款產品支持眾多本地AI模型和API接口,自然也可以使用本地Ollama 11434端口的服務。

接入之后,大概就是這個樣子。



(圖源:雷科技)

你可以在Chatbox AI定義自己想要交互的模型人設,

但要論角色扮演的話,第二種部署方法或許會更適合一點。

為你介紹Koblodcpp,這是一款整合Koblod.AI界面的llamacpp啟動程序,可以運行目前外網流行的GGUF格式本地大模型,甚至可以整合語音大模型和繪圖大模型,實現在對話的同時,生成語音和對應場景的效果。

只要在HF-Mirror下載對應的大模型,然后就能用Koblodcpp啟動了。



(圖源:雷科技)

使用Koblodcpp,你就可以加載通用格式的角色卡,實現和各種不同的角色對話交流的獨特體驗。

如果這還不夠,你還能夠借助Koblodcpp的端口部署SillyTarven,后者是目前全網公認的最好用的大模型角色扮演前端,能夠幫助用戶實現對話邏輯的定義,對用戶自身人設的定義,加載補充世界觀的Lorebook和載入圖片、動圖以及互動代碼來完善角色扮演體驗。

甚至...可以讓DeepSeek實現破限,做到一些云端大模型做不到的事情。

簡單介紹完部署方法后,接下來就該進入實測環節了。

用一些常規問題和它進行交互,就能看到詳細的推理過程,應付一些正經的初高中語文、數學、英語問題,本地部署的DeepSeek體驗起來還是不錯的。





(圖源:雷科技)

詢問一些關公戰秦瓊的問題,文學創作能力看起來也不賴。



(圖源:雷科技)

不過在比較復雜的數學、邏輯難題里,本地部署的DeepSeek表現就比較一般了,有不少邏輯推理題甚至會出現算不出答案的情況。



(圖源:雷科技)

因為沒有聯網的緣故,目前本地部署的DeepSeek模型的知識庫是截至2023年的,沒有比較新鮮的素材,因此一些有時效性的問題自然無法作答。



(圖源:雷科技)

至于速度的話,在限制回復長度為1024代幣的情況下,應付一道高中數學題的思考過程為127s(即兩分鐘)左右,這個速度和原版DeepSeek之間差別不大,深度思考的特性讓本地和云端的體驗大大拉近。



(圖源:雷科技)

當然了,因為思考太長的原因,本地部署的DeepSeek確實就不大適合聊天用了,喜歡聊天的建議更換Casuallm大模型進行體驗。

總結:低配置也能跑,但穩定性欠佳

優點:

1、成本預算低廉;

2、確實能運行本地大模型。

缺點:

1、二手零部件無保障;

2、礦卡驅動非常容易掉,白屏問題時有發生。

論性能,這款預算不到400元的電腦主機其實還不錯。

盡管CPU規格老舊、礦卡表現不穩定,但是這臺廉價主機確實能完成DeepSeek本地大模型的部署,在組裝完成后的這段時間里,它一度成為公司局域網內部的AI終端,還可以部署本地AI繪圖等一系列能力,算是實至名歸的AI PC。

雖然沒有具體測試,但是近4500分的TimeSpy圖形分,即便是《孤島驚魂6》這樣的3A大作,這款機子也能在FHD低畫質下保證60幀穩定運行,應付《英雄聯盟》這類網游應該是綽綽有余的,也可以當一臺入門的游戲主機來用。



說是這么說,問題當然還是有的。

先說這臺機子,為了搞好這臺機子我也是前后折騰了半天。P106-100這張礦卡多次出現掉驅動導致電腦白屏,需要用DDDU卸載驅動再重裝的情況,至于那個二手電源后面直接癱瘓了,還得去PDD上面扯皮商家才肯換貨。

目前閑魚上面還有不少和我組裝起來的這臺機子配置類似的洋垃圾整機,售價普遍在350-400元左右,目標受眾很明顯是剛上大學或者走出社會的年輕群體,個人建議大伙別去購買這些產品,一分錢一分貨可不是開玩笑的。

再說說DeepSeek,目前市面上所有的本地DeepSeek部署教程,包括我們在內,實際上部署的都是經過DeepSeek蒸餾的通義千問模型,回答一些基礎問題,簡單測試深度思考還行,復雜一點的邏輯思考能力,這本地部署的版本和全參數的版本之間的差別可不是一星半點。

只能說,真要想追求不卡的全參數DeepSeek體驗,整個API接口可能是更加合理的方法。



特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
香港行記:廟街水面之下的性交易

香港行記:廟街水面之下的性交易

悠閑葡萄
2025-06-12 11:39:07
袁立小號發文緬懷羅帥宇,連發兩條動態,看新聞難過到吃不下飯

袁立小號發文緬懷羅帥宇,連發兩條動態,看新聞難過到吃不下飯

趣文說娛
2025-06-14 11:13:03
創造歷史,穆西亞拉成為世俱杯歷史上首位替補出場戴帽的球員

創造歷史,穆西亞拉成為世俱杯歷史上首位替補出場戴帽的球員

懂球帝
2025-06-16 02:09:13
大量移動定制臺燈涌入閑魚,自帶攝像頭監控功能,全新37元

大量移動定制臺燈涌入閑魚,自帶攝像頭監控功能,全新37元

閑搞機
2025-06-15 10:58:42
又是誤判?大連英博唯一進球遭到質疑,必須嚴查!

又是誤判?大連英博唯一進球遭到質疑,必須嚴查!

冷桂零落
2025-06-15 15:50:02
伊朗迎來最強援助,巴基斯坦國防部長:將盡一切可能支援伊朗!

伊朗迎來最強援助,巴基斯坦國防部長:將盡一切可能支援伊朗!

二凱訓猛犬
2025-06-16 03:51:00
“大尺度”女星的瓜!

“大尺度”女星的瓜!

文刀萬
2025-05-23 06:05:02
越南難以啟齒的特殊行業——破光師

越南難以啟齒的特殊行業——破光師

金哥說新能源車
2025-06-15 07:20:26
6年前,那個713分考上清華的“搬磚男孩”,如今卻選擇了這條路

6年前,那個713分考上清華的“搬磚男孩”,如今卻選擇了這條路

比利
2025-06-15 12:09:16
山東高速男籃換帥內幕,鞠維松有何過人之處?

山東高速男籃換帥內幕,鞠維松有何過人之處?

魯源侃球
2025-06-15 11:05:03
正兵團職的他要求轉業,被安排省委書記處書記,為行政6級待遇

正兵團職的他要求轉業,被安排省委書記處書記,為行政6級待遇

平祥生活日志
2025-06-15 17:06:12
為啥黃圣依和楊子分開后變化這么大?

為啥黃圣依和楊子分開后變化這么大?

情感大頭說說
2025-06-16 04:25:22
印度開始全盤否定重要人物,這不是一個好征兆,歷史或將重演

印度開始全盤否定重要人物,這不是一個好征兆,歷史或將重演

智慧生活筆記
2025-06-13 18:40:17
還做夢呢?聯賽未過半前7球隊輸了個遍,魯媒仍幻想山東泰山爭冠

還做夢呢?聯賽未過半前7球隊輸了個遍,魯媒仍幻想山東泰山爭冠

老慃尾聲體育解說
2025-06-16 01:26:02
天哪!龔琳娜離婚后變化巨大,不細看根本認不出來!

天哪!龔琳娜離婚后變化巨大,不細看根本認不出來!

手工制作阿殲
2025-06-15 17:11:22
2025年養老金調整即將開始,調整細則,工齡30年的人能漲100元嗎

2025年養老金調整即將開始,調整細則,工齡30年的人能漲100元嗎

社保小達人
2025-06-15 09:50:04
美記:KCP會回春 科安能頂莫蘭特 選秀權用來換球員 應該都是好事

美記:KCP會回春 科安能頂莫蘭特 選秀權用來換球員 應該都是好事

直播吧
2025-06-16 02:41:22
活得很爭氣,也很有骨氣的三個星座

活得很爭氣,也很有骨氣的三個星座

星座葉大仙
2025-06-15 23:16:03
3億英鎊的瘋狂!先簽4人,再搶2人,利物浦咋這么有錢了?

3億英鎊的瘋狂!先簽4人,再搶2人,利物浦咋這么有錢了?

風風拒絕焦慮
2025-06-16 04:28:46
央視首次曝光!每臺4億美元重180噸,全世界最先進光刻機揭開面紗

央視首次曝光!每臺4億美元重180噸,全世界最先進光刻機揭開面紗

史紀文譚
2025-06-14 13:23:51
2025-06-16 05:43:00
雷科技 incentive-icons
雷科技
專注AI硬科技
33434文章數 810993關注度
往期回顧 全部

科技要聞

華為Pura80系列首銷:不再嚴重缺貨

頭條要聞

以伊導彈互襲三天 位于兩國之間的約旦和伊拉克遭殃

頭條要聞

以伊導彈互襲三天 位于兩國之間的約旦和伊拉克遭殃

體育要聞

裁判可以噴,但也從步行者自身找找問題?

娛樂要聞

朱丹重男輕女惹爭議!讓弟弟吃雞腿惹怒網友

財經要聞

以伊沖突持續升級,對全球市場影響多大

汽車要聞

一汽豐田bZ5:試圖掀桌的“合資新力量”王牌

態度原創

教育
手機
時尚
房產
公開課

教育要聞

又是一道經典的應用題,經常出現在試卷上,但還有許多同學做錯

手機要聞

羅巍建議榮耀400系列手機用戶不貼鏡頭膜:影響拍照效果,還會導致雜音

林徽因嫁給梁思成,一半原因在他?

房產要聞

又一城購房補貼!買房就發錢,正在海南樓市瘋狂擴散!

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 嘉祥县| 且末县| 青州市| 黎川县| 南康市| 门头沟区| 泉州市| 宜君县| 济阳县| 永平县| 疏附县| 墨江| 英吉沙县| 五寨县| 东丰县| 阿拉善左旗| 西贡区| 张掖市| 邹平县| 嵊州市| 本溪市| 杭锦后旗| 镶黄旗| 金华市| 土默特右旗| 当阳市| 竹溪县| 长垣县| 新安县| 济宁市| 广平县| 沾益县| 揭西县| 招远市| 台南县| 都匀市| 卢氏县| 天台县| 碌曲县| 崇州市| 建平县|