這幾個(gè)月,DeepSeek的個(gè)人應(yīng)用話題中,本地部署一直熱度不減。隨便搜索一下,各種要錢不要錢的教程多如牛毛,甚至在淘寶上也能買到,十幾塊錢到幾十塊錢都有,有幾家賣的還不少。
一位朋友這兩天對(duì)我說(shuō)他在自己的電腦上部署了本地DeepSeek,并且答應(yīng)隨時(shí)和我同步體驗(yàn)。
幾乎就在當(dāng)天,他就吐槽本地DeepSeek既卡且降智。
對(duì)比一下這兩個(gè)答案,網(wǎng)頁(yè)版DeepSeek回答的方向基本沒(méi)問(wèn)題,但本地版的答案可以說(shuō)沒(méi)有什么參考價(jià)值。
我馬上請(qǐng)教了一位大模型專家,他先問(wèn)部署的是哪一版本的。我的這位朋友筆記本只有8G顯存,只能下載14B的。
“14B的根本就不是DeepSeek啊”,專家說(shuō) 。
我去搜索了一下 ,沒(méi)錯(cuò)。DeepSeek跟R1一塊發(fā)布的參數(shù)模型,包括1.5B、7B、8B……一直到滿血 671B ,多個(gè)參數(shù)版本。
其中幾個(gè)小模型的名字分別是:DeepSeek-R1-Distill-Qwen-1.5B,DeepSeek-R1-Distill-Qwen-7B,DeepSeek-R1-Distill-Llama-8B。
其實(shí)看名字就知道了,這幾個(gè)都是用Qwen和Llama蒸餾出來(lái)的,雖然用DeepSeek蒸餾過(guò),但它還是Qwen和Llama。
但他在下載時(shí),根本沒(méi)有發(fā)現(xiàn)自己部署的根本不是DeepSeek。
至于671B滿血版,確實(shí)是DeepSeek,但查詢資料后,我發(fā)現(xiàn)硬件投資是個(gè)天文數(shù)字(千萬(wàn)級(jí)啊,不是個(gè)人玩家可以覬覦的)。
其實(shí)這些都是網(wǎng)上的公開(kāi)信息,我之前沒(méi)有想到,本地版本有這么大的需求,更沒(méi)想到這些信息完全被各種教程淹沒(méi),不特地去搜可能刷不到。
那么本地版本的價(jià)值在哪里?有人說(shuō),DeepSeek目前免費(fèi),但是會(huì)永久免費(fèi)的嗎?如果不部署在自己電腦上,一些私密的數(shù)據(jù)可以上傳嗎?
我又請(qǐng)教了大模型專家,他認(rèn)為,關(guān)于大模型的使用,和看教程相比,大家更需要先了解一點(diǎn)基礎(chǔ)知識(shí)。本月5日,他就有一場(chǎng)關(guān)于大模型基礎(chǔ)知識(shí)的直播,看了PPT,非常有幫助,我在這里打個(gè)廣告。
掃碼即可預(yù)約直播
具體來(lái)說(shuō),直播內(nèi)容核心要點(diǎn)有二:
1、 現(xiàn)在真真假假的消息太多,亂花漸欲迷人眼,希望為大家提供一個(gè)理性科學(xué)的基礎(chǔ)認(rèn)知;
2、科學(xué)技術(shù)發(fā)展太快,專有名詞太多,第一次跟大眾如此劇烈接觸,所以是科普性質(zhì)。
主講人馬驍騰,也就是前文的專家,利物浦大學(xué)碩士,大廠資深產(chǎn)品運(yùn)營(yíng)專家(快手,Opera,天工AI),近兩年轉(zhuǎn)向人工智能,是國(guó)內(nèi)前5的C端AI產(chǎn)品初始團(tuán)隊(duì)成員。
馬老師未來(lái)會(huì)和20社有一系列直播講座合作。
進(jìn)入AI時(shí)代,我們?cè)趯W(xué)習(xí)使用中,肯定會(huì)有各種各樣的問(wèn)題,為此我們決定一起拉一個(gè)AI交流群,會(huì)有馬老師以及相關(guān)專家入駐,我們的小目標(biāo)是,所有和個(gè)人AI應(yīng)用相關(guān)的問(wèn)題都能在群里解決,下面是群二維碼,歡迎大家入群。
《千億雪王為什么是資本那杯茶》
《普通人如何逃離DeepSeek幻覺(jué)陷阱》
《從Deep Seek開(kāi)始,中概股開(kāi)始價(jià)值重估?》
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.