目前大家能看到一些講 DeepSeek 或者使用大模型 建立本地知識庫的視頻或者文章,基本上都有很多的點擊或熱度,但到目前為止(20250223)基本沒有太大實用價值。
拿DeepSeek 來說,可供下載的有很多版本,其中比較推薦的是R1和V3。
R1提供了從1.5B到671B不同大小的模型,而V3只有671B,而671B需要的電腦性能個人電腦幾乎不可能滿足,大家可以直接安裝并且部署R1模型。
7B 速度快,質量差。14B,質量好一點,速度慢。32B ,質量好,但速度很慢。
個人電腦可以根據配置來進行選擇,1.5B太小,可以從 7B開始試,要是電腦配置高一些推薦14或者34b,而這樣的電腦基本上要 2、3萬的配制才行,要是想安裝滿配的模型要6-8萬,正常家用的電腦要是一萬左右的電腦就是安裝完了,響應的速度也非常慢。要是用Mac 最好也是16G或24G內存的機器, 8G就不要考慮了。
而且 7B的模型,容量有限,下載的DeepSeek 7B的模型,跟官網的是天差地別,完全不一樣,14B能好用一些,32B更好,但配置要求高。注意官網是訓練完數據并經常調教后的滿配模型 。當前本地目前只支持 MD、txt,字數也有限制,太大也不行、視頻和圖片都不支持,基本上沒有任何的實用性。
AI+本地知識庫這事現在別太急,估計還要幾個月或一年左右才能有些實用性。
當前情況下要是真的想使用,可以考慮 Cursor + Obsidian ,這是我目前嘗試過所有的方法中用起來還有用一點的方式,然后使用 OpenAI、Anthropic 或 DeepSeek 的API,但配置起來比較麻煩,要機場,還要會給相應的帳戶充值。
圖2是 Cursor 的大模型界面,這是新的AI編程工具,需要單獨付費。
線上的知識庫會更容易,可以考慮用 知乎直答 目前每個提供1G的空間,基本上夠用,或者用 IMA 做自己個人的知識庫,幾千條數據都不大,但目前也只是支持文本。
要是純粹做研究,可以自己找個接入滿配的 DeepSeek 模型云主機,租一個,然后自己喂資料,花點時間和錢 訓練一個專有的大模型,需要你有足夠的資料和數據才行,先要對資料進行處理和轉換才能用。需要掌握相應的模型調效知識和一些編程開發知識,相對麻煩一點。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.