這是谷歌目前最強的開源視覺大模型之一Gemma3,它能夠分析文本,圖片以及視頻的內(nèi)容,并給予你所需要的答案,而且它完全免費開源。
所需要的本地部署工具我已經(jīng)打包好了,有需要的朋友可以在這里獲取。
從這張目前主流的AI大模型評分圖上可以看到,Gemma3的27B大模型幾乎可以媲美deepseek的R1大模型了,這就意味著我們能在一臺性能不錯的家用電腦上來本地部署媲美deepseekR1大模型。
Gemma3開源了1B、4B、12B和27B的大模型,其中4B、12B、27B為多模態(tài),支持140種以上的語言。在普通主流的家用電腦上使用4B或12B的大模型都可以流暢運行。
在這里我就以多年前的一張2070S 8G顯存的顯卡來本地部署可以媲美deepseekR1大模型的Gemma3 12B,看能不能流暢運行。
首先安裝工具包中的ollama。
安裝完成后在windows系統(tǒng)中win+R召喚出運行框,并輸入CMD回車。
在彈出的命令框中輸入:ollama run gemma3:12B,如果你電腦配置足夠好,也可以把12B修改成27B,來配置更聰明的Gemma3模型。
等待下載模型結(jié)束后,在命令提示框中輸入問題,它在我的2070S顯卡上的回復(fù)速度還是相當快的。
現(xiàn)在就有個問題,我們?nèi)绻看涡枰臅r候,都要在命令提示框中運行,顯然很不方便,這時,我們就需要在瀏覽器上安裝一款插件,來可視化運行它,需要它的時候,打開瀏覽器就可以直接使用。
這里我以谷歌瀏覽器為例,如果你上網(wǎng)環(huán)境支持,可以在谷歌商店中去搜索Page Assist插件并直接安裝。
如果你的上網(wǎng)環(huán)境不支持打開谷歌商店,可以在我打包好的工具包中來安裝Page Assist插件。
在谷歌瀏覽器的右上角點三個點,選擇擴展程序,管理擴展程序。
然后將Page Assist插件拖到擴展程序中,點擊應(yīng)用擴展即可。
點擊瀏覽器右上角的Page Assist圖標就可以直接進入到AI可視化界面。
點擊設(shè)置,修改為簡體中文。
如果你要使用到網(wǎng)絡(luò)搜索功能,這里設(shè)置成國內(nèi)的搜索引擎,否則在網(wǎng)絡(luò)環(huán)境不支持的情況下無法正常回答。
在這里選擇Gemma3:12B大模型。
開始對它提問,這個回答速度相當?shù)目臁?/p>
讓它來分析一下圖片,分析的結(jié)果還是很準確的。
給它一張圖片,讓它根據(jù)圖片來寫一篇文章。
讓它來做一道數(shù)學(xué)的邏輯題,答案也是正確的。
這里也僅僅演示了一些普通問題,它還能為你分析本文,圖片和視頻來給予你相應(yīng)的答案,還有很多更專業(yè)的玩法你可以慢慢去嘗試,如果你想電腦上能部署可以媲美deepseek R1模型的AI,它完全可以滿足你!
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.