機(jī)器之心編輯部
在 iPhone 上跑 Gemma 4,相信很多人都嘗試過(guò)了。從大家的反饋來(lái)看,模型的可玩性還是很強(qiáng)的,聊一些簡(jiǎn)單問(wèn)題也很流暢,只是在上下文變長(zhǎng)、開(kāi)啟深度思考時(shí)速度會(huì)變慢,而且會(huì)有手機(jī)發(fā)燙、耗電飛快等問(wèn)題(詳細(xì)反饋參見(jiàn)這篇文章的評(píng)論區(qū):《iPhone 本地跑 Gemma 4 火了,0 token 時(shí)代還有多遠(yuǎn)?》)。
此外,最近還有不少人在研究另一種玩法:在電腦上運(yùn)行 Gemma 4 并將其與龍蝦(OpenClaw)連接
一開(kāi)始,大家只是自己小范圍嘗試,比如有一個(gè)博主說(shuō)自己在 Mac Studio 上安裝了 Gemma 4 31B 版本,并聲稱(chēng)由于這種本地部署不花 token 費(fèi)用,這臺(tái) Mac Studio 3 個(gè)月就能回本。當(dāng)然,這種說(shuō)法是否站得住腳,還得看模型性能是否真的那么能打。
![]()
今天,谷歌 Gemma 官方也下場(chǎng)了,直接教大家如何分三步把 Gamma 4 和龍蝦連上。
![]()
做法其實(shí)很簡(jiǎn)單。第一步:下載安裝 ollama:https://ollama.com/download
![]()
第二步:將 Gemma 4 的合適版本(官方推薦的是 26B A4B)下載到你的機(jī)器上。你也可以跳過(guò)此步驟,因?yàn)椴襟E 3 會(huì)處理所有事項(xiàng)。
![]()
第三步:通過(guò) Ollama 以 Gemma 4 為后端啟動(dòng) OpenClaw。這將自動(dòng)在你的系統(tǒng)上安裝 OpenClaw 并使用 Gemma 4 26B A4B 啟動(dòng)它。
![]()
當(dāng)然,具體選哪個(gè)版本的 Gemma 4,還要看你電腦的配置情況,有人給出了以下參考建議,看來(lái),要想運(yùn)行官方推薦的 26B A4B 版本,你得買(mǎi)一臺(tái) Mac Studio M4 Pro 48GB 或與之相當(dāng)?shù)臋C(jī)器。
![]()
至于顯存,不同的機(jī)器要求也不一樣,如果是 Mac Studio M4 Pro 48GB,16GB 可能就夠用了。如果是配置 GPU 的筆記本電腦,顯存可能至少要達(dá)到 18GB。
![]()
![]()
看了谷歌官方給的這個(gè)教程,有人感慨地說(shuō):Gemma 4 + OpenClaw 的整個(gè)流程超級(jí)干凈,就三步,清晰直接,沒(méi)有任何彎彎繞繞、隱藏依賴(lài)、provider 配置、endpoint 調(diào)不通、embedding 缺失、模型不響應(yīng)這些破事。以前做本地 Agent 的人,經(jīng)常要花好幾天調(diào)各種細(xì)節(jié)、debug 文檔里根本不寫(xiě)的坑、面對(duì) API 貴、模型卡死、上下文爆炸、今天能跑明天就崩的問(wèn)題。所以這次發(fā)布真正厲害的不是模型本身「輕量又強(qiáng)」,而是終于把「本地跑 Agent」從一場(chǎng)每天都在打的苦戰(zhàn),變成了真正可復(fù)制、簡(jiǎn)單可用的東西。
![]()
那跑起來(lái)效果怎么樣呢?從反饋來(lái)看,即使是最大版本的 Gemma 4,智力水平上和 Opus 等頂尖模型肯定還是差一大截,而且在調(diào)用工具、長(zhǎng)上下文等方面短板明顯。這讓很多人質(zhì)疑本地部署這一模型的實(shí)用性。
![]()
![]()
![]()
但也有人指出,其實(shí)很多人用龍蝦處理的任務(wù)都相當(dāng)簡(jiǎn)單,比如做簡(jiǎn)報(bào)、會(huì)議轉(zhuǎn)錄和一些定時(shí)任務(wù),這類(lèi)任務(wù)讓本地模型去跑還是很實(shí)用、很劃算的。
![]()
![]()
![]()
此外,還有一個(gè)值得關(guān)注的問(wèn)題,在 OpenClaw 里用小模型到底安不安全?
龍蝦之父 Peter Steinberger 曾在采訪中說(shuō),他奉勸大家不要用廉價(jià)的小模型或本地模型,因?yàn)檫@類(lèi)模型很容易受到提示注入攻擊,更加智能的模型在一定程度上更容易識(shí)別出這種攻擊。
![]()
所以,這種部署方式到底要不要嘗試,大家還得自己掂量一下。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.