Mac 本地部署谷歌 Gemma 4 教程
Source: http://x.com/i/article/2040387834562088960
我在 mac mini 上部署了 openclaw 和 claude,两个 AI 员工用起来非常顺,就是有一点不好,贵! Token 烧起来真是无底洞,我就想,能不能本地部署一个稍微“聪明”点的模型,来处理日常不需要复杂推理的任务,就不用天天用在线模型烧 Token 了
寻寻觅觅,一直没找到让我满意的,直到这两天,赛博菩萨谷歌发布了新的开源模型 Gemma 4,量大管饱,冲!
不废话,直接开始分步教程(小白友好):
1、不会命令行没关系,找到 “终端”,我们只用几行命令就搞定。
终端:mac系统内置的命令行工具
cmux:可以自由分窗口的命令行工具,很方便监控多个线程(推荐)
2、安装 Ollama
Ollama这个app,你可以理解为一个打包好的对话窗口,而且可以方便下载切换各种模型,甚至帮你安装各种工具和API,比如 openclaw,对 CLI 不熟悉的小白,推荐安装。
我们使用 Homebrew 安装:
brew install --cask ollama-app
如果没有 brew,先要安装升级 brew
更新好了,就会自动安装 Ollama,看到下面这个提示,就表示安装成功了。
3、打开 ollama,下载 gemma模型,我下载的是 gemma4 : 31b,大家要根据自己需求以及电脑配置来选择模型,下一步简单说一下。
启动 ollama:
open -a Ollama
下载 gemma4 :31b 模型:
ollama run gemma4:31b
4、Gemma有四个版本,能力也各有不同,配置主要吃内存,为了确保运行模型后不卡,简单用你的内存/2,看看下表哪个模型合适:
5、gemma4 : 31b 有 19G,ollama把模型下载完了就自动挂载运行,可以直接在命令行和他对话了。
礼貌性问一句:“你是谁”
回答正常,Gemma 4 就这么部署完毕,简单吧,哈哈哈🤣
6、如果不习惯 CLI 命令后对话,我们刚才安装的 Ollama 是有 app 界面的。
就是这个羊驼🦙图标
7、打开后,可以看到这里有很多模型可以切换,这里直接可以点击下载,因为 gemma 4 比较新,在 app 上还没有选项,所以我刚才是用 cli 命令行模式下载的,下载之后,app 界面就可以看到 gemma 4 的选项了。
选择他,开始享受本地模型 0 token 消耗的快乐吧
8、Ollama 还可以一键安装 openclaw,各位可以按需安装
9、进阶,安装 openclaw,复制这个命令,一键安装
ollama launch openclaw
安装好之后,会提示你选择模型,用上下箭头选择模型,我选刚才安装的 gemma 4 :31b模型作为 openclaw 主模型,彻底实现龙虾自由!
谷歌家龙虾已到位
好了,本教程结束,我接下来会分享我如何用 tg 聊天,安排我的两个 AI 员工日以继夜替我工作的经验,哪怕我在高铁上,也不用拿出笔记本,仅用手机就可以遥控指挥,简直不要太爽,哈哈哈。