4 min read

Mac 本地部署谷歌 Gemma 4 教程

Source: http://x.com/i/article/2040387834562088960

我在 mac mini 上部署了 openclaw 和 claude,两个 AI 员工用起来非常顺,就是有一点不好,贵! Token 烧起来真是无底洞,我就想,能不能本地部署一个稍微“聪明”点的模型,来处理日常不需要复杂推理的任务,就不用天天用在线模型烧 Token 了

寻寻觅觅,一直没找到让我满意的,直到这两天,赛博菩萨谷歌发布了新的开源模型 Gemma 4,量大管饱,冲!

不废话,直接开始分步教程(小白友好):

1、不会命令行没关系,找到 “终端”,我们只用几行命令就搞定。

终端:mac系统内置的命令行工具

cmux:可以自由分窗口的命令行工具,很方便监控多个线程(推荐)

Image

2、安装 Ollama

Ollama这个app,你可以理解为一个打包好的对话窗口,而且可以方便下载切换各种模型,甚至帮你安装各种工具和API,比如 openclaw,对 CLI 不熟悉的小白,推荐安装。

我们使用 Homebrew 安装:

brew install --cask ollama-app

如果没有 brew,先要安装升级 brew

Image

更新好了,就会自动安装 Ollama,看到下面这个提示,就表示安装成功了。

Image

3、打开 ollama,下载 gemma模型,我下载的是 gemma4 : 31b,大家要根据自己需求以及电脑配置来选择模型,下一步简单说一下。

启动 ollama:

open -a Ollama

下载 gemma4 :31b 模型:

ollama run gemma4:31b

Image

4、Gemma有四个版本,能力也各有不同,配置主要吃内存,为了确保运行模型后不卡,简单用你的内存/2,看看下表哪个模型合适:

Image

5、gemma4 : 31b 有 19G,ollama把模型下载完了就自动挂载运行,可以直接在命令行和他对话了。

Image

礼貌性问一句:“你是谁”

Image

回答正常,Gemma 4 就这么部署完毕,简单吧,哈哈哈🤣

6、如果不习惯 CLI 命令后对话,我们刚才安装的 Ollama 是有 app 界面的。

就是这个羊驼🦙图标

Image

7、打开后,可以看到这里有很多模型可以切换,这里直接可以点击下载,因为 gemma 4 比较新,在 app 上还没有选项,所以我刚才是用 cli 命令行模式下载的,下载之后,app 界面就可以看到 gemma 4 的选项了。

选择他,开始享受本地模型 0 token 消耗的快乐吧

Image

8、Ollama 还可以一键安装 openclaw,各位可以按需安装

Image

9、进阶,安装 openclaw,复制这个命令,一键安装

ollama launch openclaw

Image

安装好之后,会提示你选择模型,用上下箭头选择模型,我选刚才安装的 gemma 4 :31b模型作为 openclaw 主模型,彻底实现龙虾自由!

Image

谷歌家龙虾已到位

Image

好了,本教程结束,我接下来会分享我如何用 tg 聊天,安排我的两个 AI 员工日以继夜替我工作的经验,哪怕我在高铁上,也不用拿出笔记本,仅用手机就可以遥控指挥,简直不要太爽,哈哈哈。