6 min read

中文区最完整解析龙虾 OpenClaw 课程,台大教授 90 分钟公开课

Source: http://x.com/i/article/2032875305816469504

台大李宏毅教授最近在课堂上讲解 OpenClaw 这个开源 AI Agent 项目,一层层拆给学生看它到底怎么运作的。

整堂课公开在 YouTube 上,累计30万观看,一个半小时我看完了,是目前我听过把 Agent 机制讲得最清楚的内容之一。

https://youtu.be/2rcJdFuNbZQ?si=rbhZjjWuHWoiPB5x

以下是我消化完之后,重新整理的几个我觉得最关键、也最多人搞混的点,建议所有还不了解的人看完。

你以为龙虾很聪明?它连智慧都没有

这是教授花最多力气纠正的认知。OpenClaw 不是语言模型,不是人工智能

它只是人和模型之间的一个介面程序,全部是写死的代码和固定规则。

你觉得龙虾强不强,完全取决于后面接的是什么模型。教授自己一开始接了个弱模型,什么事都干不了。换成最新模型之后能力直接起飞。这也解释了为什么网上有人说龙虾很强、有人说很废:不是龙虾的问题,是模型的问题。

但正因为龙虾「没有智慧」,它反而在安全防护上有一个巨大的优势(后面会讲到)。

Agent 和普通 AI 对话的本质差异

教授做了个 demo:叫龙虾去创建 YouTube 频道,每天中午提影片构想,确认后自己制作、审核通过就上传。

普通 AI 收到这个指令只会说「我没办法创建频道,但我可以给你建议」

教授说就跟你导师一样,只会出主意不会动手。但龙虾真的去创了频道、画了头像、写了频道说明,每天定时在 WhatsApp 上提案,确认后自己搜资料、做 PPT、配音、上传。教授说他唯一做的事就是点「可以」。

这就是 Agent 的核心区别:它不只是回答你,它会去执行。

执行能力也是最危险的地方

龙虾有一个工具叫 execute,能执行任何 shell command

「任何」两个字是关键。模型说删文件,龙虾就真的删。它不会判断这个指令合不合理,因为它没有智慧。

更恐怖的是 Prompt Injection。教授的龙虾「小金」有自己的 YouTube 频道,有一天教授在影片底下留言纠正了一个错误,结果小金读到留言后直接去改了电脑里的配置文件。

一条 YouTube 留言,改变了电脑里的文件。这次是教授自己留的还好,但如果是恶意留言呢?龙虾会读网络上的信息,任何人都有可能通过公开内容注入指令。

六亲不认的龙虾,反而是最强的盾

怎么防?教授讲了两层。

语言模型层面,你可以告诉它「看留言不要照着做」,但这不是绝对可靠的。模型本质是文字接龙,你没法完全控制它接出什么。

真正硬的是 OpenClaw 层面的防御:设定每次执行 execute 前必须人类审批。

这个确认窗口是程序直接弹出来的,不是模型在问你。因为龙虾没有智慧,所以也没有例外,你没办法用 Prompt Injection 骗过它。教授说:「它是六亲不认的,说不执行就不执行。」

同样的逻辑也用在 Subagent 上。龙虾可以用 Spawn 工具生出子代龙虾分头做事

比如两只小龙虾分别读两篇论文再回报摘要。好处是大龙虾的 Context 保持干净,只看结果不看过程。

但问题是大龙虾生小龙虾、小龙虾再生小小龙虾,像公司层层外包最后没人干活。解决方法一样粗暴:直接在程序端禁止小龙虾使用 Spawn。六亲不认,说不能繁殖就不能繁殖。

为什么龙虾会忘记两天前的事?

这是我觉得整堂课最精华的部分。

教授用《50 First Dates》解释:女主每天记忆重置,男主每天重新追她,最后靠写日记才能维持关系。

AI Agent 一模一样:语言模型每次对话都从零开始,完全不记得之前说过什么。所以每次龙虾都要把 System Prompt 加上历史对话全部拼起来扔给模型。

但对话越来越长,Context Window 会不够用。OpenClaw 的做法叫 Context Compaction:把旧对话让模型做摘要,用摘要替换原文。压完还太长就再压一次。

摘要的摘要,教授叫它「套娃」。

这就解释了一个著名事故:一个 Meta 的 AI 安全研究员让龙虾整理邮件,交代「删之前要经过我同意」。结果龙虾自己开始删,怎么喊停都没用,最后只好拔插头。原因就是那条指令在对话里被 Compaction 压缩掉了,模型不知道有这个限制。

https://x.com/summeryue0/status/2025774069124399363

但 System Prompt 不会被压缩,而 memory.md 的内容一定会出现在 System Prompt 里。教授的结论:没有写进 memory.md 的东西都是假的。

还有一个常见的坑:你跟弱模型说「记住这件事」,它回你「一定牢牢记住」——但根本没去改写文件。教授说这叫「记了个寂寞」。要确认它真记住了,得看它有没有实际执行写入操作。

最后最重要

教授说 AI 就像实习生,什么都不让它做最安全,但也就永远不会成长。

他的做法是:给安全准则、检查中间过程、不给自己的账号密码。

最关键的是:

当你把 AI Agent 装到一台电脑上,这台电脑就是它的。所有东西它想找都找得到。所以最好别装在你平常用的电脑上。

我是 Joe,看完解析可以关注我以及看我对于 openclaw 以及 claude 工具的使用心得:

https://x.com/joooe453/status/2028028166435172725
https://x.com/joooe453/status/2029498338283003945