13 min read

RSI 不是你以为的那个指标:所有人都在让 AI 更快解题,真正的门槛是让它自己出题

Source: http://x.com/i/article/2063608525100871680

这一轮关于“AI 自我改进”的争论,大家吵的是它会不会失控,却很少有人停下来问一句:它到底还差哪一步。而差的那一步,未必在算力上,更像在一个很老的哲学问题上。

图像

一、同一个月,两条拧着来的新闻

六月初,Anthropic 出了一份报告,叫《When AI builds itself》。两位作者 Marina Favaro 和 Jack Clark 先甩了个数字:公司里超过八成的生产代码,如今已经不是人写的,是 Claude 写的。接着他们讲,AI 能独立干完的活,长度过去一年还在加速变长。然后笔锋一转,呼吁全世界给自己留一个“踩刹车”的选项——必要时减速,甚至暂停前沿模型的训练。CNN 第二天的标题很不客气:Anthropic 在喊着要给 AI 装刹车。

往前数三个礼拜,五月中,另一家公司从隐身状态里钻出来,方向刚好反着。它叫 Recursive Superintelligence,八个人,没有产品,估值四十六亿五千万美元,GV 跟 Greycroft 领投,英伟达、AMD 跟。它要干的事,直接写进了公司名:让 AI 递归地改进自己,一路改到超级智能。

一边喊停,一边四十六亿美金踩到底。

我想讲的是,围绕它的这场争论,可能从头就问错了。

图像

二、加速还是踩刹车,两边盯的可能都是错的地方

把这两条新闻摆一起,直觉会告诉你这是两个阵营:一边踩油门,一边拉手刹。再往下挖,你还能翻出不少耐人寻味的细节——比方讲,英伟达跟 Alphabet 其实两头都押,既给 Recursive 递钱,也是 Anthropic 的股东兼算力供应商。卖铲子的,从来不挑哪个矿工。

这些都对。但它们全都绕开了一个更底层的问题:RSI——recursive self-improvement,递归自我改进——现在到底卡在哪一步?

道理很简单。不管你是想加速它还是想暂停它,你总得先弄清楚,那个“它”指的是什么能力。偏偏这一点,是被吵得最少的。大家忙着站队,没人回头看一眼,这台机器到底缺哪个零件还没装上。

三、今天的“AI 改进 AI”,都还停在解题这一层

先看一个最像 RSI 的例子。

去年五月,DeepMind 放出 AlphaEvolve,一个由 Gemini 驱动、会自己改写算法的进化式编程系统。它的成绩很硬:找出来的新算法帮谷歌全公司省下大约 0.7% 的算力,把 Gemini 自己的训练提速了百分之一,还顺手破了一个 1969 年用到现在、几十年没人超过的矩阵乘法纪录。听上去,这已经很接近“AI 在改进训练 AI 的系统”了。

但你扒开看它怎么转。人先定一个目标,再配一个能给答案打分的评估器,AlphaEvolve 就在这个框里头反复变异、试错、留下更好的版本。题目是人出的。它干的活,是把答案磨得更亮。

Claude 写掉 Anthropic 八成代码,同一个路数——任务跟规格,来自人。Anthropic 那句“AI 能干完的活越来越长”,连同独立评测机构 METR 测出来的“这个时长从每七个月翻一倍、最近加速到每四个月翻一倍”,指向的也是同一件事:给定的题,AI 解得越来越长、越来越快。

这些都是解题能力,而且解得是真的猛。但有一点没变:题目还是人出的,AI 只负责把答案做得更快、更好。

图像

四、出题为什么是另一回事,而且难得多

解题有个前提:有一道题,还有一把尺。AlphaEvolve 之所以能跑,是因为人给了它一把尺——能给每个答案打分的评估器。有了尺,机器就能闷头优化,一万次、一百万次,总能找到分更高的那个。AI 这几年最唬人的进步,几乎全发生在“有尺可量”的地方:下棋、刷题、写代码、跑分,都是。

出题没有尺。

你让一个系统自己去找“下一个值得做的问题”,它面对的是一片没有边、没有标准答案、也没人事先打分的空白。什么算一个好问题?什么问题做出来才有价值,什么做完一文不值?这件事连人类研究员自己都讲不太清楚。一个真正厉害的科学家,值钱的地方往往不是他解题多快,而是他能在所有人都看不见路的地方,挑出那条对的岔口。这种东西,我们勉强叫它“品味”——一种说不明白、也很难标注的判断力。

机器要学会出题,等于要学会这种品味。可你连什么是对的都标不出来,又拿什么去训练它?这是出题比解题难一个数量级的根。它没有现成的尺,而造尺这件事本身,又得靠品味。

图像

五、往回退一步,这其实是个很老的哲学问题

物理学家 David Deutsch 在《无穷的开始》里,讲过一个跟大多数人直觉相反的判断:知识根本不是从观察和数据里“归纳”出来的。你盯着再多数据看,也归纳不出一个新理论。真正的新知识,是先有一个问题,然后人大胆地“猜”出一个解释,再用批判一点点把错的地方剔掉。创造,是从猜想开始的,是一次越过已有数据的跳跃。

他还给“好解释”立了一条标准:好的解释是“难以变动”的——它的每个细节都被卡得死死的,你没法随手改掉一处而不毁掉整个解释。烂解释正相反,怎么圆都行,所以其实什么也没解释。

拿这套眼光回头看今天的 AI,事情一下就清楚了。AlphaEvolve 也好,大语言模型也好,本质都还是在已有的数据和给定的尺子上做归纳、做优化。按 Deutsch 的标准,这算不上创造知识——它是在已知的范围里把答案磨亮,不是在已知的边界外猜出一个新解释。解题,是归纳和优化;出题,才是 Deutsch 讲的那种创造。机器现在会前者,不会后者。

这本书还顺手把另一件事点穿了:未来的知识,本质上没法预测。原因很简单——你要是能预言出下一个伟大的想法,就等于你现在已经想到它了。所以回头看那些“RSI 有六成概率在 2028 年前到来”的下注,会发现它们在哲学上是站不住的。一个真正的创造性跳跃,什么时候发生谁也算不出来,因为它一旦能被算出来,就不叫跳跃了。这些数字更像情绪定价,不是预测。

六、工程师管它叫 open-endedness,而 Anthropic 自己也认了

Deutsch 给的是哲学名字,工程界给的是另一个,叫 open-endedness,开放式。

DeepMind 有篇论文,标题直接就是《开放式是超级智能的必要条件》。它问的是:一个系统能不能像大自然演化那样,源源不断自己生出又新、又学得会的问题来。演化背后没有谁在出题,它就这么自顾自地造出了长颈鹿、毛毛虫、人,几十亿年不停工,也不重样。这其实就是 Deutsch 那个“无穷”的另一种说法——一旦创造新知识的引擎转起来,进步就没有上限。

更值得划线的,是 Anthropic 自己报告里的一句话。他们讲,今天的 AI 跟一个“能自主设计自己后继者”的系统之间,唯一还没填上的鸿沟,是 research taste——选择哪个问题值得做的判断力。翻过来看,执行那一层他们已经认了基本搞定,真正卡死的,恰恰是出题。

到今天为止,没有哪个系统真正迈过这一步。是有一些早期的尝试,但离“自己发现一个值得研究的新问题”,还差得远。这部分我说得保守些——它更像一道还没解开的开放课题,不是一个快要上线的功能。谁要是拍胸口讲 RSI 已经成了,他多半没分清解题和出题。

图像

七、最懂 RSI 的那帮人,押的刚好就是这颗种子

再回到那家四十六亿美金的公司。它八个联合创始人里,有一个叫 Jeff Clune。

Clune 这大半辈子的研究,几乎就钉在 open-endedness 上,外加他自己起名的一套思路:AI-Generating Algorithms——不靠人手工去设计,而是让 AI 自己生成问题和算法。他早年那个 POET 系统,干的就是让 AI 不停造出越来越难的新环境,再回头一个个把它们解掉。这种活,正好踩在“出题”这条线上。八个人里还有原 Meta FAIR 的田渊栋、ViT 论文作者之一 Dosovitskiy、原 OpenAI 的 Josh Tobin。一桌子人,履历都顶。

这说明一件事:这笔钱押的根本不是“把解题做得更快”,而是那个连 demo 都还没有的“出题”能力。最懂 RSI 的一批人,赌的是种子,不是算力。

类似的信号还不止一处。OpenAI 一边定下 2028 年要造出“自动 AI 研究员”的目标,一边挂出一个年薪四十几万美金的岗位,专门研究怎么防住 recursive self-improvement 的风险,招聘要求白纸黑字写着,要找“有品味、有战略”的人。连设防的位置都在抢品味,这本身就说明,里头的人心里都清楚,瓶颈在哪。

这一轮没产品就拿天价估值的,也不止 Recursive 一家。Ilya 的 Safe Superintelligence 三百二十亿,Murati 的 Thinking Machines 一百二十亿,全都还没公开产品。资本在给一个还没被造出来的能力定价。它越贵,反过来越说明,没人真信它明天就能兑现。而且有意思的是,这几注最重的钱,押的地方几乎都在海外——Recursive 总部在伦敦,人是从美国的实验室拉出来的。在“让机器自己出题”这件最没尺可量的事情上,真正下重注的玩家,目前还集中在那一头。

图像

八、如果 AI 真学会出题,失控的意思也跟着变了

绕回 Anthropic 那脚刹车。这里有个不太好笑的地方。

当 AI 已经替你写了八成代码、跑出五十二倍于人的速度,你“批准”它的那个能力,其实在悄悄缩水。你人还坐在审批那个位置上,但你越来越审不动了。东西太多、太快,你只能签字,签到后面,签字这个动作就空掉了。

而一旦 AI 真的开始自己出题,这件事会更刺手。它给你提的方向,你可能连“该不该做”都判断不了——因为能判断这个的,正是那种被它一点点接管走的品味。

所以真正的失控,未必是科幻片里 AI 哪天醒过来反咬你一口。它可能平淡得多:人还坐在那个“同意”的按钮前,只是已经看不懂自己在同意什么。这一步现在还远,但方向先记下来不亏。

图像

九、结语:种子还在人手上,这才是无穷的开始

把 RSI 还原成最朴素的样子。

它真正到来的那一天,不是 AI 解决了我们出的难题——那件事它早就在做,而且一天比一天快。而是 AI 头一回,自己问出了一个我们压根没想到该问的问题。在那之前,加速得再凶,也只是一台更快的解题机器。

Deutsch 在《无穷的开始》里有一句很乐观的话:问题是必然的,而问题是可解的。凡是不被物理定律禁止的,只要掌握了正确的知识,迟早能做到。顺这个逻辑,机器会出题、会创造解释,原理上没什么不可能。但他自己也提醒过,靠现在这条路走不过去——因为我们连人是怎么猜出一个新解释的,都还没搞清楚。你没法去造一个你还没理解的东西。

这才是这件事最迷人、也最容易被天价估值盖过去的地方。真正的“无穷”,不是算力堆上去、解题越来越快,而是那台自己生出新问题的引擎,头一次在人之外的地方转了起来。它会不会转、什么时候转,眼下没有一个人真的知道。

种子,还在人手上。