5 min read

如何从挂谷集合构建感知记忆,从而形成agent偏好记忆

Source: http://x.com/i/article/2043321660141658112

在长期记忆系统中,一个常见误解是:只要保存足够多的历史对话,系统就算“记住了用户”。但真正有价值的记忆,并不等于原始文本的堆积。对一个长期助手来说,最重要的内容往往不是用户说过的每一句话,而是这些话背后逐渐显露出的稳定结构,例如偏好、禁忌、约束、状态转变、触发条件,以及决策是如何延续和修正的。真正的个人偏好记忆,本质上是一种结构化记忆,而不是一份聊天存档。

Kakeya-like support construction 的意义,正是在这里显现出来。它借用挂谷集合的核心直觉:一个集合即使占据很小的体积,也可以容纳非常丰富的方向信息。翻译到记忆系统中,这意味着一个系统未必需要保留完整的原始历史,也可能通过保留一层“很薄但方向丰富”的支撑结构,支持未来的召回、判断与连续推理。这里真正被压缩的对象,不再是全文,而是那些在未来仍然有用的结构方向。

传统的压缩思路通常是“先拿到完整信号,再删除冗余系数”。而 K3M 式的思路正好相反:先构造支撑,再编码支撑。换句话说,系统不是先试图保存所有内容,再从中删减;而是先问,哪些部分最值得未来保留,然后只对这些部分进行编码。对于长期记忆来说,这意味着记忆的主体不应是全部文本,而应是那些能够决定未来行为和回答方式的稳定结构。

在工程实现中,这一过程首先要求把文本转化成适合长期记忆的形式。原始对话会被切分成若干片段,每个片段被提炼成状态对象,其中包含语义键、关系键、情绪、叙事动作、状态角色和约束信号等信息。此时,记忆的基本单位就不再是自然语言句子,而是“状态”。而多个状态之间的延续、阻断、触发和冲突,则被组织成“边”。于是,一段对话不再被看成文本序列,而被看成一个正在展开的结构场。

这时,挂谷式支撑构建的思想开始真正落地。在几何版本中,系统会寻找若干细长的 tube 和少量 junction,用尽可能小的体积覆盖尽可能丰富的方向。在文本记忆中,这种结构被翻译成约束边和状态交汇点。所谓 tube,不再是几何线段,而是状态之间的延续关系,例如“当前状态允许什么下一步”“当前状态禁止什么结果”“某个触发条件会把系统带到什么状态”。而所谓 junction,也不再是空间中的交叉点,而是多个约束和状态关系在同一时刻的汇聚位置,例如一个状态同时包含允许、禁止和必须满足的后续要求。

因此,文本版的 Kakeya-like support construction,可以理解为:系统不再保存整段话,而是提炼出一组稀薄但有力的结构支撑。这些支撑以状态和约束边的形式存在,并在时间上形成连续的“支撑轨迹”。当未来查询到来时,系统不必回到全文中搜索相似句子,而是可以优先在这些结构支撑中寻找与当前问题最相关的偏好和限制。这使得记忆从“相似文本检索”升级为“结构性延续判断”。

这种设计尤其适合形成个人偏好记忆。因为偏好本身并不是一句静态声明,而是一种会在长期互动中不断暴露的稳定结构。用户可能不会反复明确说“我讨厌频繁通知”或“我更偏好性价比高的选择”,但系统可以从多次决策、拒绝、修正和反馈中,逐步形成这样的结构边:某些后续行为是允许的,某些是禁止的,某些推荐必须满足预算约束,某些触发条件会导致用户改变决策方向。这样的记忆,比原始文本更接近“记住一个人”。

从产品视角看,这也解释了为什么真正优秀的个性化助手,不应只是历史检索器。一个检索器可以找到“类似问题以前出现过”,却不一定知道“这个用户在这种情境下会接受什么、拒绝什么、期待什么”。而感知记忆系统的目标,恰恰是后者。它保存的不是大量过去,而是能决定未来行为的支撑结构。因此,一个真正“记住用户”的系统,不是因为它能复述过去的话,而是因为它在新的情境下仍然遵守过去形成的偏好和边界。

所以,从挂谷集合到个人偏好记忆,最关键的一步,不是把数学对象直接搬进工程,而是提炼出它背后的原则:用尽可能小的记忆支撑,保留尽可能丰富且未来可用的方向信息。对长期助手来说,这些方向信息就是用户的偏好、约束、状态变化和决策轨迹。也正因为如此,Kakeya-like support construction 提供的不是一种普通压缩技巧,而是一种新的记忆哲学:记忆的价值不在于保留全部内容,而在于保留决定未来行为的结构。

repo链接: https://github.com/FluffyAIcode/percetual-memory paper链接: https://github.com/FluffyAIcode/percetual-memory/blob/4ce0eb271a04c27ed8b6600e9ab6ac208d3cd594/docs/K3M_Compression_by_Kakeya-Like_Support_Construction_for_3D_Perceptual_Memory.pdf