架构

Cortex 内部:会自我改进的智能体如何在审批下工作

“自我改进的智能体”这个词被用得太滥,以至于它要么听起来像营销,要么听起来像风险。Cortex 是 Olano 里真实运行的那个引擎,这篇把它拆开:它到底改什么、不改什么、按什么节奏、谁来批、改错了怎么办。

先说结论:Cortex 不改模型。它改的是三样东西——智能体的记忆(从对话里提炼出的事实)、技能(从重复出现的工作里归纳出的可复用流程)、以及改进提案(对智能体自身指令的修改建议)。前两样默认自动生效,每一条都有记录、一键可撤回;第三样,连同任何对外发送和不可逆的动作,永远等人批准。把它关掉,所有产出都排队等审批。深度推理有每日预算上限,所以它不会在你不知情的时候把账单跑高。

“改进”到底改的是什么

一个智能体的行为由三个可变部分决定:它看到的上下文、它被告知的流程、它的指令本身。模型是第四个部分,但在 Olano 里模型不会被 Cortex 触碰——不做微调,不做训练。这个界线是刻意的:改前三样是可读、可撤回的文件变更;改模型是不可审计的黑箱。

所以“自我改进”在这里的准确含义是:智能体每天做的工作,被系统化地变成更好的上下文、更好的流程、和更好的指令——其中指令的改动要经过人。这和“模型越用越聪明”是两回事,后者在 Olano 里不存在,我们也不这么宣传。相关的概念辨析在AI 智能体如何记忆。

五个阶段

Cortex 按周期运行,每个周期包含五个阶段,各自的输入输出不同:

  1. 反思(Reflection)。回看智能体最近的对话和动作,找出反复出现的问题、被纠正过的错误、以及做得好的地方。产出是观察,不是变更。
  2. 学习(Learning)。把观察里的事实提炼进记忆:客户偏好、业务规则、纠正过的错误。这一步记录事实,不记录工作——“客户 A 要求发票开给新加坡主体”会被记住,“今天回了 40 封邮件”不会。
  3. 创造(Creation)。发现某类工作反复以同样的方式完成时,把它写成一个技能——一份可复用的流程说明。下次同类任务,智能体照着做,而不是每次重新推理。
  4. 改进(Improvement)。对智能体自身指令提出修改建议。这是唯一一个默认不自动生效的阶段。
  5. 整理(Tidying)。合并重复的记忆、清掉过期的事实、给技能去重。没有这一步,记忆会在三个月里变成一堆互相矛盾的笔记。

可以手动触发某一个阶段立即运行,不必等下一个周期。

节奏与每日预算

周期有三档预设——宽松、均衡、激进——决定 Cortex 多久跑一次、每次看多少。更重要的是每日深度推理预算:反思和改进这类需要强模型多步思考的阶段,每天有运行次数上限。到了上限,当天剩下的周期跳过深度阶段,只做轻量的事。

这个预算是成本的护栏,也是行为的护栏。一个每天可以无限次“反思自己”的系统,既贵又让人不安。

哪些自动生效,哪些永远等人

默认模式叫“完全自主”,但这个名字需要准确理解:

产出类型默认行为为什么
记忆更新自动生效,有记录,可撤回是事实,不是动作;改错了撤回即可
新技能 / 流程自动生效,有记录,可撤回只影响智能体怎么做,不影响它能做什么
对自身指令的改写永远等人批指令决定智能体的身份和边界,不能由它自己改
对外发送、支付、发布、删除永远等人批不可逆动作,与 Cortex 是否开启无关
你自定义的敏感类别永远等人批比如钱包转账、群发邮件——由你列出,自主模式也不覆盖

最后一行值得展开。你可以列出一份“必须审批”的类别清单,这份清单不受自主模式覆盖——即便 Cortex 全开,落在这些类别里的动作照样排队。清单为空是你的明确选择,不是默认。把 Cortex 整个关掉,则所有五个阶段的产出都排队等审批,一条不漏。

撤回:不是“恢复出厂”,是精确回退

每一次自动生效的变更都有快照。你在审批页面看到的是一条条具体的改动——“新增记忆:客户 B 的付款周期是 45 天”、“新技能:月度报表生成流程”——每一条可以单独撤回,撤回后智能体回到那条改动之前的状态,其他改动不受影响。

还有一个叫“自检”的机制:Cortex 会定期核对自己写进去的东西是否仍然成立,过期的事实标出来等你处理。

为什么 Cortex 的工作本身不留对话记录

一个容易被忽略的设计决定:Cortex 的后台运行不写入智能体的对话记录,它的痕迹在审计日志里。原因是防止一个循环——如果反思阶段的对话被记录下来,下一次反思就会去读上一次的反思,几轮之后智能体在“反思自己的反思”。审计日志记录它做了什么,对话记录留给真正的工作。

怎么“引导”它

Cortex 不是黑箱,可以被指向:告诉它这段时间重点看哪一类工作、哪些事实不要记、哪类技能不要生成。最有效的引导往往最简单——在审批页面上拒绝一条改进提案,并写一句为什么。那句话会进入下一轮反思的输入。

一个稳妥的起始配置

  • 节奏:均衡。宽松太慢看不到效果,激进在头两周产出太多要审的东西。
  • 头两周把记忆更新也切成审批。不是因为它危险,而是因为你需要看到它在记什么,才知道知识库里缺什么。
  • 必须审批的类别清单,一开始就写。发送、支付、发布、删除之外,把你行业特有的那几类加上。
  • 指定一个人每周看一次审批页面。Cortex 的产出是给人看的,没人看等于没开。

关于什么时候不该让智能体自我改进——有些岗位就该固定、无聊、可预测——见英文文章 When not to let an AI agent self-improve。

延伸阅读

常见问题

Cortex 会修改模型吗?

不会。它不做微调也不做训练。它改的是三样东西:从对话里提炼的记忆、从重复工作里归纳的技能、以及对智能体自身指令的改进提案。前两样默认自动生效、有记录、可撤回;第三样永远等人批准。

完全自主模式下,智能体能自己改自己的指令吗?

不能。对自身指令的改写、对外发送、支付、发布、删除,以及你自定义的敏感类别,在任何模式下都等人批准。完全自主只覆盖记忆更新和新技能这两类可撤回的产出。

Cortex 的五个阶段是什么?

反思(回看近期工作找出模式)、学习(把事实提炼进记忆,记事实不记工作)、创造(把反复出现的流程写成技能)、改进(对自身指令提建议,默认等审批)、整理(合并重复、清理过期)。可以手动触发任一阶段。

自我改进会不会把账单跑高?

有每日深度推理预算上限。反思和改进这类需要强模型多步思考的阶段每天有运行次数限制,到了上限当天只做轻量的事。这既是成本护栏也是行为护栏。

改错了怎么办?

每一次自动生效的变更都有快照,在审批页面上按条撤回,撤回后智能体回到那条改动之前的状态,其他改动不受影响。另有自检机制定期核对已记录的事实是否仍然成立。

为什么 Cortex 自己的运行不留对话记录?

为了避免循环:如果反思阶段的对话被记录,下一轮反思就会去读上一轮的反思,几轮之后智能体在反思自己的反思。它的痕迹在审计日志里,对话记录留给真正的工作。

会改进,但改什么、谁来批,写得清清楚楚

记忆和技能自动沉淀、按条可撤回;指令改写和对外动作永远等人。默认开启,随时切成全审批。

开始部署