架构
Cortex 内部:会自我改进的智能体如何在审批下工作
“自我改进的智能体”这个词被用得太滥,以至于它要么听起来像营销,要么听起来像风险。Cortex 是 Olano 里真实运行的那个引擎,这篇把它拆开:它到底改什么、不改什么、按什么节奏、谁来批、改错了怎么办。
先说结论:Cortex 不改模型。它改的是三样东西——智能体的记忆(从对话里提炼出的事实)、技能(从重复出现的工作里归纳出的可复用流程)、以及改进提案(对智能体自身指令的修改建议)。前两样默认自动生效,每一条都有记录、一键可撤回;第三样,连同任何对外发送和不可逆的动作,永远等人批准。把它关掉,所有产出都排队等审批。深度推理有每日预算上限,所以它不会在你不知情的时候把账单跑高。
“改进”到底改的是什么
一个智能体的行为由三个可变部分决定:它看到的上下文、它被告知的流程、它的指令本身。模型是第四个部分,但在 Olano 里模型不会被 Cortex 触碰——不做微调,不做训练。这个界线是刻意的:改前三样是可读、可撤回的文件变更;改模型是不可审计的黑箱。
所以“自我改进”在这里的准确含义是:智能体每天做的工作,被系统化地变成更好的上下文、更好的流程、和更好的指令——其中指令的改动要经过人。这和“模型越用越聪明”是两回事,后者在 Olano 里不存在,我们也不这么宣传。相关的概念辨析在AI 智能体如何记忆。
五个阶段
Cortex 按周期运行,每个周期包含五个阶段,各自的输入输出不同:
- 反思(Reflection)。回看智能体最近的对话和动作,找出反复出现的问题、被纠正过的错误、以及做得好的地方。产出是观察,不是变更。
- 学习(Learning)。把观察里的事实提炼进记忆:客户偏好、业务规则、纠正过的错误。这一步记录事实,不记录工作——“客户 A 要求发票开给新加坡主体”会被记住,“今天回了 40 封邮件”不会。
- 创造(Creation)。发现某类工作反复以同样的方式完成时,把它写成一个技能——一份可复用的流程说明。下次同类任务,智能体照着做,而不是每次重新推理。
- 改进(Improvement)。对智能体自身指令提出修改建议。这是唯一一个默认不自动生效的阶段。
- 整理(Tidying)。合并重复的记忆、清掉过期的事实、给技能去重。没有这一步,记忆会在三个月里变成一堆互相矛盾的笔记。
可以手动触发某一个阶段立即运行,不必等下一个周期。
节奏与每日预算
周期有三档预设——宽松、均衡、激进——决定 Cortex 多久跑一次、每次看多少。更重要的是每日深度推理预算:反思和改进这类需要强模型多步思考的阶段,每天有运行次数上限。到了上限,当天剩下的周期跳过深度阶段,只做轻量的事。
这个预算是成本的护栏,也是行为的护栏。一个每天可以无限次“反思自己”的系统,既贵又让人不安。
哪些自动生效,哪些永远等人
默认模式叫“完全自主”,但这个名字需要准确理解:
| 产出类型 | 默认行为 | 为什么 |
|---|---|---|
| 记忆更新 | 自动生效,有记录,可撤回 | 是事实,不是动作;改错了撤回即可 |
| 新技能 / 流程 | 自动生效,有记录,可撤回 | 只影响智能体怎么做,不影响它能做什么 |
| 对自身指令的改写 | 永远等人批 | 指令决定智能体的身份和边界,不能由它自己改 |
| 对外发送、支付、发布、删除 | 永远等人批 | 不可逆动作,与 Cortex 是否开启无关 |
| 你自定义的敏感类别 | 永远等人批 | 比如钱包转账、群发邮件——由你列出,自主模式也不覆盖 |
最后一行值得展开。你可以列出一份“必须审批”的类别清单,这份清单不受自主模式覆盖——即便 Cortex 全开,落在这些类别里的动作照样排队。清单为空是你的明确选择,不是默认。把 Cortex 整个关掉,则所有五个阶段的产出都排队等审批,一条不漏。
撤回:不是“恢复出厂”,是精确回退
每一次自动生效的变更都有快照。你在审批页面看到的是一条条具体的改动——“新增记忆:客户 B 的付款周期是 45 天”、“新技能:月度报表生成流程”——每一条可以单独撤回,撤回后智能体回到那条改动之前的状态,其他改动不受影响。
还有一个叫“自检”的机制:Cortex 会定期核对自己写进去的东西是否仍然成立,过期的事实标出来等你处理。
为什么 Cortex 的工作本身不留对话记录
一个容易被忽略的设计决定:Cortex 的后台运行不写入智能体的对话记录,它的痕迹在审计日志里。原因是防止一个循环——如果反思阶段的对话被记录下来,下一次反思就会去读上一次的反思,几轮之后智能体在“反思自己的反思”。审计日志记录它做了什么,对话记录留给真正的工作。
怎么“引导”它
Cortex 不是黑箱,可以被指向:告诉它这段时间重点看哪一类工作、哪些事实不要记、哪类技能不要生成。最有效的引导往往最简单——在审批页面上拒绝一条改进提案,并写一句为什么。那句话会进入下一轮反思的输入。
一个稳妥的起始配置
- 节奏:均衡。宽松太慢看不到效果,激进在头两周产出太多要审的东西。
- 头两周把记忆更新也切成审批。不是因为它危险,而是因为你需要看到它在记什么,才知道知识库里缺什么。
- 必须审批的类别清单,一开始就写。发送、支付、发布、删除之外,把你行业特有的那几类加上。
- 指定一个人每周看一次审批页面。Cortex 的产出是给人看的,没人看等于没开。
关于什么时候不该让智能体自我改进——有些岗位就该固定、无聊、可预测——见英文文章 When not to let an AI agent self-improve。
延伸阅读
常见问题
Cortex 会修改模型吗?
不会。它不做微调也不做训练。它改的是三样东西:从对话里提炼的记忆、从重复工作里归纳的技能、以及对智能体自身指令的改进提案。前两样默认自动生效、有记录、可撤回;第三样永远等人批准。
完全自主模式下,智能体能自己改自己的指令吗?
不能。对自身指令的改写、对外发送、支付、发布、删除,以及你自定义的敏感类别,在任何模式下都等人批准。完全自主只覆盖记忆更新和新技能这两类可撤回的产出。
Cortex 的五个阶段是什么?
反思(回看近期工作找出模式)、学习(把事实提炼进记忆,记事实不记工作)、创造(把反复出现的流程写成技能)、改进(对自身指令提建议,默认等审批)、整理(合并重复、清理过期)。可以手动触发任一阶段。
自我改进会不会把账单跑高?
有每日深度推理预算上限。反思和改进这类需要强模型多步思考的阶段每天有运行次数限制,到了上限当天只做轻量的事。这既是成本护栏也是行为护栏。
改错了怎么办?
每一次自动生效的变更都有快照,在审批页面上按条撤回,撤回后智能体回到那条改动之前的状态,其他改动不受影响。另有自检机制定期核对已记录的事实是否仍然成立。
为什么 Cortex 自己的运行不留对话记录?
为了避免循环:如果反思阶段的对话被记录,下一轮反思就会去读上一轮的反思,几轮之后智能体在反思自己的反思。它的痕迹在审计日志里,对话记录留给真正的工作。
会改进,但改什么、谁来批,写得清清楚楚
记忆和技能自动沉淀、按条可撤回;指令改写和对外动作永远等人。默认开启,随时切成全审批。