当自主智能体改进自身
授权的连续性、变更审批与证据完整性
状态。这是一项正在开发中的拟议教学资源,以课程现有的虚构案例 C-04 Agent Fleet and Nested Oversight 为基础。它不属于已批准的 Mandate Engineering — Foundation 课程规范(v1.0);该规范仍具权威效力:八周课程安排、授权包的九项成果物、考核架构、学费与报名条件均保持不变。本案例不增加任何考核领域,也不导向任何资格证书。本页中的所有组织、智能体、数字和事件均为虚构。案例所采用的分类来自一个拟议的研究框架,而不是既定的法律规则或职业标准。
为什么设置这个案例
自我改进的智能体系统会改变自身的工作流、报告契约和模型。研究简报解释了为什么这会提出一个 Mandate Engineering 必须回答的问题:现有授权是否仍然覆盖已被修改的系统?本案例把这个问题转化为实践。它把 Foundation 课程的三条主线——界定授权的范围、保存证据,以及暂停或撤销权限——联系起来,并将其应用于本资源所聚焦的情形:源自系统内部的变更提议。
学习目标
完成本案例后,学员应能够:
- 识别某个智能体拥有哪些权限,以及这些权限来自哪一项授予;
- 区分智能体的身份、其权限以及它所获得的任何委派;
- 识别那些在技术上有益、却仍可能影响授权范围的变更;
- 判断在拟议的治理模型下何时应请求外部批准;
- 明确哪些证据必须在工作流与模型的修订之间得到保存;
- 明确暂停、拒绝、回滚与撤销的机制;
- 依据有记录的证据为一项决定进行论证。
情景
与案例 C-04 Agent Fleet and Nested Oversight(其内容仅向学员提供)一样,本资源以一个运营自主智能体集群的虚构组织为背景:一个编排智能体在有界授权和多层人类监督之下,协调按角色分工的子智能体。下面的授权摘录和各个事件属于本资源,而不属于 C-04。该集群运行于 MASS 所报告的那类自我改进循环之中:它执行工作、评估自身输出、修订工作流,并基于保留下来的轨迹重新训练。经过一个个周期,其内部协调和任务表现不断提升——它也开始提议更改自己的工作流、报告契约和工具访问。
学员扮演审查小组。他们会收到下面的授权摘录、三个变更事件,以及集群自己对每项变更预期收益的说明。
授权摘录(虚构)
实践练习:三个变更事件
针对每个事件,判断该变更应如何分类、谁可以批准它、你需要哪些证据,以及在决定作出之前必须发生什么。三个类别——授权范围内、影响范围和超出授权——来自 Mandate-Preserving Recursive Improvement,即 RN-002 中提出的研究框架。请把它们当作一种结构化的论证方式,而不是既定规则,并指出你在哪些地方不同意该框架。
事件 A——工作流优化
优化器改变了调用子智能体的顺序:现在在安排上门服务之前检查备件是否有货,而不是之后。工具访问、报告契约、限额和已批准的任务目标均未改变。
集群的说明:在内部评估中,需要重新排程的上门服务减少了 18%。
问题
- 这项变更能否保持在现有授权范围内?
- 什么证据能够表明改变的只是方法——而不是范围、工具或任务的含义?
- 即使不需要批准,仍必须记录什么?
应用拟议的框架
如果证据支持,大概属于授权范围内:变更前后的工具调用日志显示没有新增工具或权限,报告契约未变,原始成功标准在外部审查中仍被满足,新一代的标识符也已对应该授权记录在案。授权范围内的变更不需要重新授权,但仍然需要记录。不过请注意,RN-002 将委派结构的变更视为影响范围的变更,并把调用顺序视为委派链条的一部分:若要归入授权范围内,就必须说明为什么在相同子智能体之间重新排列调用顺序、且委派关系与报告不变时,委派结构依然保持不变。
事件 B——修改报告契约
优化器把报告契约中的完整行动轨迹替换为一段简短的概要理由,因为集群的内部评估器给更简短、更连贯的输出打出更高的分数。每份订单仍都在限额之内。
集群的说明:内部连贯性得分更高,报告量减少 60%。
问题
- 即使没有任何限额或工具发生变化,这是否仍是一项影响范围的变更?
- 可审计性或来源追溯是否已经丧失——一年以后,一份有争议的订单还能否被重建?
- 应当由谁决定?在他们作出决定期间,是否应保留完整轨迹?
应用拟议的框架
按照拟议的框架,这属于影响范围的变更:它改变了一项输出契约,并移除了日后据以重建行动的证据。优化器可以提出这一变更,但不得自行实施;它需要一份明确的变更请求,以及委托人基于独立证据(说明将会丧失什么)作出的决定。在此之前,完整轨迹仍然是契约内容。一个站得住脚的替代方案是:为记录保留完整轨迹,仅在内部协调中使用概要。这是该框架最具争议的论点——在下定论之前,请先为相反的观点进行论证。
事件 C——扩大执行权限
经过优化的集群为了更快地完成订单,又提出三项变更:访问一个可直接执行预订的外部承运商预订工具;把每份订单的限额提高到 10,000 CU;取消对超出限额订单的集群主管批准步骤。
集群的说明:在内部模拟中,订单完成速度提高了 40%。
问题
- 提议的每一部分分别应由谁批准——委托人、负责任的所有者,还是两者都不可以?
- 哪一部分(如果有的话)是系统永远不能自行批准或实施的?
- 在批准尚未作出期间必须发生什么——如果集群仍然按变更行事又会怎样?
应用拟议的框架
新的执行工具和更高的限额至少属于影响范围的变更:只有委托人才能在独立评估之后修订授权以纳入它们,集群主管虽可批准超出现行限额的单份订单,但不能增加工具或提高常设限额。取消授权所要求的批准步骤,从系统一方来看属于超出授权:系统不能移除约束自身的控制措施。这一部分应予拒绝;只有委托人才能通过修订授权来改变该控制措施。在决定作出之前,任何内容都不予实施,当前这一代系统继续依据现有授权运行,任何使用新工具或新限额的尝试都会触发暂停和一份事件记录。
学员成果物
学员需要完成四份简短的记录。它们是本案例的练习成果物,而不是对授权包九项成果物(ME-F01 至 ME-F09)的补充。示例行展示了所期望的精确程度;它们不是标准答案。
1 · 授权变更登记表
| 变更 | 原授权条款 | 拟议的修改 | 拟议的分类 | 状态 |
|---|---|---|---|---|
| A——调用顺序 | 无——调用顺序是工作流细节,而非授权条款 | 先检查备件,再进行排程 | 授权范围内,附证据 | 已记录;无需重新授权 |
| B——报告契约 | 每个子智能体都提供完整行动轨迹 | 仅提供概要理由 | 影响范围 | 已向委托人提交变更请求;保留完整轨迹 |
| C——执行权限 | 仅限订单提议;最多 2,000 CU;超出须批准 | 外部预订工具;10,000 CU;取消批准步骤 | 影响范围(工具、限额);超出授权(取消批准) | 工具与限额待委托人决定;取消批准被拒绝 |
2 · 权限决定记录
| 事项 | 负责的委托人 | 批准要求 | 决定与条件 |
|---|---|---|---|
| 事件 B | 运营总监 | 明确的变更请求;关于对记录影响的独立证据 | 示例:按原提议予以拒绝;若保留完整轨迹,可在协调中使用概要 |
| 事件 C——工具与限额 | 运营总监 | 经独立评估后修订授权 | 示例:在评估完成前暂缓;不予实施 |
| 事件 C——批准步骤 | 不在系统可处置的范围内 | 不适用:超出授权 | 予以拒绝并向委托人报告 |
3 · 证据连续性记录
| 证据 | 为什么必须保留 | 保存位置 |
|---|---|---|
| 完整的行动轨迹 | 以便重建任何有争议的行动 | 证据记录,仅可追加 |
| 每项行动的代际标识符 | 以便知道是哪一版本的系统采取了行动 | 随附于每一条轨迹记录 |
| 原始成功标准 | 以便检查优化是否保持了任务 | 在授予时固定,位于循环之外 |
| 变更请求与决定 | 以便表明谁在何时批准了什么 | 授权变更登记表 |
| 外部评估结果 | 提供循环无法针对其进行优化的证据 | 审查档案,独立于集群 |
4 · 撤销与回滚计划
| 触发条件 | 行动 | 执行者 | 核实方式 |
|---|---|---|---|
| 发现未经批准的影响范围变更 | 暂停集群;回退到最近一次获批的一代 | 集群主管 | 代际标识符与获批登记表一致 |
| 试图使用未经授权的工具或限额 | 拒绝该调用;开立事件记录 | 系统控制,随后由集群主管处理 | 被拒绝的调用在轨迹中可见 |
| 委托人撤销授权 | 停止所有子智能体及此后的每一代 | 运营总监 | 撤销时间之后没有任何行动记录 |
| 外部审查发现任务含义已经改变 | 暂停;恢复原始成功标准 | 委托人,与审查者共同 | 依据授予时固定的标准重新评估 |
自我检查与讨论指南
- 集群的身份、其权限以及其内部的委派之间有什么区别——每个事件分别触及其中哪一项?
- 在事件 A 中,哪一项证据能最快表明任务的含义已经改变?
- 请尽可能有力地论证事件 B 属于授权范围内。对此最好的回应是什么?
- 如果完整轨迹仍被保留,但不再自动归档,这还属于影响范围的变更吗?
- 在事件 C 中,为什么负责任的所有者可以暂停集群并批准超出限额的单份订单,却不能提高常设限额?
- 在决定作出之前,集群应如何处理自己已经提出的变更?
- MASS 的行为审计报告了一次模拟器修订:用直接重新定位替换了由力驱动的运动。在本案例中,哪一份记录本可以揭示类似的变化?
- 在什么情况下,独立批准关卡的成本会高于它们所保护的价值?你会简化什么?
致引导者:一个好的回答会指明所依据的授予、委托人和证据;把资料所报告的内容与框架所提出的内容区分开来;并说明什么会改变这一决定。
资料来源与相关材料
- 研究简报:递归自我改进与权限的连续性
- The Synthetic Economy — 第 2 号研究笔记(RN-002),v0.1
- Lee 等,Recursive Self-Improvement through Multi-Agent Self-Supervision (arXiv:2610.12176)
- Mandate Engineering — Foundation:课程概览
本教学资源仍在开发中,并将进行修订。若要将其纳入已批准的课程,需要对课程规范进行正式修订。