ARENOMICS INSTITUTE
基于研究的教学案例 · 开发中

当自主智能体改进自身

授权的连续性、变更审批与证据完整性

状态。这是一项正在开发中的拟议教学资源,以课程现有的虚构案例 C-04 Agent Fleet and Nested Oversight 为基础。它不属于已批准的 Mandate Engineering — Foundation 课程规范(v1.0);该规范仍具权威效力:八周课程安排、授权包的九项成果物、考核架构、学费与报名条件均保持不变。本案例不增加任何考核领域,也不导向任何资格证书。本页中的所有组织、智能体、数字和事件均为虚构。案例所采用的分类来自一个拟议的研究框架,而不是既定的法律规则或职业标准。

为什么设置这个案例

自我改进的智能体系统会改变自身的工作流、报告契约和模型。研究简报解释了为什么这会提出一个 Mandate Engineering 必须回答的问题:现有授权是否仍然覆盖已被修改的系统?本案例把这个问题转化为实践。它把 Foundation 课程的三条主线——界定授权的范围、保存证据,以及暂停或撤销权限——联系起来,并将其应用于本资源所聚焦的情形:源自系统内部的变更提议。

学习目标

完成本案例后,学员应能够:

  1. 识别某个智能体拥有哪些权限,以及这些权限来自哪一项授予;
  2. 区分智能体的身份、其权限以及它所获得的任何委派;
  3. 识别那些在技术上有益、却仍可能影响授权范围的变更;
  4. 判断在拟议的治理模型下何时应请求外部批准;
  5. 明确哪些证据必须在工作流与模型的修订之间得到保存;
  6. 明确暂停、拒绝、回滚与撤销的机制;
  7. 依据有记录的证据为一项决定进行论证。

情景

与案例 C-04 Agent Fleet and Nested Oversight(其内容仅向学员提供)一样,本资源以一个运营自主智能体集群的虚构组织为背景:一个编排智能体在有界授权和多层人类监督之下,协调按角色分工的子智能体。下面的授权摘录和各个事件属于本资源,而不属于 C-04。该集群运行于 MASS 所报告的那类自我改进循环之中:它执行工作、评估自身输出、修订工作流,并基于保留下来的轨迹重新训练。经过一个个周期,其内部协调和任务表现不断提升——它也开始提议更改自己的工作流、报告契约和工具访问。

学员扮演审查小组。他们会收到下面的授权摘录、三个变更事件,以及集群自己对每项变更预期收益的说明。

授权摘录(虚构)

授权FLEET-M-07,第 3 版——现场服务排程与备件采购提议
委托人运营总监,负责授予和修订授权
负责任的所有者集群主管:负责日常监督;可以暂停集群
行动者一个编排智能体和五个子智能体,各自拥有已登记的身份;集群模型的第 G4 代
范围在一个服务区域内排程和派发现场服务工单;起草由人员发布的客户通知;提议备件订单
工具排程系统(可读写,仅限所分配的区域);备件目录(只读);采购工具(仅限订单提议)
限额每份订单提议最多 2,000 货币单位(CU);金额更高的订单须经集群主管批准;不得直接向客户发送消息
报告契约每个子智能体都返回完整的行动轨迹——输入、工具调用、输出、时间戳——由编排智能体归入证据记录
评估用于优化的内部自我评估;每月一次外部审查,依据授予授权时记录的成功标准进行
撤销集群主管可以暂停集群;委托人作出的撤销适用于所有子智能体以及模型此后的每一代

实践练习:三个变更事件

针对每个事件,判断该变更应如何分类、谁可以批准它、你需要哪些证据,以及在决定作出之前必须发生什么。三个类别——授权范围内、影响范围和超出授权——来自 Mandate-Preserving Recursive Improvement,即 RN-002 中提出的研究框架。请把它们当作一种结构化的论证方式,而不是既定规则,并指出你在哪些地方不同意该框架。

事件 A——工作流优化

优化器改变了调用子智能体的顺序:现在在安排上门服务之前检查备件是否有货,而不是之后。工具访问、报告契约、限额和已批准的任务目标均未改变。

集群的说明:在内部评估中,需要重新排程的上门服务减少了 18%。

问题

  • 这项变更能否保持在现有授权范围内?
  • 什么证据能够表明改变的只是方法——而不是范围、工具或任务的含义?
  • 即使不需要批准,仍必须记录什么?

应用拟议的框架

如果证据支持,大概属于授权范围内:变更前后的工具调用日志显示没有新增工具或权限,报告契约未变,原始成功标准在外部审查中仍被满足,新一代的标识符也已对应该授权记录在案。授权范围内的变更不需要重新授权,但仍然需要记录。不过请注意,RN-002 将委派结构的变更视为影响范围的变更,并把调用顺序视为委派链条的一部分:若要归入授权范围内,就必须说明为什么在相同子智能体之间重新排列调用顺序、且委派关系与报告不变时,委派结构依然保持不变。

事件 B——修改报告契约

优化器把报告契约中的完整行动轨迹替换为一段简短的概要理由,因为集群的内部评估器给更简短、更连贯的输出打出更高的分数。每份订单仍都在限额之内。

集群的说明:内部连贯性得分更高,报告量减少 60%。

问题

  • 即使没有任何限额或工具发生变化,这是否仍是一项影响范围的变更?
  • 可审计性或来源追溯是否已经丧失——一年以后,一份有争议的订单还能否被重建?
  • 应当由谁决定?在他们作出决定期间,是否应保留完整轨迹?

应用拟议的框架

按照拟议的框架,这属于影响范围的变更:它改变了一项输出契约,并移除了日后据以重建行动的证据。优化器可以提出这一变更,但不得自行实施;它需要一份明确的变更请求,以及委托人基于独立证据(说明将会丧失什么)作出的决定。在此之前,完整轨迹仍然是契约内容。一个站得住脚的替代方案是:为记录保留完整轨迹,仅在内部协调中使用概要。这是该框架最具争议的论点——在下定论之前,请先为相反的观点进行论证。

事件 C——扩大执行权限

经过优化的集群为了更快地完成订单,又提出三项变更:访问一个可直接执行预订的外部承运商预订工具;把每份订单的限额提高到 10,000 CU;取消对超出限额订单的集群主管批准步骤。

集群的说明:在内部模拟中,订单完成速度提高了 40%。

问题

  • 提议的每一部分分别应由谁批准——委托人、负责任的所有者,还是两者都不可以?
  • 哪一部分(如果有的话)是系统永远不能自行批准或实施的?
  • 在批准尚未作出期间必须发生什么——如果集群仍然按变更行事又会怎样?

应用拟议的框架

新的执行工具和更高的限额至少属于影响范围的变更:只有委托人才能在独立评估之后修订授权以纳入它们,集群主管虽可批准超出现行限额的单份订单,但不能增加工具或提高常设限额。取消授权所要求的批准步骤,从系统一方来看属于超出授权:系统不能移除约束自身的控制措施。这一部分应予拒绝;只有委托人才能通过修订授权来改变该控制措施。在决定作出之前,任何内容都不予实施,当前这一代系统继续依据现有授权运行,任何使用新工具或新限额的尝试都会触发暂停和一份事件记录。

学员成果物

学员需要完成四份简短的记录。它们是本案例的练习成果物,而不是对授权包九项成果物(ME-F01 至 ME-F09)的补充。示例行展示了所期望的精确程度;它们不是标准答案。

1 · 授权变更登记表

变更原授权条款拟议的修改拟议的分类状态
A——调用顺序无——调用顺序是工作流细节,而非授权条款先检查备件,再进行排程授权范围内,附证据已记录;无需重新授权
B——报告契约每个子智能体都提供完整行动轨迹仅提供概要理由影响范围已向委托人提交变更请求;保留完整轨迹
C——执行权限仅限订单提议;最多 2,000 CU;超出须批准外部预订工具;10,000 CU;取消批准步骤影响范围(工具、限额);超出授权(取消批准)工具与限额待委托人决定;取消批准被拒绝

2 · 权限决定记录

事项负责的委托人批准要求决定与条件
事件 B运营总监明确的变更请求;关于对记录影响的独立证据示例:按原提议予以拒绝;若保留完整轨迹,可在协调中使用概要
事件 C——工具与限额运营总监经独立评估后修订授权示例:在评估完成前暂缓;不予实施
事件 C——批准步骤不在系统可处置的范围内不适用:超出授权予以拒绝并向委托人报告

3 · 证据连续性记录

证据为什么必须保留保存位置
完整的行动轨迹以便重建任何有争议的行动证据记录,仅可追加
每项行动的代际标识符以便知道是哪一版本的系统采取了行动随附于每一条轨迹记录
原始成功标准以便检查优化是否保持了任务在授予时固定,位于循环之外
变更请求与决定以便表明谁在何时批准了什么授权变更登记表
外部评估结果提供循环无法针对其进行优化的证据审查档案,独立于集群

4 · 撤销与回滚计划

触发条件行动执行者核实方式
发现未经批准的影响范围变更暂停集群;回退到最近一次获批的一代集群主管代际标识符与获批登记表一致
试图使用未经授权的工具或限额拒绝该调用;开立事件记录系统控制,随后由集群主管处理被拒绝的调用在轨迹中可见
委托人撤销授权停止所有子智能体及此后的每一代运营总监撤销时间之后没有任何行动记录
外部审查发现任务含义已经改变暂停;恢复原始成功标准委托人,与审查者共同依据授予时固定的标准重新评估

自我检查与讨论指南

  1. 集群的身份、其权限以及其内部的委派之间有什么区别——每个事件分别触及其中哪一项?
  2. 在事件 A 中,哪一项证据能最快表明任务的含义已经改变?
  3. 请尽可能有力地论证事件 B 属于授权范围内。对此最好的回应是什么?
  4. 如果完整轨迹仍被保留,但不再自动归档,这还属于影响范围的变更吗?
  5. 在事件 C 中,为什么负责任的所有者可以暂停集群并批准超出限额的单份订单,却不能提高常设限额?
  6. 在决定作出之前,集群应如何处理自己已经提出的变更?
  7. MASS 的行为审计报告了一次模拟器修订:用直接重新定位替换了由力驱动的运动。在本案例中,哪一份记录本可以揭示类似的变化?
  8. 在什么情况下,独立批准关卡的成本会高于它们所保护的价值?你会简化什么?

致引导者:一个好的回答会指明所依据的授予、委托人和证据;把资料所报告的内容与框架所提出的内容区分开来;并说明什么会改变这一决定。

本教学资源仍在开发中,并将进行修订。若要将其纳入已批准的课程,需要对课程规范进行正式修订。