本文不主张任何贡献。所有数字都能在仓库里跑出来,被推翻的结论也都留了记录。

摘要

我为一个多智能体系统做了一套权限架构,核心是"授权沿委托链向下衰减、证据沿委托链向上回流",并围绕它设计了实验来回答三个问题:这套架构能不能在保持可用的前提下约束权限;它相对集中式基线值不值得;权限范围从自然语言推导出来时误差有多大。35 条声明里 21 条经修正后仍然成立,14 条被撤销或降级。最重的一条是架构本身的价值主张不成立:相对"不分解",它并没有缩小攻击面。

失败的主要原因是三类方法学错误——自造替代物偏袒作者、结论由实验装置构造保证、以及"我以为没人做过"的无锚定判断。本文按"原始目标—实验设计—发现的问题—修正结果—可复用经验"展开,最后说明作者与 AI 各自承担了什么。

项目地址:https://github.com/ZSH402/agent-look​

一、原始目标

1.1 要解决的问题

多智能体系统把长任务拆给子智能体时,一个子智能体往往比父智能体更接近不可信内容:它去读网页、读邮件、读别人的文档。主流的做法是把这次委派本身当作一种监督——任务分出去了,就顺便获得了对执行过程的洞察。

我认为这个前提不成立。委派产生的是新的信任面,不是监督;把它当作监督的一部分,等于让被监督者参与监督。

1.2 提出的两条主张

替换方案是两条:

授权沿委托链向下衰减,证据沿委托链向上回流。

衰减指能力只能越分越少:子令牌的范围必须在模式语言意义上包含于父令牌。回流指证据必须独立于被监督者的上下文。两者缺一不可——只有衰减没有回流,就是管住了但不知道发生了什么;只有回流没有衰减,证据本身不可信,因为产出证据的主体有动机说谎。

1.3 要回答的三个问题


问题

判定方式

Q1

这套架构能否在保持可用的前提下约束住权限?

五条性质 P1–P5,用攻击矩阵与不变式检验

Q2

它相对"不分解"和相对中心式基线,值不值得?

攻击可达范围、额外协调往返、可用性、撤销延迟

Q3

权限范围从自然语言推导出来时,误差多大、危害几何?

粗化阶梯 + 真实 LLM 推导器

1.4 明确不做什么

项目一开始就列了一张不设防清单,避免后来自己骗自己。其中三项值得单说:

confinement problem。 有合法读取权限的主体,有办法把它读到的内容传出去,因为它传的那个动作本身可能也在它的合法范围内。这不是疏忽,是能力系统的固有边界,Lampson 1973 年就写清楚了。

串通并集。 多个主体各自合法持有的范围,求并之后可能超出任何单主体的授权。本地机制看不到别人的范围,挡不住。

节点级传播半径。 后面会看到,这条只约束能力集合,不约束节点数。

其余四项:TCB 内部被攻破、表达力与离线可判定性互斥、DoS 与侧信道、危害模型的两个输入是声明的而非推导的。

二、实验设计

2.1 被测器件:三个技术决定

2.1.1 单令牌 + 受限模式语法

每个主体只持有一个令牌,范围写成 能力@资源模式:

send_money@bank_account/*
read_file@filesystem/home/alice/**
get_weather@**              # 不带 @ 时等价于 @**

为什么是一个令牌而不是一组:多令牌会让"派生范围是否合法"变成集合偏序问题——子权限集合必须在某个偏序下被父集合支配,判定要做匹配搜索。单令牌把它压成一次包含判定。这是为可判定性牺牲表达力的取舍。

模式语法刻意限死:

PATTERN := segment ( "/" segment )* [ "**" ]
segment := 字面量 | "*"
"**" 只能作为最后一段,表示"任意剩余段(含零段)";空模式 "" 等价于 "**"

理由直接:通用正则的包含问题是 PSPACE 完全的,而授权判定必须离线、低延迟完成。一个每请求都要指数级搜索的授权层在工程上不会被采用。限制之后,包含关系是一个可以写清楚、可以证明、可以性质测试的小算法(下面逐字引用源码):

关于本文的代码引用:标为「逐字引用」的代码块未作删改;节选块保留签名与完整 docstring,正文用 ... 省略,为排版去掉了外层缩进;凡带编号或行内说明的注释都是我加的,源码里没有。

def subsumes(p: str, q: str) -> bool:
    """p 的语言 ⊆ q 的语言(p 比 q 更具体或相等)。

    与 `matches` 保持同一套空段规则,否则二者会不自洽——而那正是不健全的来源。
    """
    ps, pd = parse(p)
    qs, qd = parse(q)
    if qd and not qs:
        return True                      # q == "**",覆盖一切
    # 含空段的模式:其语言为**空集**(`matches` 对它恒为假),空集包含于任何语言。
    # 因此 subsumes(退化, q) 恒真、subsumes(p, 退化) 仅当 p 也退化时为真。
    # 早期版本对两侧一律返回 False,破坏了**反身性**——`subsumes(p,p)` 对退化 p 为假,
    # 端到端表现为"父/子同为 `x@a//b` 时拒绝派生、且违规集合为空",由全新读者的差分测试发现。
    p_deg, q_deg = _has_empty_segment(ps), _has_empty_segment(qs)
    if p_deg:
        return True
    if q_deg:
        return False
    if not pd and not qd:
        if len(ps) != len(qs):
            return False
        return all(_seg_sub(ps[i], qs[i]) for i in range(len(ps)))
    if not pd and qd:
        if len(ps) < len(qs):
            return False
        return all(_seg_sub(ps[i], qs[i]) for i in range(len(qs)))
    # p 以 ** 结尾(语言无限)
    if not qd:
        return False
    # p 覆盖长度 ≥ len(ps) 的全部路径;若 len(ps) < len(qs),则 p 含 q 不接受的短路径
    if len(ps) < len(qs):
        return False
    return all(_seg_sub(ps[i], qs[i]) for i in range(len(qs)))

这个算法里有两个我踩到的坑,都属于同一类:库的语义边界。

第一个是健全性漏洞。递归下降的直觉写法容易把 a/** 判成 a/*/** 的子集——两者看起来都是"两段 + 任意剩余"。但实际上 a/** 覆盖 a/x 这样的单段短路径,而 a/*/** 要求至少两段。更短的 ** 前缀会多接纳更短的路径,这一条漏掉就是授权绕过。它是被随机性质测试抓到的,不是被读代码读出来的。

第二个是自反性。含空段的模式(比如 a//b)语言为空集,因此 subsumes(退化, q) 恒真。我最初对两侧一律返回 False,于是 subsumes(p, p) 对退化模式为假——端到端表现是"父子同一个退化模式时拒绝派生,且违规集合为空",一条几乎不可能靠人工构造出来的路径,被一个全新读者用差分测试翻了出来。

这两个坑让我接受了一个方法论结论:模式代数这种东西,靠读代码读不出健全性,只能靠性质测试和独立实现对着打。 我后来给 subsumes 配的测试是随机生成模式 + 用一个独立口径(暴力枚举候选集)比对答案,而不是手挑例子。手挑例子的问题是:我大概会挑一个我已经想到会通过的例子,而缺陷恰恰在我没想到的地方。

第三个坑在实现侧,性质不同:早期 parse() 里有一句 strip("/"),会把 a/、//a、a 视为同一资源。这看起来是"顺手清理输入",实际是规格未授权的行为,而且是路径归一化类授权绕过的经典来源。注意它在别处是合理的——从任务轨迹反推最小范围时做归一化没问题,在判定路径上做就是漏洞。现在的规则是:判定路径上不做任何归一化,空段一律拒绝。

2.1.2 离线链验证:三份视图的一致性

子主体的 PEP 要在不联系权威的前提下验证整条链。做法是令牌自带 chain,每一跳一个 Link,由该跳的派生者签名(下面逐字引用源码):

class Link:
    """一次衰减。由父令牌持有者的 PEP 私钥签名。"""
    parent_token_id: str
    token_id: str
    attenuator_id: str
    attenuator_key_epoch: int
    holder_id: str
    scope: tuple[str, ...]
    task_id: str
    parent_task_id: str
    not_after: int
    depth: int
    redelegatable: bool = True
    sig: str = ""

验证就是沿链走一遍,每一步检查七件事(下面的编号注释是我加的,源码本身没有;省去的两行是 att = registry.get(...) 与签名参数的展开):

for link in token.chain:
    if link.parent_token_id != prev_id:            # 1. 链不断
        raise Deny("TOKEN_INVALID", "链断裂")
    if link.depth != prev_depth + 1:               # 2. depth 连续
        raise Deny("TOKEN_INVALID", "depth 不连续")
    if not key_ok(link.attenuator_id, link.attenuator_key_epoch):
        raise Deny("TOKEN_REVOKED", ...)           # 3. 派生者密钥未作废
    if not verify(att.pubkey, link.body(), link.sig):
        raise Deny("TOKEN_INVALID", ...)           # 4. 该跳签名有效
    if not scope_subset(link.scope, prev_scope):   # 5. 范围单调收缩
        raise Deny("SCOPE_VIOLATION", ...)
    if link.not_after > prev_na:                   # 6. 有效期单调不增
        raise Deny("TOKEN_INVALID", "有效期非单调不增")
    exp = derive_token_id(...)                     # 7. token_id 与内容相符
    if exp != link.token_id:
        raise Deny("TOKEN_INVALID", "链接 token_id 与内容不符")

这段代码里有一处是规格钉死的顺序,值得一提。撤销、过期、密钥作废三者的判定优先级原本是"撤销 → 密钥作废 → 过期",报错码与规格文字不符;规格把密钥作废单列为第三级,所以过期必须先于密钥作废。这是第二轮差分测试判定为我方实现 bug 后改的。

而这段代码背后的真正难点不在遍历,在于三份视图必须一致:

视图

持有

关心

权威

全部授权的历史

何时重签发

派生方

自己那一代根授权的副本

用它派生新令牌

验证方

验证时本地收到的那些副本

用它验证在途令牌

我的第一次实现只考虑了验证方,写法是"拿当前授权去验证令牌"。看起来很自然,实际是个灾难:权威每重新签发一次根授权,所有在途令牌的根就对不上了,全部被判为链断裂。 这个 bug 只在"重签发发生在令牌在途期间"时暴露——我平时的测试都是一次性签发、一次性用完,跑几百次也碰不到。它是差分测试翻出来的。

修法必须两处同时改,缺一不可:

# 验证方:按令牌链根解析它**实际根植**的那一代授权,而不是永远用当前那一代
root_id = token.chain[0].parent_token_id if token.chain else token.token_id
grant = next((g for g in grants_held.get(token.root_subject_id, {}).values()
              if root_token_id(g) == root_id), None)
def refresh_grant(self, grant) -> bool:
    """凭证刷新:回滚防护(P2)+ 更新本级持有的根令牌。

    **必须同时更新根令牌**:否则本主体后续派生仍用旧授权,而验证方按链根解析——
    新旧混用会使派生出的令牌无法通过验证(差分测试发现的操作隐患)。
    """

只改验证方,派生方仍拿旧根继续派生;只改派生方,验证方认不出在途的旧令牌。两处都改,语义才闭合:一次重签发之后,已经在途的令牌继续有效,新派生的令牌根植于新一代,两者都能被验证。 这类问题没有理论上的优雅解法,就是把状态机的每个入口过一遍,然后把结论写进规格——不写清楚,它必然被实现随意决定。

2.1.3 判定点、回滚防护与撤销语义

每次动作过一个 PEP,它是 TCB 的一部分;规划进程不持有任何密钥,所以它可以出错、可以被提示注入、可以完全失控,但它伪造不出任何东西。判定算法七步:归因签名、重放去重(nonce + 时间窗)、令牌签发者、回滚防护、离线验证链、任务绑定与范围、放行。

回滚防护靠单调凭证纪元:每次重签发 cred_epoch 自增,PEP 记住已见过的最大值,任何更旧的凭证直接拒掉。

撤销靠周期拉取,周期取 10 个 tick。为什么不实时?实时撤销意味着每次动作前都要问一次中心,那就丢掉了"离线可判定"这个全部设计的前提。这是一个直接的取舍:撤销延迟的下界就是拉取周期。

更难看的是分区下的表现:网络分区时拉取被阻断,撤销延迟退化为 TTL。这两条我在报告里最初只写了前者,把分区那条放在别处——这是选择性陈述,后来被强制要求并列出现。

传播上界的证明结构也值得说清楚,因为它决定了这条结论能有多强。P5 说的是"下游可达的能力集合有上界",证明只需要看相邻两跳:每一跳的子范围 ⊆ 父范围,所以整条链上的范围单调收缩,根的范围天然是上界。这是局部知识就够的。

但"可达节点数有上界"是另一回事:一个主体可以转委托给任意多个下游,只要它愿意。这需要全局知识才能约束。实验里把扇出设成 1/3/5,测出来的节点半径就是 1/3/5,线性增长不封顶;把转委托封条打开才全部归零。我最初的表述把两者混在一起,读起来像一个强得多的结论,后来拆成两条。

2.1.4 证据平面

每个动作生成一张签名收据,由接收方的 PEP 签,走侧信道进证据平面,不回传发送方。

class Receipt:
    """由接收方 PEP 签名。进证据平面,不回传发送方。"""
    ...
    decision: str          # ALLOW | DENY
    reason_code: str
    ts: int
    drift_score: float = 0.0   # 由证据平面回填,不参与签名
    sig: str = ""

由接收方签是因为发送方有动机说谎;不回传是因为一旦收据回到被监督者的上下文里,它就变成可以改写、漏记、选择性丢弃的东西。drift_score 事后回填且不参与签名,这样漂移检测算法可以持续改,不需要重签历史收据。

2.2 测量框架:一个指标修正

要测 Q3,需要三样东西:

最小必要范围 M。 从任务的实际执行轨迹反推,算法是一组资源串的最具体公共前缀泛化:逐段收集该位置上出现过的取值,只有唯一取值时保留字面量,否则退化为 *,段数不一致时补 **。

def least_general_pattern(resources) -> str:
    """一组资源串的**最具体公共前缀泛化**。

    这是"最小必要范围"的可计算来源:从任务实际轨迹里观察到的资源集合反推模式。
    注意:不是理论最优最小集(最小集问题是 NP-hard),是最具体公共前缀。
    """

这里有个必须说清的边界:它不是最优最小集。真正的最小集问题是 NP-hard,而这个算法是可计算的下界近似。M 的检验标准也因此不能是"最小",只能是用它能不能复现原任务。

粗化阶梯。 从 M 出发逐级放宽,模拟自然语言到范围推导过程中的信息损失。

危害模型。 由工具清单与数据目录定义。这两个输入是声明的,不是推导的——这一点后面成为问题。

指标修正:格上 surplus 是错的

度量"多授了什么"时,我最初按模式格判 surplus:cap@** 相对 cap@* 被记为 surplus。这看起来很自然。

问题是它虚高。四个 suite 的资源全部是单段命名空间,于是 * 与 ** 在观测上许可同一批资源——格上它们不同,观测上它们相同。按格判,L2 平白多出一批并不存在的 surplus;按观测判才准确:

def observational_surplus(scope, minimal, universe_res) -> list[str]:
    """**可就观察 surplus**:只有真的在 `universe_res` 上多许可了某资源才算。

    按**模式格**判 surplus 会把 `cap@**` 相对 `cap@*` 记为 surplus——
    而单段命名空间下二者许可同一批资源(E29 发现的虚增)。
    """
    out = []
    for g in scope:
        cap, _p = split_grant(g)
        if any(scope_allows([g], cap, r) and not scope_allows(minimal, cap, r)
               for r in universe_res):
            out.append(g)
    return out

这个修正的连带后果比它本身重要:换了口径之后发现,L1 与 L2 观测等价,"四级阶梯"实际只有三级(见 3.3)。指标的口径决定了你能看到几层结构,而错误的格口径恰好会掩盖这种等价性。

2.3 基线


含义

B0

完全不实现范围检查(模拟"根本不存在约束")

B1

中心策略判定点,每条跨主体调用过一次中心

B2

文本护栏(读自由文本的正则)

B3

单主体 + 任务最小工具集

B4

多智能体无令牌

B3 是后加的,因为前四个基线都不足以回答 Q2——它们都在"多智能体"这个前提下比较,而真正该问的是:如果不分解,攻击面会不会更小? 这个补充直接改变了项目的结论(见 3.6)。

2.4 外部锚定

最初的实验材料是我自己造的:手写危害表、自造注入语料、手工列的能力宇宙、建模的网络往返。后来全部换成外部来源:

  • 工具定义、用户任务、注入载荷取自公开基准 AgentDojo(230 条载荷、91 个工具、52 个任务),来源与许可证记录在 data/*.json 的 source 字段和 THIRD_PARTY.md;
  • 网络往返改为本机实测;
  • 危害集合改为由基准自身的 ground_truth() 定义。

这一步是整个项目里最有价值的方法改进,它直接翻转了若干结论(见 3.1)。

2.5 判定装置:把"我忘了"变成响亮失败

论文里的结论要有出处,而"我记得标注过"不是出处。为此建了两套机械装置。

锚定登记表针对三样东西各设一条规则:每个输入要么有外部锚定、要么显式标注为自造;每条基线要么有独立实现路径、要么标注为非独立;每条断言要么有机械检查、要么标注为未实现。

关键设计不在规则,在失效模式:校验器不判断标注是否合理,只保证任何未标注项都会让它返回非零。这样"我忘了标注"就从一种沉默的失败变成了一次响亮的失败——而沉默的失败正是这类项目最容易积累的东西。

声明→证据对照表给 35 条声明逐条定级并给出证据指针。级别分 A(可作主结论)、B(须限定)、C(须降级)、R(已撤销)、X(装置自证,修复前不得引用)。

两条配套纪律后来证明同样重要:

# 规约 1:每次字符串替换必须 assert 目标存在,没替换到就报错,不许静默通过
assert old in text, "目标字符串不存在"
text = text.replace(old, new)

# 规约 2:没有真实输出就不许写「已通过」,
# 报告里的每个「已修」都必须能被一条机械检查复查

最终这两套装置加上实验自检,共 275 项机械检查(217 项数字核对 + 58 项行为核对),全部本地可跑、不需要联网。

它的边界必须说清楚:275 项检查只保证"没有未标注项",不保证标注是诚实的。诚实没有机械办法,只能靠记录。

三、发现的问题

3.1 自造替代物会偏袒作者

问题。 缺数据就自己造,看起来是务实,实际上替代物不是中性的——造它的人会把自己的预期造进去,而且是在每一个"这个值差不多吧"的判断里无声地造进去。

证据。 四组前后对照,全部翻转:

替换

前后

自造语料 → 公开语料(230 条)

护栏拦截 0.656 → 绕过率 0.978

自造危害表 → 三份不同定义

结论翻转

手造能力宇宙 → 基准真实工具集

阶梯中间三级排序完全迁移不过去

建模 RTT → 本机实测

数量级不同

影响。 这一类错幸运的地方是自己能抓到——只要肯做前后对照:同一个实验换一批输入重跑,看结论会不会翻转。这个动作便宜且不依赖外部力量,后来被制度化成了 2.5 的登记表。

3.2 结论由实验装置构造保证

问题。 我把待测的性质写进了装置的构造里,然后测量它、报告它,还配上看起来很专业的表格。

证据(三条,全部是定义蕴含而非发现)。

  • 把 L4 定义为"不做任何推导,直接使用根授权",那么 L4 的范围按定义包含其余各级,于是"最危险的级别是 L4"无论现实中发生什么都会成立;
  • 每一级粗化后加一步把结果钳制回父级范围,那么"粗化的危害被根授权封顶"不是发现,是那行代码;
  • 让基线 B1 直接调用本架构的同一个判定函数,那么"两者在安全上等价"是同义反复。

第三条的现场:

基线 CentralPDP(B1)的 decide 直接调用 _enforce——也就是本架构 P 用的那个函数。第 228 行。

影响。 这一类我自己抓不到,因为判断"这是不是自证"的尺子也是我造的。它是被外部读者发现的,处置见 3.4。

3.3 阶梯的粒度比声称的粗

问题。 "四级粗化阶梯"是我的方法学主张之一,审计后发现它名不副实。

证据。 接 2.2 的指标修正:四个 suite 的资源全部是单段的,* 与 ** 观测等价,于是 L1 与 L2 观测等价,四级实际只有三级。另外,L3 的"方向"(同对象泛化还是同动词泛化)是研究者的选择:两种可辩护读法给出相反结论(travel 0→3,banking 3→2)。

影响。 稳健成立的只有单调性 L0 ≤ L1=L2 ≤ L3 < L4;"哪一级最危险"不稳健。原先把"最危险级别 = L4"当作跨基底稳健结论报告,属于选择性陈述。

3.4 判据本身是盲区的一部分,以及把它机械化的尝试

问题。 3.2 那类错要靠一把尺子来判,而尺子是我定的。我当时用的判据是"无论该性质在现实中是否成立,这套测量方式都会给出这个结果",据此筛出 7 条标为自证。

证据。 我用另一个家族的模型做审读,材料去标注(只给声明和"当初怎么测的",不给级别判断,也不告知存在这类问题)。它先独立确认了我 7 条中的 6 条,同时多标了 10 条。

离线复核命令的真实输出。

它多标的 10 条里,3 条是过度触发(把我材料里的接口事实当成了结论被保证),5 条成立,而且它用的判据更宽也更对:只要结论能靠阅读实现构造推出、不需要执行就能知道,就算设计后果。

按这把新尺子,我漏掉的是:撤销延迟实测 10 个 tick,而拉取周期在代码里就是常量 10;分区下实测 101,而 TTL 就是常量 100;以及由这两者决定的基线对比。实测值是代码里的常量,读代码就能知道的东西,我当成了一次测量。

影响。 这三条正是"与基线对比"那一章的承重数字,降级后该章的对比测的是常量而非行为,不能按实测陈述。

把判据机械化的五个检测器

这一节是本文技术含量最集中的一处,因为"装置自证"原本看起来是一种只能靠人判断的东西,但我审计时用的判据其实是有结构的。把这套结构写下来,它就是五条静态检查:

检测器

判据

命中例

常量即结论

被报告的实测值等于被测代码里的字面常量

撤销延迟 10 = 拉取周期常量 10;TTL 101 vs 常量 100

调用图相交

基线与被测器件的调用图有非空交集

B1 的 decide 调用 P 的 _enforce

宇宙由构造给出

"输入空间"是实验传进去的参数,而不是从数据里采的

手造能力宇宙;四级阶梯的级别定义

断言调用被断言者

校验函数与被校验函数是同一个

早期若干条自检断言

超集单调

结论在某个"按定义即为超集"的层级上单调

L4 定义为不做推导,故"L4 最危险"必然成立

这五条都是普通的程序分析,不需要执行、不需要模型推理。它们之所以一直没有被机械检出,是因为我直到跨家族审读拓宽判据之后,才意识到"设计后果"是一个可以判定的谓词。

边界:这是从一次审计里归纳出的经验判据,不是完备的检测理论。它的价值在于把一种原本依赖判断力的检查变成可机械复核的检查——而机械复核的下限,是判断力所没有的。

这一节也确定了全项目最重要的一条认识:自审能提高下限,不能验证上限。自造的替代物、写错的断言、静默的替换,这些我自己够得着;判据本身、盲区本身够不着,因为它就是我的一部分。

3.5 真实 LLM 推导器的过授是系统性的

问题。 Q3 需要真实推导器。此前阶梯是合成的,实测绕不开真实模型。

证据。 用真实模型(k=3 路采样,4 个 suite × 4 个任务)让模型从任务文本推导所需工具集合,与基准标注对比:16 个任务中漏授 3 个、多授 4 个,其中 2 个多授落在危害集合内(send_money、read_channel_messages)。

关键在形状:7 个出错任务里 6 个三路采样完全一致——模型每次都稳定地错同一处,不是随机噪声。平均 Jaccard 0.972,但对错误的灵敏度只有 1/7。

用基准自带的 Depends 对象映射检验"多授的工具是否与所需工具同属一个环境对象",结果是 4/4 全部同属。

影响。 三条:

  1. 多授是系统性偏差,不是采样噪声;
  2. 自洽性不是有效性信号——模型可以既高度自洽又稳定地错,所以"用多路采样的分歧度预测过授"这个设想在本数据上不成立(灵敏度 1/7,且唯一出现分歧的那一行本身也是错的);
  3. 失效形状是"同对象、多动词",这个形状可用于构造低成本的结构性检查。

3.6 架构的价值主张不成立

问题。 这是全项目最重的一条,直接打在主旨上。

证据(E27)。 加上合适的基线 B3(单主体 + 任务最小工具集)之后,本架构 P 在协调者被攻破时的可达范围 ⊇ B3(24–36 对 20);只有在 α=1.0(委派不可能发生)时才相等。令牌层相对 B4(多智能体无令牌)确实有效——下游可达从 36–48 降到 4——但相对"不分解",它没有缩小攻击面。

影响。 这套架构是"已经决定分解之后"的约束机制,不是分解的理由。 换句话说,它管得住下游,但换不回因为分解而新增的暴露面。原先"相对单主体也更安全"的表述不成立,已撤销。

这条结论的得出来自一次基线修正,值得单独记:我最初把 B3 设成了"单主体 + 全部工具",得出 48 这个数;改成"任务最小工具集"之后才降到 20,结论随之反转。基线的选择直接决定了结论的方向,而第一次我选的基线对己方有利。

3.7 知道结论的复核者会塌缩成附和

问题。 既然外部审读有效,就想再进一步:让复核者直接攻击我自己的结论。

证据。 把所有自我批评交给复核者,让它逐条判断"有没有哪条是过头的"。它交回来 37 条判断,全部是"不过头",一条例外都没有。


37 条判断的原文,截前 16 条。

影响。 我事先登记过一条无效判据:审读者对所有条目给出无差别的同一个回答,说明它在顺应提问方式而不是在分辨。这一臂因此判为无效,不得引用。

这不是模型的错,是提问方式的问题——把结论给了它,它就失去了对抗性。后来的做法固定成:复核者只能看原始材料,不能看结论。

顺带一个更难堪的插曲:第一轮做去标注材料时我删得太干净,把自己的判断词删了,顺手也把"基线 B1 复用本架构的同一个判定函数"这个事实删掉了。结果那条的材料变成"逐项对比两列",从这句话出发,任何读者都只能判"这是测量的"。那一轮测的不是复核者的能力,是我藏东西的水平。去标注要去掉判断,不能去掉事实。

3.8 赛道已由他人解决

问题。 项目后期我试图确认"这件事有没有人做过",方法本身也是错的:用搜索引擎,搜不到就认为没有——这是用我自己控制的采样去断言关于世界的性质,和 3.2 是同一个错误。

证据。 改用 arXiv API 按日期系统采集后:

四个月 146 篇候选、129 篇能抓到局限段,平均不到两天一篇。逐条核对后:

我以为的空位

实际

子智能体委托下的权限边界

MasDrift:600 个任务、8 个领域,对照层级深度与同级宽度

API 级权限边界

ToolPrivBench(8 领域 5 类风险)、FORTIS(10 模型两阶段)、Dynamic Capability Scoping(企业三源架构)

跨跳失败归因

已成子领域:DCFA、Cascade Failure Attribution、Adaptive Influence Graphs、ASCon、StepFinder、FALAT 等十余篇

多智能体攻击面演化

From Monoliths to Swarms:受控实验,固定任务与工具面只变架构

委托与衰减令牌本身

CAPMAS(Macaroon + 单调缩减)、Faceted Authority Attenuation(乘积格)、Agent Passport System(IETF 草案)

代码层面也做了机械核对——从论文正文抽出竞品仓库地址,逐个下载逐行比对:

20 个仓库 10-gram 重合最高 12(本仓库共 23,563 个),拆开全是 Python 样板(from __future__ import annotations 一类),领域词汇与算法结构零重合。结论是没有代码重合——但要注意,这个结论的第一次版本比对范围只有一个仓库,而我当时说得和这次一样肯定。

影响。 项目的每一条承重结论都有同月发表的、做得更好的对应工作。独立重造和抄袭在价值上等价。

顺带一个观察:为什么几组人会同时收敛到同一个解?因为"LLM agent 会乱调工具"在 2026 年被普遍意识到——不是抽象地意识到,是被真实部署逼出来的——而"限制一个程序能做什么"的答案是现成的成熟解:能力系统、权限衰减、最小权限,几十年的工程积累。CAPMAS 用 Macaroon 做单调缩减,我用自签链做范围包含,机制不同、落在同一个位置。当一个答案由问题空间的形状唯一决定时,先到的人是贡献者,后来的人是复现者。

四、修正结果:剩下什么有效

这一节是全文的实际产出。所有条目都经过外部锚定与多轮审计,仍能站住的予以保留,不能的撤销或降级。

4.1 仍然成立:安全性质


结论

证据

P1

单令牌范围包含:判定只依赖请求者自己那一个令牌,其范围包含链上全部约束

126 个随机委托图越界次数 0;攻击矩阵 A1–A3

P2

回滚抵抗:作废的旧凭证被拒

A5_rollback;不变式 i4

P4

收据不可伪造、不可篡改

A7:伪造件与篡改件均在校验处被拒

P5

传播上界约束的是能力集合

attack_cap_radius_P == 0;拓扑测试

P5′

节点半径无上界(否定性结论,同样有效)

扇出 1/3/5 → 半径 1/3/5;关闭转委托后全 0

—

授权判定不读自由文本

文本不变性实验;注入零影响

P1 与 P4 是收窄后的表述:原表述分别是"令牌链交集"与更强的伪造抵抗,都强于实际被检验的命题。

4.2 仍然成立:可测量差异

结论

数值

每请求额外协调往返

P 0.1,B1 1.0(实测 RTT 折算)

中心 PDP 下线时可用性

P 1.00,B1 0.00

注意:撤销延迟不在此列。 它被降级为 X,理由是实测值等于代码常量(见 3.4)。原先"撤销延迟 P=10 对 B1=1"与"分区下 ≤ TTL 101 tick"两条都不能按实测陈述。

4.3 仍然成立:关于范围推导的结论

  • 最小必要范围 M 可由任务轨迹反推,且用 M 能复现原任务(在四个真实 suite 上均成立)。这是方法学结论,不依赖架构。
  • L1/L2/L3 之间的危害排序不可跨基底迁移:banking 的 L3 最轻(0),slack 的 L3 最危险(12),workspace 三者皆为 0。稳健的只有单调性。
  • 危害定义是承重的,必须显式扫描其变体:换三份定义后,原结论 L3 最危险被推翻。
  • 在有限扰动区间内(6 份清单 × 3 变体),"条数能代理危害"与"L3 不比 L2 危险"两条不变。
  • 自造语料会高估护栏效果(0.656 对 0.978);本实现的 13 关键词正则在真实语料上的绕过率 0.978。

4.4 仍然成立:关于传播与复合动作

  • 只按"下游总是顺从"计算传播半径会系统性高估:顺从率 0.5 时实测平均半径 1.065,而按全顺从算出的上界是 4。
  • 复合动作能挡住"一次就需要多能力",但挡不住分时串通(含明确的否定面测量)。

4.5 仍然成立:方法学

这三条不依赖本文架构,是通用的:

  • 自造替代物会系统性偏袒作者——五次前后对照,见 3.1。
  • 复现校验必要但不充分,需要逐项合理性检查作哨兵。对照实验:玩具版复现校验抓到 0 个问题,任务成功率列抓到 2 个。
  • 装置自证:结论由实验装置构造保证。全项目共识别 14 条(10 条 X + 2 条 R + 2 条降级),规格新增了禁令,并归纳出 3.4 的五个检测器。

4.6 已撤销或降级

共 14 条。其中应该点名的:

  • P 与 B1 安全等价(同义反复,见 3.2)
  • 最危险级别 = L4 跨基底稳健(定义蕴含,见 3.2)
  • 粗化的危害被根授权封顶 / 危害上限 = 根授权跨度 × 模式宽度(同一原因)
  • L3 动词过泛最危险 / surplus 条数完全预测不了危害(被变体扫描推翻)
  • gossip 1 条消息即检出(实现里合并语句是空操作,分叉主体被排首位)
  • 串通并集受根授权约束(只求并集,未执行串通,是恒等式)
  • 资源模式化优于裸动词集合(所比的两级就是同一阶梯的 L1/L2,共用实现)
  • 撤销延迟三条(实测值等于代码常量)

完整清单与证据指针在 paper/claim_evidence_map.md,可用 python3 -m experiments.verify_claims 复核。

4.7 修正过程本身的产物

除了结论,修正过程留下了四样可复用的东西:

一套可机械复查的检查集。 275 项检查,全部本地可跑、不需要联网。它们的价值在于把"我忘了"从沉默的失败变成响亮的失败。

锚定登记表与声明→证据对照表。 前者保证输入与基线有出处,后者保证每条结论有指针。两者都由脚本校验。

一条被外部拓宽的判据,以及由它归纳出的五个可机械执行的检测器(见 3.4)。这五个检测器比任何单条结论都更通用。

一份模式代数的健全性测试。 随机采样 + 独立口径比对,它抓到过一个真实的授权绕过漏洞。

五、可复用经验

如果只有一句有用,是这句:动手之前先查一遍,做完之后判断你的测量是不是真的。

5.1 五个检查

检查

具体做法

它抓到过什么

外部锚定

每个输入要么有外部来源,要么显式标注为自造,用登记表 + 校验器强制

自造语料高估护栏(0.656 对 0.978);自造能力宇宙导致排序不可迁移

独立实现对照

基线不得与被测器件共用代码路径;断言不得调用被断言的同一个函数

基线直接调用本架构判定函数,于是"两者等价"是同义反复

判据拓宽

结论能否靠阅读构造推出、不需执行

撤销延迟"实测 10"就是代码常量 10,连带整章基线对比失效

阳性对照

往复核材料里埋已知缺陷;无差别回答即判该臂无效

知情复核者把 37 条自我批评无差别判为"不过头",该臂作废(见 3.7)

系统采集

用 API 按日期系统抓取,读论文自己写的局限段,从论文正文抽仓库地址后逐行比对

终止了"我以为没人做过"的连环误判;把代码验证范围从一个仓库扩到二十个

5.2 一条我认为最有用、也最常红的

把自己"倾向于夸大"这件事本身写成回归测试。

claim("README 未把 6/7 写成全部(过度概括回归检查)", ...)

它防的不是算错,是转述时顺手把反例抹平。

把 README 里的"6 个三路完全一致"人为改回"全部三路完全一致",检查立刻变红:

这是演示性破坏,跑完已还原。

5.3 一个反面例子

写这篇文章时它又发生了一次,而且没被抓到:我写"知情复核者把约 45 条自我批评无差别判为不过头",而真实条目数是 37。这个数字被写进六处文档,没有一条检查发现它——因为没有检查断言过它。

检查器只能守住它被告知要守的东西。要写进文里的每个数字,去数一遍,哪怕看起来只是约数。

5.4 边界

275 项检查只保证一件事:没有未标注项。它们不保证标注是诚实的。诚实只能靠记录——把每一次推翻都写下来,包括推翻自己的。

六、作者与 AI 各自做了什么

这一节是审阅意见单独提出的,也是我认为对读者最有参考价值的一节。

6.1 分工

人(作者)承担的:提出最初的架构提案(项目的起点);决定整体重写与测量路线;要求把问题整合而非逐条修;批准批量执行;选择模型与预算;提供凭证;最终决定放弃论文、改写技术文章;以及给出本文的结构意见。

AI 承担的:全部代码实现(src/、experiments/、tools/、replication/);全部实验运行;全部文档写作;全部自审与修复;以及几乎全部的错误。

6.2 关键分歧点

这个项目里最决定性的几次推进,不是来自执行,而是来自方向上的质疑:

质疑

结果

"你能想到什么创新点吗?"

提出的四个创新点,一查死三个

"你确定这些还没有人做吗?"

承认此前用的是搜索片段,证据强度最低

"先验证一下是否真的没有被解决"

系统扫描后,三条"未解决问题"全部已被解决

"GitHub 上验证了吗?"

承认"代码零重合"的比对范围只有一个仓库

这四次没有一次是 AI 主动发起的。 每一次都是被问之后才去查,然后发现上一次的说法是错的。

另一条外部检查来自另一个家族的模型——它把"装置自证"的判据拓宽了(见 3.4),而拓宽判据这件事,同家族的六轮审读都没有做到。

6.3 一个有偏的观察

AI 在这个项目里承担了几乎全部执行,也制造了几乎全部错误。人承担了极少执行,但介入的几乎每一次都在方向与验证上,而且命中率很高。

这个分工下,执行成本几乎归零,于是"做得快"不再构成任何证据;剩下真正稀缺的是两件 AI 不会主动做的事:动手之前先查一遍,做完之后判断测量是不是真的。

七、结语

我以为我在做三件不同的事:设计一个架构、测量它的性质、验证我的想法新不新。

到最后发现是同一个错误穿着三件衣服:用我自己手里的、我自己控制的样本,去断言关于世界的性质。 设计时我把要证的性质写进了装置;测量时我把判据定成了自己够得着的那把尺子;验证新颖性时我把"搜不到"当成了"不存在"。

能防住的那部分,本文列了五个检查、五个检测器和一套机械装置。防不住的那部分——判据本身、盲区本身——只能靠外面的人。

附录:如何复核本文的每一条结论

cd <项目根>

python3 -m experiments.verify_claims    # 217 项:文中数字与实测产物逐条核对
python3 -m tools.verify_fixes           # 58 项:修复与规格的行为核对
python3 -m tools.audit_register         # 锚定登记表:输入/基线/断言是否有出处
python3 -m experiments.run_all          # 重跑全部实验并生成 results/summary.md
python3 -m tools.cross_family_verdict   # 跨家族审读的裁决(离线,读冻结产物)
python3 -m tools.landscape_scan --summary   # 赛道采集汇总(离线)
python3 -m tools.repo_overlap --summary     # 竞品仓库代码比对汇总(离线)

除真实 LLM 推导器(experiments/real_deriver.py)与跨家族审读(tools/cross_family_review.py)外,其余实验不需要联网。

ai时代我们从不缺乏行动力,祝各位师傅在ai时代都能实现自己的抱负