全部学术研究

个人研究项目 / 离线估计器研究

MiniClaudeCode · 有序轨迹归因

当工具调用存在先后依赖、协同与失败恢复时,如何分配可解释的轨迹贡献?

摘要

以 MiniClaudeCode 的工具轨迹为观测接口,研究动作具有前置条件时的贡献分配。项目同时提供有界 Agent 循环、工具策略、检查点与评测基础设施;这里重点展示有序归因这一离线研究问题。

问题

普通 Shapley 会考察缺少 read 却包含 edit 等不满足依赖的动作组合。即使子集中保留原始顺序,也不能消除这类不可执行反事实。问题是如何在明确的前序约束下定义并估计边际贡献。

方法

将动作依赖表示为 DAG,仅在合法线性扩展上平均边际贡献。较小的合法顺序集合使用精确枚举;较大的集合用动态规划计算后续完成数,再按完成数加权采样,以均匀抽取合法顺序。

系统架构

任务进入有界 Controller,经 LLM Driver、工具注册表、策略与执行器形成可记录的 ToolObservation。归因模块独立接收轨迹、前序图和可重放的效用函数,输出贡献向量、标准误差与效率残差。

数据集

受控研究由链式交互、失败恢复、冗余证据、并行证据和策略守卫五类结构生成,每类八个变体。它们是声明效用函数的合成协议,不是四十个独立真实编码任务,也不包含生产用户数据。

实验设计

比较均匀、位置、成本、leave-one-out、vanilla Shapley 与前序约束 Shapley;同时检查不合法组合、采样预算变化和重放确定性。脚本与结构协议结果以 JSON 报告形式公开。

实验结果

提交报告显示,在该协议的前缀序列参考下,前序约束估计误差更低;增加采样预算后,对精确参考的平均误差下降。这些观察只支持当前估计器协议,不证明真实编码成功率、因果识别能力或策略训练收益。
六节点失败恢复 DAG、动作级归因对照、六种估计器聚合比较与采样收敛组成的完整论文图。
基于公开项目材料整理的实验结果;小屏可横向滑动查看。

消融分析

对比不同贡献基线,并以不同采样预算与随机种子观察收敛。严格链条会退化为前缀条件下的顺序边际;部分序允许独立动作交换。前序图本身的正确性仍是外部假设。

失败分析

如果相同组合不能确定性重放,或声明的 DAG 排除了实际可行顺序,归因便失去依据。当前公开 live trace 缺少逐动作工作区快照,因此不能据其执行真实任务的反事实组合重放。第三方训练代码的存在也不代表本项目完成了 RL 训练。

演示

代码仓库提供离线复现入口:python -m evaluation.trajectory_credit_study。该命令检查结构协议中的估计器行为;需要真实模型的编码评测是另一条执行路径,不与离线验证混报。

引用

hey-Chloe. MiniClaudeCode / Ordered Agent Trajectory Credit Assignment. Public repository, commit a060de35ad0b5ea42fd98c80c288c9a0bb639cdc. https://github.com/hey-Chloe/MiniClaudeCode