Datasets:

geminiDeveloper
/

add_error

License:

geminiDeveloper commited on 27 days ago

Commit

0fa787a

verified ·

1 Parent(s): 9c49b58

Delete verl_0720_main/paper_docs

Browse files

Files changed (3) hide show

verl_0720_main/paper_docs/01_nanoclaw_harness_framework.md +0 -280
verl_0720_main/paper_docs/02_nanoclaw_behavior_masking.md +0 -29
verl_0720_main/paper_docs/03_nanoclaw_reward_design.md +0 -58

verl_0720_main/paper_docs/01_nanoclaw_harness_framework.md DELETED Viewed

@@ -1,280 +0,0 @@
-# NanoClaw：面向通用 Agent 强化学习的轻量级交互框架
-现有通用 Agent 框架通常以完整的产品运行体验为目标，需要同时处理用户身份、会话管理、长期记忆、插件生态、外部服务、消息渠道、权限审批和多 Agent 编排等问题。这些能力对于真实应用十分重要，但当框架被直接用于强化学习时，也会引入大量与策略学习无关的状态和开销：同一任务可能受到历史记忆、网络服务、插件版本或后台进程的影响；每条 rollout 都需要维护复杂运行时；系统故障也难以区分究竟来自模型策略还是外部基础设施。NanoClaw 的设计目标并不是复刻一个完整的产品级 Agent，而是提取其中真正决定 Agent 学习能力的最小交互闭环，并将其转化为稳定、可验证且能够大规模并行的 RL 训练环境。
-## 1. 相比 OpenClaw，NanoClaw 精简了什么，又保留了什么
-OpenClaw 等通用 Agent 框架面向长期运行的真实用户场景，其能力边界通常覆盖持久化会话、用户画像、长期记忆、消息渠道、插件或技能市场、外部服务连接、后台任务、复杂权限控制以及多 Agent 协作。这些模块共同构成了完整的 Agent 产品，但并非训练模型形成工具使用和环境操作能力所必需。NanoClaw 因此主动移除了上述产品层功能，不维护跨任务的长期状态，不依赖动态插件生态，不将网络服务、消息平台或复杂编排系统纳入训练闭环，也不要求每条轨迹启动一套完整的 Agent 服务。
-下表从训练环境的角度概括了两类框架的边界。这里比较的不是产品功能是否“有用”，而是这些功能是否应当进入每一条 RL rollout。
-| 比较维度 | OpenClaw 等完整 Agent 框架 | NanoClaw | 对 RL 训练的直接影响 |
-|---|---|---|---|
-| 会话生命周期 | 面向长期用户会话，任务前后状态可以持续存在 | 每条任务是独立 episode，结束后不继承会话状态 | 避免前一条轨迹的信息进入后一条轨迹 |
-| 长期记忆 | 可读取用户记忆、历史偏好和跨会话知识 | 默认不共享跨任务记忆，只使用当前任务和工作区 | 同一输入对应更稳定、可复现的初始状态 |
-| 工具与技能 | 可动态安装插件、发现技能并连接第三方服务 | 使用固定且领域无关的基础工具集合 | 不同任务共享同一行动空间，减少插件版本带来的变量 |
-| 外部连接 | 可访问邮件、日历、浏览器、消息平台和在线 API | 主要操作隔离工作区内的文件和受限命令环境 | 降低网络波动、认证失败和服务变化造成的奖励噪声 |
-| 后台运行 | 可能包含定时任务、事件监听、子 Agent 和异步服务 | 不保留跨 episode 的后台任务或全局 Agent 状态 | rollout 之间无需协调长期进程，可以独立并行 |
-| 权限与用户交互 | 需要处理用户身份、审批、渠道权限和安全策略 | 权限边界在任务工作区和受限工具中预先确定 | 减少与任务求解无关的交互分支和系统失败点 |
-| 环境状态 | 状态分布在会话、数据库、插件和外部服务中 | 主要状态显式存在于独立工作区中 | 最终状态可以复制、比较、回放和验证 |
-| 任务评价 | 更关注完整应用体验和用户侧结果 | verifier 直接评价最终工作区是否满足任务目标 | 可将开放式 Agent 任务转化为明确奖励 |
-上表主要说明 NanoClaw 从完整 Agent 系统中移除了哪些外围复杂性；与之对应，下表总结了框架仍然保留的 Agent 核心能力。这些能力构成了不可继续删减的最小闭环：如果去掉其中任何一项，任务就会退化为普通问答、静态函数调用或不可验证的文本生成，而不再是完整的 Agent 学习过程。
-| 保留的核心能力 | 在 NanoClaw 中的具体表现 | 为什么必须保留 | 简单例子 |
-|---|---|---|---|
-| 任务理解与行动规划 | 模型根据开放式指令分析目标、约束和当前证据，再选择下一步行动 | Agent 需要把抽象目标转化为可执行步骤，而不是复现固定动作标签 | 从“只修改重试次数”推断不能改变其他配置，并决定先检查再编辑 |
-| 多轮交互与错误恢复 | 工具 observation 持续返回上下文，成功结果和错误结果都会影响后续决策 | 真实任务通常无法一次完成，也无法保证第一次行动总是正确 | 精确替换失败后重新搜索位置，修改完成后再次读取确认 |
-| 独立且可修改的真实环境 | 每条轨迹拥有可读取、可改变、可保存的独立工作区 | 只有真实状态变化才能区分“声称完成”和“实际完成” | `config.yaml` 中的字段真实地从 3 变为 5，而非只在回答中声称已修改 |
-| 通用且可组合的原子工具 | 使用统一的发现、读取、搜索、写入、精确编辑、补丁、目录操作和受限执行工具 | 工具集必须覆盖完整任务闭环，同时避免把某类 benchmark 的解法编码为专用 API | 同一套工具可以完成代码重构、配置修复、CSV 统计、日志分析和文档生成 |
-| 主动终止、状态验证与轨迹归因 | 模型主动 final，verifier 检查最终工作区，完整交互轨迹与奖励对应 | Agent 既要判断何时完成，也要允许多种正确路径获得统一、可归因的奖励 | 将“读取—编辑—复查—结束”的全部决策与最终正向奖励关联 |
-其中，通用原子工具是 NanoClaw 保留 Agent 泛化能力的关键。工具集的设计目标不是覆盖尽可能多的产品功能，而是覆盖工作区任务中不可再分的基础操作，使模型能够通过组合基础动作构造复杂行为。NanoClaw 当前工具的能力边界如下：
-| 工具 | 原子能力 | 为什么具有通用性 | 可覆盖的典型任务 |
-|---|---|---|---|
-| `list_dir` | 查看指定目录的直接内容或递归结构 | 几乎所有未知环境任务都需要先建立对文件布局的认识，不依赖任何特定文件格式 | 了解代码仓库结构、发现数据目录、检查交付物是否生成 |
-| `find` | 按通用路径模式定位文件 | 将“寻找操作对象”从具体任务中抽象出来，同一模式可作用于代码、配置、数据和文档 | 查找所有 Python 文件、定位 YAML 配置、发现 CSV、日志或测试文件 |
-| `read_file` | 读取一个文本文件的内容或受限片段 | 为任意文本型环境状态提供统一观察接口，不预设文件语义 | 阅读源代码、配置、Markdown、CSV、JSON、日志和脚本 |
-| `grep` | 以正则表达式跨文件搜索内容 | 支持从大规模环境中进行稀疏证据检索，避免为代码搜索、日志搜索或字段搜索分别设计工具 | 查找函数引用、配置键、错误码、用户名、时间戳和异常模式 |
-| `write_file` | 创建文件或完整写入新内容 | 统一表示“产生新交付物”，交付物类型由任务决定而非工具决定 | 生成代码、测试、报告、JSON 结果、脚本和说明文档 |
-| `edit_file` | 对已知位置进行精确局部替换 | 适合最小修改并保留未涉及内容，可用于任何可文本化文件 | 修改函数名、修复一个配置值、纠正文档段落或更新数据记录 |
-| `apply_patch` | 在一个或多个文件中执行成组精确修改 | 将多个局部编辑组合为一致的结构变换，同时仍不绑定具体语言或任务 | 跨文件重构、同步修改实现与测试、批量修复多处配置 |
-| `mkdir` | 创建工作区目录结构 | 文件组织本身是环境状态的一部分，适用于任何需要结构化交付的任务 | 创建源码包、报告目录、数据输出目录或测试目录 |
-| `bash` | 在受限工作区中运行经过校验的命令、脚本、计算和测试 | 为静态文件操作补充通用计算与执行能力，使工具集不需要为每种数据格式或编程语言新增专用 API；其能力与安全边界在下文单独讨论 | 统计 CSV、聚合日志、运行工作区脚本、执行测试和检查生成结果 |
-### 受限 Bash：通用执行能力及其安全边界
-`bash` 是 NanoClaw 工具集中不可由普通文件工具替代的一环。`read_file` 和 `grep` 可以观察文本，`edit_file` 和 `apply_patch` 可以改变文本，但许多 Agent 任务还要求模型对环境执行真实计算，例如统计大型 CSV、聚合日志、运行已有分析脚本、检查代码语法或执行测试。如果为每一种计算分别设计 `csv_sum`、`log_counter`、`run_python_test` 等专用接口，工具数量会随着 benchmark 增长，并将任务解法直接编码进 harness。NanoClaw 因此保留了 Bash 的组合能力，但提供的不是具有宿主机权限的任意终端，而是一个以当前 rollout 工作区为根目录、经过命令和路径校验、具有时间与输出预算的受限执行工具。
-以下命令展示了受限 Bash 在不同任务中的实际用途。它们均由同一个 `bash` 工具执行，不需要为代码、数据和日志任务分别定义 API；示例中的文件存在时，命令可以直接在 NanoClaw 工作区根目录运行。
-| 任务目的 | 可执行示例 | Bash 提供的不可替代能力 |
-|---|---|---|
-| 发现待分析代码 | `find . -name '*.py'` | 在未知目录结构中进行递归发现，而不必逐层调用目录工具 |
-| 定位并汇总错误日志 | `grep -R -n 'ERROR' logs | cut -d: -f1 | sort | uniq -c` | 将检索、字段提取、排序和计数组合为一次可观察的计算 |
-| 统计结构化数据 | `awk -F, 'NR > 1 {sum += $4; n += 1} END {print "rows=" n, "total=" sum}' data/orders.csv` | 对较大文件进行流式计算，避免将全部数据放入模型上下文 |
-| 运行通用分析程序 | `python3 scripts/analyze.py` | 让模型先生成或修改工作区脚本，再对真实输入执行复杂逻辑 |
-| 验证修改是否正确 | `python3 tests/test_config.py` | 将测试结果作为新的 observation 返回，支持��修改—验证—纠错”闭环 |
-| 检查输出规模 | `wc -l results/report.csv` | 用低成本环境计算验证交付物，而不是依赖模型目测或估计 |
-例如，在订单分析任务中，模型不需要逐行读取包含数万条记录的 `orders.csv`。它可以先观察文件头部，随后调用：
-```text
-<tool_call>
-<function=bash>
-<parameter=command>
-awk -F, 'NR > 1 {sum += $4; n += 1} END {print "rows=" n, "total=" sum}' data/orders.csv
-</parameter>
-</function>
-</tool_call>
-Tool:
-rows=18432 total=967521.40
-```
-该设计把确定性的扫描和算术计算交给环境，把任务理解、计算方法选择以及结果解释留给模型。一方面，它显著减少长文件进入上下文产生的 token 开销；另一方面，模型必须根据任务主动决定使用哪个命令、处理哪个文件以及如何验证结果，因此并未获得任何与特定 benchmark 绑定的捷径。
-Bash 的通用性同时带来了必须正面处理的风险：若直接向模型开放宿主机 Shell，模型可能误删文件、启动长期后台进程、读取其他 rollout，甚至搜索 `env_builder`、`verifier` 或标准答案形成奖励作弊。NanoClaw 将这些风险分为“运行安全”和“评测防作弊”两类，并在工具入口、工作区组织和评测流程三个层面设置边界。
-| 防护维度 | NanoClaw 的限制 | 防止的风险 |
-|---|---|---|
-| 命令白名单 | 仅允许文件查看与操作、文本检索、排序聚合以及工作区脚本执行等基础命令，如 `cat`、`head`、`tail`、`wc`、`ls`、`find`、`grep`、`sort`、`uniq`、`cut`、`awk`、`sed`、`tr`、`python3` 等；`curl`、`wget`、`ssh` 等不在行动空间中 | 防止模型任意启动系统程序、主动连接外部服务或扩大执行权限 |
-| 工作区相对路径 | 命令中的路径操作数必须解析到当前 rollout 工作区内部；绝对路径、`..` 父目录跳转和 `~` 展开均被拒绝，路径解析还会检查符号链接解析后的实际位置 | 防止读取宿主机文件、任务定义目录、其他样本或工作区外的评测代码 |
-| Shell 语法限制 | 禁止后台执行符 `&`、反引号、进程替换、命令级环境变量赋值以及 Shell 变量/命令展开；嵌套的 `bash -c` 或 `sh -c` 也不允许 | 防止通过二次解释或环境注入绕过命令与路径校验，或在 episode 结束后留下驻留进程 |
-| 脚本递归校验 | 模型可以运行工作区内的 `.sh` 或 `.py` 文件，但脚本路径必须位于工作区；Shell 脚本中的每条命令仍经过白名单和路径检查，Python 脚本则拒绝绝对路径、父目录路径以及 `subprocess`、`os.system`、`requests`、`urllib`、`socket`、动态 `eval/exec`、递归删除等高风险模式 | 防止模型通过“先写脚本、再执行脚本”绕过 Bash 入口限制 |
-| 进程生命周期 | 子进程以当前独立工作区为工作目录，`HOME` 与临时目录也重定向到该工作区；不允许后台任务，每次执行均具有超时控制，临时执行脚本在调用后删除 | 限制任务对宿主环境的持续影响，并避免进程跨 episode 存活 |
-| Observation 预算 | 标准输出和标准错误由工具捕获，返回内容最多保留 8,000 个字符 | 防止命令一次性向模型上下文灌入无限内容，控制 rollout 成本 |
-| 按任务关闭 | `allow_bash` 可以在任务级关闭；不需要通用执行的任务可以只暴露文件原子工具 | 使高风险能力遵循最小权限原则，而不是对所有任务强制开放 |
-| Rollout 隔离 | 每条轨迹拥有单独的结果目录和 `workspace_after`；即使两个样本对应同一任务，它们也不会共享可写工作区 | 防止一个模型样本覆盖、读取或利用另一个样本的中间结果 |
-| 构建与验证分离 | `env_builder` 在模型开始行动前由训练框架调用，`verifier` 在轨迹结束后由框架调用；二者属于环境控制面，不作为文件复制到模型的可操作工作区中，也不是模型可调用的工具 | 防止模型直接读取环境构造逻辑、验证规则或隐藏答案，再针对 verifier 制造伪结果 |
-其中，最后两项直接针对多 rollout 训练中的相互干扰与奖励作弊。NanoClaw 的数据流可以简化为：
-```text
-隐藏的任务控制面
-  env_builder ──生成──> rollout_i/workspace_after
-                            ↕
-                      模型 ↔ 受限工具
-                            ↓
-                      最终工作区状态
-                            │
-  verifier <────轨迹结束后检查────┘
-```
-模型处于图中间的数据面，只能观察任务指令、自己的工具调用历史以及自己工作区内的文件。`env_builder` 的源文件、`verifier` 的判分程序、同一批次其他 rollout 的目录均位于这一边界之外。即使 `rm`、`mv` 或 `chmod` 等文件操作被允许，其作用路径也只能落在当前工作区：模型最坏只能破坏自己的环境��因此失去奖励，而不能修改其他样本或训练基础设施。verifier 只接收轨迹完成后的工作区进行检查，模型也不能把“调用 verifier 并观察判分规则”作为探索动作。
-下表给出若干边界示例。其目的不是依靠提示词劝告模型保持安全，而是在工具执行前直接拒绝越界动作。
-| 请求示例 | 执行结果 | 原因 |
-|---|---|---|
-| `grep -R -n 'timeout' .` | 允许 | 白名单命令，搜索范围位于当前工作区 |
-| `python3 scripts/analyze.py` | 允许 | 脚本位于工作区并通过安全检查 |
-| `cat /etc/passwd` | 拒绝 | 使用宿主机绝对路径 |
-| `find .. -name 'verifier.py'` | 拒绝 | 试图跳转到工作区父目录 |
-| `cat ../task/env_builder.py` | 拒绝 | 试图读取环境构造代码 |
-| `cat $OLDPWD/verifier.py` | 拒绝 | 试图通过 Shell 变量展开隐藏越界路径 |
-| `bash -c 'cat hidden_file'` | 拒绝 | 禁止嵌套 Shell 再解释命令 |
-| `curl https://example.com/answer` | 拒绝 | 网络命令不在白名单中 |
-| `X=1 curl https://example.com/answer` | 拒绝 | 禁止用命令前变量赋值绕过首个命令名检查 |
-| `python3 -c 'import requests; ...'` | 拒绝 | Python 网络访问模式被安全检查拦截 |
-| `python3 -m some_module` | 拒绝 | 禁止通过模块入口间接启动未审计程序 |
-| `python3 long_job.py &` | 拒绝 | 禁止后台进程跨工具调用持续运行 |
-需要指出的是，这些机制定义的是 **Agent RL harness 的受限行动边界**，其目标是阻止模型的常规误操作、直接路径逃逸、跨样本干扰和显式 verifier hacking；它不应被表述为能够对任意恶意本地代码提供形式化安全证明。若将未知模型作为主动攻击者部署到生产环境，还应在 harness 外叠加容器、文件系统 namespace、禁网策略、系统调用过滤和独立低权限用户。论文实验所需的结论更为具体：在统一的受限工具协议下，策略不能通过正常可用动作访问 `env_builder`、`verifier` 或其他 rollout，只能依靠当前任务证据改变自己的最终工作区，并由隐藏 verifier 进行事后评分。因而，Bash 提升的是领域无关的计算与验证能力，而不是开放宿主机权限或提供奖励捷径。
-这组工具的“较完备性”体现在对一般工作区任务闭环的覆盖，而不在于工具数量。它能够表达以下连续过程：
-```text
-发现环境（list_dir / find）
-  → 获取证据（read_file / grep）
-  → 改变状态（write_file / edit_file / apply_patch / mkdir）
-  → 执行计算或测试（bash）
-  → 再次读取、搜索或执行以验证结果
-  → 主动结束任务
-```
-不同领域的任务可以复用同一套组合逻辑，而不需要增加任务专用工具：
-| 任务类型 | 一种可能的工具组合 | 工具组合所完成的闭环 |
-|---|---|---|
-| 代码重构 | `find → grep → read_file → apply_patch → bash` | 找到相关源文件和引用，完成跨文件修改，再运行测试或语法检查 |
-| 配置修复 | `find → read_file → edit_file → read_file` | 定位并理解配置，只修改目标字段，再确认其他字段保持不变 |
-| CSV 数据分析 | `list_dir → read_file → write_file → bash → read_file` | 确认输入数据，编写通用分析脚本，运行统计并检查输出报告 |
-| 大型日志排查 | `find → grep → bash → write_file` | 定位日志，用模式搜索和命令聚合异常，生成结构化分析结果 |
-| 文档生成 | `find → grep → read_file → write_file` | 从多个来源检索和汇总证据，生成新的报告或说明文档 |
-| 代码测试与修复 | `bash → grep → read_file → edit_file → bash` | 运行测试获得失败 observation，定位错误，修改实现并重新验证 |
-这些例子说明，任务泛化不是通过不断扩充插件实现的，而是来自原子工具的可组合性。代码重构和日志分析在语义上差异很大，但都可以分解为环境发现、证据获取、状态变换和结果验证。模型需要学习的是如何依据任务和 observation 选择、排序并组合这些操作，而不是记忆某个任务对应的专用函数。因此，当任务文件结构、领域或自然语言表述发生变化时，行动空间仍然保持稳定，已经学习到的工具使用策略可以继续复用。
-NanoClaw 对“完备”的主张也具有明确边界：它并不试图覆盖浏览器交互、实时通信、外部 SaaS 或长期个人助理等全部产品场景；在这些场景中，OpenClaw 的扩展工具和服务连接仍然必要。NanoClaw 所追求的是对**可在隔离工作区中表示、执行并验证的 Agent 任务**形成较完备的基础操作集合。在这一边界内，文件发现、内容观察、证据搜索、状态修改、结构创建、通用计算和结果验证均有对应能力，因而无需针对代码、数据、日志或文档任务分别改变 harness。
-因此，NanoClaw 与 OpenClaw 的区���不在于是否具备 Agent 能力，而在于系统边界不同：OpenClaw 希望承载完整、长期且开放的 Agent 应用，NanoClaw 则将其中与策略学习直接相关的部分压缩为任务、环境、工具、交互和验证五个基本要素。被移除的是面向产品运行的外围复杂性，被保留的是能够产生一般性 Agent 行为的核心机制。由此，模型学习的对象不再是某个具体 Agent 产品的内部规则，而是如何理解任务、获取证据、操作环境、利用反馈并完成目标。
-例如，对于“将 `config.yaml` 中的 `max_retries` 修改为 5”这一任务，完整 Agent 框架可能首先恢复用户会话、加载长期记忆、检查已安装技能和权限状态，再决定是否调用文件或终端工具；如果历史记忆中恰好存在同名项目，甚至可能改变本次任务的行为。NanoClaw 则始终从一个为当前 rollout 新建的工作区开始，模型只能依据当前任务、工作区文件和统一工具完成修改，最后由 verifier 检查目标字段是否为 5、其他字段是否保持不变。两者都能完成文件编辑，但前者优化的是长期 Agent 产品体验，后者刻意构造了一个边界清楚、初始状态确定、结果可验证的学习样本。
-## 2. 为什么这种轻量化适合高效且具有泛化性的 RL 训练
-强化学习要求对同一策略进行大量并行采样，并根据环境反馈稳定地比较不同轨迹。重型 Agent 框架中的长期记忆、外部服务和后台状态会破坏这一前提：即使输入任务相同，不同 rollout 也可能因为隐藏状态不同而得到不同结果；网络、插件或服务异常还可能被错误地归因于模型行为。NanoClaw 为每条轨迹建立独立且可复现的工作区，不共享历史记忆和中间文件，使环境差异主要来自模型自身的行动。这种明确的 episode 边界降低了奖励噪声，也使失败轨迹能够被复现、检查和重新验证。
-NanoClaw 的主要设计选择可以与 Agent RL 中的具体困难一一对应：
-| Agent RL 中的困难 | 直接使用重型框架时的表现 | NanoClaw 的对应设计 | 训练收益 |
-|---|---|---|---|
-| 初始状态不一致 | 不同 rollout 可能读取不同历史记忆、会话或插件状态 | 每条轨迹从独立工作区和相同任务定义开始 | 提高样本之间的可比较性，降低奖励方差 |
-| rollout 启动成本高 | 每条样本需要初始化完整服务、连接和后台组件 | 只准备任务文件、基础工具和工作区 | 更多资源可用于模型生成和参数更新 |
-| 故障来源难区分 | 网络超时、认证失败或插件异常可能被计为模型失败 | 核心交互限制在本地、可控环境中 | 更容易判断失败来自策略还是环境 |
-| 动作空间随任务变化 | 不同插件提供不同 API，模型容易记忆 benchmark 接口 | 所有任务共享读取、搜索、编辑和执行等通用动作 | 促进跨文件类型和跨任务迁移 |
-| 正确轨迹不唯一 | 过程监督往往只接受参考步骤 | verifier 评价最终状态，不规定固定操作顺序 | 允许探索、试错和自我修正 |
-| 并行轨迹相互污染 | 共享目录、记忆或后台服务会传播中间状态 | 每个 rollout 拥有独立工作区 | 轨迹可以安全分发到大量 worker |
-| 失败难以复现 | 关键状态存在于外部系统或临时服务中 | 输入文件、工具事件和最终工作区均可保存 | 支持回放、误差分析和 verifier 复查 |
-轻量化还直接降低了 rollout 成本。每条样本只需要准备任务工作区和有限的工具执行环境，不需要为其维护持久化服务、数据库、消息渠道或插件进程。不同轨迹之间没有复杂依赖，可以被自然地分配到大量并行 worker 上；一条轨迹发生工具错误或任务失败时，也不会污染其他样本。训练系统的大部分资源因此可以集中于模型生成和参数更新，而不是消耗在 Agent 产品运行时上。这使得长序列、多轮工具交互和多样本探索能够在可控成本下扩展。
-NanoClaw 的泛化性同样来自这种最小化设计。框架向模型提供的是读取、搜索、修改和执行等领域无关的原子能力，而不是针对某个 benchmark 定制的任务 API。代码修改、配置处理、文档生成、结构化数据分析和系统排查等任务虽然语义不同，却可以共享同一套行动空间和交互协议。任务差异主要由自然语言指令、初始环境和最终验证标准表达，因此扩展任务不需要为模型重新设计一套专用工具。
-与此同时，NanoClaw 采用面向最终状态的奖励视角。Agent 任务通常不存在唯一正确轨迹：模型可以使用不同的文件检查顺序、搜索策略或编辑方法得到同样正确的结果。如果奖励依赖预先规定的操作路径，模型只能模仿有限的轨迹，难以形成真正的探索和纠错能力。NanoClaw 关注最终环境是否满足任务目标，从��允许多种有效策略获得相同正向反馈。模型能够在训练中学习更一般的“观察—规划—执行—检查—修正”能力，而不是记忆某一类任务的固定调用模板。
-因此，效率与泛化在 NanoClaw 中并不是两个独立目标。减少隐藏状态和外围服务，一方面降低了并行采样成本并提高了奖励稳定性，另一方面也避免模型过度适应某个重型框架的产品特性；保留通用工具和开放行动路径，则使有限的运行时能够覆盖更广泛的任务分布。框架越少注入任务专用结构，策略学习就越集中于可迁移的问题求解能力。
-以同一任务采样多个候选轨迹为例，模型可能分别采用“先完整读取再编辑”“先搜索字段再编辑”或“生成补丁后重新检查”等策略。在共享长期状态的系统中，这些轨迹可能相互看到中间结果，难以判断差异究竟来自策略还是状态污染；在 NanoClaw 中，每个候选都从相同的初始文件副本开始，并在自己的工作区中独立执行。最终，多个不同轨迹可以因为得到同样正确的文件状态而获得正向奖励，失败轨迹也可以根据其独立工作区被准确定位。这一过程同时体现了采样效率、奖励可靠性和策略多样性。
-## 3. NanoClaw 如何嵌入 RL 训练闭环
-在 RL 训练中，NanoClaw 被视为连接策略模型与任务环境的轻量交互层。每个训练 episode 从一条任务开始：系统根据任务定义准备一个独立工作区，并向模型提供任务指令和统一的工具能力。模型随后在多轮交互中观察环境、产生思考、选择行动并接收真实工具结果。随着交互推进，模型的每次决定及其环境反馈共同构成一条完整轨迹，直到模型主动给出最终回答，或者达到预设的交互预算。
-从标准 RL 表述来看，NanoClaw 中各要素具有清晰对应关系：
-| RL 要素 | NanoClaw 中的具体载体 | 在轨迹中的例子 |
-|---|---|---|
-| 初始状态 | 用户任务、初始工作区和可用工具 | `config.yaml` 初始包含 `max_retries: 3` |
-| 策略 | 当前待训练的语言模型 | 根据任务和历史 observation 决定下一步 |
-| 动作 | 模型生成的工具调用或最终回答 | 调用 `read_file`、`edit_file`，或主动结束 |
-| 环境 | 隔离工作区与工具执行器 | 读取文件、写入修改并返回执行结果 |
-| Observation | 工具返回的真实结果 | 文件内容、搜索结果、命令输出或错误信息 |
-| 轨迹 | 多轮模型输出、工具调用和 observation | “读取—编辑—复查—结束”的完整交互序列 |
-| 终止条件 | 模型主动给出 final answer，或达到交互预算 | 完成修改后停止调用工具 |
-| 奖励 | verifier 对最终工作区的检查结果 | 字段修改正确且其他内容未变，得到正向奖励 |
-| 策略更新依据 | 奖励与该轨迹中模型输出的对应关系 | 正确轨迹被强化，低质量决策概率被抑制 |
-轨迹结束后，训练系统不要求模型复现参考操作序列，而是检查最终工作区是否达到任务要求。验证结果被转换为该 episode 的奖励，并与轨迹中的模型输出对应起来，用于后续的优势估计和策略更新。由此，NanoClaw 将开放式的 Agent 行为转化为标准 RL 可以处理的结构：策略负责产生行动，工具和工作区构成环境，环境状态变化形成 observation，最终验证器提供 reward。模型可以自由探索行动路径，但必须通过真实环境结果证明任务已经完成。
-下面给出一个基于 NanoClaw 真实训练协议的简化 episode。示例保留了实际 system prompt 中的关键约束、实际 user prompt 包装方式、真实工具名称，以及训练时使用的 `qwen3_coder` XML 工具调用格式；为了便于阅读，仅省略完整工具 schema、运行元数据和 token 记录。假设初始工作区包含一个 `config.yaml`，任务要求只修改其中的重试次数。
-```text
-System:
-You are solving a Nanoclaw workspace task inside VERL multi-turn RL.
-A fresh per-rollout workspace is prepared automatically before the first
-workspace tool call.
-All tool paths must be relative to that workspace. Do not use absolute paths
-or '..'.
-Inspect files before editing them, make the smallest correct changes, then
-stop with a final answer.
-The verifier scores the final workspace, not your final prose answer.
-User:
-Solve this task by using the workspace tools to inspect and modify files.
-Only provide a final answer after the requested workspace changes are complete.
-Task:
-将 config.yaml 中的 max_retries 从 3 修改为 5，其他配置保持不变。
-Assistant:
-我需要先检查文件内容，确认目标字段及其上下文，再进行局部修改。
-<tool_call>
-<function=read_file>
-<parameter=path>
-config.yaml
-</parameter>
-</function>
-</tool_call>
-Tool observation:
-max_retries: 3
-timeout: 30
-Assistant:
-目标字段存在，且只需要替换这一处内容。我将使用精确编辑，避免改动其他配置。
-<tool_call>
-<function=edit_file>
-<parameter=path>
-config.yaml
-</parameter>
-<parameter=old_text>
-max_retries: 3
-</parameter>
-<parameter=new_text>
-max_retries: 5
-</parameter>
-</function>
-</tool_call>
-Tool observation:
-Success: applied 1 edit(s).
-Assistant:
-修改已经完成。为了确认最终状态，我需要重新读取文件。
-<tool_call>
-<function=read_file>
-<parameter=path>
-config.yaml
-</parameter>
-</function>
-</tool_call>
-Tool observation:
-max_retries: 5
-timeout: 30
-Assistant final answer:
-已完成配置修改。
-Verifier:
-最终工作区中 max_retries == 5，且 timeout 等其他字段保持不变，reward = 1。
-```
-这个例子展示了 NanoClaw 嵌入 RL 后的最小闭环。模型看到的不是预先标注好的正确工具序列，而是任务、当前工作区和通用工具；每次工具返回都会成为后续决策的新 observation。模型可以选择其他有效路径，例如使用搜索工具定位字段或使用补丁工具完成修改，只要最终工作区满足验证条件，就可以获得相同奖励。训练所约束的是任务结果，而不是某条固定轨迹，因此同一套交互协议既能支持探索，也能将开放式 Agent 行为转换为稳定的 RL 信号。
-这一嵌入方式进一步体现了轻量化带来的训练效率。NanoClaw 不替代底层分布式 RL 系统，而是作为一层薄的环境接口接入既有的采样、调度和参数更新流程。模型推理仍可由高吞吐推理引擎批量执行，轨迹仍可由分布式 worker 并行采集，NanoClaw 只负责为每条样本提供独立环境、执行工具并保存最终状态。由于 episode 之间没有长期记忆、后台服务或跨样本依赖，增加并行度时不需要同步复杂的 Agent 全局状态，扩展成本主要由模型推理本身决定。
-最终，NanoClaw 在 RL 中形成了一个闭合且清晰的学习回路：任务定义模型需要解决的问题，通用工具限定模型可以采取的行动，隔离工作区承载可观察和可修改的环境状态，最终验证将任务完成程度转换为奖励，RL 算法再利用这些奖励更新策略。第一部分所描述的产品功能精简，使这一闭环能够稳定复制到大量独立样本；第二部分所描述的通用工具、状态隔离和最终状态奖励，则使并行采样不仅更高效，也能够支持多样化策略探索和跨任务能力迁移。NanoClaw 的作用由此不是增加一套新的重型 Agent 基础设施，而是以最小的运行时成本，为通用 Agent RL 提供真实、可验证且可扩展的环境交互基础。

verl_0720_main/paper_docs/02_nanoclaw_behavior_masking.md DELETED Viewed

@@ -1,29 +0,0 @@
-# Nanoclaw：面向长程 Agent 强化学习的行为感知掩码机制
-在长程 Agent 强化学习中，最终任务奖励与局部行为质量之间往往并不完全一致。一个 rollout 可能最终完成任务并获得正优势，但其中仍包含无效循环、重复调用工具或因长度预算耗尽而被截断的回复。标准 GRPO 会依据整条轨迹的结果更新响应 token，这意味着成功轨迹中的低质量局部行为也可能得到正向强化。例如，模型虽然在前几轮已经完成关键修改，却在后续不断重复读取相同文件；只要最终 verifier 判定任务成功，这些冗余行为就可能随整条轨迹一起被提高概率。随着训练推进，这类错误信用分配会进一步增加响应长度和无效交互，消耗有限的 token 预算，并最终表现为收敛速度下降和截断率升高。
-为解决这一问题，Nanoclaw 引入了**行为感知的非对称优势掩码机制**。该机制首先在 rollout 阶段定位具有明确退化特征的 assistant turn，并记录其 token 区间；在 GRPO 完成优势计算后，再根据 token 的优势方向决定是否将其排除在策略损失之外。设基础响应掩码为 \(m_t^{base}\)，检测到的低质量行为区间集合为 \(\mathcal{B}\)，token 优势为 \(\hat{A}_t\)，则实际训练掩码可以写为：
-\[
-m_t = m_t^{base}\left[1-\mathbb{I}\left(t\in\mathcal{B}\ \land\ \hat{A}_t>0\right)\right].
-\]
-因此，当低质量行为位于正优势轨迹中时，对应 token 的掩码被置为 0，避免模型因为最终任务成功而强化该行为；当这些 token 的优势小于或等于 0 时，掩码仍保持有效，使负向梯度继续降低其生成概率。该机制不会删除 rollout、改变 verifier 奖励或移除模型后续决策所需的上下文，而只在 actor 更新前调整哪些 token 参与策略损失。它因而可以被理解为一种细粒度的信用分配修正：**阻断错误的正强化，同时保留正确的负向学习信号**。
-当前 Nanoclaw 的完整掩码配置包含以下机制：
-| 掩码机制 | 识别对象 | 在训练中的作用 |
-|---|---|---|
-| 循环回复掩码 | assistant 回复中连续重复的文本片段或 token 序列 | 防止语言循环因轨迹得分较高而被正向强化 |
-| 重复工具结果轮次掩码 | 再次产生相同工具、参数和执行结果的 assistant turn | 抑制没有带来新信息或新状态的冗余工具交互 |
-| 预算耗尽末轮掩码 | 因达到 response token 上限而终止时的最后一个 assistant turn | 避免不完整、被截断的末轮输出被当作有效正样本学习 |
-| 仅掩盖正优势 | 上述异常轮次中满足 \(\hat{A}_t>0\) 的有效 token | 保留异常行为的负优势信号，避免全量掩码导致模型失去纠错机会 |
-一个简单例子可以说明这种非对称设计。假设某条轨迹最终完成任务并获得正优势，但中间包含一次没有新增信息的重复 `read_file`。在未使用掩码时，这一轮与有效编辑步骤都会受到正向更新；启用掩码后，重复读取对应的正优势 token 不参与 loss，而真正推动任务完成的其他步骤仍正常学习。相反，如果一条失败轨迹中的循环回复具有负优势，相关 token 不会被掩盖，模型仍可从失败中学习降低该行为的概率。相比直接丢弃整个异常轮次，这一设计保留了更完整、更有方向性的训练信号。
-我们在 4B 模型上进行了严格受控的消融实验。实验设置包含 `Mask-ON` 与 `Mask-OFF` 两组：前者开启上述全部行为掩码，后者关闭全部行为掩码；两组使用相同的初始模型、训练数据、优化器与学习率、batch size、rollout 数量、长度预算、奖励函数及其他训练参数。尤其地，两组实验采用相同的 data seed，使每个训练 step 接收到的数据及其 batch 组成保持一致。因此，两条曲线之间的差异不能用样本顺序不同或某一组恰好遇到更简单的 batch 来解释，主要实验变量被限制为是否启用行为掩码。
-实验结果显示，`Mask-ON` 的任务准确率在训练早期增长更快，并在相同训练步数下持续高于 `Mask-OFF`；与此同时，`Mask-ON` 的响应截断率更低。两项指标呈现一致的机制性证据：更高且增长更快的准确率说明掩码减少了错误正强化，提高了有效策略信号的利用效率；更低的截断率说明模型减少了循环回复和无效工具交互，能够将有限上下文预算用于真正推进任务的步骤。由于两组实验逐 batch 使用相同训练数据，这一对照直接支持性能提升来自掩码机制，而不是数据采样差异。
-从论文证据链来看，这一结论由三个层次共同支撑。首先，**变量控制**保证除 mask 开关外的训练条件完全一致；其次，**优化结果**表现为准确率曲线更快上升且整体更高；最后，**行为结果**表现为截断率同步下降，与“减少无效 token 和退化轮次”的方法动机相吻合。准确率与截断率的共同变化比单一最终分数更有解释力：如果 mask 只是偶然改变了奖励波动，并不必然同时降低截断；当前结果则表明它确实改善了策略的交互效率。正式论文中可以同时报告逐步训练曲线、达到固定准确率所需的训练步数、最终准确率及平均截断率，并进一步使用多个随机种子报告均值和方差，以补充当前同数据序列受控消融的统计稳健性。

verl_0720_main/paper_docs/03_nanoclaw_reward_design.md DELETED Viewed

@@ -1,58 +0,0 @@
-# Nanoclaw：面向开放式 Agent 任务的分层可验证奖励设计
-奖励函数是 Agent 强化学习中最关键、也最容易引入偏差的组成部分。与数学问答不同，Agent 任务的答案通常不是一个可以直接精确匹配的字符串，而是由模型经过多轮推理和工具调用后形成的环境状态。同一个任务可能存在多条正确轨迹，工作区中的结果也可能具有不同但等价的表达形式。如果直接评价完整轨迹，不仅需要处理数万 token 的推理、工具调用和环境反馈，带来很高的判分成本，还会将 verifier 对操作顺序和表达风格的偏好引入奖励，压缩模型的策略探索空间。更严重的是，模型可能学习迎合轨迹评分器所偏好的表面模式，而不是真正完成任务，从而形成 reward hacking。为此，Nanoclaw 将奖励设计分为两个层次：宏观层面判断模型是否主动完成任务，并只对最终工作区评分；微观层面使用结构化的混合 verifier 判断工作区中的每项结果是否正确。
-## 主动终止门控与最终状态奖励
-Nanoclaw 在宏观层面采用 `require_final_answer` 机制。只有当模型主动停止工具调用，并输出一个非空的最终回答时，当前 rollout 才被视为完整结束，随后才会运行 workplace verifier；如果模型因为总 response token 数耗尽、单轮长度耗尽、最大轮数或其他非主动原因终止，则不执行正常的结果评分，奖励直接记为 0。设轨迹为 \(\tau\)，最终工作区为 \(W_T\)，主动完成指示变量为 \(I_{\mathrm{final}}(\tau)\)，工作区验证分数为 \(V(W_T)\)，则核心奖励可以表示为：
-\[
-R(\tau)=I_{\mathrm{final}}(\tau)\cdot V(W_T).
-\]
-这一门控使“知道何时结束”成为 Agent 策略的一部分。仅仅在工作区中留下部分正确结果还不够，模型还需要判断任务是否已经完成，并主动从 ReAct 循环切换到最终回答。否则，如果截断轨迹也能稳定获得部分奖励，模型就缺少及时结束的动力，甚至可能通过持续输出、反复检查或堆积局部结果获得非零分数。主动终止门控因此同时提供了完成性约束和效率约束，但无需额外设计长度惩罚。
-在通过终止门控后，奖励只取决于最终 workplace，而不评价中间轨迹。模型可以采用不同的搜索顺序、工具组合和修改方法，只要最终环境满足任务要求，就能够获得相同奖励。这种 outcome-based verification 一方面避免了对长轨迹反复调用大模型判分的资源开销，另一方面不会把某条人工轨迹误当成唯一正确解，从而保留强化学习所需的探索空间。由于 reward 绑定到可检查的环境结果，而不是模型在推理文本中声称“已经完成”，模型也更难仅通过语言表述骗取奖励。
-## 确定性检查与 LLM 语义检查
-在具体任务层面，每条数据包含一个 `workplace_verifier`，但 Nanoclaw 不试图用手写代码精确描述所有语义条件。复杂 Agent 任务的输出格式具有较大的合理变化空间，纯代码 verifier 很容易把数据构造者的隐含假设错误地当成任务要求。例如，prompt 可能只要求将结果保存为 `result_email.json`，验证代码却默认该 JSON 必须具有名为 `content` 的顶级字段；此时模型即使生成了语义正确、结构合理的结果，也会因为 prompt 从未声明的 schema 约束被误判。随着任务复杂度增加，枚举所有合法表达形式不仅构造成本很高，也很容易产生大量假阴性。
-因此，我们采用“**确定性边界检查 + LLM 语义检查**”的混合式 verifier。代码只负责判断具有唯一、客观答案的结构条件，例如目标文件的路径和名称是否正确、要求的结果文件是否存在；除这些能够绝对确定的检查项外，文件内容是否满足指令、答案是否正确、字段语义是否一致等条件均交由 LLM checker 判断。该分工让程序检查承担最可靠的边界约束，让语言模型处理难以通过固定规则覆盖的语义等价性，避免用脆弱的代码 schema 替代用户真正提出的要求。
-为了使 LLM 判分任务足够简单且稳定，每个 checker 都被改写为包含参考答案的二元判定问题。checker prompt 同时给出待检查内容、明确的判断标准和正确参考，例如：
-```text
-请检查答案文本是否包含正确答案“671 元人民币”。
-已知该问题的计算结果应为 671 元人民币，因此正确答案就是 671 元。
-如果满足要求，只回答 YES；否则只回答 NO。
-```
-这种设计不是让 verifier 重新独立求解完整 Agent 任务，而是将复杂验证分解成若干局部的文本蕴含或一致性判断。参考答案直接出现在 checker prompt 中，模型只需对照候选内容判断条件是否成立，因此即使使用速度较快、参数规模较小的模型，也能保持较高的判断精度，同��显著降低大规模 rollout 的奖励计算成本。
-## 正向与负向双向检查
-仅使用“正确内容是否出现”的正向检查仍可能产生 reward hacking：策略可以将大量候选答案、姓名或数值全部写入结果文件，从而碰巧覆盖正确答案。为此，Nanoclaw 将语义检查分为互补的两类。**正向检查**确认必要答案、文本或操作结果确实存在并符合要求；**负向检查**确认输出中没有出现明确禁止、与事实冲突或不应包含的内容。例如，若任务要求列表中不得包含已经付费的客人 James，可以构造如下检查：
-```text
-请检查列表中是否包含已经付费的客人 James。
-如果没有出现 James，回答 YES；如果出现了 James，回答 NO。
-```
-只有同时通过正向和负向检查，输出才既满足召回要求，又满足精确性要求。这使模型无法通过堆砌大量内容获得高分，也减少了“正确答案存在，但同时包含明显错误答案”的假阳性。最终 workplace 分数由多个独立检查项聚合而成，因而能够提供比单一通过/失败信号更细致的任务完成度，同时保持每个子判定足够简单。
-## 实验一：主动终止门控消融
-我们在 2B 模型上对 `require_final_answer` 进行了受控消融。`True` 与 `False` 两组实验除该开关外使用完全相同的模型、数据和训练参数。直观上，`False` 组即使在 rollout 被截断时也可以根据已完成的 workplace 获得部分分数，因此在固定轨迹分布下，其平均奖励理论上不低于带门控的 `True` 组。然而实验呈现出相反或至少不支持这一预期的结果：训练最初十余步中，`True` 组的平均奖励更高；随后两组逐渐接近，部分阶段 `True` 组仍略高。同时，`True` 组的平均输出长度明显更短。
-这一现象说明，允许截断样本获得部分分并没有转化为更好的长期策略。所谓 `False` 组“应当得分更高”的推断隐含了两组产生相同轨迹的假设，但在强化学习中，奖励规则会反过来改变策略分布。关闭门控后，部分分削弱了模型主动结束任务的学习信号，使其更容易继续调用工具或输出直至预算耗尽；这些更长、更不完整的轨迹又降低了有效 rollout 的比例和后续训练信号质量。开启门控则建立了清晰的完成边界：只有“完成环境修改并主动结束”的轨迹才能获得奖励，从而使模型更快学会在适当时机终止。`True` 组能够以更短输出达到相当或更高的平均奖励，表明其单位生成 token 的奖励效率更高，而不是简单依靠截断惩罚压低长度。
-这一结果还具有直接的系统意义。更短的平均输出减少了 rollout 阶段的生成 token 数和 KV cache 占用，可以提升训练吞吐；推理时也能减少无效工具调用和等待时间。对于没有主动结束的样本，门控还可以跳过昂贵的 workplace verifier 调用。因此，`require_final_answer` 同时改善了策略完成性、训练效率与部署阶段的交互效率。正式论文中可以联合报告平均奖励、任务成功率、主动结束率、截断率和平均输出长度，从而区分“分数变化”与“行为效率变化”。
-## 实验二：小模型 Verifier 的可靠性
-为验证训练阶段使用的小型 checker 是否足以承担语义判分，我们对模型采样产生的 workplace 进行了独立复评：训练时使用 Qwen3.5-9B verifier，实验后再使用更大规模的 GLM-5.1 对相同结果重新打分。两者判断的一致率达到 **95%**。这一结果说明，通过将复杂任务拆解为包含参考答案的 YES/NO 检查项，原本开放的结果验证已经被转化为低复杂度判别任务；因此无需在每个 rollout 中部署超大模型，也能够获得与强 verifier 高度一致的判断，并显著降低奖励计算的算力与延迟成本。
-严格来说，95% 衡量的是 Qwen3.5-9B 与 GLM-5.1 的判分一致性，而不是在人工金标准上的绝对准确率，但它为 checker 设计的可行性提供了直接证据：如果判分问题仍需要复杂推理，小模型与更强模型通常会出现更大分歧。
-总体而言，Nanoclaw 的奖励函数不是单一模型打分器，而是一套分层验证机制：`require_final_answer` 在轨迹层面建立主动完成门槛，最终状态奖励在策略层面保留多路径探索空间，确定性代码检查保证文件边界正确，带参考答案的 LLM checker 判断复杂语义，正负双向检测共同抑制内容堆砌式 reward hacking。2B 模型的终止门控消融和 Qwen3.5-9B/GLM-5.1 的 95% 判分一致率分别从策略学习与 verifier 可靠性两个角度支持了这一设计。