No-22/rwkv-agent-distill

RWKV-Agent 蒸馏训练集

RWKV-Agent 用来教 RWKV-7 G1k 7.2B 当本地工具 Agent 的训练数据：读写文件、跑 bash、查网页、算数、查天气，最后用一段话给出答案。数据由更强的模型（老师）在同一套 harness 里实际做题，筛掉做错的、不干净的轨迹，再按 RWKV 推理时的格式逐字节渲染成训练行。

v3.1/（2026-11-03 起）是当前版本：v3.0 的数据块洗过一遍（删脏轨迹、统一思考语言、换掉 .example 域名），格式和用法与 v3.0 相同。v3.0 是 Agent 轨迹 + 日常对话的混合数据，按数据块交付，训练时用配比表拼包，见下文「v3.0：数据块与配比」；v3.1 改了什么见「v3.1：洗过的数据块」。

v1.41/、v2.1/ 是实际训练过、并且训出了当前推荐权重的两个打包版本，内容和训练时用的文件逐字节一致（sha256 见 SHA256SUMS）。

source/（2026-10-31 起）是生成这些数据的全部源头：各版本（v1 到 v2.3、think-sft）的题目、老师动作脚本、出题任务书、出包报告和蒸馏脚本，与 GitHub 仓库的数据目录 bench/distill/ 一一对应。版本总表在 source/README.md。对应的权重在模型仓库 No-22/rwkv-agent-weights。

版本	思考	训练行 / 验证行	老师	已训出的权重（基模 g1k-7.2b-20260930）
v3.1（2026-11-03）	同 v3.0	8386 / 154（基线配比）	同 v3.0；253 步思考由 Qwen3.8-Flash 重写	尚未训练
v3.0（2026-11-02）	只有当前步带思考（think-sft 格式）	8846 / 169（基线配比）	Agent：Qwen3.7-Flash 等（v2.3）；对话：12 个开源来源 + Qwen3.8-Flash 重答	基线配比 = think-sft-mix-20261031，在正式版 G1L 上训练 NoRA，考卷 320.5（基模 187）
v2.1（2026-10-18）	带思考（g1k-think）	5512 / 148	Qwen3.7-Flash（v2.0 部分重新渲染并入）	MiSS 适配器 v2.1 r16 lr2e-5
v1.41（2026-10-13）	不带思考（g1k）	3662 / 118	以 DeepSeek v4 Flash 为主	State v141b-s1224

think-sft/pack-20261031b/ 是带思考 SFT 的实验大包（40037 行，日常对话 + Agent），试训后未采用，不是推荐训练集。说明见该目录的 README。

v3.1：洗过的数据块

v3.1 没有新题，是把 v3.0 的数据块逐条扫描、修好或删掉后的版本，目录结构和 v3.0 相同（blocks/、recipes/、dataset/、SHA256SUMS），另加 wash/all-edits.jsonl：全部修改记录，用 source/tools/think_sft/wash_apply.py 在 v3.0 数据块上重放即得到 v3.1。

• 删掉 158 条对话：需要删步骤才能修好的轨迹（反问前翻文件太多、改错行再自救、多步空转）、「直接回答-反问」整块（不符合"最多一次 list_files 然后直接问"）、用户中途换语言而终答没跟上的、日常对话思考里夹英文起草句或整段草稿的、指令遵循终答违反约束的、数学错题。
• 思考语言和最近一条用户消息不一致的 253 步，由 Qwen/Qwen3.8-Flash 只重写思考，动作不变。
• 局部修 94 处：补"文件改动已暂存"的说明、改掉点破模拟环境的说法、修正终答里算错的数字等。
• .example 虚构域名换成正常后缀（148 条对话）。
• Agent 1609 / 日常对话 2911 条对话；Agent 占计 loss 字符 13.5%（v3.0 为 14.3%）。

扫描标准、结果和各规则的误报率见 source/v3.1/；审阅台账（哪条对话被谁在哪天按哪版标准读过，内容改动后自动失效）在 source/qc/ledger.jsonl。

v3.0：数据块与配比

v2.x 只有 Agent 轨迹，v3.0 起训练数据固定由 Agent 轨迹 + 日常对话混合而成。数据不再只给一个整包，而是拆成 36 个数据块：

• Agent 30 块：先按考卷的 5 类任务分（直接回答、查找阅读、统计计算、改文件写产物、外部信息），再按行为、工具或工作区领域细分，例如 Agent/外部信息-天气、Agent/统计计算-表格、Agent/直接回答-反问。块名和考卷面板的「子块」行一一对应（同一份规则，GitHub 仓库 internal/lab/exam/derive.go 的 Block()），所以面板上哪一块分数低，就能直接对应到哪一块数据。
• 日常对话 6 块：中文 / 英文 × 多轮闲聊、单轮问答、指令遵循、数学。

v3.0/
  blocks/Agent/<任务>-<角度>.jsonl     Agent 数据块（rows 格式，每行 meta.block、exam_task、difficulties）
  blocks/日常对话/<语言>-<形态>.jsonl   日常对话数据块
  blocks/index.json                    每块的题数、行数、中英行数、token 数、计 loss 字符占比
  recipes/base.json                    基线配比（每块各 1 份）
  dataset/train/segments-shuffled.jsonl ← 基线配比实际训练的文件（think-sft-mix-20261031 原样），sha256 a66ade82…
  dataset/train/rows.jsonl              同一批行带元数据
  dataset/validation/…                  验证集
  dataset/stats.json、*-segcheck.log    构成统计与分词一致性检查
  SHA256SUMS                            v3.0 所有文件的 sha256

数据块里同时包含 train 和 validation 的行；拼包时按对话哈希切出验证集（1/50），同一条轨迹的各步在同一侧。用自己的配比拼包：

python3 source/tools/think_sft/pack.py --blocks v3.0/blocks --recipe my-recipe.json --out my-pack

配比表写法：{"default": 1, "blocks": {"Agent/外部信息-网络查询": 2, "日常对话/*": 0.5}}。权重 0 表示整块去掉，2 表示每条重复两遍，0.5 表示按对话哈希保留一半；validation 不跟着重复。用 recipes/base.json 拼出来的包和 dataset/ 里的文件相比，只少一条被病毒扫描误报、从数据块里去掉的对话（见 source/v3.0/exclude.jsonl），其余逐行相同（只有顺序不同）。分块规则和各块大小见 source/v3.0/blocks.md；数据来源（自有 Agent 轨迹的老师、日常对话从哪些开源数据集选取、许可证和筛选规则）见 v3.0/README.md。

注意：按行数看 Agent 占三分之二，但**算 loss 的字符里日常对话占 86%**（Agent 每行带完整前文，只有最后一步计 loss），比较配比时请按 index.json 的 trained_char_share 看。

与基模的关系

训练数据不绑定某个基模，换 RWKV 基模时直接用同一份数据重训 State / MiSS 即可，不需要重新生成。需要重新渲染的只有两种情况：

• 对话格式变了：每行 meta.wire_canonical / wire_hash 记录了渲染时的格式（系统提示、工具清单写法、思考标记等）。新基模要换格式，就得用 source/ 里的题目和老师脚本按新格式重新渲染，渲染出来算新的数据版本。
• 词表变了：现有数据按 rwkv_vocab_v20230424.txt 做过分词一致性检查（*-segcheck.log）。换词表要重做这项检查。

每份数据在哪个基模上训出了哪些权重，以模型仓库的 index.json 为准（每条记录都写了基模 sha256 和训练数据 sha256）。

这是存档，不是精修过的公开数据集。已知问题都原样保留，见文末「已知问题」。

目录

v1.41/                         v1.41 不带思考包（原目录 final-20261013 原样）
  dataset/train/segments-1-41.jsonl   ← State 训练实际读取的文件（打乱后），sha256 feb2fd6b…
  dataset/train/rows.jsonl             带元数据的训练行（看数据用这个）
  dataset/train/segments.jsonl         同一批行，未打乱
  dataset/train/train.jsonl            纯文本版
  dataset/train/manifest.json          打包清单（token 分位数、wire_hash 等）
  dataset/validation/…                 验证集，结构同上
  train-rows.jsonl / validation-rows.jsonl   打包前的输入
  final-stats.json / release-manifest.json   构成统计与各文件 sha256
  *.log                                 打包、分段、分词一致性检查的日志
v3.1/                          v3.1 洗过的数据块 + 配比表 + 基线包 + 修改记录（见「v3.1：洗过的数据块」）
v3.0/                          v3.0 数据块 + 配比表 + 基线包（见「v3.0：数据块与配比」）
v2.1/                          v2.1 带思考包（原目录 final-20261018 原样）
  dataset/train/segments-shuffled.jsonl ← MiSS 训练实际读取的文件，sha256 2fbf6760…
  其余同上
SHA256SUMS                     两个打包版本所有文件的 sha256（不含 source/）
source/                        蒸馏源数据，= GitHub 仓库的 bench/distill/
  README.md                    版本总表与命名规则
  common/                      流程规格、批次登记、排除表、标签映射
  tools/                       出题、老师调用、渲染、打包脚本
  <版本>/cases/                题目（case.json + verify.py + NOTES.md）
  <版本>/teacher/              老师动作脚本（花钱买且不可复现的轨迹）
  <版本>/reports/              出题与出包报告

source/ 里的题目同样带 canary（前缀 DISTILL-CANARY-），用来和考卷互查污染；考卷在单独的仓库 No-22/rwkv-agent-exam。

数据格式

同一批训练行有三种写法，内容一致：

• **rows.jsonl**：{"text", "loss_spans", "meta"}。text 是完整的模型输入（系统提示、工具清单、用户问题、模型输出、工具结果……按 RWKV 推理格式拼好）；loss_spans 是需要计算 loss 的字符区间 [[起, 止], …]，也就是模型自己说的部分；meta 记录题号、批次、轮次、是否通过、场景标签、wire 配置等。
• **segments*.jsonl**：{"segments": [{"text", "train"}, …]}。按 loss_spans 切开，train: true 的段算 loss。训练器直接读这个格式。
• **train.jsonl**：{"text"}，不带 loss 区分。

一道多步题会按「模型每说一次话」切成多行，所以行数比题数多：v2.1 训练集 5512 行来自 1504 道题、1864 条轨迹。每行末尾带 \n\nUser:，用来教模型说完就停。

meta.wire_canonical 写明了渲染格式，复现时 harness 配置必须与之一致：

• v1.41：format=xml;…;thinking=off;…，wire_hash 707c6740…，工具目录 work-v1 / work-v2
• v2.1：format=xml;…;thinking=full;…;nudge=think，wire_hash 8b13ce5c…，App harness 提示词

构成

v1.41（3780 行，统计见 v1.41/final-stats.json）

• 来源批次：b05–b08（v1.3 留存）、b09、b10-pilot、b10a–e、b11（机械构造的收尾恢复）、b12a–t（bash 与天气）、b13、base700（80 行）
• 中文 47.6%，多轮对话 18.4%，零调用直接回答 16.5%，最长 8121 token
• 训练参数：ctx 8192、bs 8、3 epoch，lr 0.01→0.00167（见模型仓库 rwkv7-g1k-7.2b-20260930-ctx25600/state/v1.41/train.json）

v2.1（5660 行，统计见 v2.1/final-stats.json）

• 1545 道题、1909 条轨迹；v2.1 新题（主批次 + b21i–p）+ v2.0 重新渲染 + 错误恢复 + 被拒作答构造
• 按 family 哈希切验证集（sha256(family) mod 32 == 0），打乱种子 20261017
• 超过 8128 token 的 526 行在打包时丢掉了，同目录下 16k 版本未上传（从未训练过）
• 训练参数：MiSS r16 alpha16、ctx 8192、bs 8、2 epoch，lr 2e-5→2e-6（见模型仓库 rwkv7-g1k-7.2b-20260930-ctx25600/miss/v2.1/train.json）

已知问题

按「练的时候就是这样」原样保留，用的时候注意：

1. v1.41 里有 80 行由测试题改编。 meta.source == "base700" 的 80 行来自早期 700 条种子语料，种子是 workbank 考题，meta.seeded_from_test 为 true。用 v141b-s1224 在 workbank 上的分数因此不完全干净。
2. 老师身份没有过滤。 模型输出里直接写「我是 Qwen」的只有 v2.1 的 1 行，但思考风格整体继承自千问：实测挂上 v2.0 适配器后，模型被问身份时会自称 Qwen。
3. v1.41 的老问题：首步 list_files 偏多（52.4%）、data_query 用得少（5.6%）；部分旧行写文件后没有读回核对。
4. v2.1 的老问题：思考内容不少是继承老师的套话；本地搜空后倾向继续搜本地而不上网；没有注入防御样本；少量纯数学题首步就调计算器；「删改前先确认」类题目只入包了 20 题，几乎都是撤销题。
5. 数据由第三方模型生成，使用时请自行确认各家服务条款。本仓库尚未指定许可证。

详细报告在本仓库的 source/v1.41/reports/、source/v2.1/reports/，以及 GitHub 仓库的 docs/evaluations/。