KinArc-Evolution

本仓库发布 KinArc 在 τ³-bench Banking 与 EvoAgentBench 办公、信息检索场景中的六组 Agent 自进化实验记录，包括任务数据、初始与迭代候选的代码快照、变更说明、执行轨迹和评测结果。

这些数据可用于分析 Agent 如何根据失败反馈改进技能与工具、比较不同模型和检索配置下的表现，以及检查改进能否延续到独立测试集。

相关资源： 项目主页 · 代码仓库 · 自进化文档

许可证和第三方声明已随本数据包提供，可直接查看 LICENSE 和 THIRD_PARTY_NOTICES.md。

本仓库以原始实验档案形式提供下载，已关闭 Hugging Face Dataset Viewer。请从 Files and versions 按目录浏览和下载；任务、候选快照和执行轨迹具有不同结构，不作为一个统一表格加载。

数据范围

实验覆盖 两个基准、三类场景、六组配置，每组保留 20 个候选快照，共 120 个候选快照。

τ³-bench · Banking

τ³-bench Banking 实验由两个模型与两种检索配置组合而成，通过多轮对话和领域工具调用评估 Agent 完成客户请求的能力。每组包含 Train 34、Validation 23、Test 40 个用例。

实验目录	模型	检索配置
tau3_banking_qwen_t34v23	qwen3.8-27B	bm25
tau3_banking_golden_qwen_t34v23	qwen3.8-27B	golden_retrieval
tau3_banking_ds_t34v23	deepseek-v4-flash-0713	bm25
tau3_banking_golden_ds_t34v23	deepseek-v4-flash-0713	golden_retrieval

EvoAgentBench · 办公与信息检索

EvoAgentBench 的两组实验均使用 qwen3.8-27B，分别评估办公任务的完成与交付质量，以及信息检索任务的执行表现。

实验目录	场景	Train	Validation	Test
evoagentbench_knowledge_qwen_t46v24	办公	46	24	60
evoagentbench_research_qwen_t118v36	信息检索	118	36	65

实验方式

自进化在 Agent 应用层进行：根据 Train 执行轨迹和失败反馈修改候选，再通过 Validation 比较表现、选择版本。修改范围与运行参数由各任务的 config.yaml 定义；Banking 实验中的固定 prompt 文件不参与修改。

• Train 用于失败分析和候选优化。
• Validation 用于黑盒评估和选优；Banking 实验配置为 4 次试验。
• Test 独立执行，不参与候选优化与选优。

候选目录保留了中间探索、失败和回退记录，并非每个候选都优于父版本，也并非每个候选都执行了全部数据划分的评测。初始候选由 .evolution/manifest.json 的 seed_candidate_id 标识，候选之间的关系记录在各自的 parent 文件中。

结果预览

KinArc 的公开实验覆盖 τ³-bench Banking，以及 EvoAgentBench 的办公与信息检索场景。六组配置中，自进化候选在下表报告的 40 项前后对比中全部提升。两个基准的任务与评分口径不同，结果分别展示，不对绝对分数做跨基准排名。

灰色为初始版本（Base），蓝色为自进化候选（Evolved）。每个雷达图独立阅读，轴标签表示该基准内部的平均提升：τ³-bench 按四组模型与检索配置取算术平均，EvoAgentBench 按两个场景取算术平均。

τ³-bench · Banking

在多轮客户对话与领域工具调用场景中，四组配置的 Pass¹–Pass⁴ 共 16 项对比全部提升（+4.9–18.1pp），Train、Validation、Test 与 Reward 也均有提升；本次 held-out 测试集上未观察到回退。

多次采样表现与 Reward

模型 / 检索方式	Pass¹	Pass²	Pass³	Pass⁴	Reward
qwen3.8-27B / bm25	0.436 → 0.598	0.328 → 0.509	0.271 → 0.446	0.243 → 0.402	0.436 → 0.600
qwen3.8-27B / golden_retrieval	0.558 → 0.637	0.497 → 0.562	0.454 → 0.513	0.423 → 0.474	0.560 → 0.637
deepseek-v4-flash-0713 / bm25	0.339 → 0.421	0.255 → 0.365	0.216 → 0.342	0.195 → 0.337	0.349 → 0.442
deepseek-v4-flash-0713 / golden_retrieval	0.591 → 0.663	0.536 → 0.606	0.503 → 0.564	0.484 → 0.533	0.595 → 0.674

颜色越深表示提升越大。qwen3.8-27B / bm25 在 Pass² 上提升 18.1pp；四组配置的各采样档位均有改善。

Reward 提升 7.7–16.4pp。qwen3.8-27B / bm25 从 0.436 提升到 0.600，deepseek-v4-flash-0713 / golden_retrieval 从 0.595 提升到 0.674。

训练集、验证集与测试集

模型 / 检索方式	Train	Validation	Test
qwen3.8-27B / bm25	0.471 → 0.794	0.348 → 0.457	0.300 → 0.550
qwen3.8-27B / golden_retrieval	0.559 → 0.794	0.446 → 0.641	0.350 → 0.625
deepseek-v4-flash-0713 / bm25	0.353 → 0.559	0.217 → 0.337	0.350 → 0.400
deepseek-v4-flash-0713 / golden_retrieval	0.618 → 0.794	0.576 → 0.630	0.425 → 0.600

提升延续到未参与选优的 Test：四组配置分别提升 25.0、27.5、5.0、17.5pp。按四组配置取均值，Test 从 0.356 提升到 0.544（+18.8pp），Reward 从 0.485 提升到 0.588（+10.3pp）；提升幅度按未舍入数据计算。

EvoAgentBench · 办公与信息检索

在 qwen3.8-27B 上，两个场景均经过 11 轮进化产出候选版本，Train、Validation、Test 与 Reward 全部提升。

场景	Train	Validation	Test	Reward
办公	0.781 → 0.870	0.792 → 0.833	0.467 → 0.567	0.686 → 0.724
信息检索	0.339 → 0.466	0.250 → 0.611	0.185 → 0.338	0.240 → 0.481

办公场景从较高的 Train / Validation 基线出发，Reward 仍提升 3.8pp。信息检索场景的 Validation 提升 36.1pp，Reward 提升 24.1pp。

评测口径： τ³-bench 使用 Train 34 / Validation 23 个用例，Test 全程 held-out，不参与选优。Validation 设置 num_trials=4，有效 trials 比例达到 0.85 才参与选优；不可归因于基建的真实失败不补跑。上述公开汇总指标与单个候选文件中的评测记录应按各自口径阅读。

文件组织

六组实验的核心文件按以下结构组织：

<experiment>/
├── config.yaml
├── datasets/
│   ├── train.json
│   ├── validation.json
│   └── test.json
└── .evolution/
    ├── manifest.json
    ├── problem_library.json
    └── candidates/
        └── <candidate-id>/
            ├── parent
            ├── target.sha256
            ├── changelog.md
            ├── target/
            ├── train/
            ├── validation/
            └── test/

文件或目录	内容
config.yaml	实验目标、初始 Agent、可修改范围和执行参数
datasets/*.json	用例定义，包括用户场景、初始状态和评判条件
.evolution/manifest.json	实验元信息与初始候选 ID
.evolution/problem_library.json	迭代过程中维护的问题库
candidates/<id>/target/	该候选的 Agent 代码、技能及相关资源
candidates/<id>/changelog.md	候选的修改说明
<split>/execution.json	逐用例执行结果、轨迹及试验记录
<split>/evaluation.json	总分、逐用例得分、反馈及父候选比较

每组实验发布 config.yaml、datasets/ 和 .evolution/；运行代码与使用方式见 KinArc 主项目。

引用

如果这些实验数据对你的研究有帮助，请引用 KinArc-Evolution：

@misc{kinarc_evolution2026,
  title = {{KinArc-Evolution}: KinArc Agent Self-Evolution Experiment Data},
  author = {{YiXin-AILab}},
  year = {2026},
  publisher = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/YiXin-AILab/KinArc-Evolution}}
}

许可证

本仓库中 YiXin-AILab 有权授权的原创代码、文档、实验配置，以及实验记录和结果中的原创贡献，采用 MIT License，与 KinArc 主项目保持一致。

第三方基准代码、任务数据、知识文档、附件，以及执行轨迹中包含的第三方内容，仍受各自原始许可与条款约束，不因收入本仓库而统一变为 MIT。来源、版本参考、保留的许可证，请参阅本仓库的第三方声明；其中的代码许可证不代表对所有数据和附件的再分发授权。

第三方许可证和数据集声明见 licenses/。