Upload README.md with huggingface_hub
Browse files
README.md
ADDED
|
@@ -0,0 +1,66 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
pretty_name: GymCL Datasets
|
| 3 |
+
license: other
|
| 4 |
+
tags:
|
| 5 |
+
- continual-learning
|
| 6 |
+
- agents
|
| 7 |
+
- tool-use
|
| 8 |
+
- code
|
| 9 |
+
---
|
| 10 |
+
|
| 11 |
+
# GymCL 数据集（`Septzzz/gymcl-data`）
|
| 12 |
+
|
| 13 |
+
[GymCL](https://github.com/Septzzz/GymCL) 持续学习基准 v1 stream 所需的数据。
|
| 14 |
+
它服务 **games + code + tool** 三类环境（共 18 个 env id）。
|
| 15 |
+
|
| 16 |
+
## 两种数据角色（为什么格式不统一）
|
| 17 |
+
|
| 18 |
+
GymCL 是**智能体持续学习基准**，评测 = 在交互环境里作答，**不是**静态 (输入,标签) 表。
|
| 19 |
+
因此数据天然分两类，无法都压成对称的“一个 train 一个 test”：
|
| 20 |
+
|
| 21 |
+
1. **环境运行资产（native）** —— 评测环境实例化时必须加载的原始文件（tau2 的 domain
|
| 22 |
+
数据库/policy、toolbench 的工具 API schema + 指令集、apibench 的 API 列表、SWE-smith
|
| 23 |
+
的实例 parquet）。它们**不能**被拍平成表，否则环境跑不起来。
|
| 24 |
+
2. **训练候选池 / 可离线判定的评测** —— 可归一成统一 schema（见 `unified/`）。
|
| 25 |
+
|
| 26 |
+
## 目录一览
|
| 27 |
+
|
| 28 |
+
| 目录 | 内容 / 格式 | 角色 | 被谁使用 |
|
| 29 |
+
|---|---|---|---|
|
| 30 |
+
| `SWE-smith/` | parquet（instance_id / problem_statement / patch） | 环境运行资产 + swe gold | `code:swe-smith-agent` 评测实例 |
|
| 31 |
+
| `tau2/` | `domains/<domain>/`（DB/policy/tasks）+ `user_simulator/` | 环境运行资产 | `tool:tau2-*`（经 `TAU2_DATA_DIR` 加载） |
|
| 32 |
+
| `toolbench/` | `toolenv/tools/`（API schema）+ `test_instruction/G{1,2,3}_instruction.json` + `toolllama_G123_dfs_{train,eval}.json` | 环境资产 + 训练轨迹 | `tool:toolbench-g{1,2,3}` |
|
| 33 |
+
| `apibench/` | `{subset}_{eval,train}.json`（JSONL） | 静态评测 + gold train | `tool:apibench-gorilla-*` |
|
| 34 |
+
| `unified/` | **统一视图**：见下 | 对外统一层 | 外部 SFT/评测直接取用 |
|
| 35 |
+
|
| 36 |
+
> 另有部分数据在**运行时**直接从公共 HF Hub 拉取，不在本仓库：MBPP
|
| 37 |
+
> (`google-research-datasets/mbpp`)、R2E-Gym-Lite (`R2E-Gym/R2E-Gym-Lite`)、
|
| 38 |
+
> SWE-smith / R2E-Gym 轨迹池。
|
| 39 |
+
|
| 40 |
+
## `unified/` — 统一层（由 `scripts/build_unified.py` 生成）
|
| 41 |
+
|
| 42 |
+
每个任务一个目录 `unified/<task>/`：
|
| 43 |
+
|
| 44 |
+
- **`train.jsonl`** —— 统一 episode schema：
|
| 45 |
+
`{"messages": [{role, content}...], "final_reward": float, "num_steps": int, "meta": {...}}`。
|
| 46 |
+
仅对**本地可归一**的训练池直接产出（如 toolbench、apibench）；HF-hub 池默认在
|
| 47 |
+
`manifest.json` 里写指针（`--fetch` 时才materialize）；games/tau2 的 train 由 teacher
|
| 48 |
+
rollout / 实例划分在运行时生成，故以描述符记录在 manifest。
|
| 49 |
+
- **`test.jsonl`** —— 统一外壳，按环境类型分两种 `kind`：
|
| 50 |
+
- `kind="static"`（apibench，及 hub 指针的 mbpp）：`{task, env_id, grader, input, gold}`，可离线判定。
|
| 51 |
+
- `kind="interactive"`（games/tau2/toolbench/r2egym）：`{task, env_id, grader, env_kwargs,
|
| 52 |
+
instance, source}` —— 是“去环境里运行”的**指针**，标签由环境现算（非存储）。
|
| 53 |
+
- **`manifest.json`** —— 逐任务列出 train 来源/kind、test kind、判分方式（grader）、条数、依赖资产。
|
| 54 |
+
|
| 55 |
+
> 交互类环境（games/tau2/toolbench/r2egym）**没有**静态 test 表：其“测试集”是一组要在环境里
|
| 56 |
+
> 运行的实例/种子，评分由环境（引擎 reward / tau2 evaluator / LLM judge / docker 测试）现算。
|
| 57 |
+
|
| 58 |
+
## 用法
|
| 59 |
+
|
| 60 |
+
```bash
|
| 61 |
+
# 下载（GymCL setup.sh 会自动调用）
|
| 62 |
+
python scripts/download_data.py
|
| 63 |
+
# 直接取统一层做自己的 SFT / 离线评测
|
| 64 |
+
# unified/<task>/train.jsonl (messages)
|
| 65 |
+
# unified/<task>/test.jsonl (static: input+gold / interactive: 运行指针)
|
| 66 |
+
```
|