Datasets:
|
Download README.md from Sy-SU/OOD-Test: direct link, hf CLI and curl.
- Browser
- Download file 18.5 kB
-
https://huggingface.co/datasets/Sy-SU/OOD-Test/resolve/main/README.md
- Command line
-
hf download hf://datasets/Sy-SU/OOD-Test/README.md
-
curl -L -H "Authorization: Bearer $HF_TOKEN" -o README.md https://huggingface.co/datasets/Sy-SU/OOD-Test/resolve/main/README.md
18.5 kB
| pretty_name: OOD-Test | |
| license: other | |
| license_name: research-use-statements-belong-to-platforms | |
| language: | |
| - en | |
| - zh | |
| task_categories: | |
| - text-generation | |
| tags: | |
| - code | |
| - competitive-programming | |
| - benchmark | |
| - codeforces | |
| - atcoder | |
| size_categories: | |
| - n<1K | |
| configs: | |
| - config_name: generation | |
| data_files: Tasks/generation.json | |
| default: true | |
| - config_name: repair | |
| data_files: Tasks/repair.json | |
| - config_name: prediction | |
| data_files: Tasks/prediction.json | |
| - config_name: execution | |
| data_files: Tasks/execution.json | |
| - config_name: testcase_gen | |
| data_files: Tasks/testcase_gen.json | |
| # OOD-Test | |
| <p align="center"> | |
| <a href="https://huggingface.co/spaces/Sy-SU/OOD-Test-page"><b>🌐 Project page</b></a> | |
| </p> | |
| **OOD-Test** is a time-held-out benchmark for coding agents. It contains **456 standard-I/O problems** from Codeforces and AtCoder contests held between June and November 2026. Every problem comes with: | |
| - the statement, constraints, tags and editorial; | |
| - full test inputs with reference outputs; | |
| - a generator, validator, reference solution and checker; | |
| - a pool of extra correct and buggy programs. | |
| On top of these, the dataset defines five evaluation tasks: **Generation, Repair, Prediction, Execution and Testcase Gen**. | |
| - `problems/` holds the complete problem packages and grading material. | |
| - `Tasks/` holds the model-facing inputs, exported under per-task visibility rules. | |
| The Dataset Viewer is configured with all five task subsets: Generation, Repair, Prediction, Execution, and Testcase Gen. `Tasks/prediction.json` and `Tasks/execution.json` are about 1.2 GB each and can also be downloaded directly. | |
| > 下文为中文详细说明。The rest of this card is in Chinese; the [project page](https://huggingface.co/spaces/Sy-SU/OOD-Test-page) is fully bilingual. | |
| --- | |
| OOD-Test 是面向 Coding Agent 的时间留出评测集,收录 **456 道 Codeforces / AtCoder 标准输入输出题**。每题包括以下内容: | |
| - 题面、约束、tag 和题解; | |
| - 测试输入与标准输出; | |
| - 生成器、输入校验器、标准解和输出检查器; | |
| - 额外的正确或错误程序。 | |
| 数据采用 **format 2.0**,任务协议为 `stdio_v2`。 | |
| 数据集用于评测 **Generation、Repair、Prediction、Execution、Testcase Gen** 五种能力: | |
| - `problems/`:完整题包与评分依据; | |
| - `Tasks/`:按字段可见性规则导出的模型输入。 | |
| 本次发布包含数据、任务定义和评价口径。 | |
| ## 1. 范围与规模 | |
| 收录范围是 **2026-06-01 至 2026-11-16 期间已结束比赛**中的全部非交互标准输入输出题,覆盖所有难度。题目实际发布日期为 2026-06-06 至 2026-11-15。 | |
| | 平台 | 比赛类型 | 题数 | | |
| | --- | --- | ---: | | |
| | Codeforces | Div. 1 | 42 | | |
| | Codeforces | Div. 2 | 104 | | |
| | Codeforces | Div. 1 + 2 | 35 | | |
| | Codeforces | Educational | 40 | | |
| | AtCoder | ABC | 167 | | |
| | AtCoder | ARC | 61 | | |
| | AtCoder | AGC | 7 | | |
| | **合计** | **Codeforces 221 / AtCoder 235** | **456** | | |
| 候选题共 473 道,其中 16 道交互题和 1 道 output-only 题(ARC226E)未收录。 | |
| 关于版本和重叠: | |
| - Easy / Hard 版本各有独立的 `uid`,相关版本通过 `family_id` 关联。 | |
| - 有 4 道题复用自 `pilot20`,与其存在重叠。 | |
| | 内容 | 数量 | | |
| | --- | ---: | | |
| | 题包 | 456 | | |
| | 测试输入记录 | 5,520 | | |
| | 由 generator 生成的输入 | 4,560(每题 seed 0–9) | | |
| | 额外解答程序 | 916(不含每题的 `std.cpp`) | | |
| | Generation 任务实例 | 456 | | |
| | Repair 任务实例 | 456 | | |
| | Prediction 任务实例 | 1,358 | | |
| | Execution 任务实例 | 1,358 | | |
| | Testcase Gen 任务实例 | 456 | | |
| 一份“测试输入”是一次完整的 stdin,可以包含多个题内 test case。所有测试输入都存放在各题 `cases.json` 的数组里,而不是单独的文件。 | |
| “OOD”指按题目发布时间留出。报告结果时,建议一并注明模型版本和已知的训练截止日期。 | |
| ## 2. 目录结构 | |
| ```text | |
| OOD-Test/ | |
| ├── README.md | |
| ├── index.html | |
| ├── Tasks/ | |
| │ ├── generation.json | |
| │ ├── repair.json | |
| │ ├── prediction.json | |
| │ ├── execution.json | |
| │ └── testcase_gen.json | |
| └── problems/ | |
| └── <platform>_<problem_id>/ | |
| ├── description.json | |
| ├── cases.json | |
| ├── tasks.json | |
| ├── expected_verdict.json | |
| ├── generator.cpp | |
| ├── validator.cpp | |
| ├── std.cpp | |
| ├── checker.cpp | |
| └── solutions/ | |
| └── *.cpp / *.py | |
| ``` | |
| 目录名示例为 `atcoder_abc461_a` 和 `codeforces_2242F`,对应的题目 UID 是 `atcoder:abc461_a` 和 `codeforces:2242F`。`case_id` 只在所属题包内唯一,跨题引用时需带上题目 UID。 | |
| ## 3. 题包格式 | |
| ### `description.json`:题目与来源 | |
| | 字段 | 含义 | | |
| | --- | --- | | |
| | `schema_version` | 当前为 `2.0` | | |
| | `uid`、`family_id` | 题目唯一标识及相关版本分组 | | |
| | `platform`、`problem_id`、`title`、`url` | 平台、公开题号、标题及原题链接 | | |
| | `contest_id`、`release_date`、`split` | 比赛、发布日期;本集的 `split` 均为 `ood` | | |
| | `statement`、`constraints`、`io` | 题面、完整输入约束、标准输入输出约定及来源 | | |
| | `tags`、`tag_details`、`rating` | 标签、标签来源及难度信息 | | |
| | `editorial` | 题解内容、来源及生成或改写方式 | | |
| | `programs` | 标准解和额外程序的路径、语言、来源、角色 | | |
| | `limits.original` | 原平台时间和内存限制 | | |
| | `limits.dataset_execution` | 本数据集采用的运行限制及时限计算规则 | | |
| | `runtime` | C++ 标准、编译参数、testlib 版本、判题环境等 | | |
| | `provenance`、`sources` | 数据来源、协议与可比性说明 | | |
| 这几类字段如实记录来源: | |
| - **难度与限制**:只记录有可靠来源的值,其余留空。 | |
| - **标签**:来自平台或由 Astra 补充,来源见 `tag_details`。 | |
| - **题面**:可能是原文、注明来源的翻译或转述,具体见 `statement` 中的说明。 | |
| ### `cases.json`:完整输入与参考输出 | |
| 顶层包含 `schema_version`、`problem_uid` 和 `cases` 数组。每条记录有以下字段: | |
| | 字段 | 含义 | | |
| | --- | --- | | |
| | `case_id` | 当前题包内的测试标识 | | |
| | `input` | 完整 stdin 字符串,保留换行 | | |
| | `expected_output` | 标准程序实际运行得到的 stdout | | |
| | `kind` | 输入类别,如 `sample`、`generated` | | |
| | `source` | 来源链接、上游标识,或 generator 与 seed 等信息 | | |
| | `coverage` | 该输入覆盖的边界或构造说明 | | |
| 例如 `atcoder:abc461_a` 的一条公开样例: | |
| ```json | |
| { | |
| "case_id": "t0000", | |
| "input": "4 5\n", | |
| "expected_output": "Yes\n", | |
| "kind": "sample", | |
| "coverage": "official sample", | |
| "source": { | |
| "origin": "source_snapshot", | |
| "url": "https://atcoder.jp/contests/abc461/tasks/abc461_a", | |
| "upstream_case_id": "t0000" | |
| } | |
| } | |
| ``` | |
| 各类记录的来源: | |
| - `g0000`–`g0009` 是运行 `generator.cpp`(seed 0–9)得到的输入; | |
| - 其余记录来自公开样例或复用的来源数据,以 `kind` 和 `source` 为准。 | |
| 构造题可能有多个合法答案,`expected_output` 保存的是标准程序的实际输出,可能与官网样例输出不同。判定正确性时请使用本题的 `checker.cpp`。 | |
| ### `tasks.json`:可见性与评分引用 | |
| 每题包含五类任务配置,主要字段为 `default_visibility`、`tasks` 和各任务的 `instances`。各任务如何引用测试: | |
| - **Generation**:通过 `score_case_ids` 指定评分测试。 | |
| - **Repair**:记录目标 `program`、`feedback_case_ids`、反馈内容和独立的 `score_case_ids`。 | |
| - **Prediction**:通过 `case_id` 指定待预测输出的输入。 | |
| - **Execution**:指定 `program`、`case_id` 和输出真值来源。 | |
| - **Testcase Gen**:记录目标程序、正确对照程序、输出模式及生成预算。 | |
| 可见性按以下顺序逐级覆盖: | |
| ```text | |
| default_visibility → 任务 visibility → 当前测试的 case_overrides | |
| ``` | |
| 未开放的字段默认隐藏。题解、tag、标准解、其他程序和目标输出均可分别控制。Execution 会开放被执行的目标程序,公开样例有各自的覆盖配置。 | |
| ### `expected_verdict.json`:现有程序的预期结果 | |
| `programs` 以程序相对路径为键,记录以下内容: | |
| - `overall`; | |
| - `default_case_verdict`; | |
| - `case_overrides`; | |
| - 语言。 | |
| 某个测试未出现在 `case_overrides` 中时,取默认 verdict。例如,某程序整体为 `WA`、默认测试状态为 `AC`,仅部分 case 标为 `WA`。 | |
| 常见状态有 AC、WA、RE、TLE、CE。这些 verdict 基于本集的固定测试与执行协议,与 `description.json` 中记录的上游程序角色相互独立。 | |
| ### 四个 C++ 程序与 `solutions/` | |
| | 文件 | 接口和作用 | | |
| | --- | --- | | |
| | `generator.cpp` | 第一个命令行参数为整数 seed;stdout 输出一份完整输入 | | |
| | `validator.cpp` | 从 stdin 读取输入;退出码 0 表示合法 | | |
| | `std.cpp` | 标准输入输出形式的 C++17 标准解 | | |
| | `checker.cpp` | 调用方式为 `checker input_file output_file answer_file`;退出码 0 表示接受 | | |
| | `solutions/` | 额外的正确或错误程序(C++ / Python);角色与来源见 `programs.solutions` | | |
| checker 根据题目需要使用 token 比较、浮点误差规则或语义检查。 | |
| ## 4. `Tasks/`:提供给模型的输入 | |
| 五个文件均为 **UTF-8 JSON 数组**,每个元素对应一个任务实例。它们由完整题包按可见性配置投影而来,可直接用于组装模型请求。 | |
| | 文件 | 默认提供的内容 | 期待模型生成 | | |
| | --- | --- | --- | | |
| | `generation.json` | 题面、约束、接口、限制及公开样例 | 解题程序 | | |
| | `repair.json` | 题面、错误程序和经过过滤的失败反馈 | 修复后的程序 | | |
| | `prediction.json` | 题面及指定输入 | 符合题意的输出 | | |
| | `execution.json` | 具体程序、指定输入、接口和运行环境 | 程序实际 stdout | | |
| | `testcase_gen.json` | 题面、目标程序、公开样例、生成预算与输出模式 | 测试输入或 generator | | |
| 公共字段为 `task_id`、`scenario`、`protocol`、`description` 和 `cases`。涉及程序的任务还有 `program.language` 与 `program.code`,Testcase Gen 另有 `budget` 和 `output_modes`。评分规则和隐藏真值保留在对应题包的 `tasks.json` 与 `cases.json` 中,通过 `task_id` 对应。 | |
| 各任务的可见范围: | |
| - **Repair**:反馈默认包含 verdict 和错误程序的实际输出。非公开反馈输入及其正确答案默认隐藏,公开样例按其覆盖配置开放。 | |
| - **Prediction / Execution**:指定输入可见,目标输出隐藏。 | |
| `prediction.json` 和 `execution.json` 各约 1.2 GB,批量评测时推荐流式解析 JSON 数组(例如使用 `ijson`)。 | |
| ## 5. 评价指标 | |
| ### Generation | |
| 生成的程序通过 `score_case_ids` 中的全部测试即为成功,主要报告 **pass@1**。若每题独立采样 `n` 次、其中 `c` 次通过: | |
| ```text | |
| pass@k = mean_over_problems(1 - C(n-c, k) / C(n, k)), n >= k | |
| ``` | |
| 当 `n-c < k` 时,该题记为 1。多轮修复不视作独立采样,不套用此公式。 | |
| ### Repair | |
| ```text | |
| 修复成功率 = 修复后通过全部评分测试的实例数 / 初始确实失败的实例数 | |
| ``` | |
| 反馈测试与评分测试分开,评分集合不含与反馈输入等价的输入,且未修改的原程序在评分集合上仍会失败。多轮修复应固定轮数或成本预算,并记录每轮结果与最终成功率。 | |
| ### Prediction | |
| ```text | |
| macro accuracy = mean_over_problems(该题正确输出数 / 该题评测输入数) | |
| micro accuracy = 正确输出总数 / 评测输入总数 | |
| ``` | |
| 输出由题目 checker 判定,构造题接受任意合法答案。输入的选取规则: | |
| - 每题最多 3 份; | |
| - 不含公开样例; | |
| - 按空白分隔的 token 序列去重。 | |
| ABC474A 和 ABC477A 的全部合法输入都已作为公开样例,因此这两题没有 Prediction / Execution 实例。其余 454 道题共产生 1,358 个 Prediction 实例和 1,358 个 Execution 实例。 | |
| ### Execution | |
| ```text | |
| accuracy = 正确预测执行输出的实例数 / 可执行的确定性实例数 | |
| ``` | |
| 真值是指定程序的实际 stdout。比较规则: | |
| - 按空白分隔后的 token 序列精确匹配; | |
| - 保留大小写和数值写法,例如 `1` 与 `1.0` 不等价; | |
| - 即使题目允许多种构造,也需预测该程序实际输出的那一种。 | |
| 编译或基础设施失败单独记录。 | |
| ### Testcase Gen | |
| ```text | |
| 输入合法率 = 合法输入数 / 生成输入数 | |
| 错误检出率 = 被检出的已确认错误程序数 / 已确认错误程序总数 | |
| 误杀率 = 被判为错误的正确对照程序数 / 正确对照程序总数 | |
| ``` | |
| 生成的输入先经过 validator,再依次运行标准解、目标程序和 checker。计分规则: | |
| - 非法输入不计为有效检错; | |
| - 目标程序编译失败不计为 testcase 成功; | |
| - 生成器运行成功率单独报告,程序池及其分母随结果一并给出。 | |
| 每个实例的预算为: | |
| - 最多 10 份输入; | |
| - 总输入大小 16 MiB; | |
| - generator 运行超时 20 秒。 | |
| 具体配置见该实例的 `budget`。程序池中包含合成的错误程序,因此该指标衡量的是在本程序池上的检错能力。 | |
| ### 调用成本 | |
| 建议每次评测记录以下内容: | |
| - 模型与价格版本; | |
| - 模型及工具调用次数; | |
| - 输入、缓存输入与输出 token; | |
| - 实际费用与墙钟耗时。 | |
| 失败调用和重试同样计入,未知费用留空。 | |
| - **每题成本**:该题所有评测调用的费用之和。 | |
| - **每成功题成本**:全部评测费用 / 成功题数(零成功时不定义)。 | |
| - **Repair**:分别记录增量修复成本和包含初始生成的完整流程成本。 | |
| - **判题耗时**:单独列出,不与模型调用时间合并。 | |
| ## 6. 执行环境与资源限制 | |
| 原题限制与数据集执行限制分别存放在 `limits.original` 和 `limits.dataset_execution`。时限以每秒 `4e8` 次固定基准迭代为参考:在较慢的机器上相应放宽,并设 20 秒上限。 | |
| ```text | |
| multiplier = max(1, 4e8 / measured_rate) | |
| timeout_seconds = min(20, original_time_seconds * multiplier) | |
| ``` | |
| 几个例子: | |
| - 实测速率为 `1e8` 时倍率为 4:原题 2 秒对应 8 秒,原题 8 秒对应 20 秒(受上限约束)。 | |
| - 机器快于 `4e8` 时倍率为 1,直接使用原题时限。 | |
| 本批数据在 Intel Core Ultra 7 265K 上测得约 **1.1732e9 次/秒**,倍率为 **1**。测速方法: | |
| - 基准为固定的 uint64 乘加递推; | |
| - 限制使用一个 CPU; | |
| - 预热后测量五次,取中位数。 | |
| | 项目 | 当前配置 | | |
| | --- | --- | | |
| | C++ 标准与编译参数 | C++17,`-O2 -pipe` | | |
| | 解答程序内存 | `max(512 MiB, 原题内存限制)`,按受测进程虚拟地址空间限制 | | |
| | 单个输出文件上限 | 64 MiB | | |
| | 编译超时 | 90 秒 | | |
| | generator / validator / checker 超时 | 各 20 秒,独立于解答程序时限 | | |
| | 构建时判题环境 | `upsolve-judge:1`,无网络 Docker,每 worker 限一个 CPU | | |
| Python 解答的运行版本及镜像标识见各题的 `runtime`。 | |
| 四个核心 C++ 程序依赖 [testlib](https://github.com/MikeMirzayanov/testlib),固定提交为 `b0f7477019d79ba900a57c1cda30f262065c01f6`。配置方式: | |
| - 将该版本的 `testlib.h` 放到例如 `third_party/testlib` 下; | |
| - 编译时添加 `-I third_party/testlib`; | |
| - 编译和运行产生的文件请放在数据集目录之外。 | |
| ## 7. 快速开始 | |
| 下载数据集: | |
| ```bash | |
| hf download Sy-SU/OOD-Test --repo-type dataset --local-dir OOD-Test | |
| ``` | |
| 用 Python 标准库读取一道题及其 Generation 输入: | |
| ```python | |
| import json | |
| from pathlib import Path | |
| root = Path("OOD-Test") | |
| folder = root / "problems" / "atcoder_abc461_a" | |
| def read_json(path): | |
| with path.open(encoding="utf-8") as stream: | |
| return json.load(stream) | |
| description = read_json(folder / "description.json") | |
| cases = read_json(folder / "cases.json")["cases"] | |
| tasks = read_json(folder / "tasks.json")["tasks"] | |
| verdicts = read_json(folder / "expected_verdict.json") | |
| print(description["uid"], description["title"]) | |
| print("测试输入数:", len(cases)) | |
| print("Generation 评分测试:", tasks["generation"]["instances"][0]["score_case_ids"]) | |
| model_inputs = read_json(root / "Tasks" / "generation.json") | |
| task = next(item for item in model_inputs | |
| if item["task_id"] == description["uid"] + ":generation") | |
| print(task["description"]["statement"]["text"]) | |
| ``` | |
| 推荐的评测流程: | |
| 1. 用 `Tasks/` 中的可见输入构造模型请求。 | |
| 2. 评测器按 `tasks.json` 读取隐藏的评分材料。 | |
| 3. 按任务判分: | |
| - Generation / Repair:运行候选程序后逐个调用 checker; | |
| - Prediction:把模型输出交给题目 checker; | |
| - Execution:使用上述 stdout token 比较规则。 | |
| 完整题包含有题解、标准解和答案,请不要直接拼接进模型输入。 | |
| ## 8. 来源与许可 | |
| 题目和题解的来源: | |
| - Codeforces / AtCoder 官方资料; | |
| - 已有的公开数据,题面语料包括 [CPRet 固定快照](https://huggingface.co/datasets/coldchair16/CPRet-Embeddings/tree/e870de4a810f7cb652b48b586ad23fb7b763992b); | |
| - Astra 补充缺少的工具、解答和说明。 | |
| 逐题来源见 `description.json`,官方代码、移植或改写代码、新编写代码均分别注明。 | |
| 构建过程中检查了以下内容: | |
| - 原题样例; | |
| - 生成输入的合法性; | |
| - 独立参考解的一致性; | |
| - checker 的正负例; | |
| - 错误程序的判定结果。 | |
| 补充测试由本数据集构建,并非平台官方的完整测试集。 | |
| 本数据集的能力划分参考 LiveCodeBench,但使用自定义测试、程序池和 `stdio_v2` 任务协议。报告结果时请注明使用的是 OOD-Test 本批数据及资源设置,并与官方 LiveCodeBench / Pro 分数分开报告。 | |
| **许可**: | |
| - 题面及题解版权归 Codeforces、AtCoder 及原作者所有。 | |
| - 本数据集新增的测试、程序与标注仅供研究使用。 | |
| ## 引用 | |
| ```bibtex | |
| @misc{ood_test_2026, | |
| title = {OOD-Test: A Time-Held-Out Benchmark for Coding Agents}, | |
| author = {Senyang Su}, | |
| year = {2026}, | |
| howpublished = {\url{https://huggingface.co/datasets/Sy-SU/OOD-Test}} | |
| } | |
| ``` | |