OOD-Test / README.md
Sy-SU's picture
Expose Prediction and Execution task subsets
28e32d7 verified
|
Raw History Blame Contribute Delete
18.5 kB
---
pretty_name: OOD-Test
license: other
license_name: research-use-statements-belong-to-platforms
language:
- en
- zh
task_categories:
- text-generation
tags:
- code
- competitive-programming
- benchmark
- codeforces
- atcoder
size_categories:
- n<1K
configs:
- config_name: generation
data_files: Tasks/generation.json
default: true
- config_name: repair
data_files: Tasks/repair.json
- config_name: prediction
data_files: Tasks/prediction.json
- config_name: execution
data_files: Tasks/execution.json
- config_name: testcase_gen
data_files: Tasks/testcase_gen.json
---
# OOD-Test
<p align="center">
<a href="https://huggingface.co/spaces/Sy-SU/OOD-Test-page"><b>🌐 Project page</b></a>
</p>
**OOD-Test** is a time-held-out benchmark for coding agents. It contains **456 standard-I/O problems** from Codeforces and AtCoder contests held between June and November 2026. Every problem comes with:
- the statement, constraints, tags and editorial;
- full test inputs with reference outputs;
- a generator, validator, reference solution and checker;
- a pool of extra correct and buggy programs.
On top of these, the dataset defines five evaluation tasks: **Generation, Repair, Prediction, Execution and Testcase Gen**.
- `problems/` holds the complete problem packages and grading material.
- `Tasks/` holds the model-facing inputs, exported under per-task visibility rules.
The Dataset Viewer is configured with all five task subsets: Generation, Repair, Prediction, Execution, and Testcase Gen. `Tasks/prediction.json` and `Tasks/execution.json` are about 1.2 GB each and can also be downloaded directly.
> 下文为中文详细说明。The rest of this card is in Chinese; the [project page](https://huggingface.co/spaces/Sy-SU/OOD-Test-page) is fully bilingual.
---
OOD-Test 是面向 Coding Agent 的时间留出评测集,收录 **456 道 Codeforces / AtCoder 标准输入输出题**。每题包括以下内容:
- 题面、约束、tag 和题解;
- 测试输入与标准输出;
- 生成器、输入校验器、标准解和输出检查器;
- 额外的正确或错误程序。
数据采用 **format 2.0**,任务协议为 `stdio_v2`。
数据集用于评测 **Generation、Repair、Prediction、Execution、Testcase Gen** 五种能力:
- `problems/`:完整题包与评分依据;
- `Tasks/`:按字段可见性规则导出的模型输入。
本次发布包含数据、任务定义和评价口径。
## 1. 范围与规模
收录范围是 **2026-06-01 至 2026-11-16 期间已结束比赛**中的全部非交互标准输入输出题,覆盖所有难度。题目实际发布日期为 2026-06-06 至 2026-11-15。
| 平台 | 比赛类型 | 题数 |
| --- | --- | ---: |
| Codeforces | Div. 1 | 42 |
| Codeforces | Div. 2 | 104 |
| Codeforces | Div. 1 + 2 | 35 |
| Codeforces | Educational | 40 |
| AtCoder | ABC | 167 |
| AtCoder | ARC | 61 |
| AtCoder | AGC | 7 |
| **合计** | **Codeforces 221 / AtCoder 235** | **456** |
候选题共 473 道,其中 16 道交互题和 1 道 output-only 题(ARC226E)未收录。
关于版本和重叠:
- Easy / Hard 版本各有独立的 `uid`,相关版本通过 `family_id` 关联。
- 有 4 道题复用自 `pilot20`,与其存在重叠。
| 内容 | 数量 |
| --- | ---: |
| 题包 | 456 |
| 测试输入记录 | 5,520 |
| 由 generator 生成的输入 | 4,560(每题 seed 0–9) |
| 额外解答程序 | 916(不含每题的 `std.cpp`) |
| Generation 任务实例 | 456 |
| Repair 任务实例 | 456 |
| Prediction 任务实例 | 1,358 |
| Execution 任务实例 | 1,358 |
| Testcase Gen 任务实例 | 456 |
一份“测试输入”是一次完整的 stdin,可以包含多个题内 test case。所有测试输入都存放在各题 `cases.json` 的数组里,而不是单独的文件。
“OOD”指按题目发布时间留出。报告结果时,建议一并注明模型版本和已知的训练截止日期。
## 2. 目录结构
```text
OOD-Test/
├── README.md
├── index.html
├── Tasks/
│ ├── generation.json
│ ├── repair.json
│ ├── prediction.json
│ ├── execution.json
│ └── testcase_gen.json
└── problems/
└── <platform>_<problem_id>/
├── description.json
├── cases.json
├── tasks.json
├── expected_verdict.json
├── generator.cpp
├── validator.cpp
├── std.cpp
├── checker.cpp
└── solutions/
└── *.cpp / *.py
```
目录名示例为 `atcoder_abc461_a` 和 `codeforces_2242F`,对应的题目 UID 是 `atcoder:abc461_a` 和 `codeforces:2242F`。`case_id` 只在所属题包内唯一,跨题引用时需带上题目 UID。
## 3. 题包格式
### `description.json`:题目与来源
| 字段 | 含义 |
| --- | --- |
| `schema_version` | 当前为 `2.0` |
| `uid`、`family_id` | 题目唯一标识及相关版本分组 |
| `platform`、`problem_id`、`title`、`url` | 平台、公开题号、标题及原题链接 |
| `contest_id`、`release_date`、`split` | 比赛、发布日期;本集的 `split` 均为 `ood` |
| `statement`、`constraints`、`io` | 题面、完整输入约束、标准输入输出约定及来源 |
| `tags`、`tag_details`、`rating` | 标签、标签来源及难度信息 |
| `editorial` | 题解内容、来源及生成或改写方式 |
| `programs` | 标准解和额外程序的路径、语言、来源、角色 |
| `limits.original` | 原平台时间和内存限制 |
| `limits.dataset_execution` | 本数据集采用的运行限制及时限计算规则 |
| `runtime` | C++ 标准、编译参数、testlib 版本、判题环境等 |
| `provenance`、`sources` | 数据来源、协议与可比性说明 |
这几类字段如实记录来源:
- **难度与限制**:只记录有可靠来源的值,其余留空。
- **标签**:来自平台或由 Astra 补充,来源见 `tag_details`。
- **题面**:可能是原文、注明来源的翻译或转述,具体见 `statement` 中的说明。
### `cases.json`:完整输入与参考输出
顶层包含 `schema_version`、`problem_uid` 和 `cases` 数组。每条记录有以下字段:
| 字段 | 含义 |
| --- | --- |
| `case_id` | 当前题包内的测试标识 |
| `input` | 完整 stdin 字符串,保留换行 |
| `expected_output` | 标准程序实际运行得到的 stdout |
| `kind` | 输入类别,如 `sample`、`generated` |
| `source` | 来源链接、上游标识,或 generator 与 seed 等信息 |
| `coverage` | 该输入覆盖的边界或构造说明 |
例如 `atcoder:abc461_a` 的一条公开样例:
```json
{
"case_id": "t0000",
"input": "4 5\n",
"expected_output": "Yes\n",
"kind": "sample",
"coverage": "official sample",
"source": {
"origin": "source_snapshot",
"url": "https://atcoder.jp/contests/abc461/tasks/abc461_a",
"upstream_case_id": "t0000"
}
}
```
各类记录的来源:
- `g0000`–`g0009` 是运行 `generator.cpp`(seed 0–9)得到的输入;
- 其余记录来自公开样例或复用的来源数据,以 `kind` 和 `source` 为准。
构造题可能有多个合法答案,`expected_output` 保存的是标准程序的实际输出,可能与官网样例输出不同。判定正确性时请使用本题的 `checker.cpp`。
### `tasks.json`:可见性与评分引用
每题包含五类任务配置,主要字段为 `default_visibility`、`tasks` 和各任务的 `instances`。各任务如何引用测试:
- **Generation**:通过 `score_case_ids` 指定评分测试。
- **Repair**:记录目标 `program`、`feedback_case_ids`、反馈内容和独立的 `score_case_ids`。
- **Prediction**:通过 `case_id` 指定待预测输出的输入。
- **Execution**:指定 `program`、`case_id` 和输出真值来源。
- **Testcase Gen**:记录目标程序、正确对照程序、输出模式及生成预算。
可见性按以下顺序逐级覆盖:
```text
default_visibility → 任务 visibility → 当前测试的 case_overrides
```
未开放的字段默认隐藏。题解、tag、标准解、其他程序和目标输出均可分别控制。Execution 会开放被执行的目标程序,公开样例有各自的覆盖配置。
### `expected_verdict.json`:现有程序的预期结果
`programs` 以程序相对路径为键,记录以下内容:
- `overall`;
- `default_case_verdict`;
- `case_overrides`;
- 语言。
某个测试未出现在 `case_overrides` 中时,取默认 verdict。例如,某程序整体为 `WA`、默认测试状态为 `AC`,仅部分 case 标为 `WA`。
常见状态有 AC、WA、RE、TLE、CE。这些 verdict 基于本集的固定测试与执行协议,与 `description.json` 中记录的上游程序角色相互独立。
### 四个 C++ 程序与 `solutions/`
| 文件 | 接口和作用 |
| --- | --- |
| `generator.cpp` | 第一个命令行参数为整数 seed;stdout 输出一份完整输入 |
| `validator.cpp` | 从 stdin 读取输入;退出码 0 表示合法 |
| `std.cpp` | 标准输入输出形式的 C++17 标准解 |
| `checker.cpp` | 调用方式为 `checker input_file output_file answer_file`;退出码 0 表示接受 |
| `solutions/` | 额外的正确或错误程序(C++ / Python);角色与来源见 `programs.solutions` |
checker 根据题目需要使用 token 比较、浮点误差规则或语义检查。
## 4. `Tasks/`:提供给模型的输入
五个文件均为 **UTF-8 JSON 数组**,每个元素对应一个任务实例。它们由完整题包按可见性配置投影而来,可直接用于组装模型请求。
| 文件 | 默认提供的内容 | 期待模型生成 |
| --- | --- | --- |
| `generation.json` | 题面、约束、接口、限制及公开样例 | 解题程序 |
| `repair.json` | 题面、错误程序和经过过滤的失败反馈 | 修复后的程序 |
| `prediction.json` | 题面及指定输入 | 符合题意的输出 |
| `execution.json` | 具体程序、指定输入、接口和运行环境 | 程序实际 stdout |
| `testcase_gen.json` | 题面、目标程序、公开样例、生成预算与输出模式 | 测试输入或 generator |
公共字段为 `task_id`、`scenario`、`protocol`、`description` 和 `cases`。涉及程序的任务还有 `program.language` 与 `program.code`,Testcase Gen 另有 `budget` 和 `output_modes`。评分规则和隐藏真值保留在对应题包的 `tasks.json` 与 `cases.json` 中,通过 `task_id` 对应。
各任务的可见范围:
- **Repair**:反馈默认包含 verdict 和错误程序的实际输出。非公开反馈输入及其正确答案默认隐藏,公开样例按其覆盖配置开放。
- **Prediction / Execution**:指定输入可见,目标输出隐藏。
`prediction.json` 和 `execution.json` 各约 1.2 GB,批量评测时推荐流式解析 JSON 数组(例如使用 `ijson`)。
## 5. 评价指标
### Generation
生成的程序通过 `score_case_ids` 中的全部测试即为成功,主要报告 **pass@1**。若每题独立采样 `n` 次、其中 `c` 次通过:
```text
pass@k = mean_over_problems(1 - C(n-c, k) / C(n, k)), n >= k
```
当 `n-c < k` 时,该题记为 1。多轮修复不视作独立采样,不套用此公式。
### Repair
```text
修复成功率 = 修复后通过全部评分测试的实例数 / 初始确实失败的实例数
```
反馈测试与评分测试分开,评分集合不含与反馈输入等价的输入,且未修改的原程序在评分集合上仍会失败。多轮修复应固定轮数或成本预算,并记录每轮结果与最终成功率。
### Prediction
```text
macro accuracy = mean_over_problems(该题正确输出数 / 该题评测输入数)
micro accuracy = 正确输出总数 / 评测输入总数
```
输出由题目 checker 判定,构造题接受任意合法答案。输入的选取规则:
- 每题最多 3 份;
- 不含公开样例;
- 按空白分隔的 token 序列去重。
ABC474A 和 ABC477A 的全部合法输入都已作为公开样例,因此这两题没有 Prediction / Execution 实例。其余 454 道题共产生 1,358 个 Prediction 实例和 1,358 个 Execution 实例。
### Execution
```text
accuracy = 正确预测执行输出的实例数 / 可执行的确定性实例数
```
真值是指定程序的实际 stdout。比较规则:
- 按空白分隔后的 token 序列精确匹配;
- 保留大小写和数值写法,例如 `1` 与 `1.0` 不等价;
- 即使题目允许多种构造,也需预测该程序实际输出的那一种。
编译或基础设施失败单独记录。
### Testcase Gen
```text
输入合法率 = 合法输入数 / 生成输入数
错误检出率 = 被检出的已确认错误程序数 / 已确认错误程序总数
误杀率 = 被判为错误的正确对照程序数 / 正确对照程序总数
```
生成的输入先经过 validator,再依次运行标准解、目标程序和 checker。计分规则:
- 非法输入不计为有效检错;
- 目标程序编译失败不计为 testcase 成功;
- 生成器运行成功率单独报告,程序池及其分母随结果一并给出。
每个实例的预算为:
- 最多 10 份输入;
- 总输入大小 16 MiB;
- generator 运行超时 20 秒。
具体配置见该实例的 `budget`。程序池中包含合成的错误程序,因此该指标衡量的是在本程序池上的检错能力。
### 调用成本
建议每次评测记录以下内容:
- 模型与价格版本;
- 模型及工具调用次数;
- 输入、缓存输入与输出 token;
- 实际费用与墙钟耗时。
失败调用和重试同样计入,未知费用留空。
- **每题成本**:该题所有评测调用的费用之和。
- **每成功题成本**:全部评测费用 / 成功题数(零成功时不定义)。
- **Repair**:分别记录增量修复成本和包含初始生成的完整流程成本。
- **判题耗时**:单独列出,不与模型调用时间合并。
## 6. 执行环境与资源限制
原题限制与数据集执行限制分别存放在 `limits.original` 和 `limits.dataset_execution`。时限以每秒 `4e8` 次固定基准迭代为参考:在较慢的机器上相应放宽,并设 20 秒上限。
```text
multiplier = max(1, 4e8 / measured_rate)
timeout_seconds = min(20, original_time_seconds * multiplier)
```
几个例子:
- 实测速率为 `1e8` 时倍率为 4:原题 2 秒对应 8 秒,原题 8 秒对应 20 秒(受上限约束)。
- 机器快于 `4e8` 时倍率为 1,直接使用原题时限。
本批数据在 Intel Core Ultra 7 265K 上测得约 **1.1732e9 次/秒**,倍率为 **1**。测速方法:
- 基准为固定的 uint64 乘加递推;
- 限制使用一个 CPU;
- 预热后测量五次,取中位数。
| 项目 | 当前配置 |
| --- | --- |
| C++ 标准与编译参数 | C++17,`-O2 -pipe` |
| 解答程序内存 | `max(512 MiB, 原题内存限制)`,按受测进程虚拟地址空间限制 |
| 单个输出文件上限 | 64 MiB |
| 编译超时 | 90 秒 |
| generator / validator / checker 超时 | 各 20 秒,独立于解答程序时限 |
| 构建时判题环境 | `upsolve-judge:1`,无网络 Docker,每 worker 限一个 CPU |
Python 解答的运行版本及镜像标识见各题的 `runtime`。
四个核心 C++ 程序依赖 [testlib](https://github.com/MikeMirzayanov/testlib),固定提交为 `b0f7477019d79ba900a57c1cda30f262065c01f6`。配置方式:
- 将该版本的 `testlib.h` 放到例如 `third_party/testlib` 下;
- 编译时添加 `-I third_party/testlib`;
- 编译和运行产生的文件请放在数据集目录之外。
## 7. 快速开始
下载数据集:
```bash
hf download Sy-SU/OOD-Test --repo-type dataset --local-dir OOD-Test
```
用 Python 标准库读取一道题及其 Generation 输入:
```python
import json
from pathlib import Path
root = Path("OOD-Test")
folder = root / "problems" / "atcoder_abc461_a"
def read_json(path):
with path.open(encoding="utf-8") as stream:
return json.load(stream)
description = read_json(folder / "description.json")
cases = read_json(folder / "cases.json")["cases"]
tasks = read_json(folder / "tasks.json")["tasks"]
verdicts = read_json(folder / "expected_verdict.json")
print(description["uid"], description["title"])
print("测试输入数:", len(cases))
print("Generation 评分测试:", tasks["generation"]["instances"][0]["score_case_ids"])
model_inputs = read_json(root / "Tasks" / "generation.json")
task = next(item for item in model_inputs
if item["task_id"] == description["uid"] + ":generation")
print(task["description"]["statement"]["text"])
```
推荐的评测流程:
1. 用 `Tasks/` 中的可见输入构造模型请求。
2. 评测器按 `tasks.json` 读取隐藏的评分材料。
3. 按任务判分:
- Generation / Repair:运行候选程序后逐个调用 checker;
- Prediction:把模型输出交给题目 checker;
- Execution:使用上述 stdout token 比较规则。
完整题包含有题解、标准解和答案,请不要直接拼接进模型输入。
## 8. 来源与许可
题目和题解的来源:
- Codeforces / AtCoder 官方资料;
- 已有的公开数据,题面语料包括 [CPRet 固定快照](https://huggingface.co/datasets/coldchair16/CPRet-Embeddings/tree/e870de4a810f7cb652b48b586ad23fb7b763992b);
- Astra 补充缺少的工具、解答和说明。
逐题来源见 `description.json`,官方代码、移植或改写代码、新编写代码均分别注明。
构建过程中检查了以下内容:
- 原题样例;
- 生成输入的合法性;
- 独立参考解的一致性;
- checker 的正负例;
- 错误程序的判定结果。
补充测试由本数据集构建,并非平台官方的完整测试集。
本数据集的能力划分参考 LiveCodeBench,但使用自定义测试、程序池和 `stdio_v2` 任务协议。报告结果时请注明使用的是 OOD-Test 本批数据及资源设置,并与官方 LiveCodeBench / Pro 分数分开报告。
**许可**:
- 题面及题解版权归 Codeforces、AtCoder 及原作者所有。
- 本数据集新增的测试、程序与标注仅供研究使用。
## 引用
```bibtex
@misc{ood_test_2026,
title = {OOD-Test: A Time-Held-Out Benchmark for Coding Agents},
author = {Senyang Su},
year = {2026},
howpublished = {\url{https://huggingface.co/datasets/Sy-SU/OOD-Test}}
}
```