Benchmark Research
面向金融 Deep Research Agent 的评测数据集（仅数据）。
代码、builder、prompt 模板与评测脚本在独立代码仓库维护；本 Hub 仓库只发布标准化 ready seeds，支持按子集按需加载。
任务命名：val / rank_* / evt / fund / cf / calc
（对应 Valuation / Return Ranking / Event Direction / Fundamentals / Counterfactual / Calculation）。
快速开始
from datasets import load_dataset
# 按题型子集加载（推荐）
val = load_dataset("sselaine27/benchmark-research", "val")
fund = load_dataset("sselaine27/benchmark-research", "fund")
cf = load_dataset("sselaine27/benchmark-research", "cf")
print(val["train"][0]["task_id"])
print(val["train"][0]["prompt"][:200])
# 按时间层筛选
t2 = val["train"].filter(lambda x: x["time_band"] == "T2")
可用 config：val / rank_f / rank_t / rank_h / evt / fund / cf / calc
默认 config 为 val。
EVT / FUND 扰动题
evt 与 fund 中包含扰动题：每条都由同类别的一道原题改写而来，问的是同一个问题，
ground_truth 与原题完全一致，用于测量同一问题在改写后的作答稳定性。
variant为perturb_layout（版式重排）/perturb_paraphrase（指令同义改写）/perturb_numeric（披露数字按同一因子缩放 ±1%）；其余variant为原题。metadata.perturbation.base_task_id指向原题，metadata.perturbation.perturbation_type给出扰动类型。- 只评原题时按
variant过滤即可：
evt = load_dataset("sselaine27/benchmark-research", "evt")
base = evt["train"].filter(lambda x: not x["variant"].startswith("perturb_"))
规模（v0.9.0）
| config | 任务 | ready 条数 |
|---|---|---|
val |
Valuation (VAL) | 244 |
rank_f |
Return Ranking F (RANK-F) | 112 |
rank_t |
Return Ranking T (RANK-T) | 161 |
rank_h |
Return Ranking H (RANK-H) | 110 |
evt |
Event Direction (EVT) | 228 |
fund |
Fundamentals (FUND) | 384 |
cf |
Counterfactual (CF) | 30 |
calc |
Calculation (CALC) | 30 |
| 合计 | 1299 |
实验身份（paper 主口径）
backbone_model = gpt-4.1backbone_training_cutoff = 2024-06-30（OpenAI 仅声明 “June 2024”；本库按月末保守处理）guard_days = 30→ T1 outcome ≤2024-05-31，T2 origin ≥2024-07-30experiment_as_of = 2026-08-17
不兼容声明： 旧 Hub pin（339 题 / model_training_cutoff=2024-06-01）为 legacy identity，不得与 v0.9 paper_band / C1 表混比。
字段说明
每行一条评测题（JSON object）：
| 字段 | 说明 |
|---|---|
task_id |
全局唯一 ID |
category |
VAL / RANK / EVT / FUND / CF / CALC |
variant |
子变体（如 F/T/H、earnings） |
cutoff_date |
用于时间分层的截止日期 |
time_band |
T1 / T2 / T3（legacy；论文请用 paper_band） |
forecast_origin |
预测时点 |
outcome_available_at |
结果可用日；结合 outcome_available_at_source 判断是否为观测值或估计值 |
paper_band |
GPT-4.1 论文口径 T1 / T2 / T3 / CF / CALC |
status |
ready |
seed |
结构化输入 |
prompt |
已渲染完整 prompt |
expected_output |
输出 schema 说明 |
ground_truth |
评测标签 |
metadata |
元信息 |
时间分层
本数据集按可复算规则标注 legacy time_band（仅按 cutoff_date）：
T1：cutoff_date <= model_training_cutoff，可能存在预训练数据泄露T2：model_training_cutoff < cutoff_date < reference_current_dateT3：cutoff_date >= reference_current_date，用于未来预测能力测试
默认 legacy 参数（与 paper 身份对齐 cutoff 月，但规则不同）：
model_training_cutoff = 2024-06-30reference_current_date = 2026-08-17
论文实验请使用侧车 paper_band（见代码仓 docs/schema.md / docs/c1_pairing_contract.md），不要直接用 legacy time_band 做 C1。
仓库边界
本仓库只包含：
README.md（dataset card）data/<config>/train.jsonl（ready seeds）
不包含代码、scripts、prompts、原始构建 CSV、运行结果等。
License
- Downloads last month
- 73