Initial upload of FinForesight dataset

README.md

@@ -0,0 +1,164 @@
+---
+license: cc-by-4.0
+language:
+- zh
+pretty_name: Benchmark Research
+tags:
+- finance
+- benchmark
+- deep-research
+- agent-evaluation
+size_categories:
+- n<1K
+configs:
+- config_name: val
+  data_files:
+  - split: train
+    path: data/01_val/train.jsonl
+  default: true
+- config_name: rank_f
+  data_files:
+  - split: train
+    path: data/02_rank_f/train.jsonl
+- config_name: rank_t
+  data_files:
+  - split: train
+    path: data/03_rank_t/train.jsonl
+- config_name: rank_h
+  data_files:
+  - split: train
+    path: data/04_rank_h/train.jsonl
+- config_name: evt
+  data_files:
+  - split: train
+    path: data/05_evt/train.jsonl
+- config_name: fund
+  data_files:
+  - split: train
+    path: data/06_fund/train.jsonl
+- config_name: cf
+  data_files:
+  - split: train
+    path: data/07_cf/train.jsonl
+- config_name: calc
+  data_files:
+  - split: train
+    path: data/08_calc/train.jsonl
+---
+
+# Benchmark Research
+
+面向金融 Deep Research Agent 的评测数据集（**仅数据**）。
+
+代码、builder、prompt 模板与评测脚本在独立代码仓库维护；本 Hub 仓库只发布标准化 ready seeds，支持按子集按需加载。
+
+任务命名：`val` / `rank_*` / `evt` / `fund` / `cf` / `calc`
+（对应 Valuation / Return Ranking / Event Direction / Fundamentals / Counterfactual / Calculation）。
+
+## 快速开始
+
+```python
+from datasets import load_dataset
+
+# 按题型子集加载（推荐）
+val = load_dataset("sselaine27/benchmark-research", "val")
+fund = load_dataset("sselaine27/benchmark-research", "fund")
+cf = load_dataset("sselaine27/benchmark-research", "cf")
+
+print(val["train"][0]["task_id"])
+print(val["train"][0]["prompt"][:200])
+
+# 按时间层筛选
+t2 = val["train"].filter(lambda x: x["time_band"] == "T2")
+```
+
+可用 config：`val` / `rank_f` / `rank_t` / `rank_h` / `evt` / `fund` / `cf` / `calc`  
+默认 config 为 `val`。
+
+### EVT / FUND 扰动题
+
+`evt` 与 `fund` 中包含扰动题：每条都由同类别的一道原题改写而来，问的是同一个问题，
+`ground_truth` 与原题完全一致，用于测量同一问题在改写后的作答稳定性。
+
+- `variant` 为 `perturb_layout`（版式重排）/ `perturb_paraphrase`（指令同义改写）/
+  `perturb_numeric`（披露数字按同一因子缩放 ±1%）；其余 `variant` 为原题。
+- `metadata.perturbation.base_task_id` 指向原题，`metadata.perturbation.perturbation_type`
+  给出扰动类型。
+- 只评原题时按 `variant` 过滤即可：
+
+```python
+evt = load_dataset("sselaine27/benchmark-research", "evt")
+base = evt["train"].filter(lambda x: not x["variant"].startswith("perturb_"))
+```
+
+## 规模（v0.9.0）
+
+| config | 任务 | ready 条数 |
+|--------|------|-----------|
+| `val` | Valuation (VAL) | 244 |
+| `rank_f` | Return Ranking F (RANK-F) | 112 |
+| `rank_t` | Return Ranking T (RANK-T) | 161 |
+| `rank_h` | Return Ranking H (RANK-H) | 110 |
+| `evt` | Event Direction (EVT) | 228 |
+| `fund` | Fundamentals (FUND) | 384 |
+| `cf` | Counterfactual (CF) | 30 |
+| `calc` | Calculation (CALC) | 30 |
+| **合计** | | **1299** |
+
+### 实验身份（paper 主口径）
+
+- `backbone_model = gpt-4.1`
+- `backbone_training_cutoff = 2024-06-30`（OpenAI 仅声明 “June 2024”；本库按月末保守处理）
+- `guard_days = 30` → T1 outcome ≤ `2024-05-31`，T2 origin ≥ `2024-07-30`
+- `experiment_as_of = 2026-08-17`
+
+**不兼容声明：** 旧 Hub pin（339 题 / `model_training_cutoff=2024-06-01`）为 legacy identity，不得与 v0.9 paper_band / C1 表混比。
+
+## 字段说明
+
+每行一条评测题（JSON object）：
+
+| 字段 | 说明 |
+|------|------|
+| `task_id` | 全局唯一 ID |
+| `category` | VAL / RANK / EVT / FUND / CF / CALC |
+| `variant` | 子变体（如 F/T/H、earnings） |
+| `cutoff_date` | 用于时间分层的截止日期 |
+| `time_band` | T1 / T2 / T3（legacy；论文请用 `paper_band`） |
+| `forecast_origin` | 预测时点 |
+| `outcome_available_at` | 结果可用日；结合 `outcome_available_at_source` 判断是否为观测值或估计值 |
+| `paper_band` | GPT-4.1 论文口径 T1 / T2 / T3 / CF / CALC |
+| `status` | ready |
+| `seed` | 结构化输入 |
+| `prompt` | 已渲染完整 prompt |
+| `expected_output` | 输出 schema 说明 |
+| `ground_truth` | 评测标签 |
+| `metadata` | 元信息 |
+
+## 时间分层
+
+本数据集按可复算规则标注 legacy `time_band`（仅按 `cutoff_date`）：
+
+- `T1`：`cutoff_date <= model_training_cutoff`，可能存在预训练数据泄露
+- `T2`：`model_training_cutoff < cutoff_date < reference_current_date`
+- `T3`：`cutoff_date >= reference_current_date`，用于未来预测能力测试
+
+默认 legacy 参数（与 paper 身份对齐 cutoff 月，但规则不同）：
+
+- `model_training_cutoff = 2024-06-30`
+- `reference_current_date = 2026-08-17`
+
+论文实验请使用侧车 `paper_band`（见代码仓 `docs/schema.md` / `docs/c1_pairing_contract.md`），不要直接用 legacy `time_band` 做 C1。
+
+## 仓库��界
+
+本仓库**只包含**：
+
+- `README.md`（dataset card）
+- `data/<config>/train.jsonl`（ready seeds）
+
+**不包含**代码、scripts、prompts、原始构建 CSV、运行结果等。
+
+## License
+
+[CC-BY-4.0](https://creativecommons.org/licenses/by/4.0/)