| # FinForesight（中文说明） |
|
|
| 面向金融 Deep Research Agent 的评测数据集（**仅数据**）。 |
|
|
| 代码、builder、prompt 模板与评测脚本在独立代码仓库维护；本 Hub 仓库只发布标准化 ready seeds，支持按子集按需加载。 |
|
|
| 英文 Dataset Card 见 [`README.md`](./README.md)。 |
|
|
| ## Links |
|
|
| - **Code**: https://github.com/OpenFinMind/FinForesight |
| - **Dataset**: https://huggingface.co/datasets/OpenFinMind/FinForesight |
|
|
| 任务命名：`val` / `rank_*` / `evt` / `fund` / `cf` / `calc` |
| （对应 Valuation / Return Ranking / Event Direction / Fundamentals / Counterfactual / Calculation）。 |
|
|
| ## 快速开始 |
|
|
| ```python |
| from datasets import load_dataset |
| |
| # 按题型子集加载（推荐） |
| val = load_dataset("OpenFinMind/FinForesight", "val") |
| fund = load_dataset("OpenFinMind/FinForesight", "fund") |
| cf = load_dataset("OpenFinMind/FinForesight", "cf") |
| |
| print(val["train"][0]["task_id"]) |
| print(val["train"][0]["prompt"][:200]) |
| |
| # 按时间层筛选 |
| t2 = val["train"].filter(lambda x: x["time_band"] == "T2") |
| ``` |
|
|
| 可用 config：`val` / `rank_f` / `rank_t` / `rank_h` / `evt` / `fund` / `cf` / `calc` |
| 默认 config 为 `val`。 |
|
|
| ### EVT / FUND 扰动题 |
|
|
| `evt` 与 `fund` 中包含扰动题：每条都由同类别的一道原题改写而来，问的是同一个问题， |
| `ground_truth` 与原题完全一致，用于测量同一问题在改写后的作答稳定性。 |
|
|
| - `variant` 为 `perturb_layout`（版式重排）/ `perturb_paraphrase`（指令同义改写）/ |
| `perturb_numeric`（披露数字按同一因子缩放 ±1%）；其余 `variant` 为原题。 |
| - `metadata.perturbation.base_task_id` 指向原题，`metadata.perturbation.perturbation_type` |
| 给出扰动类型。 |
| - 只评原题时按 `variant` 过滤即可： |
|
|
| ```python |
| evt = load_dataset("OpenFinMind/FinForesight", "evt") |
| base = evt["train"].filter(lambda x: not x["variant"].startswith("perturb_")) |
| ``` |
|
|
| ## 规模（v0.9.0） |
|
|
| | config | 任务 | ready 条数 | |
| |--------|------|-----------| |
| | `val` | Valuation (VAL) | 244 | |
| | `rank_f` | Return Ranking F (RANK-F) | 112 | |
| | `rank_t` | Return Ranking T (RANK-T) | 161 | |
| | `rank_h` | Return Ranking H (RANK-H) | 110 | |
| | `evt` | Event Direction (EVT) | 228 | |
| | `fund` | Fundamentals (FUND) | 384 | |
| | `cf` | Counterfactual (CF) | 30 | |
| | `calc` | Calculation (CALC) | 30 | |
| | **合计** | | **1299** | |
|
|
| ### 实验身份（paper 主口径） |
|
|
| - `backbone_model = gpt-4.1` |
| - `backbone_training_cutoff = 2024-06-30`（OpenAI 仅声明 “June 2024”；本库按月末保守处理） |
| - `guard_days = 30` → T1 outcome ≤ `2024-05-31`，T2 origin ≥ `2024-07-30` |
| - `experiment_as_of = 2026-08-17` |
|
|
| **不兼容声明：** 旧 Hub pin（339 题 / `model_training_cutoff=2024-06-01`）为 legacy identity，不得与 v0.9 paper_band / C1 表混比。 |
| |
| ## 字段说明 |
| |
| 每行一条评测题（JSON object）： |
| |
| | 字段 | 说明 | |
| |------|------| |
| | `task_id` | 全局唯一 ID | |
| | `category` | VAL / RANK / EVT / FUND / CF / CALC | |
| | `variant` | 子变体（如 F/T/H、earnings） | |
| | `cutoff_date` | 用于时间分层的截止日期 | |
| | `time_band` | T1 / T2 / T3（legacy；论文请用 `paper_band`） | |
| | `forecast_origin` | 预测时点 | |
| | `outcome_available_at` | 结果可用日；结合 `outcome_available_at_source` 判断是否为观测值或估计值 | |
| | `paper_band` | GPT-4.1 论文口径 T1 / T2 / T3 / CF / CALC | |
| | `status` | ready | |
| | `seed` | 结构化输入 | |
| | `prompt` | 已渲染完整 prompt | |
| | `expected_output` | 输出 schema 说明 | |
| | `ground_truth` | 评测标签 | |
| | `metadata` | 元信息 | |
|
|
| ## 时间分层 |
|
|
| 本数据集按可复算规则标注 legacy `time_band`（仅按 `cutoff_date`）： |
|
|
| - `T1`：`cutoff_date <= model_training_cutoff`，可能存在预训练数据泄露 |
| - `T2`：`model_training_cutoff < cutoff_date < reference_current_date` |
| - `T3`：`cutoff_date >= reference_current_date`，用于未来预测能力测试 |
|
|
| 默认 legacy 参数（与 paper 身份对齐 cutoff 月，但规则不同）： |
|
|
| - `model_training_cutoff = 2024-06-30` |
| - `reference_current_date = 2026-08-17` |
|
|
| 论文实验请使用侧车 `paper_band`（见代码仓 `docs/schema.md` / `docs/c1_pairing_contract.md`），不要直接用 legacy `time_band` 做 C1。 |
|
|
| ## 仓库边界 |
|
|
| 本仓库**只包含**： |
|
|
| - `README.md`（英文 dataset card） |
| - `README_cn.md`（中文说明） |
| - `data/<config>/train.jsonl`（ready seeds） |
|
|
| **不包含**代码、scripts、prompts、原始构建 CSV、运行结果等。 |
|
|
| ## License |
|
|
| [CC-BY-4.0](https://creativecommons.org/licenses/by/4.0/) |
|
|
