# FinForesight(中文说明) 面向金融 Deep Research Agent 的评测数据集(**仅数据**)。 代码、builder、prompt 模板与评测脚本在独立代码仓库维护;本 Hub 仓库只发布标准化 ready seeds,支持按子集按需加载。 英文 Dataset Card 见 [`README.md`](./README.md)。 ## Links - **Code**: https://github.com/OpenFinMind/FinForesight - **Dataset**: https://huggingface.co/datasets/OpenFinMind/FinForesight 任务命名:`val` / `rank_*` / `evt` / `fund` / `cf` / `calc` (对应 Valuation / Return Ranking / Event Direction / Fundamentals / Counterfactual / Calculation)。 ## 快速开始 ```python from datasets import load_dataset # 按题型子集加载(推荐) val = load_dataset("OpenFinMind/FinForesight", "val") fund = load_dataset("OpenFinMind/FinForesight", "fund") cf = load_dataset("OpenFinMind/FinForesight", "cf") print(val["train"][0]["task_id"]) print(val["train"][0]["prompt"][:200]) # 按时间层筛选 t2 = val["train"].filter(lambda x: x["time_band"] == "T2") ``` 可用 config:`val` / `rank_f` / `rank_t` / `rank_h` / `evt` / `fund` / `cf` / `calc` 默认 config 为 `val`。 ### EVT / FUND 扰动题 `evt` 与 `fund` 中包含扰动题:每条都由同类别的一道原题改写而来,问的是同一个问题, `ground_truth` 与原题完全一致,用于测量同一问题在改写后的作答稳定性。 - `variant` 为 `perturb_layout`(版式重排)/ `perturb_paraphrase`(指令同义改写)/ `perturb_numeric`(披露数字按同一因子缩放 ±1%);其余 `variant` 为原题。 - `metadata.perturbation.base_task_id` 指向原题,`metadata.perturbation.perturbation_type` 给出扰动类型。 - 只评原题时按 `variant` 过滤即可: ```python evt = load_dataset("OpenFinMind/FinForesight", "evt") base = evt["train"].filter(lambda x: not x["variant"].startswith("perturb_")) ``` ## 规模(v0.9.0) | config | 任务 | ready 条数 | |--------|------|-----------| | `val` | Valuation (VAL) | 244 | | `rank_f` | Return Ranking F (RANK-F) | 112 | | `rank_t` | Return Ranking T (RANK-T) | 161 | | `rank_h` | Return Ranking H (RANK-H) | 110 | | `evt` | Event Direction (EVT) | 228 | | `fund` | Fundamentals (FUND) | 384 | | `cf` | Counterfactual (CF) | 30 | | `calc` | Calculation (CALC) | 30 | | **合计** | | **1299** | ### 实验身份(paper 主口径) - `backbone_model = gpt-4.1` - `backbone_training_cutoff = 2024-06-30`(OpenAI 仅声明 “June 2024”;本库按月末保守处理) - `guard_days = 30` → T1 outcome ≤ `2024-05-31`,T2 origin ≥ `2024-07-30` - `experiment_as_of = 2026-08-17` **不兼容声明:** 旧 Hub pin(339 题 / `model_training_cutoff=2024-06-01`)为 legacy identity,不得与 v0.9 paper_band / C1 表混比。 ## 字段说明 每行一条评测题(JSON object): | 字段 | 说明 | |------|------| | `task_id` | 全局唯一 ID | | `category` | VAL / RANK / EVT / FUND / CF / CALC | | `variant` | 子变体(如 F/T/H、earnings) | | `cutoff_date` | 用于时间分层的截止日期 | | `time_band` | T1 / T2 / T3(legacy;论文请用 `paper_band`) | | `forecast_origin` | 预测时点 | | `outcome_available_at` | 结果可用日;结合 `outcome_available_at_source` 判断是否为观测值或估计值 | | `paper_band` | GPT-4.1 论文口径 T1 / T2 / T3 / CF / CALC | | `status` | ready | | `seed` | 结构化输入 | | `prompt` | 已渲染完整 prompt | | `expected_output` | 输出 schema 说明 | | `ground_truth` | 评测标签 | | `metadata` | 元信息 | ## 时间分层 本数据集按可复算规则标注 legacy `time_band`(仅按 `cutoff_date`): - `T1`:`cutoff_date <= model_training_cutoff`,可能存在预训练数据泄露 - `T2`:`model_training_cutoff < cutoff_date < reference_current_date` - `T3`:`cutoff_date >= reference_current_date`,用于未来预测能力测试 默认 legacy 参数(与 paper 身份对齐 cutoff 月,但规则不同): - `model_training_cutoff = 2024-06-30` - `reference_current_date = 2026-08-17` 论文实验请使用侧车 `paper_band`(见代码仓 `docs/schema.md` / `docs/c1_pairing_contract.md`),不要直接用 legacy `time_band` 做 C1。 ## 仓库边界 本仓库**只包含**: - `README.md`(英文 dataset card) - `README_cn.md`(中文说明) - `data//train.jsonl`(ready seeds) **不包含**代码、scripts、prompts、原始构建 CSV、运行结果等。 ## License [CC-BY-4.0](https://creativecommons.org/licenses/by/4.0/)