Hugging Face's logo

Datasets:
OpenFinMind
/
FinForesight

Modalities:
Text
Formats:
json
Languages:
English
Chinese
Size:
1K - 10K
Tags:
finance
benchmark
deep-research
agent-evaluation
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
FinForesight / README_cn.md
Yilinss27's picture
Yilinss27
English README + README_cn with code/data links
81cddb0 verified
preview code
|
Raw History Blame Contribute Delete
4.56 kB

FinForesight（中文说明）

面向金融 Deep Research Agent 的评测数据集（仅数据）。

代码、builder、prompt 模板与评测脚本在独立代码仓库维护；本 Hub 仓库只发布标准化 ready seeds，支持按子集按需加载。

英文 Dataset Card 见 README.md。

Links

任务命名：val / rank_* / evt / fund / cf / calc （对应 Valuation / Return Ranking / Event Direction / Fundamentals / Counterfactual / Calculation）。

快速开始 

from datasets import load_dataset

# 按题型子集加载（推荐）
val = load_dataset("OpenFinMind/FinForesight", "val")
fund = load_dataset("OpenFinMind/FinForesight", "fund")
cf = load_dataset("OpenFinMind/FinForesight", "cf")

print(val["train"][0]["task_id"])
print(val["train"][0]["prompt"][:200])

# 按时间层筛选
t2 = val["train"].filter(lambda x: x["time_band"] == "T2")

可用 config：val / rank_f / rank_t / rank_h / evt / fund / cf / calc
默认 config 为 val。

EVT / FUND 扰动题

evt 与 fund 中包含扰动题：每条都由同类别的一道原题改写而来，问的是同一个问题， ground_truth 与原题完全一致，用于测量同一问题在改写后的作答稳定性。

  • variant 为 perturb_layout（版式重排）/ perturb_paraphrase（指令同义改写）/ perturb_numeric（披露数字按同一因子缩放 ±1%）；其余 variant 为原题。
  • metadata.perturbation.base_task_id 指向原题，metadata.perturbation.perturbation_type 给出扰动类型。
  • 只评原题时按 variant 过滤即可：
evt = load_dataset("OpenFinMind/FinForesight", "evt")
base = evt["train"].filter(lambda x: not x["variant"].startswith("perturb_"))

规模（v0.9.0）

config 任务 ready 条数
val Valuation (VAL) 244
rank_f Return Ranking F (RANK-F) 112
rank_t Return Ranking T (RANK-T) 161
rank_h Return Ranking H (RANK-H) 110
evt Event Direction (EVT) 228
fund Fundamentals (FUND) 384
cf Counterfactual (CF) 30
calc Calculation (CALC) 30
合计 1299

实验身份（paper 主口径）

  • backbone_model = gpt-4.1
  • backbone_training_cutoff = 2024-06-30（OpenAI 仅声明 “June 2024”；本库按月末保守处理）
  • guard_days = 30 → T1 outcome ≤ 2024-05-31，T2 origin ≥ 2024-07-30
  • experiment_as_of = 2026-08-17

不兼容声明： 旧 Hub pin（339 题 / model_training_cutoff=2024-06-01）为 legacy identity，不得与 v0.9 paper_band / C1 表混比。

字段说明

每行一条评测题（JSON object）：

字段 说明
task_id 全局唯一 ID
category VAL / RANK / EVT / FUND / CF / CALC
variant 子变体（如 F/T/H、earnings）
cutoff_date 用于时间分层的截止日期
time_band T1 / T2 / T3（legacy；论文请用 paper_band）
forecast_origin 预测时点
outcome_available_at 结果可用日；结合 outcome_available_at_source 判断是否为观测值或估计值
paper_band GPT-4.1 论文口径 T1 / T2 / T3 / CF / CALC
status ready
seed 结构化输入
prompt 已渲染完整 prompt
expected_output 输出 schema 说明
ground_truth 评测标签
metadata 元信息

时间分层

本数据集按可复算规则标注 legacy time_band（仅按 cutoff_date）：

  • T1：cutoff_date <= model_training_cutoff，可能存在预训练数据泄露
  • T2：model_training_cutoff < cutoff_date < reference_current_date
  • T3：cutoff_date >= reference_current_date，用于未来预测能力测试

默认 legacy 参数（与 paper 身份对齐 cutoff 月，但规则不同）：

  • model_training_cutoff = 2024-06-30
  • reference_current_date = 2026-08-17

论文实验请使用侧车 paper_band（见代码仓 docs/schema.md / docs/c1_pairing_contract.md），不要直接用 legacy time_band 做 C1。

仓库边界

本仓库只包含：

  • README.md（英文 dataset card）
  • README_cn.md（中文说明）
  • data/<config>/train.jsonl（ready seeds）

不包含代码、scripts、prompts、原始构建 CSV、运行结果等。

License

CC-BY-4.0