README_zh.md

# FinixDocBench

语言：[English](README.md) | 中文

本仓库包含 **FinixDocBench** 的合规审查后公开子集。FinixDocBench 是一个面向金融领域文档解析的评测基准，首次在技术报告 **"FinixDoc: Rethinking Financial Document Parsing Beyond Saturated Benchmarks"** 中提出。

该基准关注真实金融业务中常见、但在已有干净文档评测中覆盖不足的文档解析场景，包括：数字原生保险条款、噪声较多的手机拍摄医疗票据、超长页面以及大规模密集表格。模型的预期输出为页面级 Markdown；在有标注的部分，还提供结构化 JSON 版式标注。

[![FinixDocBench benchmark matrix](matrix.png)](matrix.pdf)

项目链接：

- 项目主页：https://finix.alipay.com/
- 技术报告：https://openreview.net/forum?id=kjgpNlov2A
- Hugging Face 数据集：https://huggingface.co/datasets/inclusionAI/FinixDocBench
- 许可证：Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International

## 开源子集内容

完整的 FinixDocBench 基准包含五个 track，共 **5,000 页**。本次公开发布包含 **742 个页面样本**。Track 3 被拆分为两个目录，以便分别评测超长页面和大表格页面。

| Track | FinixDocBench 总页数 | 本次公开页数 | 发布状态 |
|---|---:|---:|---|
| FinixDigital | 500 | 242 | 部分开源 |
| FinixPhoto | 300 | 300 | 全量开源 |
| FinixHuge-Long | 100 | 100 | 全量开源 |
| FinixHuge-Table | 100 | 100 | 全量开源 |
| FinixInner | 4,000 | 0 | 因隐私与合规限制未开源 |

公开文件组织如下：

| Track | 目录 | 来源类型 | 页数 | 每个样本文件 | 主要任务 |
|---|---|---|---:|---|---|
| FinixDigital | `track1_finixdigital_242_insurance_terms/` | 数字原生保险条款 | 242 | 图片 + Markdown + JSON | Markdown 解析与结构化版式解析 |
| FinixPhoto | `track2_finixphoto_300/` | 手机拍摄医疗票据 | 300 | 图片 + Markdown + JSON | 鲁棒 Markdown 解析与结构化版式解析 |
| FinixHuge-Long | `track3_finixhuge_100_long/` | 超长金融或保险页面 | 100 | 图片 + Markdown | 超大页面 Markdown 解析 |
| FinixHuge-Table | `track3_finixhuge_100_table/` | 大规模密集表格页面 | 100 | 图片 + Markdown | 超大表格重建 |

本仓库中的 FinixDigital 是技术报告所述 500 页 FinixDigital track 中的 242 页保险条款子集。

## 仓库结构

```text
FinixDocBench/
  README.md
  README_zh.md
  LICENSE.md
  CITATION.cff
  dataset_manifest.jsonl
  metadata.jsonl
  matrix.pdf
  matrix.png
  track1_finixdigital_242_insurance_terms/
    images/
    mds/
    jsons/
  track2_finixphoto_300/
    images/
    mds/
    jsons/
  track3_finixhuge_100_long/
    images/
    mds/
  track3_finixhuge_100_table/
    images/
    mds/
  FinixDocBench_Eval_for_Markdown/
    README.md
    requirements.txt
    run_eval.py
    finixdoc_md_eval/
```

每个样本通过文件名 stem 进行匹配。例如，当三个文件均存在时，`abc123.png`、`abc123.md` 和 `abc123.json` 表示同一页。

`dataset_manifest.jsonl` 文件为每个样本提供一行索引信息，包括相对路径、track 元数据、图片尺寸和基础标注统计。该文件可作为轻量级索引，方便用户以编程方式加载本次发布的数据。

## 任务设置

本次 FinixDocBench 发布支持三个互补的任务设置。

### 1. 全页面 Markdown 解析

给定一张页面图片，模型需要生成完整的页面级 Markdown 重建结果。所有公开 track 均支持该任务。

Markdown 真值保留文本顺序、标题、表格和其他页面级结构。当表格结构、合并单元格或密集金融版式难以用普通 Markdown 表格忠实表示时，真值中会使用 HTML `<table>` 块。

### 2. 结构化版式解析

给定一张页面图片，模型需要输出带有类别标签、边界框、转写内容和阅读顺序的结构化页面元素。该任务适用于包含 `jsons/` 标注的 FinixDigital 和 FinixPhoto。

公开 JSON 文件中的边界框使用原始图像坐标系下的像素坐标。每个 JSON 文件包含页面元数据以及一个 `layout` 列表。

### 3. 超大页面可处理性

FinixHuge-Long 和 FinixHuge-Table 用于评估系统是否能针对超大文档返回语法有效、非空的页面级 Markdown 结果。这些页面重点考察页面分辨率、输出长度、表格复杂度和阅读顺序保持能力。

由于本次发布中的 FinixHuge 仅提供 Markdown 标注，建议使用 Markdown 指标并结合类似成功率的可处理性检查进行评测。

## 标注格式

FinixDigital 和 FinixPhoto 使用统一的 10 类页面元素 schema：

```text
page-header
page-footer
title
section-header
text
table
figure
caption
footnote
other
```

顶层 JSON 字段：

| 字段 | 说明 |
|---|---|
| `width` | 原始页面图像宽度，单位为像素。 |
| `height` | 原始页面图像高度，单位为像素。 |
| `resized_width` | 标注或预处理流程中使用的宽度。 |
| `resized_height` | 标注或预处理流程中使用的高度。 |
| `max_pixels` | 预处理流程记录的最大像素预算。 |
| `min_pixels` | 预处理流程记录的最小像素预算。 |
| `layout` | 按顺序排列的页面元素列表。 |

每个 `layout` 元素包含：

| 字段 | 说明 |
|---|---|
| `category` | 10 个页面元素标签之一。 |
| `bbox` | 页面图像坐标系下的像素级边界框 `[x1, y1, x2, y2]`。 |
| `content` | 转写文本、Markdown 结构标记或序列化表格内容。部分 `figure` 元素可能没有该字段。 |
| `order` | 该版式元素的阅读顺序索引。 |

示例：

```json
{
  "width": 993,
  "height": 1404,
  "resized_width": 992,
  "resized_height": 1408,
  "max_pixels": 16777216,
  "min_pixels": 4096,
  "layout": [
    {
      "category": "section-header",
      "bbox": [82, 364, 223, 394],
      "content": "## 2.3 责任免除",
      "order": 5
    },
    {
      "category": "table",
      "bbox": [337, 156, 916, 295],
      "content": "<table>...</table>",
      "order": 3
    }
  ]
}
```

## 数据集统计

| Track | 图片数 | Markdown 文件数 | JSON 文件数 | 备注 |
|---|---:|---:|---:|---|
| FinixDigital | 242 | 242 | 242 | 6,223 个结构化版式元素；214 个表格 |
| FinixPhoto | 300 | 300 | 300 | 8,517 个结构化版式元素；224 个表格 |
| FinixHuge-Long | 100 | 100 | 0 | 超长页面图片，最高 287M 像素 |
| FinixHuge-Table | 100 | 100 | 0 | 大规模密集表格图片，最高 386M 像素 |
| **总计** | **742** | **742** | **542** | 所有样本均包含配对图片和 Markdown |

结构化 JSON track 的类别计数：

| 类别 | 数量 |
|---|---:|
| `text` | 10,158 |
| `section-header` | 1,522 |
| `figure` | 1,307 |
| `title` | 504 |
| `table` | 438 |
| `caption` | 265 |
| `page-footer` | 223 |
| `footnote` | 204 |
| `page-header` | 64 |
| `other` | 55 |

## 加载示例

使用 Hugging Face `datasets` 库加载 manifest：

```python
from datasets import load_dataset

manifest = load_dataset(
    "json",
    data_files="dataset_manifest.jsonl",
    split="train",
)

print(manifest[0])
```

克隆仓库后在本地读取样本：

```python
from pathlib import Path
from PIL import Image
import json

repo = Path("FinixDocBench")
row = manifest[0]

image = Image.open(repo / row["image_path"])
markdown = (repo / row["markdown_path"]).read_text(encoding="utf-8")

annotation = None
if row["json_path"] is not None:
    annotation = json.loads((repo / row["json_path"]).read_text(encoding="utf-8"))
```

## 评测

本仓库包含一个轻量级 Markdown 评测器：

```bash
cd FinixDocBench_Eval_for_Markdown
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt
```

提供真值 Markdown 目录和预测 Markdown 目录即可对某个 track 进行评测，文件名需要一一匹配：

```bash
python run_eval.py \
  --gt_dir ../track2_finixphoto_300/mds \
  --pred_dir /path/to/predicted_mds \
  --output_json outputs/finixphoto_result.json
```

Markdown 评测器报告以下指标：

| 指标 | 方向 | 说明 |
|---|---|---|
| `text_block_Edit_dist` | 越低越好 | 匹配文本块上的归一化编辑距离。 |
| `reading_order_Edit_dist` | 越低越好 | 序列化阅读顺序序列上的归一化编辑距离。 |
| `table_TEDS` | 越高越好 | 基于树编辑距离的表格结构相似度，缩放到 0-100。 |
| `overall` | 越高越好 | 0-100 范围内的综合分数。 |

综合分数计算方式为：

```text
overall = ((1 - text_block_Edit_dist) * 100
         + (1 - reading_order_Edit_dist) * 100
         + table_TEDS) / 3
```

对于 FinixHuge，用户还应额外报告成功率：系统能够返回语法有效、非空的页面级 Markdown 结果，且没有运行失败、严重截断或导致下游评测无法进行的格式错误的页面比例。

FinixDigital 和 FinixPhoto 提供结构化 JSON 标注。本仓库当前随附 Markdown 评测器；如果报告结构化版式指标，请说明所使用的评测器、匹配规则和坐标约定。

## 技术报告中的参考结果

以下数值摘自 FinixDoc 技术报告，仅供参考。它们对应论文中报告的 benchmark protocol；除非复现相同的数据划分和评测协议，否则不应将其视为本次发布中每个子集的预计算分数。

### FinixDigital

| Model | Overall | TextEdit | TableTEDS | TableTEDS-S | ReadOrderEdit |
|---|---:|---:|---:|---:|---:|
| Qwen3-VL-4B | 80.18 | 0.145 | 76.04 | 81.23 | 0.210 |
| FinixDoc-VL | 93.19 | 0.039 | 92.07 | 93.67 | 0.086 |
| DeepSeek-OCR-2 | 82.80 | 0.139 | 90.00 | 92.32 | 0.277 |
| FireRed-OCR | 83.10 | 0.119 | 87.10 | 89.14 | 0.259 |
| PaddleOCR-VL-1.5 | 85.41 | 0.116 | 86.12 | 88.26 | 0.183 |
| GLM-OCR | 86.28 | 0.121 | 89.44 | 90.99 | 0.185 |
| Youtu-Parsing | 89.26 | 0.091 | 87.79 | 90.85 | 0.109 |
| Dots.OCR | 90.36 | 0.058 | 89.78 | 92.26 | 0.129 |
| MinerU 2.5 | 92.96 | 0.045 | 91.18 | 92.70 | 0.078 |
| Qwen3.5-397B-A17B | 84.90 | 0.119 | 87.30 | 89.51 | 0.207 |
| Kimi-K2.5 | 85.05 | 0.119 | 85.95 | 88.24 | 0.189 |
| Qwen3-VL-235B-A22B-Instruct | 87.26 | 0.076 | 82.77 | 85.44 | 0.134 |

### FinixPhoto

| Model | Overall | TextEdit | TableTEDS | TableTEDS-S | ReadOrderEdit |
|---|---:|---:|---:|---:|---:|
| Qwen3-VL-4B | 54.28 | 0.408 | 50.13 | 63.04 | 0.465 |
| FinixDoc-VL | 67.03 | 0.276 | 69.08 | 77.69 | 0.404 |
| PaddleOCR-VL-1.5 | 41.28 | 0.512 | 34.54 | 46.72 | 0.595 |
| MinerU 2.5 | 43.08 | 0.513 | 35.54 | 48.58 | 0.550 |
| DeepSeek-OCR-2 | 43.20 | 0.459 | 30.69 | 43.52 | 0.552 |
| GLM-OCR | 45.82 | 0.521 | 50.47 | 60.22 | 0.609 |
| FireRed-OCR | 47.20 | 0.487 | 38.50 | 53.72 | 0.482 |
| Dots.OCR | 52.57 | 0.399 | 44.90 | 56.92 | 0.473 |
| Youtu-Parsing | 60.90 | 0.345 | 59.01 | 66.23 | 0.418 |
| Qwen3.5-397B-A17B | 62.58 | 0.384 | 62.04 | 71.82 | 0.359 |
| Qwen3-VL-235B-A22B-Instruct | 62.65 | 0.359 | 63.55 | 72.13 | 0.397 |
| Kimi-K2.5 | 65.55 | 0.325 | 70.16 | 77.34 | 0.410 |

### FinixHuge

| Model | Success Rate | Overall | TextEdit | TableTEDS | TableTEDS-S | ReadOrderEdit |
|---|---:|---:|---:|---:|---:|---:|
| FinixDoc | 0.92 | 68.23 | 0.357 | 57.09 | 60.10 | 0.167 |
| Qwen3-VL-235B-A22B-Instruct | 0.68 | 34.85 | 0.847 | 47.05 | 63.20 | 0.578 |
| GLM-OCR | 0.34 | 38.06 | 0.816 | 59.39 | 62.43 | 0.636 |

## 预期用途

本数据集适用于：

- 评测金融领域文档上的 OCR 与文档解析系统。
- 测试全页面 Markdown 重建能力。
- 在 FinixDigital 和 FinixPhoto 上测试版式解析、表格解析、边界框预测和阅读顺序恢复。
- 测试系统在噪声较多的手机拍摄票据图像上的鲁棒性。
- 评测系统在超大文档页面上的端到端可处理性。

## 非适用用途

本数据集不适用于：

- 个人画像或个人信息抽取。
- 自动化金融、医疗、保险、法律、就业、信贷或类似高影响决策。
- 在使用 benchmark 标签或真值进行训练、微调、数据增强或提示词优化后报告 benchmark 分数。
- 声称覆盖所有金融文档场景。

## 局限性

FinixDocBench 是评测基准，而不是综合训练语料。本次发布覆盖若干高价值金融文档解析场景，但不包含私有的 FinixInner track。

FinixPhoto 来源于公开场景医疗票据资源，并在 FinixDocBench schema 下重新标注。不能完全排除部分外部模型曾接触原始公开来源的可能性。

FinixHuge 强调系统级可处理性，公开标注仅包含 Markdown。如果未一致报告失败页面、截断或无效输出，直接的单轮模型对比可能会低估或高估实际可用性。

部分页面图像可能非常大。用户在评测 FinixHuge 时应谨慎使用图像加载库，并有意识地配置解压或像素限制。

## 许可证

本次 FinixDocBench 发布遵循 **Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License (CC BY-NC-SA 4.0)**。

请参见 [LICENSE.md](LICENSE.md) 获取人类可读的许可证说明和 Creative Commons 官方许可证链接。

## 引用

如果使用本次 FinixDocBench 发布，请引用：

```bibtex
@misc{wang2026finixdoc,
  title        = {FinixDoc: Rethinking Financial Document Parsing Beyond Saturated Benchmarks},
  author       = {Hang Wang and Jin Zhang and Guoliang Xu and Pengyue Lu and Yao Li and Zijiao Zhang and Tianyu Huang and Weiqi Xiong and Yulong Wang and Chuqiao Lu and Wenkang Huang and Kai Yang and Yadong Li and Hui Li and Xingzhong Xu and Xiao Xu},
  year         = {2026},
  institution  = {Ant Group},
  url          = {https://finix.alipay.com}
}
```

## 联系方式

如对该 benchmark 有任何问题，请通过项目主页或蚂蚁集团 Hugging Face 组织联系 FinixDoc 作者。