README.md

metadata

language:
  - zh
license: other
pretty_name: FinePDFs OCR Training V1 Sample
size_categories:
  - n<1K
task_categories:
  - image-to-text
task_ids:
  - document-question-answering
tags:
  - ocr
  - document-understanding
  - chinese
  - pdf
  - parquet
  - sample
configs:
  - config_name: all
    data_files:
      - split: train
        path: data/train/**/*.parquet
  - config_name: text_no_table
    data_files:
      - split: train
        path: data/train/text_no_table/*.parquet
  - config_name: text_table_region
    data_files:
      - split: train
        path:
          - data/train/text_table_region_only/*.parquet
          - data/train/text_table_region_and_table_expert/*.parquet
  - config_name: table_expert
    data_files:
      - split: train
        path:
          - data/train/table_expert_only/*.parquet
          - data/train/text_table_region_and_table_expert/*.parquet

FinePDFs OCR Training V1 Sample

这是 FinePDFs 中文 PDF OCR 训练数据 HuggingFace 发布格式的小样例。每条样本对应一个 PDF 页面图像，包含原图、MinerU doctag 伪标签、GLM/Paddle doctag 参考结果、一致性评分指标和训练目标分类。

规模

分区	样本数
text_no_table	8
text_table_region_only	8
table_expert_only	8
text_table_region_and_table_expert	8
total unique rows	32

总大小约 11.14 MiB。

构建流程

数据集按下面流程构建：

1. 从 FinePDFs 中文 PDF 数据中下载 PDF，并过滤非简体中文材料。
2. 将 PDF 拆分为单页图像，记录页面来源、尺寸、文件哈希等元信息。
3. 对页面图像进行去重、图片质量过滤和 embedding 检索过滤，保留适合 OCR 训练的数据。
4. 分别调用 MinerU、GLM OCR 和 PaddleOCR-VL 获取页面识别结果。
5. 将 OCR 结果转换为统一的 doctag 表示，其中 mineru_doctags 作为主要训练伪标签。
6. 使用 MinerU 与 GLM 的结果计算一致性指标，包括文本编辑距离、表格 TEDS、表格 cell 文本编辑距离和 cell 字符准确率。
7. 根据一致性指标筛选训练样本，并按训练用途划分为文本专家-无表格、文本专家-含表格和表格专家三类。
8. 将通过筛选的样本写成 parquet，上传时只保留训练所需字段和可审计的评分字段。

mineru_doctags 是经过一致性筛选后的模型伪标签，不是人工逐字校对标注。

筛选口径

三类训练数据使用以下条件筛选：

• text_no_table（文本专家-无表格）：页面不含表格，且 MinerU/GLM 文本编辑距离 mineru_glm_text_ed <= 0.30。
• text_table_region（文本专家-含表格）：页面含表格，且表格外文本编辑距离 mineru_glm_text_ed <= 0.30。这类数据用于提升表格外文本识别能力，并要求模型能表示表格区域，但不要求表格内部结构和内容完全准确。
• table_expert（表格专家）：页面含表格，且 mineru_glm_table_teds >= 0.70、mineru_glm_table_cell_text_ed <= 0.30、mineru_glm_table_cell_char_acc >= 0.70。这类数据用于训练表格结构和表格内容识别能力。

数据组织

样本按物理分区去重存储：

• text_no_table: 文本专家-无表格。
• text_table_region_only: 只属于文本专家-含表格。
• table_expert_only: 只属于表格专家。
• text_table_region_and_table_expert: 同时属于文本专家-含表格和表格专家。

text_table_region 和 table_expert 两个逻辑 config 会共享重叠 combo 文件，但物理 parquet 只保存一份。

关键字段

• image: 原始页面图像，使用 HuggingFace Image feature，可在数据集页面直接预览。
• mineru_doctags: MinerU doctag 伪标签，训练主标签。
• finepdfs_split: 原始 FinePDFs split。
• finepdfs_shard: 原始 FinePDFs parquet shard，相对 FinePDFs data/ 目录。
• finepdfs_row_index: 原始 FinePDFs parquet shard 内的 0-based 行号。
• finepdfs_id: 原始 FinePDFs 记录 id。
• finepdfs_url: 原始 PDF URL。
• pdf_page_number: PDF 页码，1-based。
• glm_doctags: GLM doctag。
• paddle_doctags: Paddle doctag，如存在。
• is_text_no_table: 是否属于文本专家-无表格训练任务。
• is_text_table_region: 是否属于文本专家-含表格训练任务。
• is_table_expert: 是否属于表格专家训练任务。
• mineru_glm_text_ed: MinerU/GLM 文本编辑距离。
• mineru_glm_table_teds: 表格 TEDS。
• mineru_glm_table_cell_text_ed: 表格 cell 文本编辑距离。
• mineru_glm_table_cell_char_acc: 表格 cell 字符准确率。