README_ZH.md

UltraData-Math

🤗 数据集 | 💻 源代码 | 🇺🇸 English README

UltraData-Math 是一个面向数学推理的大规模高质量预训练数据集，总计 290B+ tokens，涵盖三个递进层级——L1（170.5B tokens 网页语料）、L2（33.7B tokens 质量精选）、L3（88B tokens 多格式精炼），旨在系统性提升大语言模型的数学推理能力。已应用于 MiniCPM 系列 模型的数学预训练。

📚 简介

高质量预训练数据对提升大语言模型的数学推理能力至关重要。然而，现有数学预训练数据构建方案存在以下不足：

• HTML 解析层面：通用提取器（如 trafilatura、readability）主要面向新闻/文章场景设计，对数学公式等内容缺乏专门处理，常导致公式结构破坏或丢失；同时论坛类页面的数学讨论部分，难以完整提取。
• 数据质量层面：现有数据集普遍缺乏系统的质量分级机制，高价值数学内容与低质噪声混杂。
• 数据多样性层面：主流数据集多源自教科书或竞赛题库，缺少真实网页中的数学讨论与应用场景；合成数据格式单一，难以覆盖多轮对话、多风格表达等多样化需求。

针对上述问题，我们提出 UltraData-Math——一个面向数学推理任务的大规模高质量预训练数据集。本数据集基于 UltraData 的 L0-L4 分级数据管理框架开发，包含四个递进层级：

• L0 原始数据层：基于 magic-html 开发数学解析器，结合 w3m 布局保持渲染与多级回退策略，将 MathML、KaTeX、AsciiMath 标准化为 LaTeX 格式。
• L1 过滤数据层：通过启发式规则清洗噪声并进行文档级去重。
• L2 精选数据层：使用闭源大模型标注种子数据并蒸馏至轻量 embedding 分类器，实现全量语料的高效质量分级。
• L3 精炼数据层：通过改写、合成生成与精炼，生成具有清晰推理链条的结构化内容，涵盖 Q&A、多轮对话、多风格改写、知识教材等多种格式。

实验表明，在 MiniCPM-1.2B 架构上，UltraData-Math 在 MATH500 基准上达到 37.02pp，相较 Nemotron-CC 4plus 提升 +3.62pp；在 GSM8K 上达到 61.79pp，提升 +3.34pp，同时保持代码生成与通用知识能力。

UltraData-Math 已应用于 MiniCPM 系列 模型的数学预训练。

• UltraData-Math-L1: 大规模高质量数学预训练数据集，包含 170.5B tokens 的网页数学语料。
• UltraData-Math-L2: 经质量模型精选的高质量数学预训练数据集，包含 33.7B tokens 的高质量网页数学语料。
• UltraData-Math-L3: 高质量精炼数学数据集，包含 88B tokens 的多格式精炼数据（Q&A、多轮对话、知识教材等）。

🏗️ 数据处理流水线

为突破现有数学数据集在质量与多样性上的局限，我们建立了一套以"数学内容完整性"和"信息密度"为核心的精细化分级标准。UltraData-Math 采用了 UltraData 论文提出的 L0-L4 分级数据管理框架，通过标准化的层级定义，实现数学数据资产的有序管理与高效流转。每一级都代表了更高的数据纯度与数学价值，同时也对应着更精细的加工程度。

L0：原始数据解析与标准化

目标：解决通用 HTML 解析器对数学公式支持不佳的问题，最大限度保留网页中的数学语义。

L0 阶段主要处理从 Common Crawl 等来源获取的原始网页数据。针对数学网页的特殊性，我们通过 UltraData-Math-Parser 开发了专用的解析策略，而非直接使用通用的 trafilatura 或 readability。

• 统一解析模式：自动识别页面类型，尽可能保证完整内容提取。
• 多级回退策略：为了防止解析失败导致数据丢失，我们实施了多级回退机制，确保在结构化解析失败时仍能捕获文本内容。
• 数学公式标准化：我们将网页中不同的数学表达统一转换为标准的 LaTeX 格式，实现了数据格式的归一化，便于模型统一学习。

L1：启发式清洗与过滤

目标：去除格式噪声，提升数据的可读性和规范性。

在获取了包含完整数学公式的文本后，我们通过一系列启发式规则对 L0 数据进行清洗：

• 格式修复：
  • 清理不可见字符、乱码及非自然的连续换行。
  • 移除导航栏、页脚、广告弹窗及"阅读更多"等无关网页噪音。
• 内容过滤：
  • 长度过滤：移除过短的文本片段，这些片段通常缺乏上下文，难以支持有效的数学推理训练。
  • 语言识别：确保数据集主要由高质量的英文及中文数学内容组成。
  • 文档去重：在文档级别进行去重，防止重复内容对模型训练造成偏差。

L2：基于质量模型的精选

目标：从海量数据中识别出具有高价值的核心语料。

L1 数据虽然格式整洁，但内容质量参差不齐。L2 阶段引入了基于模型的质量评估体系：

• 种子数据标注：使用闭源大模型对一部分种子数据进行多维度打分。
• 分类器训练与蒸馏：基于标注数据训练轻量级的 embedding 分类器，使其具备识别高价值数学内容的能力。
• 全量推理：使用训练好的分类器对 L1 数据进行全量打分与筛选。
  • 保留：包含详细解题步骤、数学概念解释、高水平学术讨论的内容。
  • 剔除：简单的名词堆砌、无意义的数字列表、低幼或非数学领域的噪声。

L3：精炼数据

目标：通过改写、合成生成与精炼，生成具有清晰推理链条和显式教学意图的结构化内容，达到教科书级质量标准，确保最大化可学习性。

自然网页数据多为陈述性文本，缺乏结构化的推理步骤和多样化的教学格式。为了增强模型的推理链条（CoT）能力和多轮交互能力，我们通过 UltraData-Math-Generator 构建了 L3 精炼数据层：

• Q&A 对生成：利用高性能模型将陈述性文档改写为"问题-回答"对，构建包含显式推理步骤的 QA 风格数据。
• 多轮对话合成：模拟"老师-学生"的辅导场景，生成包含追问、纠错、引导的多轮对话数据。
• 多风格改写：将单一来源的数据改写为多种风格（如教科书严谨风格、竞赛解题风格、科普直观风格），提升模型的泛化能力。
• 知识点教材生成：基于特定知识点生成系统化的教材类内容，确保模型掌握核心数学概念。
• 格式修复与增强：修复源数据中的格式问题（如损坏的 LaTeX 公式、不一致的符号标记），并增强内容连贯性，以达到教科书级质量标准。

基于上述方法，我们最终产出了以下 UltraData-Math 数据集：

数据集	# Tokens	# Documents
UltraData-Math-L1	170.5B	85.6M
UltraData-Math-L2-preview	33.7B	14.98M
UltraData-Math-L3	88B	81.4M

🚀 快速开始

你可以直接从 Hugging Face 加载数据集：

from datasets import load_dataset

# 加载 UltraData-Math-L1
ds = load_dataset("openbmb/UltraData-Math", "UltraData-Math-L1")

# 加载 UltraData-Math-L2-preview
ds = load_dataset("openbmb/UltraData-Math", "UltraData-Math-L2-preview")

# 加载 UltraData-Math-L3（默认：Conversation-Synthetic）
ds = load_dataset("openbmb/UltraData-Math", "UltraData-Math-L3-Conversation-Synthetic")

# 其他 L3 配置：
# - UltraData-Math-L3-Multi-Style-Synthetic
# - UltraData-Math-L3-QA-Synthetic
# - UltraData-Math-L3-Textbook-Exercise-Synthetic

📈 实验结果

我们使用 衰减验证（Decay Verification） 方法评估数据质量：在 MiniCPM-1.2B 基座模型（使用 MiniCPM3-4B 分词器，预训练 1.3T tokens）上继续训练 ~100B tokens（30% 目标数据 + 70% 通用数据）。我们使用 OpenCompass 作为评估框架。评估基准包括：

• 通用英文： MMLU、ARC-E、ARC-C、BigBench Hard (BBH)、CommonSenseQA、HellaSwag、OpenbookQA、PIQA、SIQA、Winogrande
• 通用中文： C-Eval、CMMLU
• 数学推理： MATH500、GSM8K、Math-Bench、R-Bench-Math
• 代码推理： MBPP、HumanEval

L0 解析策略有效性

为公平对比不同解析策略，我们在 2023-2024 年分布的数据子集上进行实验。我们使用不同解析器重新解析原始 HTML。该对比展示了我们 L0 解析器的有效性。

流水线有效性（L1 vs L2 vs L3）

为验证 L0-L3 分级框架的有效性，我们对使用不同层级 UltraData-Math 训练的模型进行了消融实验。与上文 L0 解析器对比（使用 2023-2024 子集）不同，以下结果基于全量数据集。结果表明，更高层级的数据（L3）显著提升了数学推理能力（MATH500、GSM8K）及通用能力。

完整评测结果

为与现有公开数学预训练数据集进行对比，我们使用相同的模型架构和训练预算（~100B tokens）在每个数据集上独立训练模型。基线包括 Nemotron-CC-Math、MegaMath-Web-Pro 和 FineMath。所有模型在相同条件下评估以确保公平对比：

❤️ 致谢

• L0 解析层：magic-html、w3m、trafilatura
• L3 精炼层：Qwen2.5-72B-Instruct、Qwen3-32B、GLM-4.5
• 种子数据：Nemotron-CC-Math、MegaMath、FineMath

📖 引用

如果您觉得 UltraData-Math 对您的研究有帮助，请考虑引用：

@misc{ultradata-math,
  title={UltraData-Math},
  author={UltraData Team},
  year={2026},
  url={https://huggingface.co/datasets/openbmb/UltraData-Math},
  publisher={Hugging Face}
}

📜 许可证

本项目基于 Apache 2.0 许可证发布。