Datasets:

openbmb
/

Ultra-FineWeb

Ultra-FineWeb 是一个大规模、高质量、高效过滤的网页预训练数据集。我们将提出的高效验证式高质量过滤流水线应用于 FineWeb 与 Chinese FineWeb 数据集（中文部分源数据来自 Chinese FineWeb-edu-v2，涵盖 IndustryCorpus2、MiChao、WuDao、SkyPile、WanJuan、ChineseWebText、TeleChat 与 CCI3 等），得到更高质量的 Ultra-FineWeb-en（约 1T tokens）与 Ultra-FineWeb-zh（约 120B tokens），合称 Ultra-FineWeb。Ultra-FineWeb 是 MiniCPM4 系列与 MiniCPM5 系列的核心预训练网页数据集。

Ultra-FineWeb：大规模、高质量、高效过滤的网页预训练数据集，包含 1T 英文 tokens 与 120B 中文 tokens。（当前数据集）
Ultra-FineWeb-classifier：Ultra-FineWeb 分类器，用于从网页语料中筛选高质量数据。
Ultra-FineWeb-L3：基于 Ultra-FineWeb 的 L3 合成与增强数据，通过问答对生成与多风格改写构建语料，包含 400B+ 英文与 200B+ 中文 tokens；据我们所知，这是目前规模最大的开源中文预训练合成语料。

📢 最新动态

[2026.05.28] Ultra-FineWeb-L3 数据集正式发布！作为 Ultra-FineWeb 的 L3 合成与增强数据，通过问答对生成与多风格改写构建语料，包含 400B+ 英文与 200B+ 中文 tokens。据我们所知，这是目前规模最大的开源中文预训练合成语料。🚀🚀🚀
[2026.05.25] MiniCPM5-1B 正式发布！ 作为 MiniCPM5 系列的首款模型，这是一款面向端侧、本地部署与资源受限场景的 1B 稠密 Transformer，在 1B 级开源模型中达到 SOTA。Ultra-FineWeb 是 MiniCPM5-1B 的核心预训练网页数据集。
[2026.02.08] UltraData 平台正式上线，并发布 L0-L4 分级数据管理框架。Ultra-FineWeb 是该框架下通用网页数据的 L2 精选层实践。🔍🔍🔍
[2025.06.16] Ultra-FineWeb-classifier 已在 Hugging Face 上线：openbmb/Ultra-FineWeb-classifier。
[2025.06.06] Ultra-FineWeb-en 与 Ultra-FineWeb-zh 数据集已在 Hugging Face 发布，并与 MiniCPM4 系列模型同步开源。
[2025.05.15] Ultra-FineWeb 登上 Hugging Face Datasets Trending 榜首！⭐️⭐️⭐️
[2025.05.09] Ultra-FineWeb 技术报告已在 arXiv 发布。🔥🔥🔥

💡 亮点

摘要： 随着大语言模型（LLM）的快速发展，数据质量已成为提升模型性能的关键因素。模型驱动的数据过滤逐渐成为获取高质量数据的主要途径，但仍面临两大挑战：（1）缺乏高效的数据验证策略，难以及时反馈数据质量；（2）训练分类器所用的种子数据选择缺乏明确标准，过度依赖人工经验，带来主观性。针对第一个挑战，我们提出高效验证策略，以极低计算成本快速评估数据对 LLM 训练的影响。针对第二个挑战，我们在「高质量种子数据有利于 LLM 训练」的假设下，结合上述验证策略优化正负样本选择，并提出高效数据过滤流水线。该流水线不仅提升过滤效率、分类器质量与鲁棒性，还显著降低实验与推理成本。此外，我们采用基于 fastText 的轻量分类器，将过滤流水线成功应用于 FineWeb 与 Chinese FineWeb 两大广泛使用的预训练语料，构建更高质量的 Ultra-FineWeb 数据集。Ultra-FineWeb 包含约 1 万亿（T）英文 tokens 与 1200 亿（B）中文 tokens。实验结果表明，基于 Ultra-FineWeb 训练的 LLM 在多项基准上显著优于对照组，验证了我们流水线在提升数据质量与训练效率方面的有效性。

高效验证策略： 提出计算高效的数据验证策略，以极低计算成本快速评估数据对 LLM 训练性能的影响，显著提升高质量数据过滤实验的效率。
大规模高质量预训练数据集： 设计并实现高效高质量数据过滤流水线，应用于 FineWeb 与 Chinese FineWeb，构建更高质量的数据集，助力高质量 LLM 训练。
轻量分类器： Ultra-FineWeb 分类器显著降低推理成本，在同一数据源提取文本上表现更优，验证了所提数据过滤流水线在提升数据质量与训练效率方面的有效性。

📈 评测结果

我们采用 MiniCPM-1.2B 模型架构与 MiniCPM3-4B 词表，每个实验训练 100B tokens，在计算可控的前提下完成全面的数据性能验证。评测使用 Lighteval 库，在 11 个基准上评估训练后的模型，所有指标均为 zero-shot 设置，包括：

英文基准： MMLU、ARC-C、ARC-E、CommonSenseQA、HellaSwag、OpenbookQA、PIQA、SIQA、Winogrande。
中文基准： C-Eval、CMMLU。

详细评测结果如下：

单数据集实验。 对各数据集分别独立训练，便于在相同来源下直接对比不同处理方案的数据效果。
混合数据实验。 采用 60% 英文数据、30% 中文数据与 10% 代码数据（StarCoder-v2）的混合配置。
Loss 与性能估计结果。 采用 Densing Law 提出的性能估计方法，进一步分析与验证 Ultra-FineWeb 的有效性。

❤️ 致谢

Ultra-FineWeb 分类器 基于 fastText 构建。
Ultra-FineWeb-en 数据集 基于 FineWeb 构建。
Ultra-FineWeb-zh 数据集 基于 IndustryCorpus2、MiChao、WuDao、SkyPile、WanJuan、ChineseWebText、TeleChat 与 CCI3 等数据集构建。

感谢这些优秀开源工作，正是开源社区的贡献让 Ultra-FineWeb 成为可能！🙌

🌟 引用

若本工作对您的研究有帮助，欢迎引用：

@misc{wang2025ultrafineweb,
  title={{Ultra-FineWeb}: Efficient Data Filtering and Verification for High-Quality LLM Training Data},
  author={Yudong Wang and Zixuan Fu and Jie Cai and Peijun Tang and Hongya Lyu and Yewei Fang and Zhi Zheng and Jie Zhou and Guoyang Zeng and Chaojun Xiao and Xu Han and Zhiyuan Liu},
  year={2025},
  eprint={2505.05427},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
}

以及使用 Ultra-FineWeb 的主要论文：

@article{minicpm4,
  title={MiniCPM4: Ultra-Efficient LLMs on End Devices},
  author={MiniCPM Team},
  year={2025}
}

💳 许可证

本项目基于 Apache 2.0 许可证发布。请注意，Ultra-FineWeb 由多个数据集构建而成，使用者应分别查阅各源数据集的 LICENSE，以确保合规使用。