Hugging Face's logo

Datasets:
openbmb
/
Ultra-FineWeb-L1

Tasks:
Text Generation
Modalities:
Text
Formats:
parquet
Languages:
English
Size:
1B - 10B
ArXiv:
Tags:
llm
pretraining
web-corpus
common-crawl
data-filtering
deduplication
Libraries:
Datasets
Dask
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
Ultra-FineWeb-L1 / README_zh.md
BigDong's picture
BigDong
update readme
10b9ba1
preview code
|
Raw
History Blame Contribute Delete
11.3 kB

Ultra-FineWeb-L1

📜 Ultra-FineWeb 技术报告 | 📦 UltraData 合集 | 🌐 UltraData

English | 中文

📚 简介

Ultra-FineWeb-L1 是基于 Common Crawl 数据快照构建的大规模英文网页语料库，在 UltraData L0-L4 分级数据管理框架 中属于通用网页数据的 L1 过滤层，为后续 L2 精选和 L3 合成增强提供基础。我们以 FineWeb 的处理方案为基础，完成正文提取、语言过滤、规则清洗、敏感字段替换、MinHash 去重和文本净化。其中，正文提取升级至 trafilatura 2.0；同时借助 UltraData 数据质检工具和清洗智能体优化数据清洗规则，并针对残留 HTML、编码乱码、不可见字符、内容损坏和长度异常等问题进行定制化处理。首个版本收录来自 2025 年六个 Common Crawl 数据快照的 1T+ tokens（约 11.4 亿篇文档），并同步发布由 Ultra-FineWeb 分类器 筛选得到的 L2 精选数据 Ultra-FineWeb。

  • Ultra-FineWeb-L1：经过基础清洗、规则过滤、敏感字段替换与去重的 L1 过滤数据。（当前数据集）
  • Ultra-FineWeb：由 Ultra-FineWeb-classifier 筛选得到的 L2 精选数据，包含约 1T 英文 tokens 与 120B 中文 tokens。
  • Ultra-FineWeb-L3：基于 Ultra-FineWeb 构建的 L3 合成与增强数据，通过问答对生成与多风格改写产出 400B+ 英文与 200B+ 中文 tokens。

📢 最新动态

  • [2026.08.20] Ultra-FineWeb-L1 数据集正式发布！该数据集基于 Common Crawl 数据快照构建，经过正文提取、语言过滤、规则清洗、敏感字段替换、文本净化和去重，共包含 1T+ tokens（约 11.4 亿篇文档）。同时发布由 Ultra-FineWeb 分类器 筛选得到的 L2 精选数据 Ultra-FineWeb。据我们所知，这是目前开源网页预训练数据集中覆盖 Common Crawl 快照时间最新的数据集（当前截止到 2025-51）。🚀🚀🚀
  • [2026.05.28] Ultra-FineWeb-L3 数据集正式发布！作为 Ultra-FineWeb 的 L3 合成与增强数据，通过问答对生成与多风格改写构建语料，包含 400B+ 英文与 200B+ 中文 tokens。据我们所知，这是目前规模最大的开源中文预训练合成语料。🚀🚀🚀
  • [2026.05.25] MiniCPM5-1B 正式发布！ 作为 MiniCPM5 系列的首款模型，这是一款面向端侧、本地部署与资源受限场景的 1B 稠密 Transformer，在 1B 级开源模型中达到 SOTA。Ultra-FineWeb 是 MiniCPM5-1B 的核心预训练网页数据集。
  • [2026.02.08] UltraData 平台正式上线，并发布 L0-L4 分级数据管理框架。Ultra-FineWeb 是该框架下通用网页数据的 L2 精选层实践。🔍🔍🔍
  • [2025.06.16] Ultra-FineWeb-classifier 已在 Hugging Face 上线：openbmb/Ultra-FineWeb-classifier。
  • [2025.06.06] Ultra-FineWeb-en 与 Ultra-FineWeb-zh 数据集已在 Hugging Face 发布，并与 MiniCPM4 系列 模型同步开源。
  • [2025.05.15] Ultra-FineWeb 登上 Hugging Face Datasets Trending 榜首！⭐️⭐️⭐️
  • [2025.05.09] Ultra-FineWeb 技术报告已在 arXiv 发布。🔥🔥🔥

🏗️ 数据处理流程

每个 Common Crawl 数据快照均独立处理：

  1. 页面与正文提取： 从 Common Crawl 中保留有效的 HTML 页面，并使用 trafilatura 2.0 提取纯文本，同时排除评论、导航栏等非正文内容。
  2. 语言过滤： 使用 fastText 语言识别保留高置信度的英文文档。
  3. 启发式过滤： 基于 FineWeb 的启发式过滤方案，处理重复内容、低质量文档、模板化文本及行结构异常等问题。
  4. 检测字段替换： 将检测到的电子邮件地址、IP 地址、电话号码、身份证号码和信用卡号码替换为有效占位符。
  5. MinHash 去重： 识别每个 Common Crawl 数据快照内部的近重复文档。（基于 FineWeb 方案，去重仅在 Common Crawl 数据快照内部进行，没有进行全量数据去重。）
  6. 定制化清洗： 借助 UltraData 数据质检工具和清洗智能体优化数据清洗规则，并针对残留 HTML、编码乱码、不可见字符、内容损坏和长度异常等问题进行定制化处理。

📁 数据集结构

Ultra-FineWeb-L1 按 Common Crawl 数据快照组织：

data/
└── CC-MAIN-YYYY-WW/
    ├── CC-MAIN-YYYY-WW-part-0001-of-NNNN.parquet
    ├── CC-MAIN-YYYY-WW-part-0002-of-NNNN.parquet
    └── ...

由分类器筛选出的 L2 子集发布于 Ultra-FineWeb：

data/ultrafineweb_l1_en_hq/
└── CC-MAIN-YYYY-WW/
    ├── ultrafineweb-l1-en-hq-CC-MAIN-YYYY-WW-part-0001-of-NNNN.parquet
    └── ...

数据字段

字段 类型 说明
uid string UUID4 文档标识符
content string 清洗后的纯文本文档
meta string 以 JSON 字符串编码的来源和处理元数据，包括 url、language、language_score、warc_record_id、warc_date 和 source_file
dataset_index int64 数据集来源标识符

📈 评测结果

评测设置

我们参考 FinePhrase 的评测设置，并沿用 FineWeb 的消融实验方法：使用 3-shot 提示和单一随机种子，在六个类别的 12 项基准上评估不同数据配置。多数任务采用完形填空格式（Cloze Format，CF），将评测转化为下一词元预测。相比标准多项选择格式，这种方式能够减少指令理解和答案格式对小模型的干扰，并提供更稳定的评测信号。具体基准如下：

  • 通识知识：ARC、MMLU Redux
  • 阅读理解：SQuAD v2、DROP
  • 推理能力：OpenBookQA、XCSQA
  • 自然语言理解：WinoGrande、PIQA、HellaSwag
  • 数学能力：GSM8K
  • 表格理解：WikiTableQuestions、TriviaQA

训练设置

为验证清洗流水线的有效性，我们选取 FineWeb v1.4 所覆盖的最新 Common Crawl 快照 CC-MAIN-2025-26，对比 FineWeb v1.4 与 Ultra-FineWeb-L1 两套流程处理后的数据。两组数据均使用 MiniCPM5-1B 模型训练 20B tokens，并保持训练设置一致：使用 32 张 GPU，micro batch size 和 global batch size 分别设为 16 和 512；采用 Muon 优化器，初始学习率为 0.000522，最小学习率为 0.0000522。

实验结果

下图展示四组数据在训练过程中的六类别宏平均分数和 12 项任务微平均分数。随着训练 token 数增加，各组分数整体持续上升。训练结束时，Ultra-FineWeb-L1 的宏平均分数和微平均分数分别达到 9.668% 和 9.180%，相比 FineWeb 分别提升 0.635 和 0.696 个百分点，验证了清洗流水线优化的有效性。在此基础上进行质量筛选可进一步提升数据效果：Ultra-FineWeb-from-FW 达到 **9.954% / 9.414%**，而 Ultra-FineWeb-from-L1 取得最高的 **10.379% / 9.798%**，表明 L1 清洗与后续质量筛选能够形成互补增益。

results of macro results of micro
数据 六类别宏平均分数 12 项任务微平均分数
FineWeb 9.033% 8.484%
Ultra-FineWeb-L1 9.668% 9.180%
Ultra-FineWeb-from-FW 9.954% 9.414%
Ultra-FineWeb-from-L1 10.379% 9.798%

❤️ 致谢

感谢这些优秀开源工作，正是开源社区的贡献让 Ultra-FineWeb-L1 成为可能！🙌

📖 引用

如果您觉得 Ultra-FineWeb-L1 对您的研究有帮助，请考虑引用：

@misc{wang2025ultrafineweb,
  title={{Ultra-FineWeb}: Efficient Data Filtering and Verification for High-Quality LLM Training Data},
  author={Yudong Wang and Zixuan Fu and Jie Cai and Peijun Tang and Hongya Lyu and Yewei Fang and Zhi Zheng and Jie Zhou and Guoyang Zeng and Chaojun Xiao and Xu Han and Zhiyuan Liu},
  year={2025},
  eprint={2505.05427},
  archivePrefix={arXiv},
  primaryClass={cs.CL}
}

@misc{ultra-fineweb-l1,
  title={Ultra-FineWeb-L1},
  author={Junshao Guo and Shuaikang Xue and Xiaofei Yang and Chuyue Zhou and Qiang Yin and Qingyang Yuan and Qiang Ma and Yuzhou Zhang and Jie Zhou and Chaojun Xiao and Yudong Wang and Zhiyuan Liu},
  year={2026},
  url={https://huggingface.co/datasets/openbmb/Ultra-FineWeb-L1},
  publisher={Hugging Face}
}

📜 许可证

本项目基于 Apache 2.0 许可证发布。由于语料库源自网页内容，使用者还应遵守原始来源相关的权利、许可证及使用条款。

禁止不加处理的二次发布： 未经原作者（或本机构）书面明确授权，任何其他机构、组织或第三方平台不得以任何形式对本项目成果进行直接转载、复制、托管、镜像克隆或商业化包装再发布。