📜 Ultra-FineWeb 技术报告 | 📦 UltraData 合集 | 🌐 UltraData
English | 中文
## 📚 简介 ***Ultra-FineWeb-L1*** 是基于 [Common Crawl](https://commoncrawl.org/) 数据快照构建的大规模英文网页语料库，在 [UltraData](https://ultradata.openbmb.cn/) [L0-L4 分级数据管理框架](https://arxiv.org/pdf/2602.09003/) 中属于通用网页数据的 **L1 过滤层**，为后续 L2 精选和 L3 合成增强提供基础。我们以 [FineWeb](https://huggingface.co/datasets/HuggingFaceFW/fineweb) 的处理方案为基础，完成正文提取、语言过滤、规则清洗、敏感字段替换、MinHash 去重和文本净化。其中，正文提取升级至 [trafilatura 2.0](https://github.com/adbar/trafilatura)；同时借助 UltraData 数据质检工具和清洗智能体优化数据清洗规则，并针对残留 HTML、编码乱码、不可见字符、内容损坏和长度异常等问题进行定制化处理。首个版本收录来自 2025 年六个 Common Crawl 数据快照的 **1T+ tokens（约 11.4 亿篇文档）**，并同步发布由 [Ultra-FineWeb 分类器](https://huggingface.co/openbmb/Ultra-FineWeb-classifier) 筛选得到的 L2 精选数据 [Ultra-FineWeb](https://huggingface.co/datasets/openbmb/Ultra-FineWeb/tree/main/data/ultrafineweb_l1_en_hq)。 - [Ultra-FineWeb-L1](https://huggingface.co/datasets/openbmb/Ultra-FineWeb-L1)：经过基础清洗、规则过滤、敏感字段替换与去重的 **L1 过滤数据**。（**当前数据集**） - [Ultra-FineWeb](https://huggingface.co/datasets/openbmb/Ultra-FineWeb)：由 [Ultra-FineWeb-classifier](https://huggingface.co/openbmb/Ultra-FineWeb-classifier) 筛选得到的 **L2 精选数据**，包含约 **1T 英文 tokens** 与 **120B 中文 tokens**。 - [Ultra-FineWeb-L3](https://huggingface.co/datasets/openbmb/Ultra-FineWeb-L3)：基于 Ultra-FineWeb 构建的 **L3 合成与增强数据**，通过问答对生成与多风格改写产出 **400B+ 英文**与 **200B+ 中文 tokens**。 ## 📢 最新动态 - **[2026.08.20]** [***Ultra-FineWeb-L1***](https://huggingface.co/datasets/openbmb/Ultra-FineWeb-L1) 数据集正式发布！该数据集基于 Common Crawl 数据快照构建，经过正文提取、语言过滤、规则清洗、敏感字段替换、文本净化和去重，共包含 **1T+ tokens（约 11.4 亿篇文档）**。同时发布由 [Ultra-FineWeb 分类器](https://huggingface.co/openbmb/Ultra-FineWeb-classifier) 筛选得到的 L2 精选数据 [Ultra-FineWeb](https://huggingface.co/datasets/openbmb/Ultra-FineWeb/tree/main/data/ultrafineweb_l1_en_hq)。据我们所知，这是目前开源网页预训练数据集中覆盖 Common Crawl 快照时间最新的数据集（当前截止到 2025-51）。🚀🚀🚀 - **[2026.05.28]** [***Ultra-FineWeb-L3***](https://huggingface.co/datasets/openbmb/Ultra-FineWeb-L3) 数据集正式发布！作为 **Ultra-FineWeb** 的 **L3 合成与增强数据**，通过**问答对生成**与**多风格改写**构建语料，包含 **400B+ 英文**与 **200B+ 中文** tokens。据我们所知，这是目前规模最大的开源中文预训练合成语料。🚀🚀🚀 - **[2026.05.25]** ***[MiniCPM5-1B](https://huggingface.co/openbmb/MiniCPM5-1B) 正式发布！*** 作为 MiniCPM5 系列的首款模型，这是一款面向端侧、本地部署与资源受限场景的 1B 稠密 Transformer，在 1B 级开源模型中达到 SOTA。Ultra-FineWeb 是 MiniCPM5-1B 的核心预训练网页数据集。 - **[2026.02.08]** [***UltraData***](https://ultradata.openbmb.cn/) 平台正式上线，并发布 [L0-L4 分级数据管理框架](https://arxiv.org/pdf/2602.09003)。***Ultra-FineWeb*** 是该框架下通用网页数据的 **L2 精选层**实践。🔍🔍🔍 - **[2025.06.16]** **Ultra-FineWeb-classifier** 已在 Hugging Face 上线：[openbmb/Ultra-FineWeb-classifier](https://huggingface.co/openbmb/Ultra-FineWeb-classifier)。 - **[2025.06.06]** **Ultra-FineWeb-en** 与 **Ultra-FineWeb-zh** 数据集已在 Hugging Face 发布，并与 [MiniCPM4 系列](https://huggingface.co/collections/openbmb/minicpm-4-6841ab29d180257e940baa9b) 模型同步开源。 - **[2025.05.15]** **Ultra-FineWeb** 登上 Hugging Face Datasets Trending 榜首！⭐️⭐️⭐️ - **[2025.05.09]** **Ultra-FineWeb** 技术报告已在 [arXiv](https://arxiv.org/abs/2505.05427) 发布。🔥🔥🔥 ## 🏗️ 数据处理流程 每个 Common Crawl 数据快照均独立处理： 1. **页面与正文提取：** 从 Common Crawl 中保留有效的 HTML 页面，并使用 trafilatura 2.0 提取纯文本，同时排除评论、导航栏等非正文内容。 2. **语言过滤：** 使用 fastText 语言识别保留高置信度的英文文档。 3. **启发式过滤：** 基于 FineWeb 的启发式过滤方案，处理重复内容、低质量文档、模板化文本及行结构异常等问题。 4. **检测字段替换：** 将检测到的电子邮件地址、IP 地址、电话号码、身份证号码和信用卡号码替换为有效占位符。 5. **MinHash 去重：** 识别每个 Common Crawl 数据快照内部的近重复文档。（基于 FineWeb 方案，去重仅在 Common Crawl 数据快照内部进行，没有进行全量数据去重。） 6. **定制化清洗：** 借助 UltraData 数据质检工具和清洗智能体优化数据清洗规则，并针对残留 HTML、编码乱码、不可见字符、内容损坏和长度异常等问题进行定制化处理。 ## 📁 数据集结构 Ultra-FineWeb-L1 按 Common Crawl 数据快照组织： ```text data/ └── CC-MAIN-YYYY-WW/ ├── CC-MAIN-YYYY-WW-part-0001-of-NNNN.parquet ├── CC-MAIN-YYYY-WW-part-0002-of-NNNN.parquet └── ... ``` 由分类器筛选出的 L2 子集发布于 [Ultra-FineWeb](https://huggingface.co/datasets/openbmb/Ultra-FineWeb)： ```text data/ultrafineweb_l1_en_hq/ └── CC-MAIN-YYYY-WW/ ├── ultrafineweb-l1-en-hq-CC-MAIN-YYYY-WW-part-0001-of-NNNN.parquet └── ... ``` ### 数据字段 | 字段 | 类型 | 说明 | |:---|:---|:---| | `uid` | `string` | UUID4 文档标识符 | | `content` | `string` | 清洗后的纯文本文档 | | `meta` | `string` | 以 JSON 字符串编码的来源和处理元数据，包括 `url`、`language`、`language_score`、`warc_record_id`、`warc_date` 和 `source_file` | | `dataset_index` | `int64` | 数据集来源标识符 | ## 📈 评测结果 ### 评测设置 我们参考 FinePhrase 的评测设置，并沿用 [FineWeb](https://huggingface.co/datasets/HuggingFaceFW/fineweb) 的消融实验方法：使用 3-shot 提示和单一随机种子，在六个类别的 12 项基准上评估不同数据配置。多数任务采用完形填空格式（Cloze Format，CF），将评测转化为下一词元预测。相比标准多项选择格式，这种方式能够减少指令理解和答案格式对小模型的干扰，并提供更稳定的评测信号。具体基准如下： - **通识知识**：ARC、MMLU Redux - **阅读理解**：SQuAD v2、DROP - **推理能力**：OpenBookQA、XCSQA - **自然语言理解**：WinoGrande、PIQA、HellaSwag - **数学能力**：GSM8K - **表格理解**：WikiTableQuestions、TriviaQA ### 训练设置 为验证清洗流水线的有效性，我们选取 [FineWeb v1.4](https://huggingface.co/datasets/HuggingFaceFW/fineweb) 所覆盖的最新 Common Crawl 快照 `CC-MAIN-2025-26`，对比 FineWeb v1.4 与 Ultra-FineWeb-L1 两套流程处理后的数据。两组数据均使用 **[MiniCPM5-1B](https://huggingface.co/openbmb/MiniCPM5-1B)** 模型训练 **20B tokens**，并保持训练设置一致：使用 32 张 GPU，micro batch size 和 global batch size 分别设为 16 和 512；采用 Muon 优化器，初始学习率为 0.000522，最小学习率为 0.0000522。 ### 实验结果 下图展示四组数据在训练过程中的六类别宏平均分数和 12 项任务微平均分数。随着训练 token 数增加，各组分数整体持续上升。训练结束时，**Ultra-FineWeb-L1** 的宏平均分数和微平均分数分别达到 **9.668%** 和 **9.180%**，相比 **FineWeb** 分别提升 **0.635** 和 **0.696** 个百分点，验证了清洗流水线优化的有效性。在此基础上进行质量筛选可进一步提升数据效果：**Ultra-FineWeb-from-FW** 达到 **9.954% / 9.414%**，而 **Ultra-FineWeb-from-L1** 取得最高的 **10.379% / 9.798%**，表明 L1 清洗与后续质量筛选能够形成互补增益。
