metadata
license: apache-2.0
language:
- en
- chn
CMB-Eagle-Mix-330k 数据集
数据集简介
CMB-Eagle-Mix-330k包含两个从Qwen3-235B-A22B模型中提取的数据集。一共包含33万条高质量的中英文数据，涵盖了广泛的推理领域，且具有相同的格式。
本数据集的核心目标是为EAGLE-3模型训练，提供一个能够显著提升其效果（如token接受率）的优质语料。实践证明，使用本数据集对 Qwen3-32B 模型进行EAGLE-3训练，效果提升显著。
我们通过混合抽样两个广泛使用的Qwen3蒸馏数据集，并对数据集进行了统一的格式化，创建了这个EAGLE-3训练专用数据集，该数据集中的中英文数据分别来源于以下两个数据集：
在实际使用该数据集进行训练时，建议使用原始数据集针对目标模型（如Qwen3-32B）进行数据合成，并通过数据清洗等方式进一步优化生成数据的质量，再将数据用于EAGLE-3的训练任务
数据来源
| 数据来源 (Source Dataset) | 对话数量 (Number of Conversations) |
|---|---|
| Chinese-Qwen3-235B-Thinking-2507-Distill-data-110k-SFT | 110,000 |
| AM-Qwen3-Distilled | 220,000 |