metadata
language: zh
license: apache-2.0
中文大语言模型训练数据集
多阶段训练数据集，包含 pretrain、SFT、RL 等数据。
数据集结构
| 数据集 | 类型 | 描述 |
|---|---|---|
| pretrain | 预训练 | 中文预训练语料 |
| sft | (待添加) | 监督微调数据 |
| rl | (待添加) | 强化学习数据 |
Pretrain 数据集
简介
CLUECorpusSmall，中文预训练语料小规模版本，来自 CLUECenchmark 公开数据集。
数据来源 (CLUECorpus2020)
| 来源 | 描述 |
|---|---|
| comment2019zh | 亚马逊/点评评论数据 |
| news2016zh | 新闻数据 |
| webText2019zh | 网页文本数据 |
| wiki2019zh | 维基百科数据 |
数据来源: https://github.com/CLUEbenchmark/CLUECorpus2020
数据格式
每行一条 JSON 记录：
{"text":"xxx"}
文件说明
*.zip: 原始压缩包 (comment/news/webText/wiki)pretrain.jsonl: 处理后的数据文件
预处理
- 解压 zip 文件
- 逐行读取文本
- 转换为
{"text":"xxx"}格式 - 合并为单一 jsonl 文件
- 清理空行
贡献新数据集
请参考各子目录结构添加新数据。