| # 训练数据集说明 |
|
|
| | 数据集文件名 | 数据来源及说明 | |
| |------------|----------------| |
| | `sft_512_mixed_shuffled.jsonl` | 💫 **混合数据集**<br>sft_512 的中英文混合数据集，由以下五个文件随机打乱顺序组合而成，适用于多语言模型微调。 | |
| | `sft_512_en_llama_3_3_70b.jsonl` | 🚀 **Llama-3.3-70B**<br>来源：[Magpie-Llama-3.3-Pro-1M-v0.1](https://huggingface.co/datasets/Magpie-Align/Magpie-Llama-3.3-Pro-1M-v0.1)<br>筛选条件：tokenizer(input+output) 长度 < 512 | |
| | `sft_512_en_llama_3_1_70b.jsonl` | 🚀 **Llama-3.1-70B**<br>来源：[Magpie-Llama-3.1-Pro-1M-v0.1](https://huggingface.co/datasets/Magpie-Align/Magpie-Llama-3.1-Pro-1M-v0.1)<br>筛选条件：tokenizer(input+output) 长度 < 512 | |
| | `sft_512_en_llama_3_0_8b.jsonl` | 🚀 **Llama-3.0-8B-Instruct**<br>来源：[Llama-3-Magpie-Air-3M-v0.1](https://huggingface.co/datasets/Magpie-Align/Llama-3-Magpie-Air-3M-v0.1)<br>筛选条件：tokenizer(input+output) 长度 < 512 | |
| | `sft_512_en_llama_3_0_70b.jsonl` | 🚀 **Llama-3.0-70B**<br>来源：[Llama-3-Magpie-Pro-1M-v0.1](https://huggingface.co/datasets/Magpie-Align/Llama-3-Magpie-Pro-1M-v0.1)<br>筛选条件：tokenizer(input+output) 长度 < 512 | |
| | `sft_512_en_lingzhi.jsonl` | 🌲 **灵智数据集**<br>来源：[Lingzhi-SFT-data-61w](https://huggingface.co/datasets/Lingzhi-AI/Lingzhi-SFT-data-61w)<br>筛选条件：tokenizer(input+output) 长度 < 512 | |
| | `pretrain_en_zh_shuffled.jsonl` | 🔄 **预训练混合数据集**<br>来源：[匠数数据集](https://www.modelscope.cn/datasets/AI-ModelScope/deepctrl-sft-data)<br>说明：选取并拼接中文英文数据集 | |
