训练数据集说明
| 数据集文件名 | 数据来源及说明 |
|---|---|
sft_512_mixed_shuffled.jsonl |
💫 混合数据集 sft_512 的中英文混合数据集，由以下五个文件随机打乱顺序组合而成，适用于多语言模型微调。 |
sft_512_en_llama_3_3_70b.jsonl |
🚀 Llama-3.3-70B 来源：Magpie-Llama-3.3-Pro-1M-v0.1 筛选条件：tokenizer(input+output) 长度 < 512 |
sft_512_en_llama_3_1_70b.jsonl |
🚀 Llama-3.1-70B 来源：Magpie-Llama-3.1-Pro-1M-v0.1 筛选条件：tokenizer(input+output) 长度 < 512 |
sft_512_en_llama_3_0_8b.jsonl |
🚀 Llama-3.0-8B-Instruct 来源：Llama-3-Magpie-Air-3M-v0.1 筛选条件：tokenizer(input+output) 长度 < 512 |
sft_512_en_llama_3_0_70b.jsonl |
🚀 Llama-3.0-70B 来源：Llama-3-Magpie-Pro-1M-v0.1 筛选条件：tokenizer(input+output) 长度 < 512 |
sft_512_en_lingzhi.jsonl |
🌲 灵智数据集 来源：Lingzhi-SFT-data-61w 筛选条件：tokenizer(input+output) 长度 < 512 |
pretrain_en_zh_shuffled.jsonl |
🔄 预训练混合数据集 来源：匠数数据集 说明：选取并拼接中文英文数据集 |