README.md

---
language:
  - zh
  - en
license: other
task_categories:
  - text-generation
pretty_name: ModernDataFlow SFT Dataset
size_categories:
  - 10K<n<100K
tags:
  - sft
  - instruction-tuning
  - chinese
  - textbooks
  - knowledge
---

# ModernDataFlow SFT 数据集

本仓库收录 **ModernDataFlow 数据构建管线**产出的 SFT（监督微调）训练数据集，覆盖计算机、自然科学、社科人文、法律、经济等学科领域，数据来源于高质量图书、教材与结构化文档，经管线逐书构建为对话式 SFT 样本。

## 数据概览

| 指标 | 数值 |
|---|---|
| 数据集数 | 16 |
| 书/文档数 | 55,686 |
| train 样本 | 12,940 |
| val 样本 | 55,436 |
| 原始文件数 | 703,731 |
| 原始体积 | 2.51 GB |
| 压缩后体积 | 283.6 MB |

## 数据集清单

| 数据集 | 类别 | 领域 | 书/文档数 | train | val | 原始体积 | 压缩后 |
|---|---|---|---|---|---|---|---|
| `disciplinary_knowledge_repository_CS_sft.tar.gz` | 学科知识库 | 计算机 | 2,065 | 4,400 | 2,125 | 74.8 MB | 8.0 MB |
| `disciplinary_knowledge_repository_economics_sft.tar.gz` | 学科知识库 | 经济 | 1,834 | 251 | 1,837 | 40.6 MB | 5.0 MB |
| `disciplinary_knowledge_repository_law_sft.tar.gz` | 学科知识库 | 法学 | 18,584 | 398 | 18,588 | 366.3 MB | 43.6 MB |
| `disciplinary_knowledge_repository_social_sft.tar.gz` | 学科知识库 | 社科 | 10,232 | 533 | 10,233 | 234.2 MB | 29.7 MB |
| `csdn_article_sft.tar.gz` | 技术社区 | 计算机 | 3 | 0 | 0 | 1.18 GB | 121.6 MB |
| `人民邮电出版社_sft.tar.gz` | 出版社教材 | 教材（多学科） | 80 | 108 | 80 | 2.2 MB | 0.2 MB |
| `北京大学出版社电子教材_sft.tar.gz` | 出版社教材 | 教材（多学科） | 948 | 2,820 | 999 | 55.3 MB | 5.8 MB |
| `机械工业出版社_sft.tar.gz` | 出版社教材 | 教材（多学科） | 1,572 | 113 | 1,573 | 41.5 MB | 5.0 MB |
| `清华大学出版社_sft.tar.gz` | 出版社教材 | 教材（多学科） | 277 | 22 | 277 | 7.1 MB | 0.9 MB |
| `电子工业出版社_sft.tar.gz` | 出版社教材 | 教材（多学科） | 1,095 | 3,005 | 1,135 | 39.2 MB | 4.1 MB |
| `科学出版社_sft.tar.gz` | 出版社教材 | 教材（多学科） | 37 | 154 | 42 | 2.0 MB | 0.2 MB |
| `高质量文档结构化数据_第一批_CS_sft.tar.gz` | 高质量文档结构化数据 | 计算机 | 3,823 | 235 | 3,825 | 98.2 MB | 11.8 MB |
| `高质量文档结构化数据_第一批_NA_sft.tar.gz` | 高质量文档结构化数据 | 自然科学 | 6,835 | 244 | 6,666 | 176.9 MB | 20.6 MB |
| `高质量文档结构化数据_第一批_SO_sft.tar.gz` | 高质量文档结构化数据 | 社科人文 | 4,391 | 351 | 4,341 | 117.3 MB | 14.1 MB |
| `高质量文档结构化数据_第二批_CS_sft.tar.gz` | 高质量文档结构化数据 | 计算机 | 3,706 | 284 | 3,522 | 98.4 MB | 12.2 MB |
| `高质量文档结构化数据_第二批_NA_sft.tar.gz` | 高质量文档结构化数据 | 自然科学 | 204 | 22 | 193 | 5.8 MB | 0.7 MB |

## 类别汇总

| 类别 | 数据集数 | 书/文档数 | train | val | 压缩后 |
|---|---|---|---|---|---|
| 学科知识库 | 4 | 32,715 | 5,582 | 32,783 | 86.4 MB |
| 技术社区 | 1 | 3 | 0 | 0 | 121.6 MB |
| 出版社教材 | 6 | 4,009 | 6,222 | 4,106 | 16.2 MB |
| 高质量文档结构化数据 | 5 | 18,959 | 1,136 | 18,547 | 59.4 MB |

## 题型分布（全局）

| 题型 | 样本数 |
|---|---|
| General QA | 65,036 |
| Table QA | 2,112 |
| Single Choice | 867 |
| Multiple Choice | 361 |

## 数据格式

每个 tar.gz 为无损打包，解压后顶层为**书/文档文件夹**，每个文件夹包含：

| 文件 | 说明 |
|---|---|
| `train_messages.jsonl` / `val_messages.jsonl` | messages 格式（含 system），train/val 切分 |
| `train_messages_no_sys.jsonl` / `val_messages_no_sys.jsonl` | messages 格式（不含 system） |
| `train_alpaca.jsonl` / `val_alpaca.jsonl` | alpaca 格式 |
| `stats.json` | 该书样本统计 |
| `_dataset_meta.json` | 包级汇总 |

**`stats.json` 字段**：

| 字段 | 含义 |
|---|---|
| `domain` | 数据领域标识（如 `highqua1_so`、`disciplinary_cs`） |
| `total_samples` / `train_samples` / `val_samples` | 该书样本总数 / train / val 数 |
| `papers_succeeded` / `papers_failed` | 该书构建成功 / 失败的篇数 |
| `by_question_type` | 题型分布（General QA / Table QA / Single Choice 等） |
| `by_source_paper` | 来源文档 |
| `mean_quality_score` | 平均质量分 |

**`_dataset_meta.json` 字段**：`dataset`（数据集名）、`books`（书数）、`train_samples` / `val_samples`（样本总数）、`by_question_type`（题型汇总）、`domain`（领域分布）、`packed_at`（打包时间）。

messages 格式示例：

```json
{"messages": [{"role": "system", "content": "..."}, {"role": "user", "content": "..."}, {"role": "assistant", "content": "..."}]}
```

## 使用方式

### 1. 下载

```bash
pip install -U huggingface_hub
# 下载全部包（约 284MB）
huggingface-cli download kkv233/sft --repo-type dataset
# 或只下载指定包
huggingface-cli download kkv233/sft --repo-type dataset --include "*第一批_SO*"
```

Python 方式：

```python
from huggingface_hub import snapshot_download
snapshot_download("kkv233/sft", repo_type="dataset", local_dir="./sft_data")
```

### 2. 解压

```bash
tar -xzf <数据集名>_sft.tar.gz    # 解压后每本书一个文件夹
```

### 3. 用 datasets 库直接加载

```python
import glob
from datasets import load_dataset

# 加载某个数据集全部书的 train 集（messages 格式）
files = glob.glob("解压目录/*/train_messages.jsonl")
ds = load_dataset("json", data_files=files, split="train")

# 每条样本的 messages 可直接用于 chat template
print(ds[0])  # {'messages': [{'role': 'system', ...}, {'role': 'user', ...}, {'role': 'assistant', ...}]}
```

### 4. 读取与预览

```python
import json

with open("某本书/train_messages.jsonl", encoding="utf-8") as f:
    for line in f:
        sample = json.loads(line)
        print(sample["messages"])
```

### 5. 接入训练（以 transformers 为例）

```python
from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("你的基座模型")
# messages 格式直接套 chat template 即可
text = tokenizer.apply_chat_template(sample["messages"], tokenize=False)
```

### 6. 三种格式的选择

- **messages（含 system）**：带领域人设 system prompt（如"计算机学科专家"），推荐用于通用 SFT 训练
- **messages_no_sys**：无 system 的纯 user/assistant 对话，适合不需要人设的场景
- **alpaca**：instruction/input/output 结构，兼容 alpaca 系训练代码