README.md

metadata

language:
  - zh
  - en
license: other
task_categories:
  - text-generation
pretty_name: ModernDataFlow SFT Dataset
size_categories:
  - 10K<n<100K
tags:
  - sft
  - instruction-tuning
  - chinese
  - textbooks
  - knowledge

ModernDataFlow SFT 数据集

本仓库收录 ModernDataFlow 数据构建管线产出的 SFT（监督微调）训练数据集，覆盖计算机、自然科学、社科人文、法律、经济等学科领域，数据来源于高质量图书、教材与结构化文档，经管线逐书构建为对话式 SFT 样本。

数据概览

指标	数值
数据集数	16
书/文档数	55,686
train 样本	12,940
val 样本	55,436
原始文件数	703,731
原始体积	2.51 GB
压缩后体积	283.6 MB

数据集清单

数据集	类别	领域	书/文档数	train	val	原始体积	压缩后
disciplinary_knowledge_repository_CS_sft.tar.gz	学科知识库	计算机	2,065	4,400	2,125	74.8 MB	8.0 MB
disciplinary_knowledge_repository_economics_sft.tar.gz	学科知识库	经济	1,834	251	1,837	40.6 MB	5.0 MB
disciplinary_knowledge_repository_law_sft.tar.gz	学科知识库	法学	18,584	398	18,588	366.3 MB	43.6 MB
disciplinary_knowledge_repository_social_sft.tar.gz	学科知识库	社科	10,232	533	10,233	234.2 MB	29.7 MB
csdn_article_sft.tar.gz	技术社区	计算机	3	0	0	1.18 GB	121.6 MB
人民邮电出版社_sft.tar.gz	出版社教材	教材（多学科）	80	108	80	2.2 MB	0.2 MB
北京大学出版社电子教材_sft.tar.gz	出版社教材	教材（多学科）	948	2,820	999	55.3 MB	5.8 MB
机械工业出版社_sft.tar.gz	出版社教材	教材（多学科）	1,572	113	1,573	41.5 MB	5.0 MB
清华大学出版社_sft.tar.gz	出版社教材	教材（多学科）	277	22	277	7.1 MB	0.9 MB
电子工业出版社_sft.tar.gz	出版社教材	教材（多学科）	1,095	3,005	1,135	39.2 MB	4.1 MB
科学出版社_sft.tar.gz	出版社教材	教材（多学科）	37	154	42	2.0 MB	0.2 MB
高质量文档结构化数据_第一批_CS_sft.tar.gz	高质量文档结构化数据	计算机	3,823	235	3,825	98.2 MB	11.8 MB
高质量文档结构化数据_第一批_NA_sft.tar.gz	高质量文档结构化数据	自然科学	6,835	244	6,666	176.9 MB	20.6 MB
高质量文档结构化数据_第一批_SO_sft.tar.gz	高质量文档结构化数据	社科人文	4,391	351	4,341	117.3 MB	14.1 MB
高质量文档结构化数据_第二批_CS_sft.tar.gz	高质量文档结构化数据	计算机	3,706	284	3,522	98.4 MB	12.2 MB
高质量文档结构化数据_第二批_NA_sft.tar.gz	高质量文档结构化数据	自然科学	204	22	193	5.8 MB	0.7 MB

类别汇总

类别	数据集数	书/文档数	train	val	压缩后
学科知识库	4	32,715	5,582	32,783	86.4 MB
技术社区	1	3	0	0	121.6 MB
出版社教材	6	4,009	6,222	4,106	16.2 MB
高质量文档结构化数据	5	18,959	1,136	18,547	59.4 MB

题型分布（全局）

题型	样本数
General QA	65,036
Table QA	2,112
Single Choice	867
Multiple Choice	361

数据格式

每个 tar.gz 为无损打包，解压后顶层为书/文档文件夹，每个文件夹包含：

文件	说明
train_messages.jsonl / val_messages.jsonl	messages 格式（含 system），train/val 切分
train_messages_no_sys.jsonl / val_messages_no_sys.jsonl	messages 格式（不含 system）
train_alpaca.jsonl / val_alpaca.jsonl	alpaca 格式
stats.json	该书样本统计
_dataset_meta.json	包级汇总

stats.json 字段：

字段	含义
domain	数据领域标识（如 highqua1_so、disciplinary_cs）
total_samples / train_samples / val_samples	该书样本总数 / train / val 数
papers_succeeded / papers_failed	该书构建成功 / 失败的篇数
by_question_type	题型分布（General QA / Table QA / Single Choice 等）
by_source_paper	来源文档
mean_quality_score	平均质量分

_dataset_meta.json 字段：dataset（数据集名）、books（书数）、train_samples / val_samples（样本总数）、by_question_type（题型汇总）、domain（领域分布）、packed_at（打包时间）。

messages 格式示例：

{"messages": [{"role": "system", "content": "..."}, {"role": "user", "content": "..."}, {"role": "assistant", "content": "..."}]}

使用方式

1. 下载

pip install -U huggingface_hub
# 下载全部包（约 284MB）
huggingface-cli download kkv233/sft --repo-type dataset
# 或只下载指定包
huggingface-cli download kkv233/sft --repo-type dataset --include "*第一批_SO*"

Python 方式：

from huggingface_hub import snapshot_download
snapshot_download("kkv233/sft", repo_type="dataset", local_dir="./sft_data")

2. 解压

tar -xzf <数据集名>_sft.tar.gz    # 解压后每本书一个文件夹

3. 用 datasets 库直接加载

import glob
from datasets import load_dataset

# 加载某个数据集全部书的 train 集（messages 格式）
files = glob.glob("解压目录/*/train_messages.jsonl")
ds = load_dataset("json", data_files=files, split="train")

# 每条样本的 messages 可直接用于 chat template
print(ds[0])  # {'messages': [{'role': 'system', ...}, {'role': 'user', ...}, {'role': 'assistant', ...}]}

4. 读取与预览

import json

with open("某本书/train_messages.jsonl", encoding="utf-8") as f:
    for line in f:
        sample = json.loads(line)
        print(sample["messages"])

5. 接入训练（以 transformers 为例）

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("你的基座模型")
# messages 格式直接套 chat template 即可
text = tokenizer.apply_chat_template(sample["messages"], tokenize=False)

6. 三种格式的选择

• messages（含 system）：带领域人设 system prompt（如"计算机学科专家"），推荐用于通用 SFT 训练
• messages_no_sys：无 system 的纯 user/assistant 对话，适合不需要人设的场景
• alpaca：instruction/input/output 结构，兼容 alpaca 系训练代码