数据集	类别	领域	书/文档数	train	val	原始体积	压缩后
`disciplinary_knowledge_repository_CS_sft.tar.gz`	学科知识库	计算机	2,065	4,400	2,125	74.8 MB	8.0 MB
`disciplinary_knowledge_repository_economics_sft.tar.gz`	学科知识库	经济	1,834	251	1,837	40.6 MB	5.0 MB
`disciplinary_knowledge_repository_law_sft.tar.gz`	学科知识库	法学	18,584	398	18,588	366.3 MB	43.6 MB
`disciplinary_knowledge_repository_social_sft.tar.gz`	学科知识库	社科	10,232	533	10,233	234.2 MB	29.7 MB
`csdn_article_sft.tar.gz`	技术社区	计算机	3	0	0	1.18 GB	121.6 MB
`人民邮电出版社_sft.tar.gz`	出版社教材	教材（多学科）	80	108	80	2.2 MB	0.2 MB
`北京大学出版社电子教材_sft.tar.gz`	出版社教材	教材（多学科）	948	2,820	999	55.3 MB	5.8 MB
`机械工业出版社_sft.tar.gz`	出版社教材	教材（多学科）	1,572	113	1,573	41.5 MB	5.0 MB
`清华大学出版社_sft.tar.gz`	出版社教材	教材（多学科）	277	22	277	7.1 MB	0.9 MB
`电子工业出版社_sft.tar.gz`	出版社教材	教材（多学科）	1,095	3,005	1,135	39.2 MB	4.1 MB
`科学出版社_sft.tar.gz`	出版社教材	教材（多学科）	37	154	42	2.0 MB	0.2 MB
`高质量文档结构化数据_第一批_CS_sft.tar.gz`	高质量文档结构化数据	计算机	3,823	235	3,825	98.2 MB	11.8 MB
`高质量文档结构化数据_第一批_NA_sft.tar.gz`	高质量文档结构化数据	自然科学	6,835	244	6,666	176.9 MB	20.6 MB
`高质量文档结构化数据_第一批_SO_sft.tar.gz`	高质量文档结构化数据	社科人文	4,391	351	4,341	117.3 MB	14.1 MB
`高质量文档结构化数据_第二批_CS_sft.tar.gz`	高质量文档结构化数据	计算机	3,706	284	3,522	98.4 MB	12.2 MB
`高质量文档结构化数据_第二批_NA_sft.tar.gz`	高质量文档结构化数据	自然科学	204	22	193	5.8 MB	0.7 MB

类别汇总

类别	数据集数	书/文档数	train	val	压缩后
学科知识库	4	32,715	5,582	32,783	86.4 MB
技术社区	1	3	0	0	121.6 MB
出版社教材	6	4,009	6,222	4,106	16.2 MB
高质量文档结构化数据	5	18,959	1,136	18,547	59.4 MB

题型分布（全局）

题型	样本数
General QA	65,036
Table QA	2,112
Single Choice	867
Multiple Choice	361

数据格式

每个 tar.gz 为无损打包，解压后顶层为书/文档文件夹，每个文件夹包含：

文件	说明
`train_messages.jsonl` / `val_messages.jsonl`	messages 格式（含 system），train/val 切分
`train_messages_no_sys.jsonl` / `val_messages_no_sys.jsonl`	messages 格式（不含 system）
`train_alpaca.jsonl` / `val_alpaca.jsonl`	alpaca 格式
`stats.json`	该书样本统计
`_dataset_meta.json`	包级汇总

stats.json 字段：

字段	含义
`domain`	数据领域标识（如 `highqua1_so`、`disciplinary_cs`）
`total_samples` / `train_samples` / `val_samples`	该书样本总数 / train / val 数
`papers_succeeded` / `papers_failed`	该书构建成功 / 失败的篇数
`by_question_type`	题型分布（General QA / Table QA / Single Choice 等）
`by_source_paper`	来源文档
`mean_quality_score`	平均质量分

_dataset_meta.json 字段：dataset（数据集名）、books（书数）、train_samples / val_samples（样本总数）、by_question_type（题型汇总）、domain（领域分布）、packed_at（打包时间）。

messages 格式示例：

{"messages": [{"role": "system", "content": "..."}, {"role": "user", "content": "..."}, {"role": "assistant", "content": "..."}]}

使用方式

1. 下载

pip install -U huggingface_hub
# 下载全部包（约 284MB）
huggingface-cli download kkv233/sft --repo-type dataset
# 或只下载指定包
huggingface-cli download kkv233/sft --repo-type dataset --include "*第一批_SO*"

Python 方式：

from huggingface_hub import snapshot_download
snapshot_download("kkv233/sft", repo_type="dataset", local_dir="./sft_data")

2. 解压

tar -xzf <数据集名>_sft.tar.gz    # 解压后每本书一个文件夹

3. 用 datasets 库直接加载

import glob
from datasets import load_dataset

# 加载某个数据集全部书的 train 集（messages 格式）
files = glob.glob("解压目录/*/train_messages.jsonl")
ds = load_dataset("json", data_files=files, split="train")

# 每条样本的 messages 可直接用于 chat template
print(ds[0])  # {'messages': [{'role': 'system', ...}, {'role': 'user', ...}, {'role': 'assistant', ...}]}

4. 读取与预览

import json

with open("某本书/train_messages.jsonl", encoding="utf-8") as f:
    for line in f:
        sample = json.loads(line)
        print(sample["messages"])

5. 接入训练（以 transformers 为例）

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("你的基座模型")
# messages 格式直接套 chat template 即可
text = tokenizer.apply_chat_template(sample["messages"], tokenize=False)

6. 三种格式的选择

messages（含 system）：带领域人设 system prompt（如"计算机学科专家"），推荐用于通用 SFT 训练
messages_no_sys：无 system 的纯 user/assistant 对话，适合不需要人设的场景
alpaca：instruction/input/output 结构，兼容 alpaca 系训练代码

Downloads last month: 4

Total file size:

284 MB