Datasets:

Godners
/

DaoZang

license: apache-2.0
language:
  - zh
task_categories:
  - text-retrieval
  - feature-extraction
size_categories:
  - 100K<n<1M
tags:
  - dao-zang
  - daozang
  - taoism
  - classical-chinese
  - rag

DaoZang — 道藏经文语料数据集

《中华道藏》《正统道藏》整理本语料的可加载数据集,与向量库 (ChromaDB) 逐块对应, 供检索评测、微调与 RAG 使用。

数据分片

分片	行数	粒度	字段
`train` (data/train-00000-of-00006.parquet ~ ...00005-of-00006.parquet, 6 个分片)	285,117	文本块 (chunk)	`source` / `title` / `chunk_index` / `chars` / `text` / `embedding`

标准分片命名 (train-XXXXX-of-00006.parquet),load_dataset 自动合并,无需改动;
每片约 217MB(含 20,000 行一个 row group 与 page index),方便 HF Dataset Viewer 在线浏览(单次扫描上限 ~300MB);
source = 源 Markdown 文件名 (与 ChromaDB 元数据一致);
chunk_index = 该块在文件内的序号 (与 ChromaDB chunk_index 一致),可按 (source, chunk_index) 与向量检索结果精确对齐;
text = 建库时清洗后的正文块 (清洗 = 去除 markdown 语法记号并压缩空白);
embedding = fixed_size_list<float32, 1024>, BAAI/bge-m3 输出向量 (已 L2 归一化,范数=1.0,与向量库完全一致),由建库时的 SiliconFlow 嵌入缓存直接导出, 未重新调用任何嵌入 API;
仓库内另含 未压缩 Markdown 源文件 markdowns/(3,152 篇,与 source 一一对应; 文件级统计可按 source 分组聚合得到)。

加载

from datasets import load_dataset

ds = load_dataset("Godners/DaoZang", split="train")    # 285,117 个文本块 (含向量)

# 直接取出与 ChromaDB 一致的向量做检索
import numpy as np
embeddings = np.array(ds["embedding"], dtype=np.float32)   # [N, 1024]

# 文件级统计 (按 source 聚合)
files = ds.to_pandas().groupby(["source", "title"])["chars"].agg(["count", "sum"])

数据来源与说明

语料整理自《中华道藏》(华夏出版社)与《正统道藏》公开整理本,共 3,152 篇、约 6,500 万字符,切分为 285,117 个文本块 (每块 200~~350 token, 相邻块 40~~70 token 重叠);
嵌入模型: BAAI/bge-m3 (1024 维, cosine),向量库见 daozang-data;
本数据集由 ChromaDB 导出生成,与向量库逐块对应,可放心用于检索对齐与评测。

许可

Apache-2.0 (语料来源见上;如用于出版或商业用途,请自行核实原始文献版权情况)。

DaoZang — 道藏经文语料数据集

数据分片

加载

相关仓库

数据来源与说明

许可