README.md

---
license: apache-2.0
language:
- zh
task_categories:
- text-retrieval
- feature-extraction
size_categories:
- 100K<n<1M
tags:
- dao-zang
- daozang
- taoism
- classical-chinese
- rag
---

# DaoZang — 道藏经文语料数据集

《中华道藏》《正统道藏》整理本语料的可加载数据集,**与向量库 (ChromaDB) 逐块对应**,
供检索评测、微调与 RAG 使用。

## 数据分片

| 分片 | 行数 | 粒度 | 字段 |
|---|---|---|---|
| `train` (data/train-00000-of-00006.parquet ~ ...00005-of-00006.parquet, 6 个分片) | 285,117 | 文本块 (chunk) | `source` / `title` / `chunk_index` / `chars` / `text` / **`embedding`** |

- 标准分片命名 (`train-XXXXX-of-00006.parquet`),`load_dataset` 自动合并,无需改动;
- 每片约 217MB(含 20,000 行一个 row group 与 page index),方便 HF Dataset Viewer
  在线浏览(单次扫描上限 ~300MB);
- `source` = 源 Markdown 文件名 (与 ChromaDB 元数据一致);
- `chunk_index` = 该块在文件内的序号 (与 ChromaDB `chunk_index` 一致),可按
  `(source, chunk_index)` 与向量检索结果精确对齐;
- `text` = 建库时清洗后的正文块 (清洗 = 去除 markdown 语法记号并压缩空白);
- `embedding` = `fixed_size_list<float32, 1024>`, `BAAI/bge-m3` 输出向量
  (**已 L2 归一化**,范数=1.0,与向量库完全一致),由建库时的 SiliconFlow 嵌入缓存
  直接导出, **未重新调用任何嵌入 API**;
- 仓库内另含 **未压缩 Markdown 源文件** `markdowns/`(3,152 篇,与 `source` 一一对应;
  文件级统计可按 `source` 分组聚合得到)。

## 加载

```python
from datasets import load_dataset

ds = load_dataset("Godners/DaoZang", split="train")    # 285,117 个文本块 (含向量)

# 直接取出与 ChromaDB 一致的向量做检索
import numpy as np
embeddings = np.array(ds["embedding"], dtype=np.float32)   # [N, 1024]

# 文件级统计 (按 source 聚合)
files = ds.to_pandas().groupby(["source", "title"])["chars"].agg(["count", "sum"])
```

## 相关仓库

- 🏠 **技能 Space**: [Godners/DaoZang-Online](https://huggingface.co/spaces/Godners/DaoZang-Online)
  (dao-zang skill: 离线检索 + 原文提取,数据直接取自本数据集)
- 📜 **旧版技能 Space**: [Godners/daozang-skill](https://huggingface.co/spaces/Godners/daozang-skill)
  (v1.0, 数据来自旧分发仓库 Godners/daozang-data 的 zip 包)

## 数据来源与说明

- 语料整理自《中华道藏》(华夏出版社)与《正统道藏》公开整理本,共 3,152 篇、约
  6,500 万字符,切分为 285,117 个文本块 (每块 200~350 token, 相邻块 40~70 token 重叠);
- 嵌入模型: `BAAI/bge-m3` (1024 维, cosine),向量库见 daozang-data;
- 本数据集由 ChromaDB 导出生成,与向量库逐块对应,可放心用于检索对齐与评测。

## 许可

Apache-2.0 (语料来源见上;如用于出版或商业用途,请自行核实原始文献版权情况)。