---
dataset_info:
  - config_name: default
    data_files:
      - chunks.jsonl
  - config_name: embeddings
    data_files:
      - embeddings.npy
license: apache-2.0
language:
  - zh
tags:
  - RAG
  - Chinese
  - embedding
  - retrieval-augmented-generation
  - bge-m3
---

# Chinese RAG Vector Database · 中文 RAG 向量数据库

> **127,000+ 条中文知识向量 · 20 大分类 · BAAI/bge-m3 1024 维嵌入**
> 专为 Retrieval-Augmented Generation（RAG）设计的即用型中文向量数据库

---

## 为什么是 bge-m3？

bge-m3（BAAI General Embedding v3）是当前中文 RAG 领域最前沿的嵌入模型之一，支持 **Dense + Sparse + Multi-Vector** 混合检索。

| 对比维度 | bge-small-zh-v1.5（旧） | **bge-m3（当前）** |
|----------|------------------------|-------------------|
| 向量维度 | 512 | **1024** |
| 模型大小 | 33 MB | 2.2 GB |
| 上下文长度 | 512 tokens | **8192 tokens** |
| 检索精度 | 基线 | **+30%+**（MTEB 中文榜单） |
| 支持检索模式 | 稠密向量 | 稠密 + 稀疏 + ColBERT |
| 多语言 | 仅中文 | **中文 + 英文 + 多语言** |

只需更换一行模型名，检索效果即可获得质的提升。

> 数据来源：BAAI/bge-m3 在 MTEB 中文检索榜单上以 72.6 的平均分位居前列。

---

## 快速一览

| 指标 | 数据 |
|------|------|
| 总知识块 | **127,000+** 条 |
| 分类数 | **20** 个 |
| 向量维度 | **1024** |
| 嵌入模型 | **BAAI/bge-m3**（2024 SOTA） |
| 最大块长 | 8192 tokens |
| 数据格式 | JSONL + NumPy |
| 许可协议 | Apache 2.0 |

---

## 20 大分类，覆盖中文知识全貌

| ID | 分类 | 条数 | 说明 |
|----|------|------|------|
| 01 | 医学 | 8,227 | 医学知识、医疗对话、临床推理 |
| 02 | 法律 | 3,155 | 法律案例、法律 SFT、司法问答 |
| 03 | 金融 | 2,851 | 金融问答、信贷知识、投资分析 |
| 04 | 科学 | 3,000 | 化学测试、科学推理 |
| 05 | 教育 | 9,680 | 教育网页、高考题库、教辅 |
| 06 | 农业 | 3,001 | 农林牧渔技术问答 |
| 07 | 网络安全 | 18,906 | 安全攻防、CTF 对话 |
| 08 | 知识问答 | 8,343 | 百科问答推理 |
| 09 | 翻译 | 1,000 | 中英平行语料 |
| 10 | 百科 | 9,473 | 百科知识条目 |
| 11 | 知乎 | 5,092 | 知乎高赞问答 |
| 12 | 金融知识 | 10,722 | MBA 百科、金融术语 |
| 13 | 考试 | 3,085 | 考研、法考、公考 |
| 14 | 生活指南 | 12,934 | Wikihow 中文生活指南 |
| 15 | 技术问答 | 6,745 | StackOverflow 中文、代码片段 |
| 16 | 豆瓣 | 3,799 | 书评、影评、文化评论 |
| 17 | 传统文化 | 1,124 | 古诗、文言文、国学经典 |
| 18 | 价值观 | 1,141 | 社会主义核心价值观 |
| 19 | ComfyUI | 2,887 | 节点文档、Stable Diffusion 工作流 |
| 20 | 🤖 扣子/Coze | ~12,000 | 扣子编程、API 参考、Coze Loop 开源引擎、实战教程等 |

---

## 数据构建流程

整个数据集通过以下流水线构建：

```mermaid
flowchart TD
    A[多源数据采集<br/>HuggingFace & GitHub & 互联网] --> B[文本清洗<br/>去重 & 格式标准化 & 噪声过滤]
    B --> C[语义分块<br/>384 字符/块 & 64 字符重叠]
    C --> D[BAAI/bge-m3 嵌入<br/>1024 维 & L2 归一化]
    D --> E[(向量数据库<br/>127,000+ x 1024)]
    E --> F[RAG 检索<br/>余弦相似度 & Top-K]
    F --> G[LLM 增强生成<br/>GPT & Kimi & GLM & DeepSeek & Qwen]
```

---

## 为什么需要 RAG？

纯大模型在处理中文垂直领域知识时存在明显短板：

| 场景 | 纯大模型 | 模型 + RAG |
|------|----------|------------|
| 医学诊断推理 | 幻觉率高，缺乏证据链条 | 检索相关临床案例 + 生成，准确率提升 40%+ |
| 法律条文引用 | 编造法条，引用错误 | 精确匹配法律原文，引用可查证 |
| 金融数据查询 | 过时信息，无数据来源 | 实时检索知识库，数据可审计 |
| 技术问题解答 | 泛泛而谈，缺少实操细节 | 匹配 ComfyUI 节点文档、代码片段 |
| 传统文化考证 | 张冠李戴 | 检索古诗文原句出处 |

---

## 快速上手

### 加载并搜索

```python
import json
import numpy as np
from sentence_transformers import SentenceTransformer

# 加载数据和向量
chunks = [json.loads(line) for line in open("chunks.jsonl", encoding="utf8")]
vectors = np.load("embeddings.npy")  # (127000+, 1024), L2 归一化

# 加载同一嵌入模型
model = SentenceTransformer("BAAI/bge-m3")

# 语义搜索
def search(query, k=5):
    q_vec = model.encode(query, normalize_embeddings=True)
    scores = vectors @ q_vec
    top_k = np.argsort(scores)[-k:][::-1]
    for idx in top_k:
        c = chunks[idx]
        print(f"[{c['category']}] {c['text'][:80]}... (score={scores[idx]:.3f})")

search("高血压患者日常生活中需要注意什么")
```

### 搭配任意 LLM

```python
def rag_pipeline(query, model, vectors, chunks, llm_fn):
    q_vec = model.encode(query, normalize_embeddings=True)
    idx = np.argmax(vectors @ q_vec)
    context = chunks[idx]["text"]
    prompt = f"基于以下信息回答问题：

{context}

问题：{query}
回答："
    return llm_fn(prompt)
```

---

## 文件清单

| 文件 | 大小 | 格式 | 说明 |
|------|------|------|------|
| chunks.jsonl | ~111 MB | JSONL | 127,000+ 条中文知识块，含 category/subcategory/source/title |
| embeddings.npy | ~498 MB | NumPy | 127,000+ x 1024 维 L2 归一化浮点向量 |
| metadata.json | 2 KB | JSON | 分类列表、20 个子类、维度数、模型名 |

---

## 数据来源

数据来自公开可用的中文语料库，经清洗、去重、分块后整合入库：

- **HuggingFace Datasets** — Belle、Firefly、COIG-CQIA、Medical、Legal、Finance 等
- **GitHub 开源仓库** — ComfyUI 官方及 195+ 自定义节点文档
- **中文互联网** — 知乎、豆瓣、Wikihow、百科等

---

## 许可协议

Apache 2.0 — 可自由使用、修改和再分发。

---

## 引用

```bibtex
@misc{chinese-rag-vector-db-2026,
  author = {cys123456},
  title = {Chinese RAG Vector Database},
  year = {2026},
  howpublished = {https://huggingface.co/datasets/cys123456/Chinese-RAG-Vector-DB},
}
```