EpisodeYu's picture
Upload README.md with huggingface_hub
d215834 verified
|
Raw
History Blame Contribute Delete
2.36 kB
---
license: other
pretty_name: 3GPP-Everything Prebuilt RAG Index (Rel-18/19)
language:
- en
tags:
- 3gpp
- telecom
- rag
- retrieval
- qdrant
size_categories:
- 100K<n<1M
---
# 3GPP-Everything — 预建 RAG 索引(Prebuilt Index Bundle)
本数据集是 [3GPP-Everything](https://github.com/EpisodeYu/3GPP-Everything) 项目的**预建检索索引**
让自托管用户**免去从零跑 ingestion**(省 Voyage embedding 费用 + 数小时)即可拥有一份可用的索引。
- 覆盖:GSMA 发布的 **Rel-18 + Rel-19** 5G 系列 TS(1270 篇 / **395,879** 段落块)
- Embedding:`voyage-4-large` @ **1024 维**(Cosine)
- 向量库:Qdrant collection `tgpp_chunks_voyage_d1024`
## 内容
| 文件 | 说明 |
|------|------|
| `tgpp_chunks_voyage_d1024.snapshot` | Qdrant collection snapshot(dense 向量 + payload) |
| `bm25.tar.gz` | BM25 sparse 索引 jsonl |
| `pg_index.sql.gz` | PostgreSQL `chunks_meta` + `glossary`(data-only,**不含任何用户数据**) |
| `MANIFEST.txt` | 模型/维度/点数/行数/qdrant 版本/sha256/git revision |
## 使用方式
不要手动解包;用项目自带脚本一键恢复到本地 standalone 部署:
```bash
git clone https://github.com/EpisodeYu/3GPP-Everything && cd 3GPP-Everything
cp .env.example .env # 保持 EMBEDDING_PROVIDER=voyage / EMBEDDING_DIMENSIONS=1024
cp deploy/litellm/config.yaml.example deploy/litellm/config.yaml
cp deploy/litellm/.env.example deploy/litellm/.env # 填模型 key
make standalone-up
INDEX_SRC=EpisodeYu/3gpp-everything-index ./scripts/bootstrap-index.sh
```
详见仓库 `deploy/index/README.md`
## 兼容性
- **Embedding 必须一致**:索引按 `voyage-4-large @ 1024d` 建;用别的 embedding provider/维度需自行重建。
- **Qdrant ≥ 1.17**:snapshot 由 Qdrant 1.17.x 产出,旧版无法 recover。
## 版权与署名
3GPP 规范的版权归 **3GPP / ETSI / ARIB / ATIS / CCSA / TSDSI / TTA / TTC** 等组织成员所有。
本索引为基于 [GSMA/3GPP HuggingFace 数据集](https://huggingface.co/datasets/GSMA/3GPP) 派生的检索产物
(embedding 向量 + 原文片段),按其声明使用。下游使用须遵守 3GPP/GSMA 的相关条款。
代码(3GPP-Everything 项目本身)为 MIT,但**本数据集中的 3GPP 内容不适用 MIT**