README.md

---
license: apache-2.0
language:
- zh
- en
tags:
- embeddings
- patents
- qwen3
- mmap
---

# Qwen3-4B Patent Embeddings (专利特征向量数据集)

## 📌 简介 (Introduction)

本数据集包含了海量专利文本的特征向量（Embeddings）。所有特征向量均使用强大的 **Qwen3-embedding-4B** 模型提取。

* **数据领域**: 专利 (Patents)
* **特征提取模型**: Qwen3-embedding-4B
* **数据格式**: `.mmap` (Memory-mapped file, numpy-compatible) + `.tsv`
* **数据精度**: `float16`

## 📂 数据结构 (Data Structure)

由于数据量庞大，在生成时使用了 4 张 GPU 进行分布式计算，因此数据被划分为 4 个分片（Shards）：`shard_0` 到 `shard_3`。

每个 Shard 目录下包含以下核心文件：
* `embeddings.float16.mmap`: 核心的特征向量矩阵（float16）。
* `ids.int64.mmap`: 与特征向量一一对应的专利内部 ID（int64）。
* `pubno.tsv`: 专利的公开号（Publication Number）映射表。
* `meta.json`: 记录了该分片的数据维度、行数等元数据信息。
* `progress.json`: 原始生成的进度记录。

## 🚀 如何读取与使用 (How to Use)

由于本数据集采用了极低内存占用的 `.mmap` 格式存储，请**不要**使用 `datasets.load_dataset`，而是使用 `huggingface_hub` 下载后通过 `numpy` 映射到内存。

### 1. 安装依赖

```bash
pip install huggingface_hub numpy
```

### 2. 下载并加载数据的 Python 示例

以下代码展示了如何高速拉取数据，并读取其中一个 shard 的内容：

```python
import os
import json
import numpy as np
from huggingface_hub import snapshot_download

# 1. 开启高速下载模式 (推荐)
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"

# 如果在国内服务器，请取消下面这行的注释
# os.environ["HF_ENDPOINT"] = "[https://hf-mirror.com](https://hf-mirror.com)"

# 2. 将整个数据集缓存到本地
repo_id = "TMSDMAP/patent_dataset" # 替换为你的真实仓库名
print("正在下载数据集...")
local_dir = snapshot_download(repo_id=repo_id, repo_type="dataset")

# 3. 选取你要读取的 shard (例如 shard_3)
shard_dir = os.path.join(local_dir, "shard_3")

# 4. 从 meta.json 动态读取 shape
with open(os.path.join(shard_dir, "meta.json"), "r") as f:
    meta = json.load(f)
    # 请根据你实际的 meta.json 键值名修改这里的 "num_rows" 和 "dim"
    num_rows = meta.get("num_rows", 0) 
    dim = meta.get("dim", 4096) 

# 5. 使用 numpy memmap 加载 (极快，且不占内存)
embeddings = np.memmap(
    os.path.join(shard_dir, "embeddings.float16.mmap"), 
    dtype='float16', 
    mode='r', 
    shape=(num_rows, dim)
)

ids = np.memmap(
    os.path.join(shard_dir, "ids.int64.mmap"), 
    dtype='int64', 
    mode='r', 
    shape=(num_rows,)
)

print(f"成功加载 Shard_3, 包含 {num_rows} 条数据。")
print(f"第一条数据的向量维度前 5 项: {embeddings[0][:5]}")
```

## ⚙️ 硬件与计算信息 (Compute Information)

* **计算集群**: [1x Ubuntu Server]
* **GPU**: 4x [Nvidia A800]
* **并行框架**: [None]