README.md

---
license: other
tags:
  - pdf
  - arxiv
  - lance
  - lancedb
  - mineru
  - multimodal
---

# DCD arXiv Parse Demo Dataset

arxiv、libgen、xiaoyi 等来源的原始 PDF 和 MinerU解析结果示例数据集，以 [LanceDB](https://lancedb.github.io/lance/) 格式存储。

每个数据源包含五个 LanceDB 数据集及一份平台元数据文件：

| 数据集 / 文件 | 内容 |
|---------------|------|
| `pdfs.lance` | 原始 PDF 字节与可选追加的 layout PDF（`id`、`pdf_bytes`、`sha256`） |
| `pdf_labels.lance` | PDF 侧元数据与标注（`id`、`info` JSON、`tags`） |
| `text.lance` | MinerU Markdown 正文与 `info`（`pdf_ids`、`image_ids` 等） |
| `images.lance` | 图片原始字节（`id` / `sha256` 为图片字节摘要） |
| `image_labels.lance` | 图像内禀字段（`info` 含宽高、通道、字节数） |
| `dataset.yaml` | DCD 用数据集元数据 |

> **注意**：各 `*.lance` 均为 **目录**，不是单个文件，这是 LanceDB 的存储格式。

## 数据集概览

| 来源 | 条数（参考） | 原始批次 |
|------|--------------|----------|
| arxiv | 762 | arxiv_20251203 |
| libgen | 88 | libgen_scihub_1026_all_0930 |
| xiaoyi | 436 | knowledge_xiaoyi_books_all_1114_3_2M |

## 仓库结构

```
dcd-pdf-parse-demo/
├── arxiv/
├── libgen/
└── xiaoyi/
    （各子目录下结构相同）
    ├── pdfs.lance/          ← 原始 PDF + layout（LanceDB 目录）
    ├── pdf_labels.lance/    ← 元数据与标注（LanceDB 目录）
    ├── text.lance/          ← Markdown 正文（LanceDB 目录）
    ├── images.lance/        ← 图片字节（LanceDB 目录）
    ├── image_labels.lance/  ← 图像标注（LanceDB 目录）
    └── dataset.yaml         ← 数据集元数据
```

## 直接访问（无需下载全部数据）

```python
pip install lance huggingface_hub
```

```python
import lance

# 按需拉取；体积随图片与 PDF 变化，可按表分别打开
base = "hf://datasets/KuoKuoYeah/dcd-pdf-parse-demo/arxiv"

pdfs = lance.dataset(f"{base}/pdfs.lance")
print(pdfs.count_rows())
sample = pdfs.take([0, 1, 2]).to_pydict()

labels = lance.dataset(f"{base}/pdf_labels.lance")
print(labels.schema)

text_ds = lance.dataset(f"{base}/text.lance")
print(text_ds.count_rows())

images = lance.dataset(f"{base}/images.lance")
img_labels = lance.dataset(f"{base}/image_labels.lance")
```

## 完整下载后本地访问

```python
from huggingface_hub import snapshot_download
import lance

local_dir = snapshot_download(
    repo_id="KuoKuoYeah/dcd-pdf-parse-demo",
    repo_type="dataset",
    local_dir="/tmp/dcd-pdf-parse-demo",
)

source = "arxiv"
root = f"{local_dir}/{source}"
pdfs = lance.dataset(f"{root}/pdfs.lance")
labels = lance.dataset(f"{root}/pdf_labels.lance")
text_ds = lance.dataset(f"{root}/text.lance")
images = lance.dataset(f"{root}/images.lance")
img_labels = lance.dataset(f"{root}/image_labels.lance")
```

## 注册到 DCD 平台可视化（内部用户）

```bash
# 1. 下载数据到本地
huggingface-cli download KuoKuoYeah/dcd-pdf-parse-demo \
  --repo-type dataset --local-dir /tmp/dcd-pdf-parse-demo

# 2. 在 DCD 的 datasets/ 目录下创建符号链接
ln -s /tmp/dcd-pdf-parse-demo/arxiv /path/to/adp/datasets/arxiv-parse-demo
```

启动 DCD 服务器后访问 `http://localhost:8000/datasets/arxiv-parse-demo`。