README.md

metadata

license: other
tags:
  - pdf
  - arxiv
  - lance
  - lancedb
  - mineru
  - multimodal

DCD arXiv Parse Demo Dataset

arxiv、libgen、xiaoyi 等来源的原始 PDF 和 MinerU解析结果示例数据集，以 LanceDB 格式存储。

每个数据源包含五个 LanceDB 数据集及一份平台元数据文件：

数据集 / 文件	内容
pdfs.lance	原始 PDF 字节与可选追加的 layout PDF（id、pdf_bytes、sha256）
pdf_labels.lance	PDF 侧元数据与标注（id、info JSON、tags）
text.lance	MinerU Markdown 正文与 info（pdf_ids、image_ids 等）
images.lance	图片原始字节（id / sha256 为图片字节摘要）
image_labels.lance	图像内禀字段（info 含宽高、通道、字节数）
dataset.yaml	DCD 用数据集元数据

注意：各 *.lance 均为 目录，不是单个文件，这是 LanceDB 的存储格式。

数据集概览

来源	条数（参考）	原始批次
arxiv	762	arxiv_20251203
libgen	88	libgen_scihub_1026_all_0930
xiaoyi	436	knowledge_xiaoyi_books_all_1114_3_2M

仓库结构

dcd-pdf-parse-demo/
├── arxiv/
├── libgen/
└── xiaoyi/
    （各子目录下结构相同）
    ├── pdfs.lance/          ← 原始 PDF + layout（LanceDB 目录）
    ├── pdf_labels.lance/    ← 元数据与标注（LanceDB 目录）
    ├── text.lance/          ← Markdown 正文（LanceDB 目录）
    ├── images.lance/        ← 图片字节（LanceDB 目录）
    ├── image_labels.lance/  ← 图像标注（LanceDB 目录）
    └── dataset.yaml         ← 数据集元数据

直接访问（无需下载全部数据）

pip install lance huggingface_hub

import lance

# 按需拉取；体积随图片与 PDF 变化，可按表分别打开
base = "hf://datasets/KuoKuoYeah/dcd-pdf-parse-demo/arxiv"

pdfs = lance.dataset(f"{base}/pdfs.lance")
print(pdfs.count_rows())
sample = pdfs.take([0, 1, 2]).to_pydict()

labels = lance.dataset(f"{base}/pdf_labels.lance")
print(labels.schema)

text_ds = lance.dataset(f"{base}/text.lance")
print(text_ds.count_rows())

images = lance.dataset(f"{base}/images.lance")
img_labels = lance.dataset(f"{base}/image_labels.lance")

完整下载后本地访问

from huggingface_hub import snapshot_download
import lance

local_dir = snapshot_download(
    repo_id="KuoKuoYeah/dcd-pdf-parse-demo",
    repo_type="dataset",
    local_dir="/tmp/dcd-pdf-parse-demo",
)

source = "arxiv"
root = f"{local_dir}/{source}"
pdfs = lance.dataset(f"{root}/pdfs.lance")
labels = lance.dataset(f"{root}/pdf_labels.lance")
text_ds = lance.dataset(f"{root}/text.lance")
images = lance.dataset(f"{root}/images.lance")
img_labels = lance.dataset(f"{root}/image_labels.lance")

注册到 DCD 平台可视化（内部用户）

# 1. 下载数据到本地
huggingface-cli download KuoKuoYeah/dcd-pdf-parse-demo \
  --repo-type dataset --local-dir /tmp/dcd-pdf-parse-demo

# 2. 在 DCD 的 datasets/ 目录下创建符号链接
ln -s /tmp/dcd-pdf-parse-demo/arxiv /path/to/adp/datasets/arxiv-parse-demo

启动 DCD 服务器后访问 http://localhost:8000/datasets/arxiv-parse-demo。