SongPanda-Bench

数据集概述

SongPanda-Bench 是针对古籍垂直领域设计的视觉语言模型评测基准，解决古籍领域评测数据稀缺、标注不专业的问题，支撑模型在复杂版式古籍任务上的性能验证。

核心构成

1. 数据来源：覆盖 105 本古籍（宋至清刻本 + 域外刻本），参考专家意见，筛选重要版本，平衡经史子集分类

2. 规模：356 张高清古籍图像，优先选择含小字夹注的复杂版面

3. 标注质量：硕士生初标（基于 PaddleOCR 辅助校对）+ 博士生复核，标注规则：

• 提取正文，夹注用标签标注

• 漫漶不清处用#占位，异体字适当放宽修改

评测维度

• 准确度：结合 NED_score（文本相似度）与 NER_F1（夹注识别精度）

• 鲁棒性：评估模型应对噪音时的输出稳定性（重复 n-gram 惩罚机制）

• SongPanda模型的评价结果

获取与使用

数据集获取

直接从 Hugging Face 加载：

\# 方式1：通过datasets库加载

from datasets import load\_dataset

dataset = load\_dataset("ningzhuo/SongPanda-Bench")

\# 方式2：直接访问仓库

\# https://huggingface.co/datasets/ningzhuo/SongPanda-Bench

适用场景

• 古籍视觉语言模型（VLMs）性能对比

• 古籍 OCR / 字段区分任务效果验证

• 古籍数字化工具精度评估

作者团队

郑陈锐 ¹，段伟 ²，范怿泽 ¹

¹ 中山大学中文系 ² 上海师范大学人文学院

说明

数据集标注细节、构建方法论详见投稿中论文，建议与ningzhuo/SongPanda模型配合使用，获取完整评测体验。