ningzhuo commited on
Commit
559bc2c
·
verified ·
1 Parent(s): f107e5b

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +74 -0
README.md ADDED
@@ -0,0 +1,74 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # SongPanda-Bench
2
+
3
+
4
+ ![截屏 2025-10-28 14](https://cdn-uploads.huggingface.co/production/uploads/667ad96dbecec8fc513e405c/gdbk7Bbg5xW2v0vGBGG9U.png)
5
+
6
+
7
+ ## 数据集概述
8
+
9
+ SongPanda-Bench 是针对古籍垂直领域设计的视觉语言模型评测基准,解决古籍领域评测数据稀缺、标注不专业的问题,支撑模型在复杂版式古籍任务上的性能验证。
10
+
11
+ ## 核心构成
12
+
13
+ 1. **数据来源**:覆盖 105 本古籍(宋至清刻本 + 域外刻本),参考专家意见,筛选重要版本,平衡经史子集分类
14
+
15
+ 2. **规模**:356 张高清古籍图像,优先选择含小字夹注的复杂版面
16
+
17
+ 3. **标注质量**:硕士生初标(基于 PaddleOCR 辅助校对)+ 博士生复核,标注规则:
18
+
19
+ * 提取正文,夹注用标签标注
20
+
21
+ * 漫漶不清处用`#`占位,异体字适当放宽修改
22
+
23
+ ![image](https://cdn-uploads.huggingface.co/production/uploads/667ad96dbecec8fc513e405c/gouWFY0-IFhJEnHt6a4TF.png)
24
+
25
+
26
+
27
+ ## 评测维度
28
+
29
+ * **准确度**:结合 NED\_score(文本相似度)与 NER\_F1(夹注识别精度)
30
+
31
+ * **鲁棒性**:评估模型应对噪音时的输出稳定性(重复 n-gram 惩罚机制)
32
+
33
+ * **SongPanda模型的评价结果**
34
+
35
+ ![截屏2025-12-05 15.46.36](https://cdn-uploads.huggingface.co/production/uploads/667ad96dbecec8fc513e405c/kH8zA13LY-KSK32W0Ijk4.png)
36
+
37
+
38
+
39
+ ## 获取与使用
40
+
41
+ ### 数据集获取
42
+
43
+ 直接从 Hugging Face 加载:
44
+
45
+ ```
46
+ \# 方式1:通过datasets库加载
47
+
48
+ from datasets import load\_dataset
49
+
50
+ dataset = load\_dataset("ningzhuo/SongPanda-Bench")
51
+
52
+ \# 方式2:直接访问仓库
53
+
54
+ \# https://huggingface.co/datasets/ningzhuo/SongPanda-Bench
55
+ ```
56
+
57
+ ### 适用场景
58
+
59
+
60
+ * 古籍视觉语言模型(VLMs)性能对比
61
+
62
+ * 古籍 OCR / 字段区分任务效果验证
63
+
64
+ * 古籍数字化工具精度评估
65
+
66
+ ## 作者团队
67
+
68
+ 郑陈锐 ¹,段伟 ²,范怿泽 ¹
69
+
70
+ ¹ 中山大学中文系 ² 上海师范大学人文学院
71
+
72
+ ## 说明
73
+
74
+ 数据集标注细节、构建方法论详见投稿中论文,建议与`ningzhuo/SongPanda`模型配合使用,获取完整评测体验。