Dataset Viewer
Auto-converted to Parquet Duplicate
image
image
file
string
text
string
label_source
string
volume
string
page
int32
column
int32
line
int32
rare_chars
string
has_oov
bool
has_hard
bool
in_benchmark
bool
real/train/v0006/9_1_1.png
梯面镇
L2
06广州市花都区卷二
9
1
1
false
false
false
real/train/v0006/9_1_2.png
民安行政村
L2
06广州市花都区卷二
9
1
2
false
false
false
real/train/v0006/9_1_3.png
珠高㘵
human
06广州市花都区卷二
9
1
3
㘵
true
false
true
real/train/v0006/9_1_4.png
姓温庄
L2
06广州市花都区卷二
9
1
4
false
false
false
real/train/v0006/9_1_5.png
正迳
L2
06广州市花都区卷二
9
1
5
false
false
false
real/train/v0006/9_1_6.png
席草堂
L2
06广州市花都区卷二
9
1
6
false
false
false
real/train/v0006/9_1_7.png
永成庄
L2
06广州市花都区卷二
9
1
7
false
false
false
real/train/v0006/9_1_8.png
联丰行政村
L2
06广州市花都区卷二
9
1
8
false
false
false
real/train/v0006/9_1_9.png
荷树头
L2
06广州市花都区卷二
9
1
9
false
false
false
real/train/v0006/9_1_10.png
禾溪村
L2
06广州市花都区卷二
9
1
10
false
false
false
real/train/v0006/9_1_11.png
大坑尾
L2
06广州市花都区卷二
9
1
11
false
false
false
real/train/v0006/9_1_12.png
汤屋
L2
06广州市花都区卷二
9
1
12
false
false
false
real/train/v0006/9_1_13.png
埔岭行政村
L2
06广州市花都区卷二
9
1
13
false
false
false
real/train/v0006/9_1_14.png
大埔岭
L2
06广州市花都区卷二
9
1
14
false
false
false
real/train/v0006/9_1_15.png
田心庄
L2
06广州市花都区卷二
9
1
15
false
false
false
real/train/v0006/9_1_16.png
联民行政村
L2
06广州市花都区卷二
9
1
16
false
false
false
real/train/v0006/9_1_17.png
车头墩
L2
06广州市花都区卷二
9
1
17
false
false
false
real/train/v0006/9_1_18.png
大王庙
L2
06广州市花都区卷二
9
1
18
false
false
false
real/train/v0006/9_1_19.png
对面禾塘
L2
06广州市花都区卷二
9
1
19
false
false
false
real/train/v0006/9_1_20.png
高塱
human
06广州市花都区卷二
9
1
20
塱
false
true
true
real/train/v0006/9_1_21.png
洪屋
L2
06广州市花都区卷二
9
1
21
false
false
false
real/train/v0006/9_1_22.png
黄竹窿
L2
06广州市花都区卷二
9
1
22
false
false
false
real/train/v0006/9_1_23.png
窿尾笃
L2
06广州市花都区卷二
9
1
23
false
false
false
real/train/v0006/9_1_24.png
杉排
L2
06广州市花都区卷二
9
1
24
false
false
false
real/train/v0006/9_1_25.png
松树岗
L2
06广州市花都区卷二
9
1
25
false
false
false
real/train/v0006/9_1_26.png
红山行政村
L2
06广州市花都区卷二
9
1
26
false
false
false
real/train/v0006/9_1_27.png
白木塱
human
06广州市花都区卷二
9
1
27
塱
false
true
true
real/train/v0006/9_1_28.png
禾塘岗
L2
06广州市花都区卷二
9
1
28
false
false
false
real/train/v0006/9_1_29.png
黄屋
L2
06广州市花都区卷二
9
1
29
false
false
false
real/train/v0006/9_1_30.png
茅輋
L2
06广州市花都区卷二
9
1
30
輋
false
true
true
real/train/v0006/9_1_31.png
石上背
L2
06广州市花都区卷二
9
1
31
false
false
false
real/train/v0006/9_2_1.png
铜鼓潭
L2
06广州市花都区卷二
9
2
1
false
false
false
real/train/v0006/9_2_2.png
下围
L2
06广州市花都区卷二
9
2
2
false
false
false
real/train/v0006/9_2_3.png
小峒
L2
06广州市花都区卷二
9
2
3
false
false
false
real/train/v0006/9_2_4.png
李屋
L2
06广州市花都区卷二
9
2
4
false
false
false
real/train/v0006/9_2_5.png
五联行政村
L2
06广州市花都区卷二
9
2
5
false
false
false
real/train/v0006/9_2_6.png
曹洞
L2
06广州市花都区卷二
9
2
6
false
false
false
real/train/v0006/9_2_8.png
鸭稠
L2
06广州市花都区卷二
9
2
8
false
false
false
real/train/v0006/9_2_9.png
金珠窿
human
06广州市花都区卷二
9
2
9
false
false
false
real/train/v0006/9_2_10.png
文章水
L2
06广州市花都区卷二
9
2
10
false
false
false
real/train/v0006/9_2_11.png
湾仔
L2
06广州市花都区卷二
9
2
11
false
false
false
real/train/v0006/9_2_12.png
水口
L2
06广州市花都区卷二
9
2
12
false
false
false
real/train/v0006/9_2_13.png
水流石
L2
06广州市花都区卷二
9
2
13
false
false
false
real/train/v0006/9_2_14.png
横坑行政村
L2
06广州市花都区卷二
9
2
14
false
false
false
real/train/v0006/9_2_15.png
大围
L2
06广州市花都区卷二
9
2
15
false
false
false
real/train/v0006/9_2_16.png
大王坝
L2
06广州市花都区卷二
9
2
16
false
false
false
real/train/v0006/9_2_17.png
禾寮
L2
06广州市花都区卷二
9
2
17
false
false
false
real/train/v0006/9_2_18.png
丹竹坑
L2
06广州市花都区卷二
9
2
18
false
false
false
real/train/v0006/9_2_19.png
更楼仔
L2
06广州市花都区卷二
9
2
19
false
false
false
real/train/v0006/9_2_20.png
西坑行政村
L2
06广州市花都区卷二
9
2
20
false
false
false
real/train/v0006/9_2_21.png
老围
L2
06广州市花都区卷二
9
2
21
false
false
false
real/train/v0006/9_2_22.png
角车岭
L2
06广州市花都区卷二
9
2
22
false
false
false
real/train/v0006/9_2_23.png
营盘
L2
06广州市花都区卷二
9
2
23
false
false
false
real/train/v0006/9_2_24.png
蒙田
L2
06广州市花都区卷二
9
2
24
false
false
false
real/train/v0006/9_2_25.png
汶塘
L2
06广州市花都区卷二
9
2
25
false
false
false
real/train/v0006/9_2_26.png
秀全街
L2
06广州市花都区卷二
9
2
26
false
false
false
real/train/v0006/9_2_27.png
九潭行政村
L2
06广州市花都区卷二
9
2
27
false
false
false
real/train/v0006/9_2_28.png
九潭里
L2
06广州市花都区卷二
9
2
28
false
false
false
real/train/v0006/9_2_29.png
东安里
L2
06广州市花都区卷二
9
2
29
false
false
false
real/train/v0006/9_2_30.png
流书里
L2
06广州市花都区卷二
9
2
30
false
false
false
real/train/v0006/10_1_1.png
月塘里
L2
06广州市花都区卷二
10
1
1
false
false
false
real/train/v0006/10_1_2.png
南头里
L2
06广州市花都区卷二
10
1
2
false
false
false
real/train/v0006/10_1_3.png
敦仁里
L2
06广州市花都区卷二
10
1
3
false
false
false
real/train/v0006/10_1_4.png
官溪行政村
L2
06广州市花都区卷二
10
1
4
false
false
false
real/train/v0006/10_1_5.png
横沥里
L2
06广州市花都区卷二
10
1
5
false
false
false
real/train/v0006/10_1_6.png
冠溪里
L2
06广州市花都区卷二
10
1
6
false
false
false
real/train/v0006/10_1_7.png
昌仁里
L2
06广州市花都区卷二
10
1
7
false
false
false
real/train/v0006/10_1_8.png
九塘庄
L2
06广州市花都区卷二
10
1
8
false
false
false
real/train/v0006/10_1_9.png
马溪行政村
L2
06广州市花都区卷二
10
1
9
false
false
false
real/train/v0006/10_1_10.png
西河村
L2
06广州市花都区卷二
10
1
10
false
false
false
real/train/v0006/10_1_11.png
西湖村
L2
06广州市花都区卷二
10
1
11
false
false
false
real/train/v0006/10_1_12.png
位育村
L2
06广州市花都区卷二
10
1
12
false
false
false
real/train/v0006/10_1_13.png
东秀岗
L2
06广州市花都区卷二
10
1
13
false
false
false
real/train/v0006/10_1_14.png
南岳村
L2
06广州市花都区卷二
10
1
14
false
false
false
real/train/v0006/10_1_15.png
岐山行政村
L2
06广州市花都区卷二
10
1
15
false
false
false
real/train/v0006/10_1_16.png
岐山村
L2
06广州市花都区卷二
10
1
16
false
false
false
real/train/v0006/10_1_17.png
乐同行政村
L2
06广州市花都区卷二
10
1
17
false
false
false
real/train/v0006/10_1_18.png
赤珠岗
L2
06广州市花都区卷二
10
1
18
false
false
false
real/train/v0006/10_1_19.png
米岗庄
L2
06广州市花都区卷二
10
1
19
false
false
false
real/train/v0006/10_1_20.png
古塘庄
L2
06广州市花都区卷二
10
1
20
false
false
false
real/train/v0006/10_1_21.png
石陂村
L2
06广州市花都区卷二
10
1
21
false
false
false
real/train/v0006/10_1_22.png
朱村行政村
L2
06广州市花都区卷二
10
1
22
false
false
false
real/train/v0006/10_1_23.png
朱村
L2
06广州市花都区卷二
10
1
23
false
false
false
real/train/v0006/10_1_24.png
大㘵行政村
human
06广州市花都区卷二
10
1
24
㘵
true
false
true
real/train/v0006/10_1_25.png
大㘵上庄
human
06广州市花都区卷二
10
1
25
㘵
true
false
true
real/train/v0006/10_1_26.png
大㘵下庄
human
06广州市花都区卷二
10
1
26
㘵
true
false
true
real/train/v0006/10_1_27.png
洪氏老屋
L2
06广州市花都区卷二
10
1
27
false
false
false
real/train/v0006/10_1_28.png
凌氏老屋
L2
06广州市花都区卷二
10
1
28
false
false
false
real/train/v0006/10_1_29.png
林益村
L2
06广州市花都区卷二
10
1
29
false
false
false
real/train/v0006/10_1_30.png
塘面庄
L2
06广州市花都区卷二
10
1
30
false
false
false
real/train/v0006/10_1_31.png
广杨庄
L2
06广州市花都区卷二
10
1
31
false
false
false
real/train/v0006/10_1_32.png
聚龙庄
L2
06广州市花都区卷二
10
1
32
false
false
false
real/train/v0006/10_1_33.png
巫屋村
L2
06广州市花都区卷二
10
1
33
false
false
false
real/train/v0006/10_1_34.png
粮仓庄
L2
06广州市花都区卷二
10
1
34
false
false
false
real/train/v0006/10_1_35.png
石头岭
L2
06广州市花都区卷二
10
1
35
false
false
false
real/train/v0006/10_1_36.png
赢胜
L2
06广州市花都区卷二
10
1
36
false
false
false
real/train/v0006/10_1_37.png
长圣庄
L2
06广州市花都区卷二
10
1
37
false
false
false
real/train/v0006/10_1_38.png
矮岭墩
L2
06广州市花都区卷二
10
1
38
false
false
false
real/train/v0006/10_1_39.png
上屋庄
L2
06广州市花都区卷二
10
1
39
false
false
false
real/train/v0006/10_1_40.png
大树林庄
L2
06广州市花都区卷二
10
1
40
false
false
false
End of preview. Expand in Data Studio

GD-RareName:广东地名生僻字行识别数据集

《全粤村情》(广东省自然村落普查资料,约 300 卷)目录页上切下来的 12.2 万行村名行图,加 7.3 万张合成行图。 重点是广东地名里的生僻字:不在主流 OCR 字典里的字,和字典里有、模型却总读成形近常用字的字。

GD-RareName is a line-level OCR dataset built from the table-of-contents pages of Quan Yue Cun Qing (a ~300-volume survey of Guangdong's natural villages). It targets rare characters in Guangdong place names: characters missing from common OCR dictionaries, and characters that are in the dictionary but are consistently misread as a similar common character.

发布方 / Released by:Eric Tseng(Hugging Face:Sandman4058,GitHub:Eric-0921)

为什么需要它

广东的村名里大量使用方言地名用字:垌、埇、崀、塱、榃、輋、坣、㙟……以及扩展区的 𡌶、𪢼、𱗚。 我们用 6 个开源 OCR / 文档解析模型读了全部 5,317 行"问题行"(标签里含这类字的行),结果:

模型 全部(5,317) 人工核对行(2,399) 含字典外字(681) 只含字典内难认字(4,636)
PP-OCRv5 server(识别头) 20.2% 9.7% 0% 23.1%
PP-OCRv6 medium(识别头) 39.9% 30.1% 0% 45.8%
PaddleOCR-VL-1.6 68.1% 60.1% 23.1% 74.7%
OXR-1.0 58.3% 50.9% 7.5% 65.7%
Unlimited-OCR-2 54.4% 47.0% 6.6% 61.4%
HPD-Parsing 20.6% 19.1% 6.6% 22.7%

(整行全对率,比较前去掉空白;VLM 输出先去掉 Markdown 和多余的说明文字,清洗规则见 evaluate.py。这 6 个模型都没有用本数据集训练过,所以这张表用了全部 5,317 行,包括来自训练卷的 3,021 行。评测用本数据集训练过的模型时只能用验证卷和测试卷的行,见下面"评测"一节。)

我们在 PP-OCRv6 medium 上扩字典,用 real/train 加 synthetic/train 微调,然后在测试卷上只评了一次:

模型 测试卷生僻字行(1,070) 其中含字典外字(146) 测试卷随机普通行(2,000)
PP-OCRv6 medium 原模型 34.2% 0% 97.3%
微调后 98.9% 99.3% 98.4%
微调后,再混入 2,431 个地名低频常用字的合成图(这批图不在本数据集里) 99.3% 100% 99.6%

注意上表的 34.2% 是测试卷 1,070 行,前一张表的 39.9% 是全部 5,317 行,两者口径不同。

  • 扩展 B 区及以后的字(𡌶 𪢼 𱗚 𡰪 𪜐 𱎅 𱳪 𣿀 𬜯 …),上表所有模型的读对率都是 0。
  • PP-OCRv5 / v6 的字典里没有垅、礤(都在 GB2312 里)、垇、岃、乪等字,永远输出不了;v6 比 v5 多的 360 个字符全是拉丁字母,没有新增汉字。
  • 字典里有的字也常被读错,而且错法稳定:埇 → 埔,崀 → 岗/崑/岚,塱 → 望,榃 → 替,坣 → 坐/堂。

数据

部分 行数 说明
real / train 60,501 真实行图,按卷划分
real / validation 29,351 真实行图
real / test 32,568 真实行图
synthetic / train 72,739 合成行图,只用于训练
benchmark/rare_lines.jsonl 5,317 "问题行":标签含字典外字(681 行)或字典内难认字(4,636 行),其中 2,399 行人工逐字核对。按卷分:训练卷 3,021 行、验证卷 1,226 行、测试卷 1,070 行,split 字段标明
benchmark/random_{val,test}.jsonl 2,000 × 2 固定种子随机抽的普通行,作对照

charlist.csv 列出 261 个目标字:码位、Unicode 区块、是否 GB2312、是否在 PP-OCRv5/v6 字典、在民政部地名库和本书目录里的出现次数。 分类 A 为字典外(184 字),B 为字典内但难认(77 字)。

图片直接存在 parquet 里(19.5 万张小图超过了 Hugging Face 建议的单仓库文件数)。real 每行的列:image、file、text、label_source、volume、page、column、line、rare_chars、has_oov、has_hard、in_benchmark;synthetic 是 image、file、text、render(渲染参数,JSON 字符串)。 file 是图片在发布目录里的相对路径,benchmark/*.jsonl 用它指向图片。

from datasets import load_dataset
real = load_dataset("Sandman4058/GD-RareName", "real")             # train / validation / test
synth = load_dataset("Sandman4058/GD-RareName", "synthetic", split="train")

要用 PaddleOCR 训练,用 to_paddleocr.py 导出成图片文件和 路径<TAB>文字 的标签文件:

pip install datasets
python to_paddleocr.py --out ./gd_rarename

标签从哪来

  • human:人工在复核页面上对着原图逐行核对(3,849 行)。一行一人,没有做双人一致性检查。
  • L1:读法与民政部地名库或高德地图同镇名单里的名字一致,并在行图上逐字打分吻合。
  • L2:PP-StructureV3 的 OCR 与我们自训的单字分类器两路读法一致(约九成五的行)。没有人工核对,可能两路一起错。
  • L3:数字、括号小字等规则判定。

划分

按卷切分:sha1(卷名) % 4,0 为 test,1 为 val,其余 train。同一卷的行只出现在一个划分里。 合成数据的名字来自民政部地名库和 train 卷的标签,不含 val/test 卷的名字。

合成数据

用开源字体把含 261 个目标字的广东地名渲染成行图:Noto Serif/Sans CJK(OFL)、Fandol(GPL)、文泉驿(GPL)、BabelStone Han、花园明朝、台湾教育部宋体楷体、文鼎。 主字体缺字时逐字回退到覆盖扩展区的字体,并按字身框对齐大小和基线;整行做旋转、笔画粗细、降分辨率、运动模糊、纸底、二值化抖动、噪声、JPEG 等退化。 每个目标字至少 200 张。PP-OCRv6 读其中不含生僻字的普通地名合成图,读对率 99.3%。

已知局限:主字体是粗体时,回退字体来的生僻字笔画偏细。

评测

先用 to_paddleocr.py 导出图片,用你的模型读 benchmark/rare_lines.jsonl 里列出的图,存成 file<TAB>读出的文字,然后运行下面的命令。

rare_lines.jsonl 里有 3,021 行来自训练卷。evaluate.py 默认只评验证卷和测试卷(--split val,test,2,296 行);调参看 --split val,最终成绩报 --split test。只有评没用本数据集训练过的模型时,才可以用 --split all。

python evaluate.py --bench benchmark/rare_lines.jsonl --pred pred.tsv --charlist charlist.csv --split test --out per_char.csv

屏幕上是整行全对率(全部 / 人工核对行 / 含字典外字 / 含字典内难认字)和字符错误率,per_char.csv 是每个目标字的读对率和最常见错读。

比较前去掉模型输出里的空格和 markdown 符号,半角括号统一成全角。整行全对才算对;按字统计时逐字对齐(difflib)。

各模型的调用方式(单行图、各自官方的文字识别提示词):

模型 输入 提示词 / 方式
PP-OCRv5 server / PP-OCRv6 medium 行图 只跑识别头(PaddleOCR 3.7 TextRecognition)
PaddleOCR-VL-1.6 行图 OCR:(vLLM)
HPD-Parsing 行图 document parsing with fork.(官方 Transformers 参考实现 generate_hpd)
Unlimited-OCR-2 行图 默认 Multi page parsing.,crop_mode=False(Transformers)
OXR-1.0 行图 Recognize the content of the image.(vLLM + 官方插件)

生成式文档解析模型的主场是整页,这里只测了单行输入。

版权与授权

  • 行图来自《全粤村情》目录页,经项目方同意公开。原书版权归原权利人所有;这里只发布目录页的单行切图及其文字标注,供 OCR 研究和评测使用,按 CC BY-NC 4.0 授权,不得商用。如果您是权利人并对发布有异议,请在本页的 Community 里留言,我们会及时处理。
  • 地名用字统计来自民政部国家地名信息库的公开数据。
  • 合成图所用字体均为开源授权。

引用

@misc{gd_rarename_2026,
  title  = {GD-RareName: Guangdong Place-Name Rare Character Line OCR Dataset},
  author = {Tseng, Eric},
  year   = {2026},
  url    = {https://huggingface.co/datasets/Sandman4058/GD-RareName}
}
Downloads last month
120