Datasets:
image image | file string | text string | label_source string | volume string | page int32 | column int32 | line int32 | rare_chars string | has_oov bool | has_hard bool | in_benchmark bool |
|---|---|---|---|---|---|---|---|---|---|---|---|
real/train/v0006/9_1_1.png | 梯面镇 | L2 | 06广州市花都区卷二 | 9 | 1 | 1 | false | false | false | ||
real/train/v0006/9_1_2.png | 民安行政村 | L2 | 06广州市花都区卷二 | 9 | 1 | 2 | false | false | false | ||
real/train/v0006/9_1_3.png | 珠高㘵 | human | 06广州市花都区卷二 | 9 | 1 | 3 | 㘵 | true | false | true | |
real/train/v0006/9_1_4.png | 姓温庄 | L2 | 06广州市花都区卷二 | 9 | 1 | 4 | false | false | false | ||
real/train/v0006/9_1_5.png | 正迳 | L2 | 06广州市花都区卷二 | 9 | 1 | 5 | false | false | false | ||
real/train/v0006/9_1_6.png | 席草堂 | L2 | 06广州市花都区卷二 | 9 | 1 | 6 | false | false | false | ||
real/train/v0006/9_1_7.png | 永成庄 | L2 | 06广州市花都区卷二 | 9 | 1 | 7 | false | false | false | ||
real/train/v0006/9_1_8.png | 联丰行政村 | L2 | 06广州市花都区卷二 | 9 | 1 | 8 | false | false | false | ||
real/train/v0006/9_1_9.png | 荷树头 | L2 | 06广州市花都区卷二 | 9 | 1 | 9 | false | false | false | ||
real/train/v0006/9_1_10.png | 禾溪村 | L2 | 06广州市花都区卷二 | 9 | 1 | 10 | false | false | false | ||
real/train/v0006/9_1_11.png | 大坑尾 | L2 | 06广州市花都区卷二 | 9 | 1 | 11 | false | false | false | ||
real/train/v0006/9_1_12.png | 汤屋 | L2 | 06广州市花都区卷二 | 9 | 1 | 12 | false | false | false | ||
real/train/v0006/9_1_13.png | 埔岭行政村 | L2 | 06广州市花都区卷二 | 9 | 1 | 13 | false | false | false | ||
real/train/v0006/9_1_14.png | 大埔岭 | L2 | 06广州市花都区卷二 | 9 | 1 | 14 | false | false | false | ||
real/train/v0006/9_1_15.png | 田心庄 | L2 | 06广州市花都区卷二 | 9 | 1 | 15 | false | false | false | ||
real/train/v0006/9_1_16.png | 联民行政村 | L2 | 06广州市花都区卷二 | 9 | 1 | 16 | false | false | false | ||
real/train/v0006/9_1_17.png | 车头墩 | L2 | 06广州市花都区卷二 | 9 | 1 | 17 | false | false | false | ||
real/train/v0006/9_1_18.png | 大王庙 | L2 | 06广州市花都区卷二 | 9 | 1 | 18 | false | false | false | ||
real/train/v0006/9_1_19.png | 对面禾塘 | L2 | 06广州市花都区卷二 | 9 | 1 | 19 | false | false | false | ||
real/train/v0006/9_1_20.png | 高塱 | human | 06广州市花都区卷二 | 9 | 1 | 20 | 塱 | false | true | true | |
real/train/v0006/9_1_21.png | 洪屋 | L2 | 06广州市花都区卷二 | 9 | 1 | 21 | false | false | false | ||
real/train/v0006/9_1_22.png | 黄竹窿 | L2 | 06广州市花都区卷二 | 9 | 1 | 22 | false | false | false | ||
real/train/v0006/9_1_23.png | 窿尾笃 | L2 | 06广州市花都区卷二 | 9 | 1 | 23 | false | false | false | ||
real/train/v0006/9_1_24.png | 杉排 | L2 | 06广州市花都区卷二 | 9 | 1 | 24 | false | false | false | ||
real/train/v0006/9_1_25.png | 松树岗 | L2 | 06广州市花都区卷二 | 9 | 1 | 25 | false | false | false | ||
real/train/v0006/9_1_26.png | 红山行政村 | L2 | 06广州市花都区卷二 | 9 | 1 | 26 | false | false | false | ||
real/train/v0006/9_1_27.png | 白木塱 | human | 06广州市花都区卷二 | 9 | 1 | 27 | 塱 | false | true | true | |
real/train/v0006/9_1_28.png | 禾塘岗 | L2 | 06广州市花都区卷二 | 9 | 1 | 28 | false | false | false | ||
real/train/v0006/9_1_29.png | 黄屋 | L2 | 06广州市花都区卷二 | 9 | 1 | 29 | false | false | false | ||
real/train/v0006/9_1_30.png | 茅輋 | L2 | 06广州市花都区卷二 | 9 | 1 | 30 | 輋 | false | true | true | |
real/train/v0006/9_1_31.png | 石上背 | L2 | 06广州市花都区卷二 | 9 | 1 | 31 | false | false | false | ||
real/train/v0006/9_2_1.png | 铜鼓潭 | L2 | 06广州市花都区卷二 | 9 | 2 | 1 | false | false | false | ||
real/train/v0006/9_2_2.png | 下围 | L2 | 06广州市花都区卷二 | 9 | 2 | 2 | false | false | false | ||
real/train/v0006/9_2_3.png | 小峒 | L2 | 06广州市花都区卷二 | 9 | 2 | 3 | false | false | false | ||
real/train/v0006/9_2_4.png | 李屋 | L2 | 06广州市花都区卷二 | 9 | 2 | 4 | false | false | false | ||
real/train/v0006/9_2_5.png | 五联行政村 | L2 | 06广州市花都区卷二 | 9 | 2 | 5 | false | false | false | ||
real/train/v0006/9_2_6.png | 曹洞 | L2 | 06广州市花都区卷二 | 9 | 2 | 6 | false | false | false | ||
real/train/v0006/9_2_8.png | 鸭稠 | L2 | 06广州市花都区卷二 | 9 | 2 | 8 | false | false | false | ||
real/train/v0006/9_2_9.png | 金珠窿 | human | 06广州市花都区卷二 | 9 | 2 | 9 | false | false | false | ||
real/train/v0006/9_2_10.png | 文章水 | L2 | 06广州市花都区卷二 | 9 | 2 | 10 | false | false | false | ||
real/train/v0006/9_2_11.png | 湾仔 | L2 | 06广州市花都区卷二 | 9 | 2 | 11 | false | false | false | ||
real/train/v0006/9_2_12.png | 水口 | L2 | 06广州市花都区卷二 | 9 | 2 | 12 | false | false | false | ||
real/train/v0006/9_2_13.png | 水流石 | L2 | 06广州市花都区卷二 | 9 | 2 | 13 | false | false | false | ||
real/train/v0006/9_2_14.png | 横坑行政村 | L2 | 06广州市花都区卷二 | 9 | 2 | 14 | false | false | false | ||
real/train/v0006/9_2_15.png | 大围 | L2 | 06广州市花都区卷二 | 9 | 2 | 15 | false | false | false | ||
real/train/v0006/9_2_16.png | 大王坝 | L2 | 06广州市花都区卷二 | 9 | 2 | 16 | false | false | false | ||
real/train/v0006/9_2_17.png | 禾寮 | L2 | 06广州市花都区卷二 | 9 | 2 | 17 | false | false | false | ||
real/train/v0006/9_2_18.png | 丹竹坑 | L2 | 06广州市花都区卷二 | 9 | 2 | 18 | false | false | false | ||
real/train/v0006/9_2_19.png | 更楼仔 | L2 | 06广州市花都区卷二 | 9 | 2 | 19 | false | false | false | ||
real/train/v0006/9_2_20.png | 西坑行政村 | L2 | 06广州市花都区卷二 | 9 | 2 | 20 | false | false | false | ||
real/train/v0006/9_2_21.png | 老围 | L2 | 06广州市花都区卷二 | 9 | 2 | 21 | false | false | false | ||
real/train/v0006/9_2_22.png | 角车岭 | L2 | 06广州市花都区卷二 | 9 | 2 | 22 | false | false | false | ||
real/train/v0006/9_2_23.png | 营盘 | L2 | 06广州市花都区卷二 | 9 | 2 | 23 | false | false | false | ||
real/train/v0006/9_2_24.png | 蒙田 | L2 | 06广州市花都区卷二 | 9 | 2 | 24 | false | false | false | ||
real/train/v0006/9_2_25.png | 汶塘 | L2 | 06广州市花都区卷二 | 9 | 2 | 25 | false | false | false | ||
real/train/v0006/9_2_26.png | 秀全街 | L2 | 06广州市花都区卷二 | 9 | 2 | 26 | false | false | false | ||
real/train/v0006/9_2_27.png | 九潭行政村 | L2 | 06广州市花都区卷二 | 9 | 2 | 27 | false | false | false | ||
real/train/v0006/9_2_28.png | 九潭里 | L2 | 06广州市花都区卷二 | 9 | 2 | 28 | false | false | false | ||
real/train/v0006/9_2_29.png | 东安里 | L2 | 06广州市花都区卷二 | 9 | 2 | 29 | false | false | false | ||
real/train/v0006/9_2_30.png | 流书里 | L2 | 06广州市花都区卷二 | 9 | 2 | 30 | false | false | false | ||
real/train/v0006/10_1_1.png | 月塘里 | L2 | 06广州市花都区卷二 | 10 | 1 | 1 | false | false | false | ||
real/train/v0006/10_1_2.png | 南头里 | L2 | 06广州市花都区卷二 | 10 | 1 | 2 | false | false | false | ||
real/train/v0006/10_1_3.png | 敦仁里 | L2 | 06广州市花都区卷二 | 10 | 1 | 3 | false | false | false | ||
real/train/v0006/10_1_4.png | 官溪行政村 | L2 | 06广州市花都区卷二 | 10 | 1 | 4 | false | false | false | ||
real/train/v0006/10_1_5.png | 横沥里 | L2 | 06广州市花都区卷二 | 10 | 1 | 5 | false | false | false | ||
real/train/v0006/10_1_6.png | 冠溪里 | L2 | 06广州市花都区卷二 | 10 | 1 | 6 | false | false | false | ||
real/train/v0006/10_1_7.png | 昌仁里 | L2 | 06广州市花都区卷二 | 10 | 1 | 7 | false | false | false | ||
real/train/v0006/10_1_8.png | 九塘庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 8 | false | false | false | ||
real/train/v0006/10_1_9.png | 马溪行政村 | L2 | 06广州市花都区卷二 | 10 | 1 | 9 | false | false | false | ||
real/train/v0006/10_1_10.png | 西河村 | L2 | 06广州市花都区卷二 | 10 | 1 | 10 | false | false | false | ||
real/train/v0006/10_1_11.png | 西湖村 | L2 | 06广州市花都区卷二 | 10 | 1 | 11 | false | false | false | ||
real/train/v0006/10_1_12.png | 位育村 | L2 | 06广州市花都区卷二 | 10 | 1 | 12 | false | false | false | ||
real/train/v0006/10_1_13.png | 东秀岗 | L2 | 06广州市花都区卷二 | 10 | 1 | 13 | false | false | false | ||
real/train/v0006/10_1_14.png | 南岳村 | L2 | 06广州市花都区卷二 | 10 | 1 | 14 | false | false | false | ||
real/train/v0006/10_1_15.png | 岐山行政村 | L2 | 06广州市花都区卷二 | 10 | 1 | 15 | false | false | false | ||
real/train/v0006/10_1_16.png | 岐山村 | L2 | 06广州市花都区卷二 | 10 | 1 | 16 | false | false | false | ||
real/train/v0006/10_1_17.png | 乐同行政村 | L2 | 06广州市花都区卷二 | 10 | 1 | 17 | false | false | false | ||
real/train/v0006/10_1_18.png | 赤珠岗 | L2 | 06广州市花都区卷二 | 10 | 1 | 18 | false | false | false | ||
real/train/v0006/10_1_19.png | 米岗庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 19 | false | false | false | ||
real/train/v0006/10_1_20.png | 古塘庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 20 | false | false | false | ||
real/train/v0006/10_1_21.png | 石陂村 | L2 | 06广州市花都区卷二 | 10 | 1 | 21 | false | false | false | ||
real/train/v0006/10_1_22.png | 朱村行政村 | L2 | 06广州市花都区卷二 | 10 | 1 | 22 | false | false | false | ||
real/train/v0006/10_1_23.png | 朱村 | L2 | 06广州市花都区卷二 | 10 | 1 | 23 | false | false | false | ||
real/train/v0006/10_1_24.png | 大㘵行政村 | human | 06广州市花都区卷二 | 10 | 1 | 24 | 㘵 | true | false | true | |
real/train/v0006/10_1_25.png | 大㘵上庄 | human | 06广州市花都区卷二 | 10 | 1 | 25 | 㘵 | true | false | true | |
real/train/v0006/10_1_26.png | 大㘵下庄 | human | 06广州市花都区卷二 | 10 | 1 | 26 | 㘵 | true | false | true | |
real/train/v0006/10_1_27.png | 洪氏老屋 | L2 | 06广州市花都区卷二 | 10 | 1 | 27 | false | false | false | ||
real/train/v0006/10_1_28.png | 凌氏老屋 | L2 | 06广州市花都区卷二 | 10 | 1 | 28 | false | false | false | ||
real/train/v0006/10_1_29.png | 林益村 | L2 | 06广州市花都区卷二 | 10 | 1 | 29 | false | false | false | ||
real/train/v0006/10_1_30.png | 塘面庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 30 | false | false | false | ||
real/train/v0006/10_1_31.png | 广杨庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 31 | false | false | false | ||
real/train/v0006/10_1_32.png | 聚龙庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 32 | false | false | false | ||
real/train/v0006/10_1_33.png | 巫屋村 | L2 | 06广州市花都区卷二 | 10 | 1 | 33 | false | false | false | ||
real/train/v0006/10_1_34.png | 粮仓庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 34 | false | false | false | ||
real/train/v0006/10_1_35.png | 石头岭 | L2 | 06广州市花都区卷二 | 10 | 1 | 35 | false | false | false | ||
real/train/v0006/10_1_36.png | 赢胜 | L2 | 06广州市花都区卷二 | 10 | 1 | 36 | false | false | false | ||
real/train/v0006/10_1_37.png | 长圣庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 37 | false | false | false | ||
real/train/v0006/10_1_38.png | 矮岭墩 | L2 | 06广州市花都区卷二 | 10 | 1 | 38 | false | false | false | ||
real/train/v0006/10_1_39.png | 上屋庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 39 | false | false | false | ||
real/train/v0006/10_1_40.png | 大树林庄 | L2 | 06广州市花都区卷二 | 10 | 1 | 40 | false | false | false |
GD-RareName:广东地名生僻字行识别数据集
《全粤村情》(广东省自然村落普查资料,约 300 卷)目录页上切下来的 12.2 万行村名行图,加 7.3 万张合成行图。 重点是广东地名里的生僻字:不在主流 OCR 字典里的字,和字典里有、模型却总读成形近常用字的字。
GD-RareName is a line-level OCR dataset built from the table-of-contents pages of Quan Yue Cun Qing (a ~300-volume survey of Guangdong's natural villages). It targets rare characters in Guangdong place names: characters missing from common OCR dictionaries, and characters that are in the dictionary but are consistently misread as a similar common character.
发布方 / Released by:Eric Tseng(Hugging Face:Sandman4058,GitHub:Eric-0921)
为什么需要它
广东的村名里大量使用方言地名用字:垌、埇、崀、塱、榃、輋、坣、㙟……以及扩展区的 𡌶、𪢼、𱗚。 我们用 6 个开源 OCR / 文档解析模型读了全部 5,317 行"问题行"(标签里含这类字的行),结果:
| 模型 | 全部(5,317) | 人工核对行(2,399) | 含字典外字(681) | 只含字典内难认字(4,636) |
|---|---|---|---|---|
| PP-OCRv5 server(识别头) | 20.2% | 9.7% | 0% | 23.1% |
| PP-OCRv6 medium(识别头) | 39.9% | 30.1% | 0% | 45.8% |
| PaddleOCR-VL-1.6 | 68.1% | 60.1% | 23.1% | 74.7% |
| OXR-1.0 | 58.3% | 50.9% | 7.5% | 65.7% |
| Unlimited-OCR-2 | 54.4% | 47.0% | 6.6% | 61.4% |
| HPD-Parsing | 20.6% | 19.1% | 6.6% | 22.7% |
(整行全对率,比较前去掉空白;VLM 输出先去掉 Markdown 和多余的说明文字,清洗规则见 evaluate.py。这 6 个模型都没有用本数据集训练过,所以这张表用了全部 5,317 行,包括来自训练卷的 3,021 行。评测用本数据集训练过的模型时只能用验证卷和测试卷的行,见下面"评测"一节。)
我们在 PP-OCRv6 medium 上扩字典,用 real/train 加 synthetic/train 微调,然后在测试卷上只评了一次:
| 模型 | 测试卷生僻字行(1,070) | 其中含字典外字(146) | 测试卷随机普通行(2,000) |
|---|---|---|---|
| PP-OCRv6 medium 原模型 | 34.2% | 0% | 97.3% |
| 微调后 | 98.9% | 99.3% | 98.4% |
| 微调后,再混入 2,431 个地名低频常用字的合成图(这批图不在本数据集里) | 99.3% | 100% | 99.6% |
注意上表的 34.2% 是测试卷 1,070 行,前一张表的 39.9% 是全部 5,317 行,两者口径不同。
- 扩展 B 区及以后的字(𡌶 𪢼 𱗚 𡰪 𪜐 𱎅 𱳪 𣿀 𬜯 …),上表所有模型的读对率都是 0。
- PP-OCRv5 / v6 的字典里没有垅、礤(都在 GB2312 里)、垇、岃、乪等字,永远输出不了;v6 比 v5 多的 360 个字符全是拉丁字母,没有新增汉字。
- 字典里有的字也常被读错,而且错法稳定:埇 → 埔,崀 → 岗/崑/岚,塱 → 望,榃 → 替,坣 → 坐/堂。
数据
| 部分 | 行数 | 说明 |
|---|---|---|
real / train |
60,501 | 真实行图,按卷划分 |
real / validation |
29,351 | 真实行图 |
real / test |
32,568 | 真实行图 |
synthetic / train |
72,739 | 合成行图,只用于训练 |
benchmark/rare_lines.jsonl |
5,317 | "问题行":标签含字典外字(681 行)或字典内难认字(4,636 行),其中 2,399 行人工逐字核对。按卷分:训练卷 3,021 行、验证卷 1,226 行、测试卷 1,070 行,split 字段标明 |
benchmark/random_{val,test}.jsonl |
2,000 × 2 | 固定种子随机抽的普通行,作对照 |
charlist.csv 列出 261 个目标字:码位、Unicode 区块、是否 GB2312、是否在 PP-OCRv5/v6 字典、在民政部地名库和本书目录里的出现次数。
分类 A 为字典外(184 字),B 为字典内但难认(77 字)。
图片直接存在 parquet 里(19.5 万张小图超过了 Hugging Face 建议的单仓库文件数)。real 每行的列:image、file、text、label_source、volume、page、column、line、rare_chars、has_oov、has_hard、in_benchmark;synthetic 是 image、file、text、render(渲染参数,JSON 字符串)。
file 是图片在发布目录里的相对路径,benchmark/*.jsonl 用它指向图片。
from datasets import load_dataset
real = load_dataset("Sandman4058/GD-RareName", "real") # train / validation / test
synth = load_dataset("Sandman4058/GD-RareName", "synthetic", split="train")
要用 PaddleOCR 训练,用 to_paddleocr.py 导出成图片文件和 路径<TAB>文字 的标签文件:
pip install datasets
python to_paddleocr.py --out ./gd_rarename
标签从哪来
human:人工在复核页面上对着原图逐行核对(3,849 行)。一行一人,没有做双人一致性检查。L1:读法与民政部地名库或高德地图同镇名单里的名字一致,并在行图上逐字打分吻合。L2:PP-StructureV3 的 OCR 与我们自训的单字分类器两路读法一致(约九成五的行)。没有人工核对,可能两路一起错。L3:数字、括号小字等规则判定。
划分
按卷切分:sha1(卷名) % 4,0 为 test,1 为 val,其余 train。同一卷的行只出现在一个划分里。
合成数据的名字来自民政部地名库和 train 卷的标签,不含 val/test 卷的名字。
合成数据
用开源字体把含 261 个目标字的广东地名渲染成行图:Noto Serif/Sans CJK(OFL)、Fandol(GPL)、文泉驿(GPL)、BabelStone Han、花园明朝、台湾教育部宋体楷体、文鼎。 主字体缺字时逐字回退到覆盖扩展区的字体,并按字身框对齐大小和基线;整行做旋转、笔画粗细、降分辨率、运动模糊、纸底、二值化抖动、噪声、JPEG 等退化。 每个目标字至少 200 张。PP-OCRv6 读其中不含生僻字的普通地名合成图,读对率 99.3%。
已知局限:主字体是粗体时,回退字体来的生僻字笔画偏细。
评测
先用 to_paddleocr.py 导出图片,用你的模型读 benchmark/rare_lines.jsonl 里列出的图,存成 file<TAB>读出的文字,然后运行下面的命令。
rare_lines.jsonl 里有 3,021 行来自训练卷。evaluate.py 默认只评验证卷和测试卷(--split val,test,2,296 行);调参看 --split val,最终成绩报 --split test。只有评没用本数据集训练过的模型时,才可以用 --split all。
python evaluate.py --bench benchmark/rare_lines.jsonl --pred pred.tsv --charlist charlist.csv --split test --out per_char.csv
屏幕上是整行全对率(全部 / 人工核对行 / 含字典外字 / 含字典内难认字)和字符错误率,per_char.csv 是每个目标字的读对率和最常见错读。
比较前去掉模型输出里的空格和 markdown 符号,半角括号统一成全角。整行全对才算对;按字统计时逐字对齐(difflib)。
各模型的调用方式(单行图、各自官方的文字识别提示词):
| 模型 | 输入 | 提示词 / 方式 |
|---|---|---|
| PP-OCRv5 server / PP-OCRv6 medium | 行图 | 只跑识别头(PaddleOCR 3.7 TextRecognition) |
| PaddleOCR-VL-1.6 | 行图 | OCR:(vLLM) |
| HPD-Parsing | 行图 | document parsing with fork.(官方 Transformers 参考实现 generate_hpd) |
| Unlimited-OCR-2 | 行图 | 默认 Multi page parsing.,crop_mode=False(Transformers) |
| OXR-1.0 | 行图 | Recognize the content of the image.(vLLM + 官方插件) |
生成式文档解析模型的主场是整页,这里只测了单行输入。
版权与授权
- 行图来自《全粤村情》目录页,经项目方同意公开。原书版权归原权利人所有;这里只发布目录页的单行切图及其文字标注,供 OCR 研究和评测使用,按 CC BY-NC 4.0 授权,不得商用。如果您是权利人并对发布有异议,请在本页的 Community 里留言,我们会及时处理。
- 地名用字统计来自民政部国家地名信息库的公开数据。
- 合成图所用字体均为开源授权。
引用
@misc{gd_rarename_2026,
title = {GD-RareName: Guangdong Place-Name Rare Character Line OCR Dataset},
author = {Tseng, Eric},
year = {2026},
url = {https://huggingface.co/datasets/Sandman4058/GD-RareName}
}
- Downloads last month
- 120