CASID / verification_report.md
Linwei-Chen's picture
remove internal server paths from verification report (privacy audit)
b0a8d99 verified
|
Raw History Blame Contribute Delete
8.33 kB
# CASID 发布验证报告
完成时间:2026-10-15 · 范围:全部 980 对原图-标注 · 所有脚本与原始报告可复现(见文末)
## 一、结论(TL;DR)
- **数据完整性**:980 对原图-标注齐全,无一缺失。978 张原图为 5000×5000,2 张(新加坡-林厝港区-36/-40)为 5000×4656,全部可完整解码(原图 65.19 GB,标注 0.66 GB)。
- **标注编码**:原始大标注为 RGB 颜色编码(非 id 图)。5 个规范色的像素与作者自己的 1024×1024 训练图块**逐像素 0 错配**(全 980 张通过硬门槛)。
- **发现并修复了原始训练图块的切图 bug**:77 张图(亚热带/热带季风为主)的森林颜色为 (76,230,0) 而非规范绿 (85,255,0),作者切图按规范色精确匹配、失败默认背景,导致这些文件的训练图块丢失成片森林(共 6.24 亿像素)。本发布以大标注为准恢复其类别;**修复后逐气候区类别占比与论文公布数字完全对齐**(未受影响区域差 ±0.0005)。
- **裁切脚本**:与作者现成图块 150/150 逐像素一致(含 4656 高短图的末行裁齐)。
## 二、源数据普查
| 气候带 | 区域数 | 图像数 | 论文 cat_dist.py total_list |
|---|---|---|---|
| 热带雨林气候 TroRf | 10 | 210 | 210 ✓ |
| 热带季风气候 TroMs | 6 | 202 | 202 ✓ |
| 亚热带季风气候 SubMs | 7 | 284 | 284 ✓ |
| 温带季风气候 TemMs | 7 | 284 | 284 ✓ |
- 训练/测试划分从 `all_train`/`all_test` 死链接符号链接目标重建:**按区域整体划分,681 train / 299 test**。
- 测试区域(8 个):07-日本-东京西南、16-湖南-邵阳市北、17-山西-吕梁市、18-河北-张家口市西北、04-菲律宾-拉瓦格周边、10-老挝-万象北部、06-印度尼西亚-帕朗卡拉亚北、12-马来西亚-斯里巴加湾南部。
- 原始文件名为中文且横线全角/半角混用;发布版全部改为 ASCII 文件名,完整映射见 `file_mapping.csv`,双语区域表见 `regions.csv`。
## 三、标注编码的确认过程
1. 大标注为 RGB 颜色编码,每个颜色由该图自带的 25 块训练图块(P 模式、像素值=类别 id)逐像素投票定类别;5×5 网格(起点 {0,994,1988,2982,3976},步距 994)100% 覆盖 5000×5000。
2. 规范 5 色(黑/黄/绿/红/蓝 → 背景/建筑/森林/道路/水体)在全部 980 张上与图块**逐像素 0 错配**。
3. 语义锚点:作者脚本 `cat_dist.py` 注释 `colors = ['black','yellow','green','red','blue']` 与 `['Background','Building','Forest','Road','Water']` 一一对应(黄=建筑、红=道路,反直觉但确凿)。
## 四、原始训练图块的切图 bug(重要发现)
**现象**:77 张图的大标注中森林颜色是 (76,230,0)(而非规范绿 (85,255,0)),另有 41 张的道路为 (230,0,0)、若干张的水体为蓝变体色。作者切训练图块时按规范色**精确匹配**,匹配失败的颜色一律落入背景——这些文件的训练图块中森林/道路/水体成片丢失。
**证据**(以亚热带季风气候/25-浙江-金华市西-5 为例,卫星影像目视确认为满幅山林):
- 该图大标注:森林 (76,230,0) 2442 万 px,另有黑/黄/红/蓝规范色;
- 训练图块 H0-W0:背景 104.3 万 px(99.5%)、道路 3748 px、水体 2177 px、**森林 0**;
- 道路 3748 / 水体 2177 与大标注**分毫不差**——同一标注来源,唯独漂移色被丢进背景。
**全局统计**(v4 图块投票报告):
- (76,230,0)→图块判"背景" 6.24 亿 px(77 文件,占 3 张整图以上面积的森林被当作背景参与训练);
- (230,0,0)→背景 952 万 px(41 文件);蓝变体 (0,79,179)/(5,121,239)/(0,113,255)→背景共约 7 万 px;
- 巨港-21 的白色 (255,255,255) 460 万 px:图块与大标注一致视为背景(nodata),非 bug。
**对本发布的影响**:发布标注以大标注为权威来源,上述像素全部恢复其类别(见下节规则);使用原始训练图块复现论文实验的用户应注意该 bug 对相应区域的影响。
## 五、发布标注转换规则(v5)
对每张图:先按 25 块训练图块拼出参考 id 图(要求 100% 覆盖、重叠带一致),再对大标注逐颜色映射:
| 优先级 | 规则 | 适用 |
|---|---|---|
| 1 | 规范 5 色 → 原 id | 全部规范色像素 |
| 2 | 白色 (255,255,255) → 0 背景 | 图块全票一致 + nodata 惯例 |
| 3 | 图块非零一致票(share≥0.999)→ 采信图块 | 如 (64,191,0)→道路(2800 px,切图 bug 只会产生背景票,非零票含真实信息) |
| 4 | 其余颜色 → RGB 欧氏距离最近的规范色 | 漂移色与 JPEG 尘埃色 |
**硬门槛**:规范色像素与图块 0 错配(违反即 FAIL)。结果:**980/980 通过,规范色错配总数 0**。
重映射总量:846,804,104 px(占数据集 3.46%)。主要条目:
| 颜色 | 判定 | 像素数 | 文件数 |
|---|---|---|---|
| (76,230,0) | 森林 | 624,009,265 | 77 |
| (3,3,3) | 背景 | 134,314,588 | 40 |
| (9,9,9) | 背景 | 35,450,438 | 2 |
| (230,0,0) | 道路 | 9,524,168 | 41 |
| (255,255,255) | 背景 | 4,595,542 | 3 |
| (5,6,5)/(5,5,5) 等近黑 | 背景 | ~27,000,000 | 若干 |
| (4,255,0)/(18,255,0) | 森林 | 2,932,309 | 2 |
| (64,191,0) | 道路(图块票) | 2,800 | 多文件零散 |
其余 ~1,900 种颜色均为几个像素的 JPEG 尘埃色,按最近规范色处理。
## 六、逐气候区类别占比 vs 论文公布数字
论文数字取自作者 `cat_dist.py`(源自训练图块,受第四节 bug 影响):
| 区 | bg | bld | forest | road | water | 论文 forest | Δforest |
|---|---|---|---|---|---|---|---|
| TroRf | 0.1098 | 0.0899 | 0.7627 | 0.0103 | 0.0273 | 0.7622 | +0.0005 |
| TroMs | 0.3466 | 0.0720 | 0.5310 | 0.0117 | 0.0387 | 0.4595 | **+0.0715** |
| SubMs | 0.2725 | 0.1264 | 0.5514 | 0.0177 | 0.0320 | 0.5144 | **+0.0370** |
| TemMs | 0.4017 | 0.1090 | 0.4546 | 0.0148 | 0.0199 | 0.4542 | +0.0004 |
无漂移区域差 ±0.0005(占比结构完全吻合);差异集中于漂移区域,且恰为救回的森林/道路——与第四节互为印证。
## 七、裁切脚本验证(casid_split.py)
默认参数(1024、步距 994)与作者图块逐像素比对,6 个样本(每气候区 1 张 + 新加坡 2 张短图):
| 样本 | 尺寸 | 图块 | 图像错配 | 标注错配 |
|---|---|---|---|---|
| 03-台湾-宜兰县以东0 | 5000×5000 | 25 | 0 | 0 |
| 17-山西-吕梁市22 | 5000×5000 | 25 | 0 | 0 |
| 04-菲律宾-拉瓦格周边0 | 5000×5000 | 25 | 0 | 0 |
| 02-马来西亚-吉隆坡17 | 5000×5000 | 25 | 0 | 0 |
| 新加坡-林厝港区-36 | 5000×4656 | 25 | 0 | 0 |
| 新加坡-林厝港区-40 | 5000×4656 | 25 | 0 | 0 |
短图处理:固定网格 {0,994,1988,2982,3976} 与作者惯例一致,末行起点 3976、高度裁齐 680。
## 八、源数据异常清单(本发布的处理)
| 异常 | 处理 |
|---|---|
| 新加坡-林厝港区-36/-40 为 5000×4656 | 原样发布,README 记录 |
| 台湾区 label/ 目录 35 张 P 模式 PNG(调色板 BGR 顺序、id 语义不明、与 TIF 不一致) | 不发布,以 TIF 为准 |
| 源目录含作者渲染的 1024 图块与 GID 风格预览图 | 不再重复发布,用 `scripts/casid_split.py` 重新生成 |
| 区域 id 缺 01;19-23 区目录名用全角横线;无编号雨林区 6 个 | regions.csv 全部记录(26-31 为发布补编) |
| 12 区国名(文莱/马来西亚)、22 区(朝鲜/首尔)表述矛盾 | regions.csv notes 备注 |
| 训练图块切图 bug(第四节) | 发布标注已恢复类别;此报告记录 |
## 九、复现方式
以下脚本在作者的内部服务器上运行(目录结构从略):
- `audit_casid.py`:全量体检(图像解码、尺寸、字节数、标注颜色分布)→ `audit_report.json`
- `convert_labels_v5.py`:标注转换(本报告第五节规则)→ `labels_unified_v5/` + `convert_report_v5.json`
- `validate_v5.py`:逐气候区占比 vs 论文 → `v5_zone_shares.json`
- `validate_split.py`:裁切逻辑逐像素比对
- `assemble_release.py`:组装发布树(硬链接原图)→ 发布树根目录
- `casid_split.py`:DOTA 风格裁切脚本(发布于 `scripts/`)