STEM / docs /STEM_experiment_plan.md
eduzrh
Add comprehensive experiment execution plan
69a6294
|
Raw
History Blame Contribute Delete
4.49 kB

STEM: Spatio-Temporal 3D Entity Matching — 完整实验执行计划

状态: 执行中 | 更新: 2026-07-08 | 仓库: https://huggingface.co/datasets/eduzrh/STEM


1. 已完成的工作

1.1 数据集

数据集 格式 建筑数 时期 CRS
Hague (Source A+B) CityJSON LOD1.2 15,545×2 单一时期 EPSG:7415
Lyon 2009 CityGML 1.0 LOD2 2,348 2009 EPSG:3946
Lyon 2012 CityGML 1.0 LOD2 2,281 2012 EPSG:3946
Lyon 2015 CityGML 2.0 LOD2 7,693 2015 EPSG:3946

1.2 跨时间标签

时期对 时间跨度 总配对
2009→2012 3年 2,209 2,168 29 12
2009→2015 6年 1,236 448 170 618
2012→2015 3年 1,238 461 164 613

构建方法: scipy.spatial.KDTree (DIST_THRESHOLD=10m), 置信度分层: high(dist<3m & 0.5<area_ratio<2.0), medium(dist<7m & 0.3<area_ratio<3.0), low(dist<10m)

1.3 已完成实验

实验 A: Hague 同时期基准 XGBoost F1=0.998, RF F1=0.998, AdaBoost F1=0.995, MLP F1=0.968 对齐后: 平均距离 2.1m, Recall@10m=0.997

实验 B-D: 跨时间匹配

实验 时期对 跨度 格式变化 对数 XGBoost F1 对齐距离
B 2009→2012 3年 2,196 0.990 3.9m
C 2009→2015 6年 615 0.950 4.3m
D 2012→2015 3年 623 0.944 4.3m

1.4 已推送至 HuggingFace

  • docs/ — 基准规范文档
  • code/3dSAGER/ — 完整代码 (含 Lyon 适配)
  • code/preprocessing/ — Lyon GML 解析脚本
  • data/lyon/labels/ — 全部跨时间标签
  • experiments/results/ — 所有 CSV + 日志 + README

2. 待执行实验

Phase 1: Few-Shot 学习实验 ⭐ 最高优先级

目标: 测试极少标注样本下的跨时间匹配

数据集: Lyon_CT (2009→2012, 2,196 对)

实验 K 说明
FS-5 5 极少数
FS-10 10 少量
FS-20 20 中等少量
FS-50 50 中等
FS-Full 647 全量对照

实现: 直接限制 dataset_dict['train'] 训练样本数,每 K 跑 5 种子取平均。模型: XGBoost + RandomForest。

预期: K=5: F1≈0.85-0.90, K=10: F1≈0.90-0.93, K=20: F1≈0.93-0.96, K=50: F1≈0.96-0.98

Phase 2: 扩大跨时间数据集

纳入 low 置信度配对,扩大 2009→2015 (618→1,236) 和 2012→2015 (625→1,238) 数据集,重跑实验。

Phase 3: Blocking 评估

对三个跨时间数据集跑 --evaluation_mode blocking,评估 BKAFI recall@k。

Phase 4: 零样本跨 Epoch 迁移

实验 训练集 测试集
ZS-1 2009→2012 2009→2015
ZS-2 2009→2012 2012→2015
ZS-3 2009→2015 2012→2015

Phase 5: Lyon 2018 数据获取

从 Grand Lyon 门户下载,解析 CityGML 2.0,构建新标签。

Phase 6: GPU 加速

重试 GPU 申请,跑更大规模实验 + ViT blocking。


3. 完整实验矩阵

# 名称 数据集 K 模型 指标
A Hague基准 Hague Full All F1
B CT-3yr 2009→2012 Full All F1
C CT-6yr 2009→2015 Full All F1
D CT-3yr-fmt 2012→2015 Full All F1
E-H FS-K{5,10,20,50} 2009→2012 K XGB,RF F1
I CT-6yr-all 2009→2015 Full All F1
J CT-3yr-all 2012→2015 Full All F1
K-M BK-{3yr,6yr,3yr-fmt} All CT Recall@k
N-P ZS-{1,2,3} Cross Full XGB,RF F1

4. 文件结构

STEM/
├── docs/
│   ├── STEM_benchmark_specification.md
│   └── STEM_experiment_plan.md
├── code/
│   ├── 3dSAGER/
│   └── preprocessing/
├── data/lyon/labels/
├── experiments/
│   ├── results/
│   └── scripts/
│       ├── run_fewshot.py
│       ├── run_blocking_eval.py
│       └── run_zeroshot.py

5. 执行顺序

Phase 1: Few-Shot 实验 → 推送
Phase 2: 扩大CT数据集 + 重跑 → 推送
Phase 3: Blocking 评估 → 推送
Phase 4: 零样本迁移 → 推送
Phase 5: GPU + Lyon 2018

6. HuggingFace 同步

每步完成后:

cd $STEM_REPO && git add -A && git commit -m "..." && git push origin main