docs/STEM_experiment_plan.md

# STEM: Spatio-Temporal 3D Entity Matching — 完整实验执行计划

> **状态**: 执行中 | **更新**: 2026-07-08 | **仓库**: https://huggingface.co/datasets/eduzrh/STEM

---

## 1. 已完成的工作

### 1.1 数据集

| 数据集 | 格式 | 建筑数 | 时期 | CRS |
|--------|------|--------|------|-----|
| Hague (Source A+B) | CityJSON LOD1.2 | 15,545×2 | 单一时期 | EPSG:7415 |
| Lyon 2009 | CityGML 1.0 LOD2 | 2,348 | 2009 | EPSG:3946 |
| Lyon 2012 | CityGML 1.0 LOD2 | 2,281 | 2012 | EPSG:3946 |
| Lyon 2015 | CityGML 2.0 LOD2 | 7,693 | 2015 | EPSG:3946 |

### 1.2 跨时间标签

| 时期对 | 时间跨度 | 总配对 | 高 | 中 | 低 |
|--------|----------|--------|-----|-----|-----|
| 2009→2012 | 3年 | 2,209 | 2,168 | 29 | 12 |
| 2009→2015 | 6年 | 1,236 | 448 | 170 | 618 |
| 2012→2015 | 3年 | 1,238 | 461 | 164 | 613 |

构建方法: scipy.spatial.KDTree (DIST_THRESHOLD=10m), 置信度分层: high(dist<3m & 0.5<area_ratio<2.0), medium(dist<7m & 0.3<area_ratio<3.0), low(dist<10m)

### 1.3 已完成实验

**实验 A: Hague 同时期基准**
XGBoost F1=0.998, RF F1=0.998, AdaBoost F1=0.995, MLP F1=0.968
对齐后: 平均距离 2.1m, Recall@10m=0.997

**实验 B-D: 跨时间匹配**

| 实验 | 时期对 | 跨度 | 格式变化 | 对数 | XGBoost F1 | 对齐距离 |
|------|--------|------|----------|------|-----------|---------|
| B | 2009→2012 | 3年 | 无 | 2,196 | 0.990 | 3.9m |
| C | 2009→2015 | 6年 | 有 | 615 | 0.950 | 4.3m |
| D | 2012→2015 | 3年 | 有 | 623 | 0.944 | 4.3m |

### 1.4 已推送至 HuggingFace

- [x] `docs/` — 基准规范文档
- [x] `code/3dSAGER/` — 完整代码 (含 Lyon 适配)
- [x] `code/preprocessing/` — Lyon GML 解析脚本
- [x] `data/lyon/labels/` — 全部跨时间标签
- [x] `experiments/results/` — 所有 CSV + 日志 + README

## 2. 待执行实验

### Phase 1: Few-Shot 学习实验 ⭐ 最高优先级

**目标**: 测试极少标注样本下的跨时间匹配

**数据集**: Lyon_CT (2009→2012, 2,196 对)

| 实验 | K | 说明 |
|------|---|------|
| FS-5 | 5 | 极少数 |
| FS-10 | 10 | 少量 |
| FS-20 | 20 | 中等少量 |
| FS-50 | 50 | 中等 |
| FS-Full | 647 | 全量对照 |

**实现**: 直接限制 `dataset_dict['train']` 训练样本数，每 K 跑 5 种子取平均。模型: XGBoost + RandomForest。

**预期**: K=5: F1≈0.85-0.90, K=10: F1≈0.90-0.93, K=20: F1≈0.93-0.96, K=50: F1≈0.96-0.98

### Phase 2: 扩大跨时间数据集

纳入 low 置信度配对，扩大 2009→2015 (618→1,236) 和 2012→2015 (625→1,238) 数据集，重跑实验。

### Phase 3: Blocking 评估

对三个跨时间数据集跑 `--evaluation_mode blocking`，评估 BKAFI recall@k。

### Phase 4: 零样本跨 Epoch 迁移

| 实验 | 训练集 | 测试集 |
|------|--------|--------|
| ZS-1 | 2009→2012 | 2009→2015 |
| ZS-2 | 2009→2012 | 2012→2015 |
| ZS-3 | 2009→2015 | 2012→2015 |

### Phase 5: Lyon 2018 数据获取

从 Grand Lyon 门户下载，解析 CityGML 2.0，构建新标签。

### Phase 6: GPU 加速

重试 GPU 申请，跑更大规模实验 + ViT blocking。

---

## 3. 完整实验矩阵

| # | 名称 | 数据集 | K | 模型 | 指标 |
|---|------|--------|---|------|------|
| A | Hague基准 | Hague | Full | All | F1 |
| B | CT-3yr | 2009→2012 | Full | All | F1 |
| C | CT-6yr | 2009→2015 | Full | All | F1 |
| D | CT-3yr-fmt | 2012→2015 | Full | All | F1 |
| E-H | FS-K{5,10,20,50} | 2009→2012 | K | XGB,RF | F1 |
| I | CT-6yr-all | 2009→2015 | Full | All | F1 |
| J | CT-3yr-all | 2012→2015 | Full | All | F1 |
| K-M | BK-{3yr,6yr,3yr-fmt} | All CT | — | — | Recall@k |
| N-P | ZS-{1,2,3} | Cross | Full | XGB,RF | F1 |

---

## 4. 文件结构

```
STEM/
├── docs/
│   ├── STEM_benchmark_specification.md
│   └── STEM_experiment_plan.md
├── code/
│   ├── 3dSAGER/
│   └── preprocessing/
├── data/lyon/labels/
├── experiments/
│   ├── results/
│   └── scripts/
│       ├── run_fewshot.py
│       ├── run_blocking_eval.py
│       └── run_zeroshot.py
```

---

## 5. 执行顺序

```
Phase 1: Few-Shot 实验 → 推送
Phase 2: 扩大CT数据集 + 重跑 → 推送
Phase 3: Blocking 评估 → 推送
Phase 4: 零样本迁移 → 推送
Phase 5: GPU + Lyon 2018
```

---

## 6. HuggingFace 同步

每步完成后:
```bash
cd $STEM_REPO && git add -A && git commit -m "..." && git push origin main
```