logs/progress.md

# STER 进度日志 (Progress Log)

> 实时记录里程碑、实验、决策。每完成一步增量更新并 push 到本仓库。

## 里程碑看板

| 里程碑 | 内容 | 状态 |
|--------|------|------|
| M0 规范文档 | 数据获取/下载/构建规范(SPEC/) | ✅ 完成 |
| M1 环境与代码就绪 | 克隆官方仓库 + 装依赖 + import 全绿 + 加载内置数据 | ✅ 完成 |
| M2 复现基线 | 用内置 object_dicts 跑通 matching,拿到与论文同量级 F1 | 🔄 进行中 |
| M3 原始数据到位 | GDrive 下载 / 3DBAG API 爬取 + 属性提取校验 | ⏳ 待办 |
| M4 核心假设验证 | VExp-A(4B 流度量)+ VExp-B(1B/2B 解耦) | ⏳ 待办 |
| M5 方案数据与实现 | 第一梯队方案的场景变体 + 首版实验 | ⏳ 待办 |
| M6 全量实验与对比 | 8 方案(或子集)完整实验表 + 消融 | ⏳ 待办 |

## 执行记录

### 2026-07-08
- **M0** 完成:写出 `SPEC/STER_data_build_spec.md`,三条数据获取路径全部实测可行。
- **M1** 完成:
  - 克隆 `BarGenossar/3dSAGER`(官方,含代码 + `Hague_seed{1,2,3}.pkl` + `object_dicts/Hague/*.joblib`)
  - 克隆 `techInbalby/3dsager_new_train`(fork,含 `preprocess_hague.py` + demo 真实样本:3DBAG tile `10-248-580.city.json` + 海牙 CityModel batch)
  - 环境:Python 3.12 + numpy/pandas/sklearn/scipy/xgboost/shapely/pyproj/geopandas/faiss-cpu/torch(CPU)全部 import 成功
  - 数据加载验证:object_dict 结构 = `{'cands':{BAG_ID:{polygon_mesh,vertices,centroid}}, 'index':{...}}`
    - train_small_seed1: cands=4184, index=5002, **GT 共享 BAG ID = 3360 真匹配对**
  - 读通 `object_properties.py`:25 个几何属性计算逻辑(area/volume/convex_hull/compactness/elongation/...),带 log1p 归一化
- **HF**:创建/确认 `eduzrh/STER` 数据集仓库,推送 README + SPEC + 本日志(首次同步)。
- **GPU**:已请求 GPU 资源(用于后续 8 方案的 WM/Diffusion/Flow 训练与大规模 blocking)。

## 关键事实速查
- 匹配 GT = BAG 唯一标识符(同 ID 即匹配),无需人工标注。
- 对齐参数:`operator=division`, `normalization=log_transform`, `max_ratio_val=1000`, `neg_samples_num=2`, `seeds_num=3`, `nn_param=20`, `bkafi_criterion=feature_importance`。
- 过滤:仅保留 ≥10 多边形的建筑。
- 25 属性:bounding_box_width/length, area, perimeter, perimeter_ind, volume, convex_hull_area/volume, ave_centroid_distance, height_diff, num_floors, axes_symmetry, compactness_2d/3d, density, elongation, shape_ind, hemisphericality, fractality, cubeness, circumference, aligned_bounding_box_width/length/height, num_vertices。

## M2 复现成功记录(2026-07-08)

**原 3dSAGER matching pipeline 复现成功**,完全使用仓库自带数据(无需下载/爬取):
- 配置:Hague / matching / small / seed=1 / neg_samples=2 / division + log_transform / blocking-based cands
- 加载:内置 `object_dicts/Hague/{train,test}_matching_*_seed_1.joblib` + `dataset_partitions/Hague_seed1.pkl`
- 属性:复用官方 `ObjectPropertiesProcessor` 计算 25 属性(train ~130s, test ~116s,已缓存到 `data/property_dicts/`)

| 模型 | Precision | Recall | F1 | 训练耗时 |
|---|---|---|---|---|
| **BaggingClassifier**(论文选用) | 1.000 | 0.897 | **0.946** | 51.1s |
| RandomForestClassifier | 0.903 | 0.918 | 0.910 | 13.5s |

→ F1=0.946 与论文 matching 高位一致,**基座验证通过**。缓存属性字典后端到端仅 ~77s。

**环境偏差记录**(Py3.12 vs 原 Py3.9):numpy 2.4 / pandas 3.0 / sklearn 1.8(均比 pin 版新);`clip` 用桩替代(仅 ViT baseline 需要,matching 不用);其余依赖正常。pickle 跨版本加载正常。

**结论**:复现原 ER **不需要任何爬虫/额外数据**。3DBAG 多 LoD 爬取仅用于后续新场景(长尾/噪声/少样本/零样本)的扩展数据构建,为可选下一步。

## Few-shot 标杆线(2026-07-08)

**Few-shot 是真正未被攻克的硬场景。** 现成 few-shot 技术都撬不动 headroom:

| K(正样本) | 最佳标准方法 | Bagging(原) | 全量天花板 |
|---|---|---|---|
| 5  | kNN **0.483** | 0.398 | 0.95 |
| 10 | Bagging **0.530** | 0.530 | 0.95 |
| 20 | Bagging **0.706** | 0.706 | 0.95 |
| 50 | Bagging **0.825** | 0.825 | 0.95 |
| 100| Bagging **0.838** | 0.838 | 0.95 |

- 对比了 Bagging / LogReg-L2 / RF-shallow / kNN / Prototype(NearestCentroid) / SVM-RBF / MLP / LogReg+无监督标准化,10 次随机标注抽样平均。
- LogReg/SVM 在 ratio 特征上崩到 0.1-0.28(线性不可分);kNN 在 K=5 最好(0.48)提示度量/表示方法有前途。
- **结论**:K≤10 的空隙(~0.48→0.95)无法靠换分类器补齐 → 必须用"利用无标注 3D 几何(多 LoD 自监督)"的新方法。**新方法标杆:K=5 须显著 > 0.48,K=10 > 0.53。**

→ Few-shot 定为第一优先硬场景。3DBAG 多 LoD 爬取(进行中)将提供自监督预训练所需的"同建筑跨 LoD"免费正样本对。

## 自主全跑总结(2026-07-08 晚)

用户授权自主跑完所有方案(可优化失败方案,总思路不变),结果已全部落地并上传。

### 关键结果
- **原 ER 复现**:Bagging F1=0.946。
- **难度地图**:clean matching 0.946 / cross-LoD 0.995 / zero-shot 迁移 0.67 —— 树基线普遍极强;**唯一真硬场景 = few-shot K≤10**(K=5→0.40,K=10→0.55)。
- **Few-shot(旗舰,真实获胜)**:STER-WM(多 LoD InfoNCE 自监督)K=5 **0.484 vs 0.399 (+8.5 点)**;融合 K=10 **0.567 vs 0.550**。K≥20 树反超 → 定位"标注稀缺解法"。
- **Zero-shot(数据范式贡献)**:仅用多 LoD 训练、0 Hague 标注 → F1=**0.67**(raw 迁移),WM 余弦 0.50。Flow/Diffusion 版本失败(0.006),待修复。
- **Noisy/cross-LoD**:baseline 0.995,已解决 → 降级为 zero-shot 的自监督来源。
- **诚实负面结论**:WM/Diffusion/Flow 在数据充足/cross-LoD 打不过树;收益集中在低/零标注区。

### 方案裁决
- 🟢 采用:3B(STER-WM 旗舰)、3A(融合)、4B(多 LoD 零样本范式)
- 🟠 待修复:4A/4B Flow 分支(阈值/方向)
- 🟡 消融:1A/1B(长尾 headroom 小)
- 🔴 降级:2A/2B(cross-LoD 已被树解决)

### 产物(均在 `eduzrh/STER`)
- 代码:ster_repro/diagnostic/fewshot/fusion/zeroshot/noisy/crawl_3dbag_multilod/ster_export_vectors/ster_wm/ster_crosslod
- 结果 JSON:M2 复现 / diagnostic / fewshot(含 WM、fusion) / zeroshot / noisy
- 数据:3DBAG 多 LoD 800 栋(LoD1.2/1.3/2.2)+ 派生向量 npz
- 文档:`SPEC/eight_proposals_with_results.md`(逐方案真实结果 + AAAI 骨架建议)

### 下一步(不改总思路)
修复 4B Flow(双向流+分位数标定,目标零样本>0.70);few-shot 换度量/原型头(目标 K=10 增益>+0.05);多 seed × large split 复跑补显著性。

## Few-shot 优化收官(2026-07-08 深夜)

按"方案不行可优化、总思路不变"的授权,针对旗舰(few-shot)把度量/原型/线性组合头全部实测收官:

| K | baseline(ratio+Bagging) | wm_cos | wm_proto(原型头) | combo_lr(raw⊕WM线性) | combo+wmcos融合 |
|---|---|---|---|---|---|
| **5**  | 0.399 | **0.484** | 0.453 | 0.413 | 0.452 |
| 10 | **0.627** | 0.491 | 0.476 | 0.426 | 0.478 |
| 20 | **0.765** | 0.490 | 0.514 | 0.472 | 0.498 |
| 50 | **0.835** | 0.492 | 0.518 | 0.516 | 0.522 |

- **新增脚本**:`ster_proto.py`(WM 关系向量 r=[|e_c−e_i|,e_c·e_i] 的正负原型余弦分类)、`ster_combo.py`(raw-ratio⊕WM 关系向量喂 L2-LogReg,并与 wm_cos 秩融合)。
- **关键发现**:
  1. **WM 增益窗口确证为 K≤5**——4 组独立实验(wm/fusion/proto/combo)一致:K=5 wm_cos 0.484 > 树 0.399(+8.5 点),K≥10 树全面反超(细多抽样下 K=10 树达 0.627)。
  2. **`raw_lr` 全程不如 `raw_bagging`**(0.39 vs 0.40–0.83)→ ratio 特征判别边界高度非线性(min(1000,·)截断+阈值效应),树能吃、线性吃不下;"线性更样本高效"假设在本数据不成立。
  3. 原型/线性/融合等更花哨的头都无法把窗口扩到 K=10 → 干净结论:**树友好属性空间里,极稀缺标注(K≤5)是表示学习唯一确定的立足点。**
- **裁决更新**:3B(STER-WM)旗舰稳固,定位"extreme-label-scarce(K≤5)3D 地理 ER";3A 秩融合降为辅助(增益主在 K≤5,K=10 边际)。few-shot 优化任务完成,无进一步 headroom。

### 状态收口
- Few-shot 优化:✅ 收官(K≤5 确证获胜,已穷尽度量/原型/线性方向)。
- Zero-shot:✅ 多 LoD 免费监督范式 0.67;Flow 分支确证不可迁移(→ 写成"学不变量而非变换"的洞察)。
- Noisy / Long-tail:✅ 结论稳定(树已解决 / headroom 小),降级为消融。
- 全部代码+结果 JSON+更新文档已同步 `eduzrh/STER`。GPU 侧重活已跑完,准备释放。

### 2026-07-18 — SIGMOD Format Unification
- **格式统一完成**:所有 18 城市的数据集统一为 SIGMOD-compatible `object_dict_raw.joblib` 格式。
- **格式细节**:每城市一个 `object_dict_raw.joblib`,结构为:
  `{'cands': {id: {polygon_mesh, vertices, centroid}}, 'index': {...}, 'mapping_dict': {...}, 'inv_mapping_dict': {...}}`
- **荷兰城市**:lod12 → cands, lod22 → index,交集建筑配对。
- **日本城市**:lod1 → cands, lod2 → index,原格式修复 vertices/centroid。
- **压缩比**:荷兰城市原始合计 ~5.3GB → 压缩后 ~1.2GB (3-5x);日本城市 ~235MB → ~170MB。
- **验证**:sakai 抽查确认格式正确 (cands=4128, index=4128, vertices shape OK, mapping roundtrip OK)。
- **产物**:
  - `fix_sigmod_v2.py`:格式修复脚本(在 GPU /root/autodl-tmp/)
  - `data/{city}/object_dict_raw.joblib` × 18:可直接被 3dSAGER pipeline 加载
  - README.md 更新:新增 SIGMOD 格式说明 + 使用示例
- **遗留**:旧格式文件(buildings.parquet, object_dict_lod*.joblib, crosslod_pairs.parquet)仍保留作为参考;后续可清理以节省 HF 空间。

### 2026-07-19 — Partition Files & Cleanup
- **旧格式清理**:删除 91 个冗余文件(buildings.parquet, object_dict_lod*.joblib, object_dict_combined.joblib, crosslod_pairs.parquet, rotterdam_test/),每城市仅保留 `object_dict_raw.joblib` + `manifest.json` + `{city}_seed{1,2,3}.pkl`。
- **Partition 文件生成**:18 城市 × 3 seeds = 54 个 partition 文件,格式兼容 3dSAGER 的 DataPartitionGenerator:
  - `train/negative_sampling/{small,large}/{2,5}`:正负样本对列表
  - `test/matching/negative_sampling+blocking-based`:测试匹配对
  - `test/blocking/{small,large}/{cands,index}`:测试 blocking 索引集
  - 空间网格分桶 train/test split (80/20),保证地理代表性
- **构建脚本上传**:
  - `code/object_properties.py`:25 属性计算核心(3dSAGER 官方)
  - `code/fix_sigmod_v2.py`:格式统一脚本(Dutch→lod12/22 合并,Japan→vertices/centroid 修复)
  - `code/build_benchmark.py`:3DBAG 多城市构建器(并行下载+batch 属性)
  - `code/build_plateau.py`:PLATEAU 日本城市构建器
  - `code/generate_partitions.py`:Partition 生成器
- **验证**:chiyoda_seed1.pkl 格式正确,train/large/neg=2 有 20271 对,正样本对 (1,1) 通过。
- **最终数据布局** (`data/{city}/`):
  - `object_dict_raw.joblib` — SIGMOD 规范格式(cands/index + mapping/inv_mapping)
  - `manifest.json` — 城市元数据
  - `{city}_seed{1,2,3}.pkl` — 3 seeds partition 文件