Datasets:

eduzrh
/

STER

里程碑	内容	状态
M0 规范文档	数据获取/下载/构建规范(SPEC/)	✅ 完成
M1 环境与代码就绪	克隆官方仓库 + 装依赖 + import 全绿 + 加载内置数据	✅ 完成
M2 复现基线	用内置 object_dicts 跑通 matching,拿到与论文同量级 F1	🔄 进行中
M3 原始数据到位	GDrive 下载 / 3DBAG API 爬取 + 属性提取校验	⏳ 待办
M4 核心假设验证	VExp-A(4B 流度量)+ VExp-B(1B/2B 解耦)	⏳ 待办
M5 方案数据与实现	第一梯队方案的场景变体 + 首版实验	⏳ 待办
M6 全量实验与对比	8 方案(或子集)完整实验表 + 消融	⏳ 待办

执行记录

2026-07-08

M0 完成:写出 SPEC/STER_data_build_spec.md,三条数据获取路径全部实测可行。
M1 完成:
- 克隆 BarGenossar/3dSAGER(官方,含代码 + Hague_seed{1,2,3}.pkl + object_dicts/Hague/*.joblib)
- 克隆 techInbalby/3dsager_new_train(fork,含 preprocess_hague.py + demo 真实样本:3DBAG tile 10-248-580.city.json + 海牙 CityModel batch)
- 环境:Python 3.12 + numpy/pandas/sklearn/scipy/xgboost/shapely/pyproj/geopandas/faiss-cpu/torch(CPU)全部 import 成功
- 数据加载验证:object_dict 结构 = {'cands':{BAG_ID:{polygon_mesh,vertices,centroid}}, 'index':{...}}
  - train_small_seed1: cands=4184, index=5002, GT 共享 BAG ID = 3360 真匹配对
- 读通 object_properties.py:25 个几何属性计算逻辑(area/volume/convex_hull/compactness/elongation/...),带 log1p 归一化
HF:创建/确认 eduzrh/STER 数据集仓库,推送 README + SPEC + 本日志(首次同步)。
GPU:已请求 GPU 资源(用于后续 8 方案的 WM/Diffusion/Flow 训练与大规模 blocking)。

关键事实速查

匹配 GT = BAG 唯一标识符(同 ID 即匹配),无需人工标注。
对齐参数:operator=division, normalization=log_transform, max_ratio_val=1000, neg_samples_num=2, seeds_num=3, nn_param=20, bkafi_criterion=feature_importance。
过滤:仅保留 ≥10 多边形的建筑。
25 属性:bounding_box_width/length, area, perimeter, perimeter_ind, volume, convex_hull_area/volume, ave_centroid_distance, height_diff, num_floors, axes_symmetry, compactness_2d/3d, density, elongation, shape_ind, hemisphericality, fractality, cubeness, circumference, aligned_bounding_box_width/length/height, num_vertices。

M2 复现成功记录(2026-07-08)

原 3dSAGER matching pipeline 复现成功,完全使用仓库自带数据(无需下载/爬取):

配置:Hague / matching / small / seed=1 / neg_samples=2 / division + log_transform / blocking-based cands
加载:内置 object_dicts/Hague/{train,test}_matching_*_seed_1.joblib + dataset_partitions/Hague_seed1.pkl
属性:复用官方 ObjectPropertiesProcessor 计算 25 属性(train ~130s, test ~116s,已缓存到 data/property_dicts/)

模型	Precision	Recall	F1	训练耗时
BaggingClassifier(论文选用)	1.000	0.897	0.946	51.1s
RandomForestClassifier	0.903	0.918	0.910	13.5s

→ F1=0.946 与论文 matching 高位一致,基座验证通过。缓存属性字典后端到端仅 ~77s。

环境偏差记录(Py3.12 vs 原 Py3.9):numpy 2.4 / pandas 3.0 / sklearn 1.8(均比 pin 版新);clip 用桩替代(仅 ViT baseline 需要,matching 不用);其余依赖正常。pickle 跨版本加载正常。

结论:复现原 ER 不需要任何爬虫/额外数据。3DBAG 多 LoD 爬取仅用于后续新场景(长尾/噪声/少样本/零样本)的扩展数据构建,为可选下一步。

Few-shot 标杆线(2026-07-08)

Few-shot 是真正未被攻克的硬场景。 现成 few-shot 技术都撬不动 headroom:

K(正样本)	最佳标准方法	Bagging(原)	全量天花板
5	kNN 0.483	0.398	0.95
10	Bagging 0.530	0.530	0.95
20	Bagging 0.706	0.706	0.95
50	Bagging 0.825	0.825	0.95
100	Bagging 0.838	0.838	0.95

对比了 Bagging / LogReg-L2 / RF-shallow / kNN / Prototype(NearestCentroid) / SVM-RBF / MLP / LogReg+无监督标准化,10 次随机标注抽样平均。
LogReg/SVM 在 ratio 特征上崩到 0.1-0.28(线性不可分);kNN 在 K=5 最好(0.48)提示度量/表示方法有前途。
结论:K≤10 的空隙(~0.48→0.95)无法靠换分类器补齐 → 必须用"利用无标注 3D 几何(多 LoD 自监督)"的新方法。新方法标杆:K=5 须显著 > 0.48,K=10 > 0.53。

→ Few-shot 定为第一优先硬场景。3DBAG 多 LoD 爬取(进行中)将提供自监督预训练所需的"同建筑跨 LoD"免费正样本对。

自主全跑总结(2026-07-08 晚)

用户授权自主跑完所有方案(可优化失败方案,总思路不变),结果已全部落地并上传。

关键结果

原 ER 复现:Bagging F1=0.946。
难度地图:clean matching 0.946 / cross-LoD 0.995 / zero-shot 迁移 0.67 —— 树基线普遍极强;唯一真硬场景 = few-shot K≤10(K=5→0.40,K=10→0.55)。
Few-shot(旗舰,真实获胜):STER-WM(多 LoD InfoNCE 自监督)K=5 0.484 vs 0.399 (+8.5 点);融合 K=10 0.567 vs 0.550。K≥20 树反超 → 定位"标注稀缺解法"。
Zero-shot(数据范式贡献):仅用多 LoD 训练、0 Hague 标注 → F1=0.67(raw 迁移),WM 余弦 0.50。Flow/Diffusion 版本失败(0.006),待修复。
Noisy/cross-LoD:baseline 0.995,已解决 → 降级为 zero-shot 的自监督来源。
诚实负面结论:WM/Diffusion/Flow 在数据充足/cross-LoD 打不过树;收益集中在低/零标注区。

方案裁决

🟢 采用:3B(STER-WM 旗舰)、3A(融合)、4B(多 LoD 零样本范式)
🟠 待修复:4A/4B Flow 分支(阈值/方向)
🟡 消融:1A/1B(长尾 headroom 小)
🔴 降级:2A/2B(cross-LoD 已被树解决)

产物(均在 `eduzrh/STER`)

代码:ster_repro/diagnostic/fewshot/fusion/zeroshot/noisy/crawl_3dbag_multilod/ster_export_vectors/ster_wm/ster_crosslod
结果 JSON:M2 复现 / diagnostic / fewshot(含 WM、fusion) / zeroshot / noisy
数据:3DBAG 多 LoD 800 栋(LoD1.2/1.3/2.2)+ 派生向量 npz
文档:SPEC/eight_proposals_with_results.md(逐方案真实结果 + AAAI 骨架建议)

下一步(不改总思路)

修复 4B Flow(双向流+分位数标定,目标零样本>0.70);few-shot 换度量/原型头(目标 K=10 增益>+0.05);多 seed × large split 复跑补显著性。

Few-shot 优化收官(2026-07-08 深夜)

按"方案不行可优化、总思路不变"的授权,针对旗舰(few-shot)把度量/原型/线性组合头全部实测收官:

K	baseline(ratio+Bagging)	wm_cos	wm_proto(原型头)	combo_lr(raw⊕WM线性)	combo+wmcos融合
5	0.399	0.484	0.453	0.413	0.452
10	0.627	0.491	0.476	0.426	0.478
20	0.765	0.490	0.514	0.472	0.498
50	0.835	0.492	0.518	0.516	0.522

新增脚本:ster_proto.py(WM 关系向量 r=[|e_c−e_i|,e_c·e_i] 的正负原型余弦分类)、ster_combo.py(raw-ratio⊕WM 关系向量喂 L2-LogReg,并与 wm_cos 秩融合)。
关键发现:
1. WM 增益窗口确证为 K≤5——4 组独立实验(wm/fusion/proto/combo)一致:K=5 wm_cos 0.484 > 树 0.399(+8.5 点),K≥10 树全面反超(细多抽样下 K=10 树达 0.627)。
2. raw_lr 全程不如 raw_bagging(0.39 vs 0.40–0.83)→ ratio 特征判别边界高度非线性(min(1000,·)截断+阈值效应),树能吃、线性吃不下;"线性更样本高效"假设在本数据不成立。
3. 原型/线性/融合等更花哨的头都无法把窗口扩到 K=10 → 干净结论:树友好属性空间里,极稀缺标注(K≤5)是表示学习唯一确定的立足点。
裁决更新:3B(STER-WM)旗舰稳固,定位"extreme-label-scarce(K≤5)3D 地理 ER";3A 秩融合降为辅助(增益主在 K≤5,K=10 边际)。few-shot 优化任务完成,无进一步 headroom。

状态收口

Few-shot 优化:✅ 收官(K≤5 确证获胜,已穷尽度量/原型/线性方向)。
Zero-shot:✅ 多 LoD 免费监督范式 0.67;Flow 分支确证不可迁移(→ 写成"学不变量而非变换"的洞察)。
Noisy / Long-tail:✅ 结论稳定(树已解决 / headroom 小),降级为消融。
全部代码+结果 JSON+更新文档已同步 eduzrh/STER。GPU 侧重活已跑完,准备释放。

2026-07-18 — SIGMOD Format Unification

格式统一完成:所有 18 城市的数据集统一为 SIGMOD-compatible object_dict_raw.joblib 格式。
格式细节:每城市一个 object_dict_raw.joblib,结构为: {'cands': {id: {polygon_mesh, vertices, centroid}}, 'index': {...}, 'mapping_dict': {...}, 'inv_mapping_dict': {...}}
荷兰城市:lod12 → cands, lod22 → index,交集建筑配对。
日本城市:lod1 → cands, lod2 → index,原格式修复 vertices/centroid。
压缩比:荷兰城市原始合计 ~5.3GB → 压缩后 ~1.2GB (3-5x);日本城市 ~235MB → ~170MB。
验证:sakai 抽查确认格式正确 (cands=4128, index=4128, vertices shape OK, mapping roundtrip OK)。
产物:
- fix_sigmod_v2.py:格式修复脚本(在 GPU /root/autodl-tmp/)
- data/{city}/object_dict_raw.joblib × 18:可直接被 3dSAGER pipeline 加载
- README.md 更新:新增 SIGMOD 格式说明 + 使用示例
遗留:旧格式文件(buildings.parquet, object_dict_lod*.joblib, crosslod_pairs.parquet)仍保留作为参考;后续可清理以节省 HF 空间。

2026-07-19 — Partition Files & Cleanup

旧格式清理:删除 91 个冗余文件(buildings.parquet, object_dict_lod*.joblib, object_dict_combined.joblib, crosslod_pairs.parquet, rotterdam_test/),每城市仅保留 object_dict_raw.joblib + manifest.json + {city}_seed{1,2,3}.pkl。
Partition 文件生成:18 城市 × 3 seeds = 54 个 partition 文件,格式兼容 3dSAGER 的 DataPartitionGenerator:
- train/negative_sampling/{small,large}/{2,5}:正负样本对列表
- test/matching/negative_sampling+blocking-based:测试匹配对
- test/blocking/{small,large}/{cands,index}:测试 blocking 索引集
- 空间网格分桶 train/test split (80/20),保证地理代表性
构建脚本上传:
- code/object_properties.py:25 属性计算核心(3dSAGER 官方)
- code/fix_sigmod_v2.py:格式统一脚本(Dutch→lod12/22 合并,Japan→vertices/centroid 修复)
- code/build_benchmark.py:3DBAG 多城市构建器(并行下载+batch 属性)
- code/build_plateau.py:PLATEAU 日本城市构建器
- code/generate_partitions.py:Partition 生成器
验证:chiyoda_seed1.pkl 格式正确,train/large/neg=2 有 20271 对,正样本对 (1,1) 通过。
最终数据布局 (data/{city}/):
- object_dict_raw.joblib — SIGMOD 规范格式(cands/index + mapping/inv_mapping)
- manifest.json — 城市元数据
- {city}_seed{1,2,3}.pkl — 3 seeds partition 文件

STER 进度日志 (Progress Log)

里程碑看板