Upload logs/progress.md with huggingface_hub
Browse files- logs/progress.md +19 -0
logs/progress.md
CHANGED
|
@@ -134,3 +134,22 @@
|
|
| 134 |
- `data/{city}/object_dict_raw.joblib` × 18:可直接被 3dSAGER pipeline 加载
|
| 135 |
- README.md 更新:新增 SIGMOD 格式说明 + 使用示例
|
| 136 |
- **遗留**:旧格式文件(buildings.parquet, object_dict_lod*.joblib, crosslod_pairs.parquet)仍保留作为参考;后续可清理以节省 HF 空间。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 134 |
- `data/{city}/object_dict_raw.joblib` × 18:可直接被 3dSAGER pipeline 加载
|
| 135 |
- README.md 更新:新增 SIGMOD 格式说明 + 使用示例
|
| 136 |
- **遗留**:旧格式文件(buildings.parquet, object_dict_lod*.joblib, crosslod_pairs.parquet)仍保留作为参考;后续可清理以节省 HF 空间。
|
| 137 |
+
|
| 138 |
+
### 2026-07-19 — Partition Files & Cleanup
|
| 139 |
+
- **旧格式清理**:删除 91 个冗余文件(buildings.parquet, object_dict_lod*.joblib, object_dict_combined.joblib, crosslod_pairs.parquet, rotterdam_test/),每城市仅保留 `object_dict_raw.joblib` + `manifest.json` + `{city}_seed{1,2,3}.pkl`。
|
| 140 |
+
- **Partition 文件生成**:18 城市 × 3 seeds = 54 个 partition 文件,格式兼容 3dSAGER 的 DataPartitionGenerator:
|
| 141 |
+
- `train/negative_sampling/{small,large}/{2,5}`:正负样本对列表
|
| 142 |
+
- `test/matching/negative_sampling+blocking-based`:测试匹配对
|
| 143 |
+
- `test/blocking/{small,large}/{cands,index}`:测试 blocking 索引集
|
| 144 |
+
- 空间网格分桶 train/test split (80/20),保证地理代表性
|
| 145 |
+
- **构建脚本上传**:
|
| 146 |
+
- `code/object_properties.py`:25 属性计算核心(3dSAGER 官方)
|
| 147 |
+
- `code/fix_sigmod_v2.py`:格式统一脚本(Dutch→lod12/22 合并,Japan→vertices/centroid 修复)
|
| 148 |
+
- `code/build_benchmark.py`:3DBAG 多城市构建器(并行下载+batch 属性)
|
| 149 |
+
- `code/build_plateau.py`:PLATEAU 日本城市构建器
|
| 150 |
+
- `code/generate_partitions.py`:Partition 生成器
|
| 151 |
+
- **验证**:chiyoda_seed1.pkl 格式正确,train/large/neg=2 有 20271 对,正样本对 (1,1) 通过。
|
| 152 |
+
- **最终数据布局** (`data/{city}/`):
|
| 153 |
+
- `object_dict_raw.joblib` — SIGMOD 规范格式(cands/index + mapping/inv_mapping)
|
| 154 |
+
- `manifest.json` — 城市元数据
|
| 155 |
+
- `{city}_seed{1,2,3}.pkl` — 3 seeds partition 文件
|