File size: 21,974 Bytes
376ab70
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
# CAVI-ReID 项目统一记忆

更新时间:2026-08-02

本文档是本项目的统一事实来源。后续实现、实验和汇报以本文档为准;与本文档冲突的旧总结、临时日志或口头描述需要重新核验。

## 1. 项目与方法身份

- `CAVI` 是我们的主方法。
- `ViSA` 是另一篇论文的方法,是 Baseline,不是 CAVI 的旧名称。
- `VDT` 是主要 Baseline,也是 CAVI 当前使用的 pretrained initialization 来源。
- 主数据集是 `CARGO`- 评测 protocol 统一为 `CARGO / CARGO_GG / CARGO_AA / CARGO_AG`## 2. 当前 CAVI 的唯一正式定义

当前实现名称:`CAVIViewPromptMoE`。

必须满足:

- 只使用 `CLS token` 作为 identity feature。
- Backbone forward 中禁用 legacy `view_token`;输入序列只有 `CLS + patch tokens`- 不使用 `meta token`- 不使用 `global_feat - view_feat` subtraction。
- view information 仅作为 `Embedding / Prompt` 注入。
- Canonical token sequence 为 `[CLS + Pos/SIE, View Prompt, Patch + Pos/SIE]`- `View Prompt` 在 Position/SIE 相加完成后插入,因此不占 spatial position index,也不叠加 Position Embedding 或 SIE。
- 同一个 `View Prompt` 先参与 Transformer attention,再用于 MoE routing / compensation。
- 使用两个 Expert:`Aerial Expert``Ground Expert`- Router 包含 `No-op` 分支。
- `cross-view positive pairs` 需要 compensation。
- `same-view positive pairs` 应保持低 compensation / low drift。

数据中的 canonical view label:

```text
Aerial -> 0 -> Aerial Expert
Ground -> 1 -> Ground Expert
```

任何其他 view label 必须报错,不能静默映射到 Ground。

## 3. 当前代码入口

- Meta architecture:`fastreid/modeling/meta_arch/cavi_view_prompt_moe.py`
- Config:`configs/CARGO/cavi_view_prompt_moe.yml`
- Trainer:`tools/train_cavi_noeval.py`
- Launcher:`tools/run_cavi_view_prompt_moe_cargo.sh`
- 正式汇报:`reports/CAVI_CARGO_FINAL_PRESENTATION_SUMMARY.md`

## 4. 已完成模块

| 模块 | 状态 | 结论 |
|---|---|---|
| `CARGO Dataset Loader` | 完成 | 支持四个统一 protocol |
| `VDT` | 已复现 | 强 Baseline |
| `ViSA` | 已复现 | 当前最强 Baseline |
| `Trace Diagnostic` | 完成 | 被删除 trace 中包含 identity information |
| `CRFA / CREA` | 已实现 | Fixed restoration 弱,Oracle 有 headroom |
| `CAVIViewPromptMoE` | 已实现 | 结构与 eval 链路已跑通 |
| `Faiss / rank_cy / tensorboard` | 已修复 | 正式 FastReID eval 可用 |

## 5. 可信阶段结果

### 5.1 CAVIViewPromptMoE,30 epochs 问题训练

该实验完成 12030 iterations,无 NaN,但 scheduler 未 step,loss 基本横盘。因此只作为阶段性结构验证,不作为 CAVI 最终性能。

| Dataset | Rank-1 | mAP | mINP |
|---|---:|---:|---:|
| `CARGO` | 52.24 | 45.33 | 31.44 |
| `CARGO_GG` | 71.43 | 62.01 | 47.46 |
| `CARGO_AA` | 75.00 | 56.04 | 33.36 |
| `CARGO_AG` | 35.00 | 32.78 | 21.95 |

### 5.2 Baseline

| Method | Dataset | Rank-1 | mAP | mINP |
|---|---|---:|---:|---:|
| `VDT` | `CARGO` | 62.82 | 55.80 | 43.13 |
| `VDT` | `CARGO_GG` | 80.36 | 73.78 | 63.70 |
| `VDT` | `CARGO_AA` | 77.50 | 63.79 | 46.84 |
| `VDT` | `CARGO_AG` | 57.45 | 55.67 | 46.39 |
| `ViSA` | `CARGO` | 69.23 | 63.77 | 52.72 |
| `ViSA` | `CARGO_GG` | 86.61 | 81.82 | 74.79 |
| `ViSA` | `CARGO_AA` | 80.00 | 67.24 | 51.00 |
| `ViSA` | `CARGO_AG` | 63.83 | 65.06 | 58.67 |

## 6. Trace Diagnostic 的可信结论

| Protocol | Base mAP | Best Fixed mAP | Oracle mAP |
|---|---:|---:|---:|
| `CARGO` | 55.94 | 56.10 | 59.91 |
| `CARGO_AG` | 43.15 | 43.46 | 47.79 |
| `CARGO_AA` | 64.64 | 65.00 | 67.42 |
| `CARGO_GG` | 73.38 | 73.76 | 76.33 |

统一解释:Fixed restoration 增益很小,Oracle restoration 有明显空间,因此需要 sample-adaptive compensation。该结论支持 CAVI 动机,但不等同于当前 MoE 实现有效。

## 7. 禁止使用的结果与表述

- 不使用出现 `mAP=100.0` 或多个 protocol mAP 异常完全相同的旧 JSON 作为论文结果。
- 不把早期 `CRFA / CREA fixed-init` 与当前 FastReID eval 做严格横向数值比较,因为 protocol、初始化或评测入口可能不同。
- 不宣称当前 `CAVIViewPromptMoE` 超过 Baseline。
- 不把 eval 中 `(2500, 768) -> (0, 768)` 的 classifier skip warning 解释成 retrieval 失败。Feature-based eval 不需要 classifier,该 warning 是预期行为。
- 不把 loss 无 NaN 描述为 loss 已收敛。

## 8. 2026-08-01 已确认并修复的问题

- Trainer 现在会执行 `Warmup` 和 epoch-level `CosineAnnealingLR`- Scheduler、optimizer 与 AMP scaler 会写入 checkpoint,可用于正确 resume。
- Checkpoint 记录精确 iteration;partial sanity run 也可从实际停止位置恢复。
- 自定义 trainer 使用标准 parameter groups,并在 AMP unscale 后显式执行 gradient clipping,避免 `ContiguousParams / GradScaler / scheduler` 的包装冲突。
- `--max-iter` 现在是实际训练上界,不再导致外层循环重复。
- 单 iteration 不再为 base feature 第二次调用同一个 `ReID Head / BNNeck`- VDT 仅提供 backbone initialization;其基于 subtraction 特征训练的 classifier / BNNeck 会重新初始化。
- CAVI 配置显式设置 `USE_VIEW_TOKEN=False`,legacy view token 不参与 self-attention。
- Same-view loss 只统计存在 same-view positive 的样本。
- Update regularization 约束实际施加的 `beta * update`,而不是未经过 gate 的 raw update。
- View label 改为严格的 `Aerial / Ground` 校验。
- Metrics 记录 No-op probability、Aerial/Ground Expert probability、routing accuracy、beta 和实际 compensation ratio。
- Positionless Prompt 已加入 backbone;legacy `pos_embed` 参数 shape 保持不变以兼容 VDT checkpoint。
- 旧 CAVI checkpoint 虽可结构加载,但 forward 语义已改变,不得沿用旧指标,必须重新训练。
- Clean training 默认与 VDT 对齐为 120 epochs、LR 0.008、warmup 2000 iterations。
- 新输出目录固定为 `logs/CARGO/CAVI_VIEW_PROMPT_MOE_CLEAN`,不得覆盖旧结果。

## 9. Clean Run 标准流程

### 9.1 Positionless Prompt smoke test(当前语义)

远端输出:`logs/CARGO/CAVI_POSITIONLESS_PROMPT_CODECHECK`

- Token sequence 为 `[CLS + Pos/SIE, Prompt, Patch + Pos/SIE]`- 7 个 position/checkpoint/AMP 单元测试全部通过。
- 真实 CARGO 2-step 完成,`loss_cls``7.8443 -> 7.8349`- AMP 首步自动降 scale,第 2 步 optimizer update 成功。
- Prompt 不叠加 Position Embedding/SIE,AMP dtype conversion 保持可微。
- 这是后续 200-step 和完整训练应使用的当前 forward 语义。

### 9.2 Pre-backbone Prompt 之前的 smoke test(历史语义)

远端输出:`logs/CARGO/CAVI_VIEW_PROMPT_MOE_CODECHECK_V4`

- 使用真实 CARGO data、VDT backbone initialization、AMP 和修复后的 trainer。
- 完成 20 iterations;第 1 步 AMP 自动降 scale,其余 19 步 optimizer update 成功。
- `loss_cls` 处于 7.6-8.1;加载错误 VDT classifier 时为 22-24。
- Warmup LR 从 `8.0e-5` 增长到 `1.5128e-4`- `model_final.pth` 正常保存,checkpoint 精确记录 `iteration=20`- 数据、模型、loss、AMP、gradient clipping、scheduler、checkpoint 和 resume 链路均已连通,但当时 Prompt 尚未进入 Transformer,不得作为当前实现的最终验证结果。

### 9.3 正式训练前检查

训练前必须确认:

1. `baseline_logs/VDT/model_best.pth` 存在。
2. checkpoint 加载日志中 backbone 成功加载;VDT 的 identity head 随后必须 reset,`view_heads` unexpected 可以接受。
3. CARGO train classes 自动设置为 2500;如不是 2500,停止训练并检查 dataset split。
4. 前 200 iterations 中 LR 按 warmup 上升,`loss_cls` 有下降趋势。
5. `metrics.jsonl``optimizer_step` 应很快变为 1;若 AMP 初始 overflow,`amp_scale` 应自动下降后恢复更新。
6. 先跑短程 sanity run,再跑 120 epochs。

标准命令:

```bash
bash tools/run_cavi_view_prompt_moe_cargo.sh
```

短程检查:

```bash
python tools/train_cavi_noeval.py \
  --config-file configs/CARGO/cavi_view_prompt_moe.yml \
  --max-iter 200 \
  --output-dir logs/CARGO/CAVI_VIEW_PROMPT_MOE_SANITY
```

## 10. 后续实验优先级

1. Clean 200-iteration sanity run,确认 `loss_cls` 开始低于随机分类基准 `ln(2500)≈7.82`2. 120-epoch clean run,统一评估四个 protocol。
3. Ablation:`CLS-only``+View Prompt``+MoE``+Cross-view Loss``+Same-view Loss`4. 输出 Expert usage、Router entropy、beta 和 compensation norm。
5. 优先优化 `CARGO_AG`6. 若 output-level compensation 无效,再尝试 ViT middle-layer compensation。

## 11. 当前判断

`CAVI` 的动机仍有诊断证据支持,但当前 30-epoch `CAVIViewPromptMoE` 结果低于 `VDT / ViSA`,只能证明实现链路可运行。下一次有效结论必须来自修复后的 clean training 和统一 eval。

## 12. 2026-08-02 正式训练

### Positionless CAVI 120 epochs

- 输出:`logs/CARGO/CAVI_POSITIONLESS_PROMPT_120E`
- GPU:physical GPU 1。
- Batch size:32(服务器其他任务占用显存,无法安全使用 128)。
- Max epochs / iterations:`120 / 192840`- 当前语义:Prompt 参与 Transformer,但不使用 Position Embedding/SIE。
- 该实验结束后必须重新评估四个 CARGO protocol,旧 checkpoint 指标不可替代。

### HiHR paper-based reimplementation

- 独立代码:`baselines/hihr/`- Config:`configs/CARGO/hihr_reimplementation.yml`- 输出:`logs/CARGO/HIHR_REIMPLEMENTATION_60E_B16`- GPU:physical GPU 4。
- Batch size:16;每批 4 identities x 4 images,Cross-view/Intra-view Triplet 均有有效样本。
- Max epochs / iterations:`60 / 192900`- Backbone:`openai/clip-vit-base-patch16`,通过 Hugging Face mirror 下载后离线加载。
- 已实现:layers `{5,8,12}` MFE、view-agnostic/view-aware Prompt、TMF、Lorentz exp/log map、angular/radial entailment-cone approximation、parent/child CE 和 Triplet、四 protocol eval。
- 官方仓库仍不可访问,因此结果必须标记为 `paper-based reimplementation`,不能标记为 official HiHR reproduction。

## 13. 2026-08-03 正式训练与评估结果

### 13.1 Positionless CAVI 120 epochs

- 训练已完成:`192840 / 192840 iterations`,总耗时约 3 小时 8 分钟。
- 最终 checkpoint:`logs/CARGO/CAVI_POSITIONLESS_PROMPT_120E/model_final.pth`- 训练无 NaN、OOM 或 traceback。
- 最终 `total_loss=0.06183`,其中 `loss_cls=0.05487``loss_triplet=0.00097``loss_cross_view_comp=0.00581`,确认有明显收敛。
- Router 诊断:`router_view_acc=1.0``beta_mean=0.9394``noop_prob=0.0010`,但实际 `compensation_ratio=0.00276`。这表明 Router 几乎完全被 view supervision 控制,No-op 分支基本未被使用,实际补偿幅度很小,后续需要做 Router/No-op ablation。

| Dataset | Rank-1 | mAP | mINP |
|---|---:|---:|---:|
| `CARGO` | **66.03** | **57.81** | **44.19** |
| `CARGO_GG` | **86.61** | **73.30** | **58.29** |
| `CARGO_AA` | **75.00** | **65.25** | **50.94** |
| `CARGO_AG` | **50.63** | **46.74** | **34.78** |

与上一个汇报版本比较:

| Dataset | Rank-1 变化 | mAP 变化 | mINP 变化 |
|---|---:|---:|---:|
| `CARGO` | 52.24 -> 66.03 (**+13.79**) | 45.33 -> 57.81 (**+12.48**) | 31.44 -> 44.19 (**+12.75**) |
| `CARGO_GG` | 71.43 -> 86.61 (**+15.18**) | 62.01 -> 73.30 (**+11.29**) | 47.46 -> 58.29 (**+10.83**) |
| `CARGO_AA` | 75.00 -> 75.00 (**+0.00**) | 56.04 -> 65.25 (**+9.21**) | 33.36 -> 50.94 (**+17.58**) |
| `CARGO_AG` | 35.00 -> 50.63 (**+15.63**) | 32.78 -> 46.74 (**+13.96**) | 21.95 -> 34.78 (**+12.83**) |

结论:Positionless Prompt 版本是当前有效的 CAVI 主结果,四个 protocol 均已用同一 `model_final.pth` 重新评估。评估时 Cython rank extension 与 NumPy 2.x 不兼容,程序自动回退到 Python evaluator;评估数值有效,只是速度较慢。

### 13.2 HiHR paper-based reimplementation 60 epochs

- 训练和四 protocol 评估均已完成,checkpoint 位于 `logs/CARGO/HIHR_REIMPLEMENTATION_60E_B16/model_final.pth`- 最终 `total_loss=16.0281``parent_cls=7.6951``child_cls=7.6902`,两个 CE 仍接近 2500 类随机分类基准 `ln(2500)=7.824`- Curvature 从 1.0 降到 0.04398,TMF layer entropy 约为 `ln(3)`,表明 layer weighting 几乎保持均匀,双曲率特征出现表示坍塌。

| Dataset | Rank-1 | mAP | mINP |
|---|---:|---:|---:|
| `CARGO` | 0.00 | 0.0331 | 0.0083 |
| `CARGO_GG` | 0.00 | 0.0591 | 0.0132 |
| `CARGO_AA` | 0.00 | 0.0511 | 0.0191 |
| `CARGO_AG` | 0.00 | 0.0203 | 0.0084 |

结论:当前 HiHR 只能说明从论文描述重写的完整工程链路可运行,**不是成功复现,不得作为有效 Baseline 数值汇报**。下一轮必须先用纯 CLIP/ReID CE+Triplet 建立可收敛的 Euclidean control,再逐项加入 TMF、Hyperbolic mapping 和 hierarchy loss,以定位首个导致坍塌的模块。

## 14. 2026-08-03 HiHR Collapse 根因排查与修复

### 14.1 实测证据

- 旧 60-epoch checkpoint 的任意测试样本特征 cosine similarity 为 `0.99996+`,确认是 Representation Collapse,不是单纯评估脚本错误。
- 旧 parent/child classifier weight 的平均 pairwise cosine 约为 `0.92`,可训练 prototype 的 pairwise cosine 为 `0.99988/0.99999`,类别中心也完全坍塌。
- 原始 CLIP final-layer feature 在同一批 CARGO 图像上的平均 cosine 仅为 `0.8024`,说明 Backbone 本身保留了显著的样本差异,是后续 Fusion/Loss 将特征抹平。
- 修复后 `TMF + ReID + BNNeck`的300-step control 结束时 Parent/Child off-diagonal cosine 为 `0.9074/0.9528`,没有坍塌。

### 14.2 已确认的实现错误

1. TMF 没有按论文实现 Q/K/V linear projection,且错误地对 Patch token 取 mean;论文要求对 `[t_k; X_k]` 进行 Transformer fusion 并取第一个 token。
2. HHL 错误使用全局可训练 parent/child prototype 和直接 Hyperbolic distance minimization。论文要求 batch identity mean parent prototype 与四项 Entailment Cone。
3. 四项几何约束实现不对:旧版只有一项对应论文,其余项目替换成了特征距离或 visual parent-child order。
4. `s1/s2` 被实现为固定绝对半径;论文要求 `g_p=s1*normalize(s_p)``g_c=s1*s2*normalize(s_c)`,且两个 scale 可学习。
5. 推理时 log map 后未除回 `s1``s1*s2`,导致 child feature 被错误加权。
6. `lambda_g=1.0/0.25` 被错误用在 HHL distance 上,没有用于 parent/child CE。
7. Text feature 被提前 L2 normalize,导致 TMF attention logits 太小,三层权重长期均匀。
8. Triplet cosine distance 在 AMP/FP16 下计算,小距离被严重量化,坍塌后梯度几乎失效。
9. 缺少 ReID 标准 `BNNeck`。实验表明这是基础 `TMF + ReID` 仍会坍塌的直接原因:加入 BNNeck 后特征恢复分离。
10. Optimizer 对 Curvature、`S1/S2`、Prompt 和 Norm/Bias 错误施加 Weight Decay;现已拆分 no-decay parameter groups。
11. Eval-only 未处理 NumPy scalar JSON serialization,评估完成后可能在写结果时报错,现已修复。

### 14.3 修复后的最小评估

输出:`logs/CARGO/HIHR_PAPERFIX_TMF_BN_300`,仅 300 iterations,`lambda_entail=0`。

| Dataset | Rank-1 | mAP | mINP |
|---|---:|---:|---:|
| `CARGO` | 7.37 | 7.02 | 2.12 |
| `CARGO_GG` | 14.29 | 12.98 | 4.35 |
| `CARGO_AA` | 10.00 | 7.90 | 1.21 |
| `CARGO_AG` | 2.50 | 3.63 | 1.30 |

该结果不是最终 Baseline,只用于证明数据、训练和 evaluator 已恢复,Rank-1 不再全部为 0。

### 14.4 当前 HHL 风险

- 修正公式但从第 1 步直接启用 `lambda_entail=5` 时,Parent feature 仍会被 generic text prompt 拉向共同方向。
- 新增 `--entail-delay-iters``--entail-warmup-iters`。600-step staged test 结束时 Parent/Child cosine 为 `0.9894/0.9865`,Parent CE 降到 `7.1794`,比立即启用 HHL 稳定,但 Entailment 仍过强。
- 必须先完成 60-epoch `TMF + ReID` control,确认达到正常 Baseline;然后从该 checkpoint 逐项加入 prototype-child、prompt hierarchy 和 visual-prompt alignment,不得直接将当前 HHL staged 短测当作成功复现。

### 14.5 修复后的正式 Control Run

- 状态:已于 2026-08-03 启动,运行中。
- 输出:`logs/CARGO/HIHR_PAPERFIX_TMF_BASELINE_60E_B64`- 设置:60 epochs,batch size 64,physical GPU 0,`lambda_entail=0`,只验证修复后的 `CLIP MFE + TMF + BNNeck + CE/Triplet`- 总 iterations:`48180`;预计训练约 1-1.5 小时,结束后自动评估四个 CARGO protocol。
- iteration 300:`total_loss=9.7713``parent_cls=7.3136``child_cls(weighted)=1.8223`,Parent/Child cosine 已降到 `0.8261/0.8462`,表明正式长程训练正在学习判别特征,暂无 Collapse。
- iteration 600:`total_loss=7.8209``parent_cls=5.8595``child_cls(weighted)=1.4975`,Parent/Child cosine 进一步降到 `0.6143/0.2556`,Triplet 也降到 `0.2870/0.1769`,已确认 Loss 和特征分离都在健康收敛。

## 15. 2026-08-03 HiHR arXiv Source 逐公式审计

- 已下载 `https://arxiv.org/src/2607.09186``papers/hihr_arxiv_source/`。source 只有 LaTeX、参考文献和图片,没有 official code/config/checkpoint。
- 论文 CARGO 目标值(R1/mAP):ALL `74.36/67.52`,A->G `75.53/70.53`,A->A `75.00/69.60`,G->G `87.50/80.93`;论文不报告 mINP。
- 审计报告:`docs/HIHR_SOURCE_FORMULA_ALIGNMENT_AUDIT.md`- 已实现真正的 token-level Prompt:4 个 shared tokens,aerial/ground 各 4 个 view-private tokens;Prompt 在 CLIP Text Encoder 前插入。
- source-aligned TMF 使用一套 shared Q/K/V + Transformer;这是由 Fig.2 推断,正文未明确声明 parameter sharing。
- 已实现 `CVIdentitySampler`,K=4 时每个 ID 采 2 aerial + 2 ground,保证 parent cross-view 与 child intra-view Triplet 都有有效正样本。
- Lorentz exterior angle 与 HiHR 引用的 HyCoCLIP closed form 数值对照,最大绝对误差约 `7e-7`;cone aperture 与四项 entailment 均与论文公式对应。
- source-aligned 300-step 结果:关闭 HHL 时 Parent/Child cosine 为 `0.9776/0.9776`;直接启用 `lambda_e=5` 时为 `0.99999/0.99999`,发生 Collapse。
- 该 300-step 测试曾将 cosine LR schedule 一并压缩至 300 step,诊断不充分。已增加 `--lr-schedule-iters`,用完整 48180-step schedule 进行 2000-step复核。
- 论文未写清:visual 768->text 512 dimension bridge、TMF heads/FFN/norm/init、Prompt init、Text Encoder freeze policy、optimizer 细节、精确 sampler、HHL warm-up。因此当前只能称 `Paper-based Reimplementation`,不得称 official reproduction。
- 公平 2000-step 复核使用完整 48180-step LR schedule:TMF-only 的 Parent CE 降至 `3.7885`,cosine 降至 `0.1632`;全 HHL 的 Parent CE 保持 `7.8240`,cosine 升至 `0.9999997`。已确定主链可学习,首个失败模块为从第 1 step 全量启用 HHL。
- 从健康 iteration-2000 checkpoint 分项继续 500 steps:`proto_child+prompt_order` cosine 升至 `0.8324``parent_alignment+child_alignment` 升至 `0.9650`。generic Prompt->Visual alignment 是主要 Collapse 驱动力,prototype-child 也会明显聚集表示。
- 已加入 `--entailment-terms` 作为诊断开关;默认仍为论文四项全开。后续稳定化只能标为 `stabilized variant`## 16. 2026-08-03 HiHR Prompt EOS 关键修复与冲刺实验

- 发现 `CLIPTokenPromptLearner` 使用 `text_model.eos_token_id=2` 定位 pooled token,但 CLIP tokenizer 的实际 EOS/PAD ID 是 `49407`。匹配失败后 `argmax` 返回 0,导致读取 BOS;由于 causal attention,BOS 看不到任何后续 Prompt token。
- 旧 source-aligned checkpoint 实测:Parent/Child Prompt cosine `1.0`、attention L1 difference `0.0`、Parent/Child normalized feature L2 difference `0.0`,确认两层表示完全重复。
- 修复为 `eos_positions=attention_mask.sum(1)-1`。修复后 EOS positions `[10,16,16]`;初始 Parent-Aerial/Parent-Ground/Aerial-Ground Prompt cosine 为 `0.885/0.939/0.862`- 新增 EOS pooling regression test;本地与服务器均 `9/9 passed`- legacy feature-Prompt epoch-20 实测已接近论文 Baseline ALL:`68.91 R1 / 63.39 mAP`,论文 Baseline 为 `68.23/63.61`;但 A->G 仅 `55.62/52.10`,主要差距仍是 cross-view generalization。
- 已停止受 EOS Bug 污染的三条 source run,并从头启动:`HIHR_SOURCE_EOSFIX_TMF_60E``HIHR_SOURCE_EOSFIX_HHL_STAGED_60E``HIHR_SOURCE_EOSFIX_HIERARCHY_STAGED_60E`- 修复 EOS 后,论文原始 HHL (`lambda_e=5`, iteration 1启用) 在 iteration 600 仍 collapse 到 cosine `0.999996`;说明 EOS Bug 和 HHL loss dominance 是两个独立问题。
- 又发现 `lambda_entail=0` 时仍计算几何项,scale 增大后出现 `NaN*0`,导致 legacy 训练在约 iteration 24972 中止;已改为 disabled HHL 直接跳过几何计算,新增测试后服务器 `10/10 passed`- EOS-fixed Token+shared TMF epoch-10:CARGO `67.95 R1 / 59.83 mAP`,CARGO_AG `57.50/50.97`。
- EOS-fixed lambda=0.1 full HHL epoch-10:CARGO `65.06/59.56`,CARGO_AG `51.25/48.65`,暂不优于 TMF-only。
- legacy feature-Prompt+dual-TMF epoch-30:CARGO `72.76/64.34`,接近论文 Baseline+TMF `72.08/65.46`;CARGO_AG `61.25/54.87`。CV sampler 微调 epoch-35 后降为 CARGO `71.15/62.85`、CARGO_AG `58.13/53.24`,最佳仍为 epoch-30。
- 已停止 full staged HHL 与 hierarchy-only staged 分支;继续保留 EOS-fixed TMF-only、lambda=0.1 HHL、dual-TMF 三条主线至最终 checkpoint。
- source EOS-fixed shared-TMF epoch-20:CARGO `68.59/60.17`,CARGO_AG `54.38/49.14`。
- token+dual-TMF epoch-10:CARGO `66.99/60.10`,CARGO_AG `56.88/50.11`,没有优于 shared-TMF。