| # CAVI-ReID 项目统一记忆 |
|
|
| 更新时间:2026-08-02 |
|
|
| 本文档是本项目的统一事实来源。后续实现、实验和汇报以本文档为准;与本文档冲突的旧总结、临时日志或口头描述需要重新核验。 |
|
|
| ## 1. 项目与方法身份 |
|
|
| - `CAVI` 是我们的主方法。 |
| - `ViSA` 是另一篇论文的方法,是 Baseline,不是 CAVI 的旧名称。 |
| - `VDT` 是主要 Baseline,也是 CAVI 当前使用的 pretrained initialization 来源。 |
| - 主数据集是 `CARGO`。 |
| - 评测 protocol 统一为 `CARGO / CARGO_GG / CARGO_AA / CARGO_AG`。 |
|
|
| ## 2. 当前 CAVI 的唯一正式定义 |
|
|
| 当前实现名称:`CAVIViewPromptMoE`。 |
|
|
| 必须满足: |
|
|
| - 只使用 `CLS token` 作为 identity feature。 |
| - Backbone forward 中禁用 legacy `view_token`;输入序列只有 `CLS + patch tokens`。 |
| - 不使用 `meta token`。 |
| - 不使用 `global_feat - view_feat` subtraction。 |
| - view information 仅作为 `Embedding / Prompt` 注入。 |
| - Canonical token sequence 为 `[CLS + Pos/SIE, View Prompt, Patch + Pos/SIE]`。 |
| - `View Prompt` 在 Position/SIE 相加完成后插入,因此不占 spatial position index,也不叠加 Position Embedding 或 SIE。 |
| - 同一个 `View Prompt` 先参与 Transformer attention,再用于 MoE routing / compensation。 |
| - 使用两个 Expert:`Aerial Expert` 与 `Ground Expert`。 |
| - Router 包含 `No-op` 分支。 |
| - `cross-view positive pairs` 需要 compensation。 |
| - `same-view positive pairs` 应保持低 compensation / low drift。 |
|
|
| 数据中的 canonical view label: |
|
|
| ```text |
| Aerial -> 0 -> Aerial Expert |
| Ground -> 1 -> Ground Expert |
| ``` |
|
|
| 任何其他 view label 必须报错,不能静默映射到 Ground。 |
|
|
| ## 3. 当前代码入口 |
|
|
| - Meta architecture:`fastreid/modeling/meta_arch/cavi_view_prompt_moe.py` |
| - Config:`configs/CARGO/cavi_view_prompt_moe.yml` |
| - Trainer:`tools/train_cavi_noeval.py` |
| - Launcher:`tools/run_cavi_view_prompt_moe_cargo.sh` |
| - 正式汇报:`reports/CAVI_CARGO_FINAL_PRESENTATION_SUMMARY.md` |
|
|
| ## 4. 已完成模块 |
|
|
| | 模块 | 状态 | 结论 | |
| |---|---|---| |
| | `CARGO Dataset Loader` | 完成 | 支持四个统一 protocol | |
| | `VDT` | 已复现 | 强 Baseline | |
| | `ViSA` | 已复现 | 当前最强 Baseline | |
| | `Trace Diagnostic` | 完成 | 被删除 trace 中包含 identity information | |
| | `CRFA / CREA` | 已实现 | Fixed restoration 弱,Oracle 有 headroom | |
| | `CAVIViewPromptMoE` | 已实现 | 结构与 eval 链路已跑通 | |
| | `Faiss / rank_cy / tensorboard` | 已修复 | 正式 FastReID eval 可用 | |
|
|
| ## 5. 可信阶段结果 |
|
|
| ### 5.1 CAVIViewPromptMoE,30 epochs 问题训练 |
|
|
| 该实验完成 12030 iterations,无 NaN,但 scheduler 未 step,loss 基本横盘。因此只作为阶段性结构验证,不作为 CAVI 最终性能。 |
|
|
| | Dataset | Rank-1 | mAP | mINP | |
| |---|---:|---:|---:| |
| | `CARGO` | 52.24 | 45.33 | 31.44 | |
| | `CARGO_GG` | 71.43 | 62.01 | 47.46 | |
| | `CARGO_AA` | 75.00 | 56.04 | 33.36 | |
| | `CARGO_AG` | 35.00 | 32.78 | 21.95 | |
|
|
| ### 5.2 Baseline |
|
|
| | Method | Dataset | Rank-1 | mAP | mINP | |
| |---|---|---:|---:|---:| |
| | `VDT` | `CARGO` | 62.82 | 55.80 | 43.13 | |
| | `VDT` | `CARGO_GG` | 80.36 | 73.78 | 63.70 | |
| | `VDT` | `CARGO_AA` | 77.50 | 63.79 | 46.84 | |
| | `VDT` | `CARGO_AG` | 57.45 | 55.67 | 46.39 | |
| | `ViSA` | `CARGO` | 69.23 | 63.77 | 52.72 | |
| | `ViSA` | `CARGO_GG` | 86.61 | 81.82 | 74.79 | |
| | `ViSA` | `CARGO_AA` | 80.00 | 67.24 | 51.00 | |
| | `ViSA` | `CARGO_AG` | 63.83 | 65.06 | 58.67 | |
|
|
| ## 6. Trace Diagnostic 的可信结论 |
|
|
| | Protocol | Base mAP | Best Fixed mAP | Oracle mAP | |
| |---|---:|---:|---:| |
| | `CARGO` | 55.94 | 56.10 | 59.91 | |
| | `CARGO_AG` | 43.15 | 43.46 | 47.79 | |
| | `CARGO_AA` | 64.64 | 65.00 | 67.42 | |
| | `CARGO_GG` | 73.38 | 73.76 | 76.33 | |
|
|
| 统一解释:Fixed restoration 增益很小,Oracle restoration 有明显空间,因此需要 sample-adaptive compensation。该结论支持 CAVI 动机,但不等同于当前 MoE 实现有效。 |
|
|
| ## 7. 禁止使用的结果与表述 |
|
|
| - 不使用出现 `mAP=100.0` 或多个 protocol mAP 异常完全相同的旧 JSON 作为论文结果。 |
| - 不把早期 `CRFA / CREA fixed-init` 与当前 FastReID eval 做严格横向数值比较,因为 protocol、初始化或评测入口可能不同。 |
| - 不宣称当前 `CAVIViewPromptMoE` 超过 Baseline。 |
| - 不把 eval 中 `(2500, 768) -> (0, 768)` 的 classifier skip warning 解释成 retrieval 失败。Feature-based eval 不需要 classifier,该 warning 是预期行为。 |
| - 不把 loss 无 NaN 描述为 loss 已收敛。 |
|
|
| ## 8. 2026-08-01 已确认并修复的问题 |
|
|
| - Trainer 现在会执行 `Warmup` 和 epoch-level `CosineAnnealingLR`。 |
| - Scheduler、optimizer 与 AMP scaler 会写入 checkpoint,可用于正确 resume。 |
| - Checkpoint 记录精确 iteration;partial sanity run 也可从实际停止位置恢复。 |
| - 自定义 trainer 使用标准 parameter groups,并在 AMP unscale 后显式执行 gradient clipping,避免 `ContiguousParams / GradScaler / scheduler` 的包装冲突。 |
| - `--max-iter` 现在是实际训练上界,不再导致外层循环重复。 |
| - 单 iteration 不再为 base feature 第二次调用同一个 `ReID Head / BNNeck`。 |
| - VDT 仅提供 backbone initialization;其基于 subtraction 特征训练的 classifier / BNNeck 会重新初始化。 |
| - CAVI 配置显式设置 `USE_VIEW_TOKEN=False`,legacy view token 不参与 self-attention。 |
| - Same-view loss 只统计存在 same-view positive 的样本。 |
| - Update regularization 约束实际施加的 `beta * update`,而不是未经过 gate 的 raw update。 |
| - View label 改为严格的 `Aerial / Ground` 校验。 |
| - Metrics 记录 No-op probability、Aerial/Ground Expert probability、routing accuracy、beta 和实际 compensation ratio。 |
| - Positionless Prompt 已加入 backbone;legacy `pos_embed` 参数 shape 保持不变以兼容 VDT checkpoint。 |
| - 旧 CAVI checkpoint 虽可结构加载,但 forward 语义已改变,不得沿用旧指标,必须重新训练。 |
| - Clean training 默认与 VDT 对齐为 120 epochs、LR 0.008、warmup 2000 iterations。 |
| - 新输出目录固定为 `logs/CARGO/CAVI_VIEW_PROMPT_MOE_CLEAN`,不得覆盖旧结果。 |
|
|
| ## 9. Clean Run 标准流程 |
|
|
| ### 9.1 Positionless Prompt smoke test(当前语义) |
|
|
| 远端输出:`logs/CARGO/CAVI_POSITIONLESS_PROMPT_CODECHECK` |
|
|
| - Token sequence 为 `[CLS + Pos/SIE, Prompt, Patch + Pos/SIE]`。 |
| - 7 个 position/checkpoint/AMP 单元测试全部通过。 |
| - 真实 CARGO 2-step 完成,`loss_cls` 为 `7.8443 -> 7.8349`。 |
| - AMP 首步自动降 scale,第 2 步 optimizer update 成功。 |
| - Prompt 不叠加 Position Embedding/SIE,AMP dtype conversion 保持可微。 |
| - 这是后续 200-step 和完整训练应使用的当前 forward 语义。 |
|
|
| ### 9.2 Pre-backbone Prompt 之前的 smoke test(历史语义) |
|
|
| 远端输出:`logs/CARGO/CAVI_VIEW_PROMPT_MOE_CODECHECK_V4` |
|
|
| - 使用真实 CARGO data、VDT backbone initialization、AMP 和修复后的 trainer。 |
| - 完成 20 iterations;第 1 步 AMP 自动降 scale,其余 19 步 optimizer update 成功。 |
| - `loss_cls` 处于 7.6-8.1;加载错误 VDT classifier 时为 22-24。 |
| - Warmup LR 从 `8.0e-5` 增长到 `1.5128e-4`。 |
| - `model_final.pth` 正常保存,checkpoint 精确记录 `iteration=20`。 |
| - 数据、模型、loss、AMP、gradient clipping、scheduler、checkpoint 和 resume 链路均已连通,但当时 Prompt 尚未进入 Transformer,不得作为当前实现的最终验证结果。 |
|
|
| ### 9.3 正式训练前检查 |
|
|
| 训练前必须确认: |
|
|
| 1. `baseline_logs/VDT/model_best.pth` 存在。 |
| 2. checkpoint 加载日志中 backbone 成功加载;VDT 的 identity head 随后必须 reset,`view_heads` unexpected 可以接受。 |
| 3. CARGO train classes 自动设置为 2500;如不是 2500,停止训练并检查 dataset split。 |
| 4. 前 200 iterations 中 LR 按 warmup 上升,`loss_cls` 有下降趋势。 |
| 5. `metrics.jsonl` 中 `optimizer_step` 应很快变为 1;若 AMP 初始 overflow,`amp_scale` 应自动下降后恢复更新。 |
| 6. 先跑短程 sanity run,再跑 120 epochs。 |
|
|
| 标准命令: |
|
|
| ```bash |
| bash tools/run_cavi_view_prompt_moe_cargo.sh |
| ``` |
|
|
| 短程检查: |
|
|
| ```bash |
| python tools/train_cavi_noeval.py \ |
| --config-file configs/CARGO/cavi_view_prompt_moe.yml \ |
| --max-iter 200 \ |
| --output-dir logs/CARGO/CAVI_VIEW_PROMPT_MOE_SANITY |
| ``` |
|
|
| ## 10. 后续实验优先级 |
|
|
| 1. Clean 200-iteration sanity run,确认 `loss_cls` 开始低于随机分类基准 `ln(2500)≈7.82`。 |
| 2. 120-epoch clean run,统一评估四个 protocol。 |
| 3. Ablation:`CLS-only`、`+View Prompt`、`+MoE`、`+Cross-view Loss`、`+Same-view Loss`。 |
| 4. 输出 Expert usage、Router entropy、beta 和 compensation norm。 |
| 5. 优先优化 `CARGO_AG`。 |
| 6. 若 output-level compensation 无效,再尝试 ViT middle-layer compensation。 |
|
|
| ## 11. 当前判断 |
|
|
| `CAVI` 的动机仍有诊断证据支持,但当前 30-epoch `CAVIViewPromptMoE` 结果低于 `VDT / ViSA`,只能证明实现链路可运行。下一次有效结论必须来自修复后的 clean training 和统一 eval。 |
|
|
| ## 12. 2026-08-02 正式训练 |
|
|
| ### Positionless CAVI 120 epochs |
|
|
| - 输出:`logs/CARGO/CAVI_POSITIONLESS_PROMPT_120E` |
| - GPU:physical GPU 1。 |
| - Batch size:32(服务器其他任务占用显存,无法安全使用 128)。 |
| - Max epochs / iterations:`120 / 192840`。 |
| - 当前语义:Prompt 参与 Transformer,但不使用 Position Embedding/SIE。 |
| - 该实验结束后必须重新评估四个 CARGO protocol,旧 checkpoint 指标不可替代。 |
|
|
| ### HiHR paper-based reimplementation |
|
|
| - 独立代码:`baselines/hihr/`。 |
| - Config:`configs/CARGO/hihr_reimplementation.yml`。 |
| - 输出:`logs/CARGO/HIHR_REIMPLEMENTATION_60E_B16`。 |
| - GPU:physical GPU 4。 |
| - Batch size:16;每批 4 identities x 4 images,Cross-view/Intra-view Triplet 均有有效样本。 |
| - Max epochs / iterations:`60 / 192900`。 |
| - Backbone:`openai/clip-vit-base-patch16`,通过 Hugging Face mirror 下载后离线加载。 |
| - 已实现:layers `{5,8,12}` MFE、view-agnostic/view-aware Prompt、TMF、Lorentz exp/log map、angular/radial entailment-cone approximation、parent/child CE 和 Triplet、四 protocol eval。 |
| - 官方仓库仍不可访问,因此结果必须标记为 `paper-based reimplementation`,不能标记为 official HiHR reproduction。 |
|
|
| ## 13. 2026-08-03 正式训练与评估结果 |
|
|
| ### 13.1 Positionless CAVI 120 epochs |
|
|
| - 训练已完成:`192840 / 192840 iterations`,总耗时约 3 小时 8 分钟。 |
| - 最终 checkpoint:`logs/CARGO/CAVI_POSITIONLESS_PROMPT_120E/model_final.pth`。 |
| - 训练无 NaN、OOM 或 traceback。 |
| - 最终 `total_loss=0.06183`,其中 `loss_cls=0.05487`、`loss_triplet=0.00097`、`loss_cross_view_comp=0.00581`,确认有明显收敛。 |
| - Router 诊断:`router_view_acc=1.0`,`beta_mean=0.9394`,`noop_prob=0.0010`,但实际 `compensation_ratio=0.00276`。这表明 Router 几乎完全被 view supervision 控制,No-op 分支基本未被使用,实际补偿幅度很小,后续需要做 Router/No-op ablation。 |
|
|
| | Dataset | Rank-1 | mAP | mINP | |
| |---|---:|---:|---:| |
| | `CARGO` | **66.03** | **57.81** | **44.19** | |
| | `CARGO_GG` | **86.61** | **73.30** | **58.29** | |
| | `CARGO_AA` | **75.00** | **65.25** | **50.94** | |
| | `CARGO_AG` | **50.63** | **46.74** | **34.78** | |
|
|
| 与上一个汇报版本比较: |
|
|
| | Dataset | Rank-1 变化 | mAP 变化 | mINP 变化 | |
| |---|---:|---:|---:| |
| | `CARGO` | 52.24 -> 66.03 (**+13.79**) | 45.33 -> 57.81 (**+12.48**) | 31.44 -> 44.19 (**+12.75**) | |
| | `CARGO_GG` | 71.43 -> 86.61 (**+15.18**) | 62.01 -> 73.30 (**+11.29**) | 47.46 -> 58.29 (**+10.83**) | |
| | `CARGO_AA` | 75.00 -> 75.00 (**+0.00**) | 56.04 -> 65.25 (**+9.21**) | 33.36 -> 50.94 (**+17.58**) | |
| | `CARGO_AG` | 35.00 -> 50.63 (**+15.63**) | 32.78 -> 46.74 (**+13.96**) | 21.95 -> 34.78 (**+12.83**) | |
|
|
| 结论:Positionless Prompt 版本是当前有效的 CAVI 主结果,四个 protocol 均已用同一 `model_final.pth` 重新评估。评估时 Cython rank extension 与 NumPy 2.x 不兼容,程序自动回退到 Python evaluator;评估数值有效,只是速度较慢。 |
|
|
| ### 13.2 HiHR paper-based reimplementation 60 epochs |
|
|
| - 训练和四 protocol 评估均已完成,checkpoint 位于 `logs/CARGO/HIHR_REIMPLEMENTATION_60E_B16/model_final.pth`。 |
| - 最终 `total_loss=16.0281`,`parent_cls=7.6951`,`child_cls=7.6902`,两个 CE 仍接近 2500 类随机分类基准 `ln(2500)=7.824`。 |
| - Curvature 从 1.0 降到 0.04398,TMF layer entropy 约为 `ln(3)`,表明 layer weighting 几乎保持均匀,双曲率特征出现表示坍塌。 |
|
|
| | Dataset | Rank-1 | mAP | mINP | |
| |---|---:|---:|---:| |
| | `CARGO` | 0.00 | 0.0331 | 0.0083 | |
| | `CARGO_GG` | 0.00 | 0.0591 | 0.0132 | |
| | `CARGO_AA` | 0.00 | 0.0511 | 0.0191 | |
| | `CARGO_AG` | 0.00 | 0.0203 | 0.0084 | |
|
|
| 结论:当前 HiHR 只能说明从论文描述重写的完整工程链路可运行,**不是成功复现,不得作为有效 Baseline 数值汇报**。下一轮必须先用纯 CLIP/ReID CE+Triplet 建立可收敛的 Euclidean control,再逐项加入 TMF、Hyperbolic mapping 和 hierarchy loss,以定位首个导致坍塌的模块。 |
|
|
| ## 14. 2026-08-03 HiHR Collapse 根因排查与修复 |
|
|
| ### 14.1 实测证据 |
|
|
| - 旧 60-epoch checkpoint 的任意测试样本特征 cosine similarity 为 `0.99996+`,确认是 Representation Collapse,不是单纯评估脚本错误。 |
| - 旧 parent/child classifier weight 的平均 pairwise cosine 约为 `0.92`,可训练 prototype 的 pairwise cosine 为 `0.99988/0.99999`,类别中心也完全坍塌。 |
| - 原始 CLIP final-layer feature 在同一批 CARGO 图像上的平均 cosine 仅为 `0.8024`,说明 Backbone 本身保留了显著的样本差异,是后续 Fusion/Loss 将特征抹平。 |
| - 修复后 `TMF + ReID + BNNeck`的300-step control 结束时 Parent/Child off-diagonal cosine 为 `0.9074/0.9528`,没有坍塌。 |
|
|
| ### 14.2 已确认的实现错误 |
|
|
| 1. TMF 没有按论文实现 Q/K/V linear projection,且错误地对 Patch token 取 mean;论文要求对 `[t_k; X_k]` 进行 Transformer fusion 并取第一个 token。 |
| 2. HHL 错误使用全局可训练 parent/child prototype 和直接 Hyperbolic distance minimization。论文要求 batch identity mean parent prototype 与四项 Entailment Cone。 |
| 3. 四项几何约束实现不对:旧版只有一项对应论文,其余项目替换成了特征距离或 visual parent-child order。 |
| 4. `s1/s2` 被实现为固定绝对半径;论文要求 `g_p=s1*normalize(s_p)`、`g_c=s1*s2*normalize(s_c)`,且两个 scale 可学习。 |
| 5. 推理时 log map 后未除回 `s1` 与 `s1*s2`,导致 child feature 被错误加权。 |
| 6. `lambda_g=1.0/0.25` 被错误用在 HHL distance 上,没有用于 parent/child CE。 |
| 7. Text feature 被提前 L2 normalize,导致 TMF attention logits 太小,三层权重长期均匀。 |
| 8. Triplet cosine distance 在 AMP/FP16 下计算,小距离被严重量化,坍塌后梯度几乎失效。 |
| 9. 缺少 ReID 标准 `BNNeck`。实验表明这是基础 `TMF + ReID` 仍会坍塌的直接原因:加入 BNNeck 后特征恢复分离。 |
| 10. Optimizer 对 Curvature、`S1/S2`、Prompt 和 Norm/Bias 错误施加 Weight Decay;现已拆分 no-decay parameter groups。 |
| 11. Eval-only 未处理 NumPy scalar JSON serialization,评估完成后可能在写结果时报错,现已修复。 |
|
|
| ### 14.3 修复后的最小评估 |
|
|
| 输出:`logs/CARGO/HIHR_PAPERFIX_TMF_BN_300`,仅 300 iterations,`lambda_entail=0`。 |
|
|
| | Dataset | Rank-1 | mAP | mINP | |
| |---|---:|---:|---:| |
| | `CARGO` | 7.37 | 7.02 | 2.12 | |
| | `CARGO_GG` | 14.29 | 12.98 | 4.35 | |
| | `CARGO_AA` | 10.00 | 7.90 | 1.21 | |
| | `CARGO_AG` | 2.50 | 3.63 | 1.30 | |
|
|
| 该结果不是最终 Baseline,只用于证明数据、训练和 evaluator 已恢复,Rank-1 不再全部为 0。 |
|
|
| ### 14.4 当前 HHL 风险 |
|
|
| - 修正公式但从第 1 步直接启用 `lambda_entail=5` 时,Parent feature 仍会被 generic text prompt 拉向共同方向。 |
| - 新增 `--entail-delay-iters` 和 `--entail-warmup-iters`。600-step staged test 结束时 Parent/Child cosine 为 `0.9894/0.9865`,Parent CE 降到 `7.1794`,比立即启用 HHL 稳定,但 Entailment 仍过强。 |
| - 必须先完成 60-epoch `TMF + ReID` control,确认达到正常 Baseline;然后从该 checkpoint 逐项加入 prototype-child、prompt hierarchy 和 visual-prompt alignment,不得直接将当前 HHL staged 短测当作成功复现。 |
|
|
| ### 14.5 修复后的正式 Control Run |
|
|
| - 状态:已于 2026-08-03 启动,运行中。 |
| - 输出:`logs/CARGO/HIHR_PAPERFIX_TMF_BASELINE_60E_B64`。 |
| - 设置:60 epochs,batch size 64,physical GPU 0,`lambda_entail=0`,只验证修复后的 `CLIP MFE + TMF + BNNeck + CE/Triplet`。 |
| - 总 iterations:`48180`;预计训练约 1-1.5 小时,结束后自动评估四个 CARGO protocol。 |
| - iteration 300:`total_loss=9.7713`,`parent_cls=7.3136`,`child_cls(weighted)=1.8223`,Parent/Child cosine 已降到 `0.8261/0.8462`,表明正式长程训练正在学习判别特征,暂无 Collapse。 |
| - iteration 600:`total_loss=7.8209`,`parent_cls=5.8595`,`child_cls(weighted)=1.4975`,Parent/Child cosine 进一步降到 `0.6143/0.2556`,Triplet 也降到 `0.2870/0.1769`,已确认 Loss 和特征分离都在健康收敛。 |
|
|
| ## 15. 2026-08-03 HiHR arXiv Source 逐公式审计 |
|
|
| - 已下载 `https://arxiv.org/src/2607.09186` 到 `papers/hihr_arxiv_source/`。source 只有 LaTeX、参考文献和图片,没有 official code/config/checkpoint。 |
| - 论文 CARGO 目标值(R1/mAP):ALL `74.36/67.52`,A->G `75.53/70.53`,A->A `75.00/69.60`,G->G `87.50/80.93`;论文不报告 mINP。 |
| - 审计报告:`docs/HIHR_SOURCE_FORMULA_ALIGNMENT_AUDIT.md`。 |
| - 已实现真正的 token-level Prompt:4 个 shared tokens,aerial/ground 各 4 个 view-private tokens;Prompt 在 CLIP Text Encoder 前插入。 |
| - source-aligned TMF 使用一套 shared Q/K/V + Transformer;这是由 Fig.2 推断,正文未明确声明 parameter sharing。 |
| - 已实现 `CVIdentitySampler`,K=4 时每个 ID 采 2 aerial + 2 ground,保证 parent cross-view 与 child intra-view Triplet 都有有效正样本。 |
| - Lorentz exterior angle 与 HiHR 引用的 HyCoCLIP closed form 数值对照,最大绝对误差约 `7e-7`;cone aperture 与四项 entailment 均与论文公式对应。 |
| - source-aligned 300-step 结果:关闭 HHL 时 Parent/Child cosine 为 `0.9776/0.9776`;直接启用 `lambda_e=5` 时为 `0.99999/0.99999`,发生 Collapse。 |
| - 该 300-step 测试曾将 cosine LR schedule 一并压缩至 300 step,诊断不充分。已增加 `--lr-schedule-iters`,用完整 48180-step schedule 进行 2000-step复核。 |
| - 论文未写清:visual 768->text 512 dimension bridge、TMF heads/FFN/norm/init、Prompt init、Text Encoder freeze policy、optimizer 细节、精确 sampler、HHL warm-up。因此当前只能称 `Paper-based Reimplementation`,不得称 official reproduction。 |
| - 公平 2000-step 复核使用完整 48180-step LR schedule:TMF-only 的 Parent CE 降至 `3.7885`,cosine 降至 `0.1632`;全 HHL 的 Parent CE 保持 `7.8240`,cosine 升至 `0.9999997`。已确定主链可学习,首个失败模块为从第 1 step 全量启用 HHL。 |
| - 从健康 iteration-2000 checkpoint 分项继续 500 steps:`proto_child+prompt_order` cosine 升至 `0.8324`;`parent_alignment+child_alignment` 升至 `0.9650`。generic Prompt->Visual alignment 是主要 Collapse 驱动力,prototype-child 也会明显聚集表示。 |
| - 已加入 `--entailment-terms` 作为诊断开关;默认仍为论文四项全开。后续稳定化只能标为 `stabilized variant`。 |
|
|
| ## 16. 2026-08-03 HiHR Prompt EOS 关键修复与冲刺实验 |
|
|
| - 发现 `CLIPTokenPromptLearner` 使用 `text_model.eos_token_id=2` 定位 pooled token,但 CLIP tokenizer 的实际 EOS/PAD ID 是 `49407`。匹配失败后 `argmax` 返回 0,导致读取 BOS;由于 causal attention,BOS 看不到任何后续 Prompt token。 |
| - 旧 source-aligned checkpoint 实测:Parent/Child Prompt cosine `1.0`、attention L1 difference `0.0`、Parent/Child normalized feature L2 difference `0.0`,确认两层表示完全重复。 |
| - 修复为 `eos_positions=attention_mask.sum(1)-1`。修复后 EOS positions `[10,16,16]`;初始 Parent-Aerial/Parent-Ground/Aerial-Ground Prompt cosine 为 `0.885/0.939/0.862`。 |
| - 新增 EOS pooling regression test;本地与服务器均 `9/9 passed`。 |
| - legacy feature-Prompt epoch-20 实测已接近论文 Baseline ALL:`68.91 R1 / 63.39 mAP`,论文 Baseline 为 `68.23/63.61`;但 A->G 仅 `55.62/52.10`,主要差距仍是 cross-view generalization。 |
| - 已停止受 EOS Bug 污染的三条 source run,并从头启动:`HIHR_SOURCE_EOSFIX_TMF_60E`、`HIHR_SOURCE_EOSFIX_HHL_STAGED_60E`、`HIHR_SOURCE_EOSFIX_HIERARCHY_STAGED_60E`。 |
| - 修复 EOS 后,论文原始 HHL (`lambda_e=5`, iteration 1启用) 在 iteration 600 仍 collapse 到 cosine `0.999996`;说明 EOS Bug 和 HHL loss dominance 是两个独立问题。 |
| - 又发现 `lambda_entail=0` 时仍计算几何项,scale 增大后出现 `NaN*0`,导致 legacy 训练在约 iteration 24972 中止;已改为 disabled HHL 直接跳过几何计算,新增测试后服务器 `10/10 passed`。 |
| - EOS-fixed Token+shared TMF epoch-10:CARGO `67.95 R1 / 59.83 mAP`,CARGO_AG `57.50/50.97`。 |
| - EOS-fixed lambda=0.1 full HHL epoch-10:CARGO `65.06/59.56`,CARGO_AG `51.25/48.65`,暂不优于 TMF-only。 |
| - legacy feature-Prompt+dual-TMF epoch-30:CARGO `72.76/64.34`,接近论文 Baseline+TMF `72.08/65.46`;CARGO_AG `61.25/54.87`。CV sampler 微调 epoch-35 后降为 CARGO `71.15/62.85`、CARGO_AG `58.13/53.24`,最佳仍为 epoch-30。 |
| - 已停止 full staged HHL 与 hierarchy-only staged 分支;继续保留 EOS-fixed TMF-only、lambda=0.1 HHL、dual-TMF 三条主线至最终 checkpoint。 |
| - source EOS-fixed shared-TMF epoch-20:CARGO `68.59/60.17`,CARGO_AG `54.38/49.14`。 |
| - token+dual-TMF epoch-10:CARGO `66.99/60.10`,CARGO_AG `56.88/50.11`,没有优于 shared-TMF。 |
|
|