CAVI / memory.md
DesonDai's picture
Upload CAVI-ReID code, results, and final CLIP weights
376ab70 verified
|
Raw
History Blame Contribute Delete
22 kB
# CAVI-ReID 项目统一记忆
更新时间:2026-08-02
本文档是本项目的统一事实来源。后续实现、实验和汇报以本文档为准;与本文档冲突的旧总结、临时日志或口头描述需要重新核验。
## 1. 项目与方法身份
- `CAVI` 是我们的主方法。
- `ViSA` 是另一篇论文的方法,是 Baseline,不是 CAVI 的旧名称。
- `VDT` 是主要 Baseline,也是 CAVI 当前使用的 pretrained initialization 来源。
- 主数据集是 `CARGO`
- 评测 protocol 统一为 `CARGO / CARGO_GG / CARGO_AA / CARGO_AG`
## 2. 当前 CAVI 的唯一正式定义
当前实现名称:`CAVIViewPromptMoE`
必须满足:
- 只使用 `CLS token` 作为 identity feature。
- Backbone forward 中禁用 legacy `view_token`;输入序列只有 `CLS + patch tokens`
- 不使用 `meta token`
- 不使用 `global_feat - view_feat` subtraction。
- view information 仅作为 `Embedding / Prompt` 注入。
- Canonical token sequence 为 `[CLS + Pos/SIE, View Prompt, Patch + Pos/SIE]`
- `View Prompt` 在 Position/SIE 相加完成后插入,因此不占 spatial position index,也不叠加 Position Embedding 或 SIE。
- 同一个 `View Prompt` 先参与 Transformer attention,再用于 MoE routing / compensation。
- 使用两个 Expert:`Aerial Expert``Ground Expert`
- Router 包含 `No-op` 分支。
- `cross-view positive pairs` 需要 compensation。
- `same-view positive pairs` 应保持低 compensation / low drift。
数据中的 canonical view label:
```text
Aerial -> 0 -> Aerial Expert
Ground -> 1 -> Ground Expert
```
任何其他 view label 必须报错,不能静默映射到 Ground。
## 3. 当前代码入口
- Meta architecture:`fastreid/modeling/meta_arch/cavi_view_prompt_moe.py`
- Config:`configs/CARGO/cavi_view_prompt_moe.yml`
- Trainer:`tools/train_cavi_noeval.py`
- Launcher:`tools/run_cavi_view_prompt_moe_cargo.sh`
- 正式汇报:`reports/CAVI_CARGO_FINAL_PRESENTATION_SUMMARY.md`
## 4. 已完成模块
| 模块 | 状态 | 结论 |
|---|---|---|
| `CARGO Dataset Loader` | 完成 | 支持四个统一 protocol |
| `VDT` | 已复现 | 强 Baseline |
| `ViSA` | 已复现 | 当前最强 Baseline |
| `Trace Diagnostic` | 完成 | 被删除 trace 中包含 identity information |
| `CRFA / CREA` | 已实现 | Fixed restoration 弱,Oracle 有 headroom |
| `CAVIViewPromptMoE` | 已实现 | 结构与 eval 链路已跑通 |
| `Faiss / rank_cy / tensorboard` | 已修复 | 正式 FastReID eval 可用 |
## 5. 可信阶段结果
### 5.1 CAVIViewPromptMoE,30 epochs 问题训练
该实验完成 12030 iterations,无 NaN,但 scheduler 未 step,loss 基本横盘。因此只作为阶段性结构验证,不作为 CAVI 最终性能。
| Dataset | Rank-1 | mAP | mINP |
|---|---:|---:|---:|
| `CARGO` | 52.24 | 45.33 | 31.44 |
| `CARGO_GG` | 71.43 | 62.01 | 47.46 |
| `CARGO_AA` | 75.00 | 56.04 | 33.36 |
| `CARGO_AG` | 35.00 | 32.78 | 21.95 |
### 5.2 Baseline
| Method | Dataset | Rank-1 | mAP | mINP |
|---|---|---:|---:|---:|
| `VDT` | `CARGO` | 62.82 | 55.80 | 43.13 |
| `VDT` | `CARGO_GG` | 80.36 | 73.78 | 63.70 |
| `VDT` | `CARGO_AA` | 77.50 | 63.79 | 46.84 |
| `VDT` | `CARGO_AG` | 57.45 | 55.67 | 46.39 |
| `ViSA` | `CARGO` | 69.23 | 63.77 | 52.72 |
| `ViSA` | `CARGO_GG` | 86.61 | 81.82 | 74.79 |
| `ViSA` | `CARGO_AA` | 80.00 | 67.24 | 51.00 |
| `ViSA` | `CARGO_AG` | 63.83 | 65.06 | 58.67 |
## 6. Trace Diagnostic 的可信结论
| Protocol | Base mAP | Best Fixed mAP | Oracle mAP |
|---|---:|---:|---:|
| `CARGO` | 55.94 | 56.10 | 59.91 |
| `CARGO_AG` | 43.15 | 43.46 | 47.79 |
| `CARGO_AA` | 64.64 | 65.00 | 67.42 |
| `CARGO_GG` | 73.38 | 73.76 | 76.33 |
统一解释:Fixed restoration 增益很小,Oracle restoration 有明显空间,因此需要 sample-adaptive compensation。该结论支持 CAVI 动机,但不等同于当前 MoE 实现有效。
## 7. 禁止使用的结果与表述
- 不使用出现 `mAP=100.0` 或多个 protocol mAP 异常完全相同的旧 JSON 作为论文结果。
- 不把早期 `CRFA / CREA fixed-init` 与当前 FastReID eval 做严格横向数值比较,因为 protocol、初始化或评测入口可能不同。
- 不宣称当前 `CAVIViewPromptMoE` 超过 Baseline。
- 不把 eval 中 `(2500, 768) -> (0, 768)` 的 classifier skip warning 解释成 retrieval 失败。Feature-based eval 不需要 classifier,该 warning 是预期行为。
- 不把 loss 无 NaN 描述为 loss 已收敛。
## 8. 2026-08-01 已确认并修复的问题
- Trainer 现在会执行 `Warmup` 和 epoch-level `CosineAnnealingLR`
- Scheduler、optimizer 与 AMP scaler 会写入 checkpoint,可用于正确 resume。
- Checkpoint 记录精确 iteration;partial sanity run 也可从实际停止位置恢复。
- 自定义 trainer 使用标准 parameter groups,并在 AMP unscale 后显式执行 gradient clipping,避免 `ContiguousParams / GradScaler / scheduler` 的包装冲突。
- `--max-iter` 现在是实际训练上界,不再导致外层循环重复。
- 单 iteration 不再为 base feature 第二次调用同一个 `ReID Head / BNNeck`
- VDT 仅提供 backbone initialization;其基于 subtraction 特征训练的 classifier / BNNeck 会重新初始化。
- CAVI 配置显式设置 `USE_VIEW_TOKEN=False`,legacy view token 不参与 self-attention。
- Same-view loss 只统计存在 same-view positive 的样本。
- Update regularization 约束实际施加的 `beta * update`,而不是未经过 gate 的 raw update。
- View label 改为严格的 `Aerial / Ground` 校验。
- Metrics 记录 No-op probability、Aerial/Ground Expert probability、routing accuracy、beta 和实际 compensation ratio。
- Positionless Prompt 已加入 backbone;legacy `pos_embed` 参数 shape 保持不变以兼容 VDT checkpoint。
- 旧 CAVI checkpoint 虽可结构加载,但 forward 语义已改变,不得沿用旧指标,必须重新训练。
- Clean training 默认与 VDT 对齐为 120 epochs、LR 0.008、warmup 2000 iterations。
- 新输出目录固定为 `logs/CARGO/CAVI_VIEW_PROMPT_MOE_CLEAN`,不得覆盖旧结果。
## 9. Clean Run 标准流程
### 9.1 Positionless Prompt smoke test(当前语义)
远端输出:`logs/CARGO/CAVI_POSITIONLESS_PROMPT_CODECHECK`
- Token sequence 为 `[CLS + Pos/SIE, Prompt, Patch + Pos/SIE]`
- 7 个 position/checkpoint/AMP 单元测试全部通过。
- 真实 CARGO 2-step 完成,`loss_cls``7.8443 -> 7.8349`
- AMP 首步自动降 scale,第 2 步 optimizer update 成功。
- Prompt 不叠加 Position Embedding/SIE,AMP dtype conversion 保持可微。
- 这是后续 200-step 和完整训练应使用的当前 forward 语义。
### 9.2 Pre-backbone Prompt 之前的 smoke test(历史语义)
远端输出:`logs/CARGO/CAVI_VIEW_PROMPT_MOE_CODECHECK_V4`
- 使用真实 CARGO data、VDT backbone initialization、AMP 和修复后的 trainer。
- 完成 20 iterations;第 1 步 AMP 自动降 scale,其余 19 步 optimizer update 成功。
- `loss_cls` 处于 7.6-8.1;加载错误 VDT classifier 时为 22-24。
- Warmup LR 从 `8.0e-5` 增长到 `1.5128e-4`
- `model_final.pth` 正常保存,checkpoint 精确记录 `iteration=20`
- 数据、模型、loss、AMP、gradient clipping、scheduler、checkpoint 和 resume 链路均已连通,但当时 Prompt 尚未进入 Transformer,不得作为当前实现的最终验证结果。
### 9.3 正式训练前检查
训练前必须确认:
1. `baseline_logs/VDT/model_best.pth` 存在。
2. checkpoint 加载日志中 backbone 成功加载;VDT 的 identity head 随后必须 reset,`view_heads` unexpected 可以接受。
3. CARGO train classes 自动设置为 2500;如不是 2500,停止训练并检查 dataset split。
4. 前 200 iterations 中 LR 按 warmup 上升,`loss_cls` 有下降趋势。
5. `metrics.jsonl``optimizer_step` 应很快变为 1;若 AMP 初始 overflow,`amp_scale` 应自动下降后恢复更新。
6. 先跑短程 sanity run,再跑 120 epochs。
标准命令:
```bash
bash tools/run_cavi_view_prompt_moe_cargo.sh
```
短程检查:
```bash
python tools/train_cavi_noeval.py \
--config-file configs/CARGO/cavi_view_prompt_moe.yml \
--max-iter 200 \
--output-dir logs/CARGO/CAVI_VIEW_PROMPT_MOE_SANITY
```
## 10. 后续实验优先级
1. Clean 200-iteration sanity run,确认 `loss_cls` 开始低于随机分类基准 `ln(2500)≈7.82`
2. 120-epoch clean run,统一评估四个 protocol。
3. Ablation:`CLS-only``+View Prompt``+MoE``+Cross-view Loss``+Same-view Loss`
4. 输出 Expert usage、Router entropy、beta 和 compensation norm。
5. 优先优化 `CARGO_AG`
6. 若 output-level compensation 无效,再尝试 ViT middle-layer compensation。
## 11. 当前判断
`CAVI` 的动机仍有诊断证据支持,但当前 30-epoch `CAVIViewPromptMoE` 结果低于 `VDT / ViSA`,只能证明实现链路可运行。下一次有效结论必须来自修复后的 clean training 和统一 eval。
## 12. 2026-08-02 正式训练
### Positionless CAVI 120 epochs
- 输出:`logs/CARGO/CAVI_POSITIONLESS_PROMPT_120E`
- GPU:physical GPU 1。
- Batch size:32(服务器其他任务占用显存,无法安全使用 128)。
- Max epochs / iterations:`120 / 192840`
- 当前语义:Prompt 参与 Transformer,但不使用 Position Embedding/SIE。
- 该实验结束后必须重新评估四个 CARGO protocol,旧 checkpoint 指标不可替代。
### HiHR paper-based reimplementation
- 独立代码:`baselines/hihr/`
- Config:`configs/CARGO/hihr_reimplementation.yml`
- 输出:`logs/CARGO/HIHR_REIMPLEMENTATION_60E_B16`
- GPU:physical GPU 4。
- Batch size:16;每批 4 identities x 4 images,Cross-view/Intra-view Triplet 均有有效样本。
- Max epochs / iterations:`60 / 192900`
- Backbone:`openai/clip-vit-base-patch16`,通过 Hugging Face mirror 下载后离线加载。
- 已实现:layers `{5,8,12}` MFE、view-agnostic/view-aware Prompt、TMF、Lorentz exp/log map、angular/radial entailment-cone approximation、parent/child CE 和 Triplet、四 protocol eval。
- 官方仓库仍不可访问,因此结果必须标记为 `paper-based reimplementation`,不能标记为 official HiHR reproduction。
## 13. 2026-08-03 正式训练与评估结果
### 13.1 Positionless CAVI 120 epochs
- 训练已完成:`192840 / 192840 iterations`,总耗时约 3 小时 8 分钟。
- 最终 checkpoint:`logs/CARGO/CAVI_POSITIONLESS_PROMPT_120E/model_final.pth`
- 训练无 NaN、OOM 或 traceback。
- 最终 `total_loss=0.06183`,其中 `loss_cls=0.05487``loss_triplet=0.00097``loss_cross_view_comp=0.00581`,确认有明显收敛。
- Router 诊断:`router_view_acc=1.0``beta_mean=0.9394``noop_prob=0.0010`,但实际 `compensation_ratio=0.00276`。这表明 Router 几乎完全被 view supervision 控制,No-op 分支基本未被使用,实际补偿幅度很小,后续需要做 Router/No-op ablation。
| Dataset | Rank-1 | mAP | mINP |
|---|---:|---:|---:|
| `CARGO` | **66.03** | **57.81** | **44.19** |
| `CARGO_GG` | **86.61** | **73.30** | **58.29** |
| `CARGO_AA` | **75.00** | **65.25** | **50.94** |
| `CARGO_AG` | **50.63** | **46.74** | **34.78** |
与上一个汇报版本比较:
| Dataset | Rank-1 变化 | mAP 变化 | mINP 变化 |
|---|---:|---:|---:|
| `CARGO` | 52.24 -> 66.03 (**+13.79**) | 45.33 -> 57.81 (**+12.48**) | 31.44 -> 44.19 (**+12.75**) |
| `CARGO_GG` | 71.43 -> 86.61 (**+15.18**) | 62.01 -> 73.30 (**+11.29**) | 47.46 -> 58.29 (**+10.83**) |
| `CARGO_AA` | 75.00 -> 75.00 (**+0.00**) | 56.04 -> 65.25 (**+9.21**) | 33.36 -> 50.94 (**+17.58**) |
| `CARGO_AG` | 35.00 -> 50.63 (**+15.63**) | 32.78 -> 46.74 (**+13.96**) | 21.95 -> 34.78 (**+12.83**) |
结论:Positionless Prompt 版本是当前有效的 CAVI 主结果,四个 protocol 均已用同一 `model_final.pth` 重新评估。评估时 Cython rank extension 与 NumPy 2.x 不兼容,程序自动回退到 Python evaluator;评估数值有效,只是速度较慢。
### 13.2 HiHR paper-based reimplementation 60 epochs
- 训练和四 protocol 评估均已完成,checkpoint 位于 `logs/CARGO/HIHR_REIMPLEMENTATION_60E_B16/model_final.pth`
- 最终 `total_loss=16.0281``parent_cls=7.6951``child_cls=7.6902`,两个 CE 仍接近 2500 类随机分类基准 `ln(2500)=7.824`
- Curvature 从 1.0 降到 0.04398,TMF layer entropy 约为 `ln(3)`,表明 layer weighting 几乎保持均匀,双曲率特征出现表示坍塌。
| Dataset | Rank-1 | mAP | mINP |
|---|---:|---:|---:|
| `CARGO` | 0.00 | 0.0331 | 0.0083 |
| `CARGO_GG` | 0.00 | 0.0591 | 0.0132 |
| `CARGO_AA` | 0.00 | 0.0511 | 0.0191 |
| `CARGO_AG` | 0.00 | 0.0203 | 0.0084 |
结论:当前 HiHR 只能说明从论文描述重写的完整工程链路可运行,**不是成功复现,不得作为有效 Baseline 数值汇报**。下一轮必须先用纯 CLIP/ReID CE+Triplet 建立可收敛的 Euclidean control,再逐项加入 TMF、Hyperbolic mapping 和 hierarchy loss,以定位首个导致坍塌的模块。
## 14. 2026-08-03 HiHR Collapse 根因排查与修复
### 14.1 实测证据
- 旧 60-epoch checkpoint 的任意测试样本特征 cosine similarity 为 `0.99996+`,确认是 Representation Collapse,不是单纯评估脚本错误。
- 旧 parent/child classifier weight 的平均 pairwise cosine 约为 `0.92`,可训练 prototype 的 pairwise cosine 为 `0.99988/0.99999`,类别中心也完全坍塌。
- 原始 CLIP final-layer feature 在同一批 CARGO 图像上的平均 cosine 仅为 `0.8024`,说明 Backbone 本身保留了显著的样本差异,是后续 Fusion/Loss 将特征抹平。
- 修复后 `TMF + ReID + BNNeck`的300-step control 结束时 Parent/Child off-diagonal cosine 为 `0.9074/0.9528`,没有坍塌。
### 14.2 已确认的实现错误
1. TMF 没有按论文实现 Q/K/V linear projection,且错误地对 Patch token 取 mean;论文要求对 `[t_k; X_k]` 进行 Transformer fusion 并取第一个 token。
2. HHL 错误使用全局可训练 parent/child prototype 和直接 Hyperbolic distance minimization。论文要求 batch identity mean parent prototype 与四项 Entailment Cone。
3. 四项几何约束实现不对:旧版只有一项对应论文,其余项目替换成了特征距离或 visual parent-child order。
4. `s1/s2` 被实现为固定绝对半径;论文要求 `g_p=s1*normalize(s_p)``g_c=s1*s2*normalize(s_c)`,且两个 scale 可学习。
5. 推理时 log map 后未除回 `s1``s1*s2`,导致 child feature 被错误加权。
6. `lambda_g=1.0/0.25` 被错误用在 HHL distance 上,没有用于 parent/child CE。
7. Text feature 被提前 L2 normalize,导致 TMF attention logits 太小,三层权重长期均匀。
8. Triplet cosine distance 在 AMP/FP16 下计算,小距离被严重量化,坍塌后梯度几乎失效。
9. 缺少 ReID 标准 `BNNeck`。实验表明这是基础 `TMF + ReID` 仍会坍塌的直接原因:加入 BNNeck 后特征恢复分离。
10. Optimizer 对 Curvature、`S1/S2`、Prompt 和 Norm/Bias 错误施加 Weight Decay;现已拆分 no-decay parameter groups。
11. Eval-only 未处理 NumPy scalar JSON serialization,评估完成后可能在写结果时报错,现已修复。
### 14.3 修复后的最小评估
输出:`logs/CARGO/HIHR_PAPERFIX_TMF_BN_300`,仅 300 iterations,`lambda_entail=0`
| Dataset | Rank-1 | mAP | mINP |
|---|---:|---:|---:|
| `CARGO` | 7.37 | 7.02 | 2.12 |
| `CARGO_GG` | 14.29 | 12.98 | 4.35 |
| `CARGO_AA` | 10.00 | 7.90 | 1.21 |
| `CARGO_AG` | 2.50 | 3.63 | 1.30 |
该结果不是最终 Baseline,只用于证明数据、训练和 evaluator 已恢复,Rank-1 不再全部为 0。
### 14.4 当前 HHL 风险
- 修正公式但从第 1 步直接启用 `lambda_entail=5` 时,Parent feature 仍会被 generic text prompt 拉向共同方向。
- 新增 `--entail-delay-iters``--entail-warmup-iters`。600-step staged test 结束时 Parent/Child cosine 为 `0.9894/0.9865`,Parent CE 降到 `7.1794`,比立即启用 HHL 稳定,但 Entailment 仍过强。
- 必须先完成 60-epoch `TMF + ReID` control,确认达到正常 Baseline;然后从该 checkpoint 逐项加入 prototype-child、prompt hierarchy 和 visual-prompt alignment,不得直接将当前 HHL staged 短测当作成功复现。
### 14.5 修复后的正式 Control Run
- 状态:已于 2026-08-03 启动,运行中。
- 输出:`logs/CARGO/HIHR_PAPERFIX_TMF_BASELINE_60E_B64`
- 设置:60 epochs,batch size 64,physical GPU 0,`lambda_entail=0`,只验证修复后的 `CLIP MFE + TMF + BNNeck + CE/Triplet`
- 总 iterations:`48180`;预计训练约 1-1.5 小时,结束后自动评估四个 CARGO protocol。
- iteration 300:`total_loss=9.7713``parent_cls=7.3136``child_cls(weighted)=1.8223`,Parent/Child cosine 已降到 `0.8261/0.8462`,表明正式长程训练正在学习判别特征,暂无 Collapse。
- iteration 600:`total_loss=7.8209``parent_cls=5.8595``child_cls(weighted)=1.4975`,Parent/Child cosine 进一步降到 `0.6143/0.2556`,Triplet 也降到 `0.2870/0.1769`,已确认 Loss 和特征分离都在健康收敛。
## 15. 2026-08-03 HiHR arXiv Source 逐公式审计
- 已下载 `https://arxiv.org/src/2607.09186``papers/hihr_arxiv_source/`。source 只有 LaTeX、参考文献和图片,没有 official code/config/checkpoint。
- 论文 CARGO 目标值(R1/mAP):ALL `74.36/67.52`,A->G `75.53/70.53`,A->A `75.00/69.60`,G->G `87.50/80.93`;论文不报告 mINP。
- 审计报告:`docs/HIHR_SOURCE_FORMULA_ALIGNMENT_AUDIT.md`
- 已实现真正的 token-level Prompt:4 个 shared tokens,aerial/ground 各 4 个 view-private tokens;Prompt 在 CLIP Text Encoder 前插入。
- source-aligned TMF 使用一套 shared Q/K/V + Transformer;这是由 Fig.2 推断,正文未明确声明 parameter sharing。
- 已实现 `CVIdentitySampler`,K=4 时每个 ID 采 2 aerial + 2 ground,保证 parent cross-view 与 child intra-view Triplet 都有有效正样本。
- Lorentz exterior angle 与 HiHR 引用的 HyCoCLIP closed form 数值对照,最大绝对误差约 `7e-7`;cone aperture 与四项 entailment 均与论文公式对应。
- source-aligned 300-step 结果:关闭 HHL 时 Parent/Child cosine 为 `0.9776/0.9776`;直接启用 `lambda_e=5` 时为 `0.99999/0.99999`,发生 Collapse。
- 该 300-step 测试曾将 cosine LR schedule 一并压缩至 300 step,诊断不充分。已增加 `--lr-schedule-iters`,用完整 48180-step schedule 进行 2000-step复核。
- 论文未写清:visual 768->text 512 dimension bridge、TMF heads/FFN/norm/init、Prompt init、Text Encoder freeze policy、optimizer 细节、精确 sampler、HHL warm-up。因此当前只能称 `Paper-based Reimplementation`,不得称 official reproduction。
- 公平 2000-step 复核使用完整 48180-step LR schedule:TMF-only 的 Parent CE 降至 `3.7885`,cosine 降至 `0.1632`;全 HHL 的 Parent CE 保持 `7.8240`,cosine 升至 `0.9999997`。已确定主链可学习,首个失败模块为从第 1 step 全量启用 HHL。
- 从健康 iteration-2000 checkpoint 分项继续 500 steps:`proto_child+prompt_order` cosine 升至 `0.8324``parent_alignment+child_alignment` 升至 `0.9650`。generic Prompt->Visual alignment 是主要 Collapse 驱动力,prototype-child 也会明显聚集表示。
- 已加入 `--entailment-terms` 作为诊断开关;默认仍为论文四项全开。后续稳定化只能标为 `stabilized variant`
## 16. 2026-08-03 HiHR Prompt EOS 关键修复与冲刺实验
- 发现 `CLIPTokenPromptLearner` 使用 `text_model.eos_token_id=2` 定位 pooled token,但 CLIP tokenizer 的实际 EOS/PAD ID 是 `49407`。匹配失败后 `argmax` 返回 0,导致读取 BOS;由于 causal attention,BOS 看不到任何后续 Prompt token。
- 旧 source-aligned checkpoint 实测:Parent/Child Prompt cosine `1.0`、attention L1 difference `0.0`、Parent/Child normalized feature L2 difference `0.0`,确认两层表示完全重复。
- 修复为 `eos_positions=attention_mask.sum(1)-1`。修复后 EOS positions `[10,16,16]`;初始 Parent-Aerial/Parent-Ground/Aerial-Ground Prompt cosine 为 `0.885/0.939/0.862`
- 新增 EOS pooling regression test;本地与服务器均 `9/9 passed`
- legacy feature-Prompt epoch-20 实测已接近论文 Baseline ALL:`68.91 R1 / 63.39 mAP`,论文 Baseline 为 `68.23/63.61`;但 A->G 仅 `55.62/52.10`,主要差距仍是 cross-view generalization。
- 已停止受 EOS Bug 污染的三条 source run,并从头启动:`HIHR_SOURCE_EOSFIX_TMF_60E``HIHR_SOURCE_EOSFIX_HHL_STAGED_60E``HIHR_SOURCE_EOSFIX_HIERARCHY_STAGED_60E`
- 修复 EOS 后,论文原始 HHL (`lambda_e=5`, iteration 1启用) 在 iteration 600 仍 collapse 到 cosine `0.999996`;说明 EOS Bug 和 HHL loss dominance 是两个独立问题。
- 又发现 `lambda_entail=0` 时仍计算几何项,scale 增大后出现 `NaN*0`,导致 legacy 训练在约 iteration 24972 中止;已改为 disabled HHL 直接跳过几何计算,新增测试后服务器 `10/10 passed`
- EOS-fixed Token+shared TMF epoch-10:CARGO `67.95 R1 / 59.83 mAP`,CARGO_AG `57.50/50.97`。
- EOS-fixed lambda=0.1 full HHL epoch-10:CARGO `65.06/59.56`,CARGO_AG `51.25/48.65`,暂不优于 TMF-only。
- legacy feature-Prompt+dual-TMF epoch-30:CARGO `72.76/64.34`,接近论文 Baseline+TMF `72.08/65.46`;CARGO_AG `61.25/54.87`。CV sampler 微调 epoch-35 后降为 CARGO `71.15/62.85`、CARGO_AG `58.13/53.24`,最佳仍为 epoch-30。
- 已停止 full staged HHL 与 hierarchy-only staged 分支;继续保留 EOS-fixed TMF-only、lambda=0.1 HHL、dual-TMF 三条主线至最终 checkpoint。
- source EOS-fixed shared-TMF epoch-20:CARGO `68.59/60.17`,CARGO_AG `54.38/49.14`。
- token+dual-TMF epoch-10:CARGO `66.99/60.10`,CARGO_AG `56.88/50.11`,没有优于 shared-TMF。