CAVI / memory.md
DesonDai's picture
Upload CAVI-ReID code, results, and final CLIP weights
376ab70 verified
|
Raw
History Blame Contribute Delete
22 kB

CAVI-ReID 项目统一记忆

更新时间:2026-08-02

本文档是本项目的统一事实来源。后续实现、实验和汇报以本文档为准;与本文档冲突的旧总结、临时日志或口头描述需要重新核验。

1. 项目与方法身份

  • CAVI 是我们的主方法。
  • ViSA 是另一篇论文的方法,是 Baseline,不是 CAVI 的旧名称。
  • VDT 是主要 Baseline,也是 CAVI 当前使用的 pretrained initialization 来源。
  • 主数据集是 CARGO
  • 评测 protocol 统一为 CARGO / CARGO_GG / CARGO_AA / CARGO_AG

2. 当前 CAVI 的唯一正式定义

当前实现名称:CAVIViewPromptMoE

必须满足:

  • 只使用 CLS token 作为 identity feature。
  • Backbone forward 中禁用 legacy view_token;输入序列只有 CLS + patch tokens
  • 不使用 meta token
  • 不使用 global_feat - view_feat subtraction。
  • view information 仅作为 Embedding / Prompt 注入。
  • Canonical token sequence 为 [CLS + Pos/SIE, View Prompt, Patch + Pos/SIE]
  • View Prompt 在 Position/SIE 相加完成后插入,因此不占 spatial position index,也不叠加 Position Embedding 或 SIE。
  • 同一个 View Prompt 先参与 Transformer attention,再用于 MoE routing / compensation。
  • 使用两个 Expert:Aerial ExpertGround Expert
  • Router 包含 No-op 分支。
  • cross-view positive pairs 需要 compensation。
  • same-view positive pairs 应保持低 compensation / low drift。

数据中的 canonical view label:

Aerial -> 0 -> Aerial Expert
Ground -> 1 -> Ground Expert

任何其他 view label 必须报错,不能静默映射到 Ground。

3. 当前代码入口

  • Meta architecture:fastreid/modeling/meta_arch/cavi_view_prompt_moe.py
  • Config:configs/CARGO/cavi_view_prompt_moe.yml
  • Trainer:tools/train_cavi_noeval.py
  • Launcher:tools/run_cavi_view_prompt_moe_cargo.sh
  • 正式汇报:reports/CAVI_CARGO_FINAL_PRESENTATION_SUMMARY.md

4. 已完成模块

模块 状态 结论
CARGO Dataset Loader 完成 支持四个统一 protocol
VDT 已复现 强 Baseline
ViSA 已复现 当前最强 Baseline
Trace Diagnostic 完成 被删除 trace 中包含 identity information
CRFA / CREA 已实现 Fixed restoration 弱,Oracle 有 headroom
CAVIViewPromptMoE 已实现 结构与 eval 链路已跑通
Faiss / rank_cy / tensorboard 已修复 正式 FastReID eval 可用

5. 可信阶段结果

5.1 CAVIViewPromptMoE,30 epochs 问题训练

该实验完成 12030 iterations,无 NaN,但 scheduler 未 step,loss 基本横盘。因此只作为阶段性结构验证,不作为 CAVI 最终性能。

Dataset Rank-1 mAP mINP
CARGO 52.24 45.33 31.44
CARGO_GG 71.43 62.01 47.46
CARGO_AA 75.00 56.04 33.36
CARGO_AG 35.00 32.78 21.95

5.2 Baseline

Method Dataset Rank-1 mAP mINP
VDT CARGO 62.82 55.80 43.13
VDT CARGO_GG 80.36 73.78 63.70
VDT CARGO_AA 77.50 63.79 46.84
VDT CARGO_AG 57.45 55.67 46.39
ViSA CARGO 69.23 63.77 52.72
ViSA CARGO_GG 86.61 81.82 74.79
ViSA CARGO_AA 80.00 67.24 51.00
ViSA CARGO_AG 63.83 65.06 58.67

6. Trace Diagnostic 的可信结论

Protocol Base mAP Best Fixed mAP Oracle mAP
CARGO 55.94 56.10 59.91
CARGO_AG 43.15 43.46 47.79
CARGO_AA 64.64 65.00 67.42
CARGO_GG 73.38 73.76 76.33

统一解释:Fixed restoration 增益很小,Oracle restoration 有明显空间,因此需要 sample-adaptive compensation。该结论支持 CAVI 动机,但不等同于当前 MoE 实现有效。

7. 禁止使用的结果与表述

  • 不使用出现 mAP=100.0 或多个 protocol mAP 异常完全相同的旧 JSON 作为论文结果。
  • 不把早期 CRFA / CREA fixed-init 与当前 FastReID eval 做严格横向数值比较,因为 protocol、初始化或评测入口可能不同。
  • 不宣称当前 CAVIViewPromptMoE 超过 Baseline。
  • 不把 eval 中 (2500, 768) -> (0, 768) 的 classifier skip warning 解释成 retrieval 失败。Feature-based eval 不需要 classifier,该 warning 是预期行为。
  • 不把 loss 无 NaN 描述为 loss 已收敛。

8. 2026-08-01 已确认并修复的问题

  • Trainer 现在会执行 Warmup 和 epoch-level CosineAnnealingLR
  • Scheduler、optimizer 与 AMP scaler 会写入 checkpoint,可用于正确 resume。
  • Checkpoint 记录精确 iteration;partial sanity run 也可从实际停止位置恢复。
  • 自定义 trainer 使用标准 parameter groups,并在 AMP unscale 后显式执行 gradient clipping,避免 ContiguousParams / GradScaler / scheduler 的包装冲突。
  • --max-iter 现在是实际训练上界,不再导致外层循环重复。
  • 单 iteration 不再为 base feature 第二次调用同一个 ReID Head / BNNeck
  • VDT 仅提供 backbone initialization;其基于 subtraction 特征训练的 classifier / BNNeck 会重新初始化。
  • CAVI 配置显式设置 USE_VIEW_TOKEN=False,legacy view token 不参与 self-attention。
  • Same-view loss 只统计存在 same-view positive 的样本。
  • Update regularization 约束实际施加的 beta * update,而不是未经过 gate 的 raw update。
  • View label 改为严格的 Aerial / Ground 校验。
  • Metrics 记录 No-op probability、Aerial/Ground Expert probability、routing accuracy、beta 和实际 compensation ratio。
  • Positionless Prompt 已加入 backbone;legacy pos_embed 参数 shape 保持不变以兼容 VDT checkpoint。
  • 旧 CAVI checkpoint 虽可结构加载,但 forward 语义已改变,不得沿用旧指标,必须重新训练。
  • Clean training 默认与 VDT 对齐为 120 epochs、LR 0.008、warmup 2000 iterations。
  • 新输出目录固定为 logs/CARGO/CAVI_VIEW_PROMPT_MOE_CLEAN,不得覆盖旧结果。

9. Clean Run 标准流程

9.1 Positionless Prompt smoke test(当前语义)

远端输出:logs/CARGO/CAVI_POSITIONLESS_PROMPT_CODECHECK

  • Token sequence 为 [CLS + Pos/SIE, Prompt, Patch + Pos/SIE]
  • 7 个 position/checkpoint/AMP 单元测试全部通过。
  • 真实 CARGO 2-step 完成,loss_cls7.8443 -> 7.8349
  • AMP 首步自动降 scale,第 2 步 optimizer update 成功。
  • Prompt 不叠加 Position Embedding/SIE,AMP dtype conversion 保持可微。
  • 这是后续 200-step 和完整训练应使用的当前 forward 语义。

9.2 Pre-backbone Prompt 之前的 smoke test(历史语义)

远端输出:logs/CARGO/CAVI_VIEW_PROMPT_MOE_CODECHECK_V4

  • 使用真实 CARGO data、VDT backbone initialization、AMP 和修复后的 trainer。
  • 完成 20 iterations;第 1 步 AMP 自动降 scale,其余 19 步 optimizer update 成功。
  • loss_cls 处于 7.6-8.1;加载错误 VDT classifier 时为 22-24。
  • Warmup LR 从 8.0e-5 增长到 1.5128e-4
  • model_final.pth 正常保存,checkpoint 精确记录 iteration=20
  • 数据、模型、loss、AMP、gradient clipping、scheduler、checkpoint 和 resume 链路均已连通,但当时 Prompt 尚未进入 Transformer,不得作为当前实现的最终验证结果。

9.3 正式训练前检查

训练前必须确认:

  1. baseline_logs/VDT/model_best.pth 存在。
  2. checkpoint 加载日志中 backbone 成功加载;VDT 的 identity head 随后必须 reset,view_heads unexpected 可以接受。
  3. CARGO train classes 自动设置为 2500;如不是 2500,停止训练并检查 dataset split。
  4. 前 200 iterations 中 LR 按 warmup 上升,loss_cls 有下降趋势。
  5. metrics.jsonloptimizer_step 应很快变为 1;若 AMP 初始 overflow,amp_scale 应自动下降后恢复更新。
  6. 先跑短程 sanity run,再跑 120 epochs。

标准命令:

bash tools/run_cavi_view_prompt_moe_cargo.sh

短程检查:

python tools/train_cavi_noeval.py \
  --config-file configs/CARGO/cavi_view_prompt_moe.yml \
  --max-iter 200 \
  --output-dir logs/CARGO/CAVI_VIEW_PROMPT_MOE_SANITY

10. 后续实验优先级

  1. Clean 200-iteration sanity run,确认 loss_cls 开始低于随机分类基准 ln(2500)≈7.82
  2. 120-epoch clean run,统一评估四个 protocol。
  3. Ablation:CLS-only+View Prompt+MoE+Cross-view Loss+Same-view Loss
  4. 输出 Expert usage、Router entropy、beta 和 compensation norm。
  5. 优先优化 CARGO_AG
  6. 若 output-level compensation 无效,再尝试 ViT middle-layer compensation。

11. 当前判断

CAVI 的动机仍有诊断证据支持,但当前 30-epoch CAVIViewPromptMoE 结果低于 VDT / ViSA,只能证明实现链路可运行。下一次有效结论必须来自修复后的 clean training 和统一 eval。

12. 2026-08-02 正式训练

Positionless CAVI 120 epochs

  • 输出:logs/CARGO/CAVI_POSITIONLESS_PROMPT_120E
  • GPU:physical GPU 1。
  • Batch size:32(服务器其他任务占用显存,无法安全使用 128)。
  • Max epochs / iterations:120 / 192840
  • 当前语义:Prompt 参与 Transformer,但不使用 Position Embedding/SIE。
  • 该实验结束后必须重新评估四个 CARGO protocol,旧 checkpoint 指标不可替代。

HiHR paper-based reimplementation

  • 独立代码:baselines/hihr/
  • Config:configs/CARGO/hihr_reimplementation.yml
  • 输出:logs/CARGO/HIHR_REIMPLEMENTATION_60E_B16
  • GPU:physical GPU 4。
  • Batch size:16;每批 4 identities x 4 images,Cross-view/Intra-view Triplet 均有有效样本。
  • Max epochs / iterations:60 / 192900
  • Backbone:openai/clip-vit-base-patch16,通过 Hugging Face mirror 下载后离线加载。
  • 已实现:layers {5,8,12} MFE、view-agnostic/view-aware Prompt、TMF、Lorentz exp/log map、angular/radial entailment-cone approximation、parent/child CE 和 Triplet、四 protocol eval。
  • 官方仓库仍不可访问,因此结果必须标记为 paper-based reimplementation,不能标记为 official HiHR reproduction。

13. 2026-08-03 正式训练与评估结果

13.1 Positionless CAVI 120 epochs

  • 训练已完成:192840 / 192840 iterations,总耗时约 3 小时 8 分钟。
  • 最终 checkpoint:logs/CARGO/CAVI_POSITIONLESS_PROMPT_120E/model_final.pth
  • 训练无 NaN、OOM 或 traceback。
  • 最终 total_loss=0.06183,其中 loss_cls=0.05487loss_triplet=0.00097loss_cross_view_comp=0.00581,确认有明显收敛。
  • Router 诊断:router_view_acc=1.0beta_mean=0.9394noop_prob=0.0010,但实际 compensation_ratio=0.00276。这表明 Router 几乎完全被 view supervision 控制,No-op 分支基本未被使用,实际补偿幅度很小,后续需要做 Router/No-op ablation。
Dataset Rank-1 mAP mINP
CARGO 66.03 57.81 44.19
CARGO_GG 86.61 73.30 58.29
CARGO_AA 75.00 65.25 50.94
CARGO_AG 50.63 46.74 34.78

与上一个汇报版本比较:

Dataset Rank-1 变化 mAP 变化 mINP 变化
CARGO 52.24 -> 66.03 (+13.79) 45.33 -> 57.81 (+12.48) 31.44 -> 44.19 (+12.75)
CARGO_GG 71.43 -> 86.61 (+15.18) 62.01 -> 73.30 (+11.29) 47.46 -> 58.29 (+10.83)
CARGO_AA 75.00 -> 75.00 (+0.00) 56.04 -> 65.25 (+9.21) 33.36 -> 50.94 (+17.58)
CARGO_AG 35.00 -> 50.63 (+15.63) 32.78 -> 46.74 (+13.96) 21.95 -> 34.78 (+12.83)

结论:Positionless Prompt 版本是当前有效的 CAVI 主结果,四个 protocol 均已用同一 model_final.pth 重新评估。评估时 Cython rank extension 与 NumPy 2.x 不兼容,程序自动回退到 Python evaluator;评估数值有效,只是速度较慢。

13.2 HiHR paper-based reimplementation 60 epochs

  • 训练和四 protocol 评估均已完成,checkpoint 位于 logs/CARGO/HIHR_REIMPLEMENTATION_60E_B16/model_final.pth
  • 最终 total_loss=16.0281parent_cls=7.6951child_cls=7.6902,两个 CE 仍接近 2500 类随机分类基准 ln(2500)=7.824
  • Curvature 从 1.0 降到 0.04398,TMF layer entropy 约为 ln(3),表明 layer weighting 几乎保持均匀,双曲率特征出现表示坍塌。
Dataset Rank-1 mAP mINP
CARGO 0.00 0.0331 0.0083
CARGO_GG 0.00 0.0591 0.0132
CARGO_AA 0.00 0.0511 0.0191
CARGO_AG 0.00 0.0203 0.0084

结论:当前 HiHR 只能说明从论文描述重写的完整工程链路可运行,不是成功复现,不得作为有效 Baseline 数值汇报。下一轮必须先用纯 CLIP/ReID CE+Triplet 建立可收敛的 Euclidean control,再逐项加入 TMF、Hyperbolic mapping 和 hierarchy loss,以定位首个导致坍塌的模块。

14. 2026-08-03 HiHR Collapse 根因排查与修复

14.1 实测证据

  • 旧 60-epoch checkpoint 的任意测试样本特征 cosine similarity 为 0.99996+,确认是 Representation Collapse,不是单纯评估脚本错误。
  • 旧 parent/child classifier weight 的平均 pairwise cosine 约为 0.92,可训练 prototype 的 pairwise cosine 为 0.99988/0.99999,类别中心也完全坍塌。
  • 原始 CLIP final-layer feature 在同一批 CARGO 图像上的平均 cosine 仅为 0.8024,说明 Backbone 本身保留了显著的样本差异,是后续 Fusion/Loss 将特征抹平。
  • 修复后 TMF + ReID + BNNeck的300-step control 结束时 Parent/Child off-diagonal cosine 为 0.9074/0.9528,没有坍塌。

14.2 已确认的实现错误

  1. TMF 没有按论文实现 Q/K/V linear projection,且错误地对 Patch token 取 mean;论文要求对 [t_k; X_k] 进行 Transformer fusion 并取第一个 token。
  2. HHL 错误使用全局可训练 parent/child prototype 和直接 Hyperbolic distance minimization。论文要求 batch identity mean parent prototype 与四项 Entailment Cone。
  3. 四项几何约束实现不对:旧版只有一项对应论文,其余项目替换成了特征距离或 visual parent-child order。
  4. s1/s2 被实现为固定绝对半径;论文要求 g_p=s1*normalize(s_p)g_c=s1*s2*normalize(s_c),且两个 scale 可学习。
  5. 推理时 log map 后未除回 s1s1*s2,导致 child feature 被错误加权。
  6. lambda_g=1.0/0.25 被错误用在 HHL distance 上,没有用于 parent/child CE。
  7. Text feature 被提前 L2 normalize,导致 TMF attention logits 太小,三层权重长期均匀。
  8. Triplet cosine distance 在 AMP/FP16 下计算,小距离被严重量化,坍塌后梯度几乎失效。
  9. 缺少 ReID 标准 BNNeck。实验表明这是基础 TMF + ReID 仍会坍塌的直接原因:加入 BNNeck 后特征恢复分离。
  10. Optimizer 对 Curvature、S1/S2、Prompt 和 Norm/Bias 错误施加 Weight Decay;现已拆分 no-decay parameter groups。
  11. Eval-only 未处理 NumPy scalar JSON serialization,评估完成后可能在写结果时报错,现已修复。

14.3 修复后的最小评估

输出:logs/CARGO/HIHR_PAPERFIX_TMF_BN_300,仅 300 iterations,lambda_entail=0

Dataset Rank-1 mAP mINP
CARGO 7.37 7.02 2.12
CARGO_GG 14.29 12.98 4.35
CARGO_AA 10.00 7.90 1.21
CARGO_AG 2.50 3.63 1.30

该结果不是最终 Baseline,只用于证明数据、训练和 evaluator 已恢复,Rank-1 不再全部为 0。

14.4 当前 HHL 风险

  • 修正公式但从第 1 步直接启用 lambda_entail=5 时,Parent feature 仍会被 generic text prompt 拉向共同方向。
  • 新增 --entail-delay-iters--entail-warmup-iters。600-step staged test 结束时 Parent/Child cosine 为 0.9894/0.9865,Parent CE 降到 7.1794,比立即启用 HHL 稳定,但 Entailment 仍过强。
  • 必须先完成 60-epoch TMF + ReID control,确认达到正常 Baseline;然后从该 checkpoint 逐项加入 prototype-child、prompt hierarchy 和 visual-prompt alignment,不得直接将当前 HHL staged 短测当作成功复现。

14.5 修复后的正式 Control Run

  • 状态:已于 2026-08-03 启动,运行中。
  • 输出:logs/CARGO/HIHR_PAPERFIX_TMF_BASELINE_60E_B64
  • 设置:60 epochs,batch size 64,physical GPU 0,lambda_entail=0,只验证修复后的 CLIP MFE + TMF + BNNeck + CE/Triplet
  • 总 iterations:48180;预计训练约 1-1.5 小时,结束后自动评估四个 CARGO protocol。
  • iteration 300:total_loss=9.7713parent_cls=7.3136child_cls(weighted)=1.8223,Parent/Child cosine 已降到 0.8261/0.8462,表明正式长程训练正在学习判别特征,暂无 Collapse。
  • iteration 600:total_loss=7.8209parent_cls=5.8595child_cls(weighted)=1.4975,Parent/Child cosine 进一步降到 0.6143/0.2556,Triplet 也降到 0.2870/0.1769,已确认 Loss 和特征分离都在健康收敛。

15. 2026-08-03 HiHR arXiv Source 逐公式审计

  • 已下载 https://arxiv.org/src/2607.09186papers/hihr_arxiv_source/。source 只有 LaTeX、参考文献和图片,没有 official code/config/checkpoint。
  • 论文 CARGO 目标值(R1/mAP):ALL 74.36/67.52,A->G 75.53/70.53,A->A 75.00/69.60,G->G 87.50/80.93;论文不报告 mINP。
  • 审计报告:docs/HIHR_SOURCE_FORMULA_ALIGNMENT_AUDIT.md
  • 已实现真正的 token-level Prompt:4 个 shared tokens,aerial/ground 各 4 个 view-private tokens;Prompt 在 CLIP Text Encoder 前插入。
  • source-aligned TMF 使用一套 shared Q/K/V + Transformer;这是由 Fig.2 推断,正文未明确声明 parameter sharing。
  • 已实现 CVIdentitySampler,K=4 时每个 ID 采 2 aerial + 2 ground,保证 parent cross-view 与 child intra-view Triplet 都有有效正样本。
  • Lorentz exterior angle 与 HiHR 引用的 HyCoCLIP closed form 数值对照,最大绝对误差约 7e-7;cone aperture 与四项 entailment 均与论文公式对应。
  • source-aligned 300-step 结果:关闭 HHL 时 Parent/Child cosine 为 0.9776/0.9776;直接启用 lambda_e=5 时为 0.99999/0.99999,发生 Collapse。
  • 该 300-step 测试曾将 cosine LR schedule 一并压缩至 300 step,诊断不充分。已增加 --lr-schedule-iters,用完整 48180-step schedule 进行 2000-step复核。
  • 论文未写清:visual 768->text 512 dimension bridge、TMF heads/FFN/norm/init、Prompt init、Text Encoder freeze policy、optimizer 细节、精确 sampler、HHL warm-up。因此当前只能称 Paper-based Reimplementation,不得称 official reproduction。
  • 公平 2000-step 复核使用完整 48180-step LR schedule:TMF-only 的 Parent CE 降至 3.7885,cosine 降至 0.1632;全 HHL 的 Parent CE 保持 7.8240,cosine 升至 0.9999997。已确定主链可学习,首个失败模块为从第 1 step 全量启用 HHL。
  • 从健康 iteration-2000 checkpoint 分项继续 500 steps:proto_child+prompt_order cosine 升至 0.8324parent_alignment+child_alignment 升至 0.9650。generic Prompt->Visual alignment 是主要 Collapse 驱动力,prototype-child 也会明显聚集表示。
  • 已加入 --entailment-terms 作为诊断开关;默认仍为论文四项全开。后续稳定化只能标为 stabilized variant

16. 2026-08-03 HiHR Prompt EOS 关键修复与冲刺实验

  • 发现 CLIPTokenPromptLearner 使用 text_model.eos_token_id=2 定位 pooled token,但 CLIP tokenizer 的实际 EOS/PAD ID 是 49407。匹配失败后 argmax 返回 0,导致读取 BOS;由于 causal attention,BOS 看不到任何后续 Prompt token。
  • 旧 source-aligned checkpoint 实测:Parent/Child Prompt cosine 1.0、attention L1 difference 0.0、Parent/Child normalized feature L2 difference 0.0,确认两层表示完全重复。
  • 修复为 eos_positions=attention_mask.sum(1)-1。修复后 EOS positions [10,16,16];初始 Parent-Aerial/Parent-Ground/Aerial-Ground Prompt cosine 为 0.885/0.939/0.862
  • 新增 EOS pooling regression test;本地与服务器均 9/9 passed
  • legacy feature-Prompt epoch-20 实测已接近论文 Baseline ALL:68.91 R1 / 63.39 mAP,论文 Baseline 为 68.23/63.61;但 A->G 仅 55.62/52.10,主要差距仍是 cross-view generalization。
  • 已停止受 EOS Bug 污染的三条 source run,并从头启动:HIHR_SOURCE_EOSFIX_TMF_60EHIHR_SOURCE_EOSFIX_HHL_STAGED_60EHIHR_SOURCE_EOSFIX_HIERARCHY_STAGED_60E
  • 修复 EOS 后,论文原始 HHL (lambda_e=5, iteration 1启用) 在 iteration 600 仍 collapse 到 cosine 0.999996;说明 EOS Bug 和 HHL loss dominance 是两个独立问题。
  • 又发现 lambda_entail=0 时仍计算几何项,scale 增大后出现 NaN*0,导致 legacy 训练在约 iteration 24972 中止;已改为 disabled HHL 直接跳过几何计算,新增测试后服务器 10/10 passed
  • EOS-fixed Token+shared TMF epoch-10:CARGO 67.95 R1 / 59.83 mAP,CARGO_AG 57.50/50.97
  • EOS-fixed lambda=0.1 full HHL epoch-10:CARGO 65.06/59.56,CARGO_AG 51.25/48.65,暂不优于 TMF-only。
  • legacy feature-Prompt+dual-TMF epoch-30:CARGO 72.76/64.34,接近论文 Baseline+TMF 72.08/65.46;CARGO_AG 61.25/54.87。CV sampler 微调 epoch-35 后降为 CARGO 71.15/62.85、CARGO_AG 58.13/53.24,最佳仍为 epoch-30。
  • 已停止 full staged HHL 与 hierarchy-only staged 分支;继续保留 EOS-fixed TMF-only、lambda=0.1 HHL、dual-TMF 三条主线至最终 checkpoint。
  • source EOS-fixed shared-TMF epoch-20:CARGO 68.59/60.17,CARGO_AG 54.38/49.14
  • token+dual-TMF epoch-10:CARGO 66.99/60.10,CARGO_AG 56.88/50.11,没有优于 shared-TMF。