#!/usr/bin/env bash # v17 training — T32: fix score collapse from v16 (L_mat vs L_pair conflict). # # Root cause analysis (v16 failure): # # Score collapse nghiêm trọng hơn v15: q_std=0.33 ở inference (range 46.9–50.5). # Training q_std=15.6 bề ngoài ổn nhưng KHÔNG phản ánh thực tế: # - q_std=15.6 được tạo bởi FVC images trong training batch (có quality variation) # - SD302 images trong training cũng bị collapse về ~50 nhưng bị che bởi FVC # - Inference chỉ chạy trên SD302 → q_std=0.33 (hoàn toàn sụp đổ) # # Root cause (T32): Per-identity stats (T31) tạo L_mat targets conflict trực tiếp # với L_pair: # - L_mat (T31b): q_mat = tanh((cos−μᵢ)/σᵢ) → muốn score khác nhau cho ảnh # khác nhau của cùng identity (within-identity variation) # - L_pair: |Q(s1)−Q(s2)| ≤ 0.05 → ép tất cả ảnh cùng identity có score # giống nhau (within-identity uniformity) # - Hai loss xung đột → model giải quyết bằng cách output ~50 cho tất cả # SD302 images. Training q_std=15.6 driven by FVC (no L_pair conflict). # - Inference (SD302 only): q_std=0.33, range 46.9–50.5. # - KS=0.527 (tệ hơn v14=0.263): residual sensor bias giữa roll/flat sensors # trong range tiny (0.5pt) với intra-sensor std ~0.1 → CDF shapes khác nhau. # # v17 fix (T32): FVC-only per-identity stats trong L_mat # # T32a — compute_identity_cos_stats(fvc_only=True): # Chỉ tính (mean_cos, std_cos) cho FVC identities. # FVC không có cross-sensor pairs → L_pair=0 → không conflict với L_mat. # FVC q_mat = tanh((cos−μ_fvc)/σ_fvc) → proper quality ordering ✅ # # T32b — _compute_q_mat fallback to raw cosine: # SD302 identities KHÔNG có trong stats → fallback về raw cosine (~0.85). # Đây là v14 behaviour (stats=None) đã cho KS=0.263 ✅. # Không còn conflict với L_pair → SD302 scores có thể spread. # # Giữ nguyên từ v16: # - W_SPREAD=4.0 (T31c) # - concept_deg_gamma=2.0 (T30a) # - sd302_concept_weight=1.0 (T30b) # - deg-every-n-steps=2 # # Expected improvements vs v16: # - Score range: 0–100 (thay vì 46.9–50.5) # - KS: ≤0.27 (target v14 = 0.263) # - Pearson: ≥0.25 (target v14 = 0.294) # - FVC quality ordering: tốt hơn v14 (per-identity tanh targets) # # Train từ đầu, 60 epochs, LR=1e-4 cosine. set -euo pipefail REPO_ROOT="$(cd "$(dirname "$0")/../.." && pwd)" source "${REPO_ROOT}/sifq/.venv/bin/activate" VERSION="v17" SAVE_DIR="${REPO_ROOT}/sifq/checkpoints/${VERSION}" LOG_FILE="${REPO_ROOT}/sifq/logs/train_${VERSION}.log" EVAL_SCRIPT="${REPO_ROOT}/sifq/scripts/run_eval_${VERSION}.sh" mkdir -p "${REPO_ROOT}/sifq/logs" python "${REPO_ROOT}/sifq/scripts/train_sifq.py" \ --root-302a "${REPO_ROOT}/dataset/302a/images/challengers" \ --root-302b "${REPO_ROOT}/dataset/302b/images/baseline" \ --root-302d "${REPO_ROOT}/dataset/nist_302d/images/auxiliary" \ --root-fvc2002 "${REPO_ROOT}/dataset/FVC_Dataset/FVC2002" \ --root-fvc2004 "${REPO_ROOT}/dataset/FVC_Dataset/FVC2004" \ --root-polyu "${REPO_ROOT}/dataset/PolyU" \ --exclude-sensor "R_1000_slap,R_500_slap,S_500_slap" \ --mdgt-checkpoint "${REPO_ROOT}/pad/TRAM-downstream/checkpoint/checkpoints_dinov2_tram/best_eer.pt" \ --epochs 60 \ --batch-size 128 \ --image-size 224 \ --lr 1e-4 \ --spread-mode uniform \ --spread-weight 4.0 \ --concept-deg-gamma 2.0 \ --sd302-concept-weight 1.0 \ --deg-every-n-steps 2 \ --min-sigma 0.02 \ --max-train-samples -1 \ --num-workers 8 \ --gpus 0 \ --save-dir "${SAVE_DIR}" echo "[auto-eval] Training done. Starting eval ${VERSION}..." bash "${EVAL_SCRIPT}" >> "${LOG_FILE}" 2>&1