scripts/run_train_v17.sh

#!/usr/bin/env bash
# v17 training — T32: fix score collapse from v16 (L_mat vs L_pair conflict).
#
# Root cause analysis (v16 failure):
#
#   Score collapse nghiêm trọng hơn v15: q_std=0.33 ở inference (range 46.9–50.5).
#   Training q_std=15.6 bề ngoài ổn nhưng KHÔNG phản ánh thực tế:
#     - q_std=15.6 được tạo bởi FVC images trong training batch (có quality variation)
#     - SD302 images trong training cũng bị collapse về ~50 nhưng bị che bởi FVC
#     - Inference chỉ chạy trên SD302 → q_std=0.33 (hoàn toàn sụp đổ)
#
#   Root cause (T32): Per-identity stats (T31) tạo L_mat targets conflict trực tiếp
#   với L_pair:
#     - L_mat (T31b): q_mat = tanh((cos−μᵢ)/σᵢ) → muốn score khác nhau cho ảnh
#       khác nhau của cùng identity (within-identity variation)
#     - L_pair: |Q(s1)−Q(s2)| ≤ 0.05 → ép tất cả ảnh cùng identity có score
#       giống nhau (within-identity uniformity)
#     - Hai loss xung đột → model giải quyết bằng cách output ~50 cho tất cả
#       SD302 images. Training q_std=15.6 driven by FVC (no L_pair conflict).
#     - Inference (SD302 only): q_std=0.33, range 46.9–50.5.
#     - KS=0.527 (tệ hơn v14=0.263): residual sensor bias giữa roll/flat sensors
#       trong range tiny (0.5pt) với intra-sensor std ~0.1 → CDF shapes khác nhau.
#
# v17 fix (T32): FVC-only per-identity stats trong L_mat
#
#   T32a — compute_identity_cos_stats(fvc_only=True):
#           Chỉ tính (mean_cos, std_cos) cho FVC identities.
#           FVC không có cross-sensor pairs → L_pair=0 → không conflict với L_mat.
#           FVC q_mat = tanh((cos−μ_fvc)/σ_fvc) → proper quality ordering ✅
#
#   T32b — _compute_q_mat fallback to raw cosine:
#           SD302 identities KHÔNG có trong stats → fallback về raw cosine (~0.85).
#           Đây là v14 behaviour (stats=None) đã cho KS=0.263 ✅.
#           Không còn conflict với L_pair → SD302 scores có thể spread.
#
#   Giữ nguyên từ v16:
#     - W_SPREAD=4.0 (T31c)
#     - concept_deg_gamma=2.0 (T30a)
#     - sd302_concept_weight=1.0 (T30b)
#     - deg-every-n-steps=2
#
#   Expected improvements vs v16:
#     - Score range: 0–100 (thay vì 46.9–50.5)
#     - KS: ≤0.27 (target v14 = 0.263)
#     - Pearson: ≥0.25 (target v14 = 0.294)
#     - FVC quality ordering: tốt hơn v14 (per-identity tanh targets)
#
# Train từ đầu, 60 epochs, LR=1e-4 cosine.

set -euo pipefail

REPO_ROOT="$(cd "$(dirname "$0")/../.." && pwd)"
source "${REPO_ROOT}/sifq/.venv/bin/activate"

VERSION="v17"
SAVE_DIR="${REPO_ROOT}/sifq/checkpoints/${VERSION}"
LOG_FILE="${REPO_ROOT}/sifq/logs/train_${VERSION}.log"
EVAL_SCRIPT="${REPO_ROOT}/sifq/scripts/run_eval_${VERSION}.sh"

mkdir -p "${REPO_ROOT}/sifq/logs"

python "${REPO_ROOT}/sifq/scripts/train_sifq.py" \
  --root-302a  "${REPO_ROOT}/dataset/302a/images/challengers" \
  --root-302b  "${REPO_ROOT}/dataset/302b/images/baseline" \
  --root-302d  "${REPO_ROOT}/dataset/nist_302d/images/auxiliary" \
  --root-fvc2002 "${REPO_ROOT}/dataset/FVC_Dataset/FVC2002" \
  --root-fvc2004 "${REPO_ROOT}/dataset/FVC_Dataset/FVC2004" \
  --root-polyu "${REPO_ROOT}/dataset/PolyU" \
  --exclude-sensor "R_1000_slap,R_500_slap,S_500_slap" \
  --mdgt-checkpoint "${REPO_ROOT}/pad/TRAM-downstream/checkpoint/checkpoints_dinov2_tram/best_eer.pt" \
  --epochs 60 \
  --batch-size 128 \
  --image-size 224 \
  --lr 1e-4 \
  --spread-mode uniform \
  --spread-weight 4.0 \
  --concept-deg-gamma 2.0 \
  --sd302-concept-weight 1.0 \
  --deg-every-n-steps 2 \
  --min-sigma 0.02 \
  --max-train-samples -1 \
  --num-workers 8 \
  --gpus 0 \
  --save-dir "${SAVE_DIR}"

echo "[auto-eval] Training done. Starting eval ${VERSION}..."
bash "${EVAL_SCRIPT}" >> "${LOG_FILE}" 2>&1