File size: 2,867 Bytes
b33e5eb | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 | #!/usr/bin/env bash
# v15 training — Fix concept grounding regression từ v14.
#
# Root cause analysis từ v14 eval (Track 4 failures):
#
# T30 — Concept grounding regression: v14 trained from scratch với FVC-only
# L_deg → concept head chỉ thấy FVC texture khi bị degraded. Khi eval
# apply degradation lên SD302 images, concept head không biết respond.
# Cụ thể:
# - noise → noise_level: -0.533 (v13) → -0.019 (v14) — near zero
# - blur → clarity: -0.490 (v13) → -0.187 (v14) — yếu hơn
# - wet_press → minutiae: +0.565 (v14) — sai chiều
# - occlusion → minutiae: +0.183 (v14) — flip sang sai chiều
#
# v15 fixes:
# T30a — concept_deg_gamma: 0.5 → 2.0
# L_concept component = 4× mạnh hơn so với L_rank.
# Trước đây concept bị overwhelm bởi ranking term → concept gần 0.
#
# T30b — SD302 concept-only L_deg (--sd302-concept-weight 1.0):
# Apply degradation lên SD302 batch items, chỉ compute L_concept
# (không L_rank → không score collapse). Concept head lần đầu tiên
# học respond với degraded SD302 texture.
#
# T30c — deg-every-n-steps 1 (thay vì 2):
# L_deg runs mỗi step thay vì mỗi 2 steps — 2× signal density.
#
# Resume từ v14 để giữ Track 2 (KS=0.263, Pearson=0.294).
# Fixed schedule ở S3 values (α=0.25, β=0.35, γ=0.6) — không ramp lại.
# 30 epochs = ~1.8h trên 2× RTX A4000.
#
# CHANGED: train từ đầu (không resume). backbone TinyViT từ IN22k pretrained,
# concept head + aggregator ngẫu nhiên → cần 60 epochs. LR=1e-4, batch=64.
# SD302 concept-only L_deg (T30b) sẽ grounding concepts ngay từ đầu thay vì
# chỉ sau khi hội tụ (như v14 resume mode).
set -euo pipefail
REPO_ROOT="$(cd "$(dirname "$0")/../.." && pwd)"
source "${REPO_ROOT}/.venv/bin/activate"
python "${REPO_ROOT}/sifq/scripts/train_sifq.py" \
--root-302a "${REPO_ROOT}/dataset/302a/images/challengers" \
--root-302b "${REPO_ROOT}/dataset/302b/images/baseline" \
--root-302d "${REPO_ROOT}/dataset/nist_302d/images/auxiliary" \
--root-fvc2002 "${REPO_ROOT}/dataset/FVC_Dataset/FVC2002" \
--root-fvc2004 "${REPO_ROOT}/dataset/FVC_Dataset/FVC2004" \
--root-polyu "${REPO_ROOT}/dataset/PolyU" \
--exclude-sensor "R_1000_slap,R_500_slap,S_500_slap" \
--mdgt-checkpoint "${REPO_ROOT}/pad/TRAM-downstream/checkpoint/checkpoints_dinov2_tram/best_eer.pt" \
--epochs 60 \
--batch-size 64 \
--image-size 224 \
--lr 1e-4 \
--spread-mode uniform \
--spread-weight 2.0 \
--concept-deg-gamma 2.0 \
--sd302-concept-weight 1.0 \
--deg-every-n-steps 2 \
--max-train-samples -1 \
--num-workers 8 \
--gpus 0,1 \
--save-dir "${REPO_ROOT}/sifq/checkpoints_full_v15"
|