CERBERUS 작업 볼륨 — Claude 세션 길잡이

이 파일은 /home/work/seoik에서 세션을 열면 자동으로 읽힙니다. 다른 무엇보다 먼저 여기부터.

0. 새 세션이라면 첫 명령

bash /home/work/seoik/bootstrap_cerberus.sh   # 멱등 — 여러 번 돌려도 안전
source ~/.bashrc

~/.claude(에이전트·스킬 심링크), 셸 환경(CERBERUS_PY·TORCH_HOME·HF_HOME·HF_TOKEN), git 사용자 설정을 복구하고 데이터·모델·체크포인트가 살아있는지 검증합니다. 이걸 건너뛰면 $CERBERUS_PY가 비어 있어 모든 학습/평가 명령이 조용히 실패합니다.

1. 이 컨테이너의 유일한 규칙: `seoik`만 영구

경로	운명
`/home/work/seoik` (NFS 9.1T)	영구 — 데이터·모델·conda·캐시·체크포인트 전부 여기
`$HOME` = `/home/work` 나머지	세션 종료 시 통째로 초기화 (`~/.claude` 포함)

어떤 산출물도 $HOME에 두지 마세요. 캐시(TORCH_HOME/HF_HOME)도 seoik로 고정돼 있습니다.
세션이 끝나기 전, 대화 기록은 seoik/session_archive/로 복사해야 남습니다 (~/.claude/projects/*/, ~/.claude/history.jsonl → 서브에이전트 기록도 같이 복사됨). 이 CLAUDE.md 자체가 그 아카이브에서 복원된 결과입니다.
~/.claude/projects/-home-work-seoik/memory/는 세션마다 날아갑니다. 영속 지식은 여기 CLAUDE.md와 hawk/docs/에 쓰세요. (에이전트 축적 메모리는 예외 — hawk/.claude/agent-memory/, git 추적됨)

2. 문서 역할 분담 (중복 금지)

문서	다루는 것
이 파일 (`seoik/CLAUDE.md`)	세션 운영·서버 함정·현재 진행 상황
`hawk/docs/experiment-roadmap.md`	⭐ 무엇을 왜 어떤 순서로 — 실험 계획의 단일 출처. 다른 서버의 에이전트는 이것부터 읽으면 된다
`hawk/docs/review-2026-08-10-methodology.md`	심사 지적과 대응, 코드로 재확인한 사실들
`seoik/README.md`	자산 지도(어디에 뭐가 있는지)·백업 상태 — 사람용 요약
`hawk/CLAUDE.md`	연구 내용: HAWK(베이스) vs CERBERUS(신규) 구분, 논문 집필 규칙, 코드 분류
`hawk/docs/training-log.md`	학습 청크별 이력·중단 사유·설정 변경 근거
`hawk/docs/session-recovery.md`	README와 동일 내용의 레포 내 사본

연구 얘기(Tri-Branch 구조, 논문 포맷, 에이전트 사용법)는 hawk/CLAUDE.md로 가세요. 여기서 반복하지 않습니다.

3. 이 서버 특유의 함정 (전부 실측으로 확인된 것)

conda run -n cerberus는 실패합니다. 컨테이너가 자체 conda(/home/work/miniconda3)를 base로 활성화하고 envs_dirs를 자기 것으로 고정해서, 이름으로 찾으면 엉뚱한 경로로 풀립니다. → 항상 절대 prefix: $CERBERUS_PY 직접 실행, 또는 $CERBERUS_ROOT/miniconda3/bin/conda run -p $CERBERUS_ROOT/miniconda3/envs/cerberus ... (train_run.sh·setup_env.sh는 이미 수정됨)
NFS가 유일한 병목입니다. CPU 83코어·RAM 676GB는 남아돕니다. 소파일 쓰기가 병렬도와 무관하게 ~50 files/s에서 포화(파일당 35ms 왕복 지연)하므로 워커를 늘려도 빨라지지 않습니다. 대량 추출 작업에 워커 증설을 제안하지 마세요. 단 학습 중 data: 지연은 실측 0.0000 — 학습은 compute-bound라 NFS 영향 없습니다.
Claude 에이전트/스킬은 세션 시작 시점에만 스캔됩니다. 중간에 추가하면 한동안 안 잡히니 부트스트랩을 먼저 돌리세요.
컨테이너 eth0 카운터에 NFS 트래픽이 안 잡힙니다(호스트 커널이 처리). 네트워크가 한가해 보여도 병목이 아니라는 근거가 되지 못합니다.
환경에 NPROC=42가 미리 심어져 있습니다(CPU 코어 수로 추정). 셸 스크립트에서 NPROC="${NPROC:-2}" 같은 흔한 관용구를 쓰면 이 값을 물려받아 torchrun이 GPU 42장을 요구하고 CUDA error: invalid device ordinal로 즉사합니다. 스크립트 변수는 반드시 네임스페이스를 붙이세요(ABL_NPROC 등). 다른 일반 이름도 먼저 echo로 확인할 것.

3.5. 지금 무엇이 돌고 있나 (2026-08-11 기준)

① 정적 스트림 통제군 4-arm — flow → random_mask → duplicate → zero, arm당 40 epoch (약 1.6일), 전체 약 6.4일. 커밋 고정: 모든 arm이 동일 커밋으로 학습된다.

bash $CERBERUS_ROOT/hawk/scripts/run_ablation_arms.sh   # 재개 가능 — 끊기면 같은 명령 재실행
grep -c "Averaged stats" $CERBERUS_ROOT/runs/abl_flow/train.log   # 진행률(=완료 epoch)

⚠️ 이 실험이 도는 동안 학습 경로 코드를 수정하지 마세요. arm마다 다른 코드로 학습되면 통제 비교가 무의미해집니다(실제로 한 번 발생해 재시작했습니다). 평가·문서·분석 코드는 무관.

계획 전체와 판단 기준은 hawk/docs/experiment-roadmap.md 에 있습니다.

4. 진행 상황 (2026-08-10 기준)

단계	상태
WebVid 다운로드 + mp4 추출	✅ 1330/1330 shard, 263.8만 clip
Stage-1 사전학습	✅ 완주 — epoch 106, LR→min_lr(1e-6), loss 3.815→2.8506
Stage-2 이상행동 데이터	✅ 7,899개 / 121GB (HAWK 7종), `hawk_anomaly/`
논문 도구	✅ 자체 에이전트 4 + vendor 스킬 4
E1/E2 실측	⏳ 미실행 (합성 데이터 자체검증만 완료)
Stage-2 finetune	⏳ 미시작 (데이터·config 준비 완료)
논문 원고	◐ 5개 장 작성, 결과·conclusion·references 미작성

Stage-1 핵심 결과: 분리 손실 두 항이 0.0000 수렴. 최종 체크포인트: runs/core/main/checkpoint_106.pth (2.0GB, 총 54개 보존)

⚠️ 로그의 middleloss/middleloss_bg는 코사인 값이 아니라 손실값입니다 (base_task.py:264-270): middleloss = 1 − cos(z_a,z_m), middleloss_bg = (1 + cos(z_m,z_b))/2. 따라서 둘 다 0이라는 건 cos(z_a,z_m) = +1(정렬), cos(z_m,z_b) = −1(반상관) 이라는 뜻이고, 이게 방향성 비대칭 목적함수의 설계 의도대로 달성된 결과입니다(논문 02_related_work.md:23과 일치). runs/core/STOPPED.md:26-27·README.md·hawk/docs/session-recovery.md는 이 값을 "코사인이 0으로 수렴"이라고 잘못 표기하고 있습니다 — 인용하지 말고 고쳐야 합니다. 논문 원고는 정확합니다.

stage1의 loss 값 자체는 논문 성능 지표가 아닙니다. Table-1의 VAD 수치는 stage2 이후에 나옵니다. stage1은 "구조가 작동하는가" 검증 단계이고, 그 증거(상보성 수렴)는 이미 확보됐습니다.

5. 확정된 설계 결정과 그 근거 (되돌리지 말 것)

이미 논의를 거쳐 확정된 사항입니다. 다시 제안하기 전에 근거를 먼저 읽으세요.

max_epoch: 107 — 이 코드에서 max_epoch은 학습량 상한이 아니라 cosine LR 스케줄의 길이입니다. 원래 200은 "3일 돌리고 아무 때나 끊는다"는 전제의 넉넉한 값이라 LR이 제대로 annealing되지 않았습니다. 107은 원본 HAWK stage1 계획과 동일한 160만 샘플 예산에 맞춘 값 — 논문에서 "HAWK와 동등 학습량"을 주장하기 위한 통제입니다. (iters_per_epoch 고정이라 GPU를 늘려도 epoch당 시간은 안 줄고, max_epoch을 함께 낮춰야 실제 시간이 단축됩니다.)
freeze 정책은 원본 그대로 — EVA-ViT·Q-Former·LLaMA-2-7B 전부 freeze, video Q-Former + projection + fusion head만 학습. 원본 HAWK도 stage1/stage2 모두 동일하며 백본을 푸는 단계가 없습니다. 모델의 98.3%가 고정이라 loss가 완만하게 내려가는 건 설계상 당연한 결과입니다(플래토 아님).
Stage-2 데이터는 원본 HAWK 것을 그대로 사용 — 자체 데이터셋 구축은 하지 않습니다. "같은 데이터 + 같은 freeze + 같은 샘플 예산 → 차이는 오직 구조"가 이 논문의 통제 논리이고, 리뷰어가 가장 먼저 찌를 지점입니다. 데이터를 바꾸면 max_epoch·freeze를 맞춘 노력이 무의미해집니다.
vendor 스킬은 라이선스 표기 후 레포 커밋 — vendor/academic-research-skills (CC BY-NC 4.0), 표기는 NOTICE.md. 우리 자체 에이전트에 없는 기능만 흡수하는 방침.

6. 다음 작업

⚠️ GPU 장수가 바뀌었습니다. stage1 때는 H100 3장이었으나 현재 세션은 2장입니다. 아래 명령의 GPU 인자는 실제 nvidia-smi 결과로 확인 후 조정하세요.

① E1/E2 실측 (짧음, GPU 1장이면 충분)

cd /home/work/seoik/hawk
$CERBERUS_PY scripts/extract_representations.py --cfg configs/eval_configs/eval.yaml \
    --ckpt /home/work/seoik/runs/core/main/checkpoint_106.pth --out experiments/out/reps.npz
$CERBERUS_PY experiments/disentanglement.py --reps experiments/out/reps.npz   # CDS

② Stage-2 finetune (장시간) configs/train_configs/stage2_finetune.yaml에서 경로 3개를 먼저 교체:

ckpt: → /home/work/seoik/runs/core/main/checkpoint_106.pth
anno_dir: → /home/work/seoik/hawk_anomaly/Annotation/All_Mix/all_videos_train.json
videos_dir: → /home/work/seoik/hawk_anomaly/Videos/

# 인자: <cfg> <tag> <gpu-ids> <nproc>  — GPU 2장 기준
bash scripts/train_run.sh configs/train_configs/stage2_finetune.yaml stage2 0,1 2

7. 작업 규칙

장시간 GPU 작업은 시작 전 승인을 받으세요. 학습 재개·finetune 착수는 항상 확인 후 진행.
주기적으로 보고하세요 — 사용자가 모니터링합니다. 진행률·ETA·이상 징후를 먼저 알립니다.
백업은 두 갈래: 코드·문서·figure는 GitHub jungseoik/hawk, 체크포인트·로그는 HF backseollgi/Cerberus/stage1_core/. 토큰은 seoik/.github_token, seoik/.hf_token. 큰 변경 후에는 양쪽 다 밀어두세요 — 다른 서버에서 재현 가능해야 합니다 (hawk/docs/reproduce.md, hawk/docs/MIGRATION.md).
CERBERUS 관련 논문 작업은 자체 에이전트 우선 (hawk/.claude/agents/ 4종 — 고유 맥락이 agent-memory/에 축적돼 있음). vendor 스킬은 인용 검증·PRISMA·학회 포맷 같은 범용 기능에만. 상세 판단 기준은 hawk/CLAUDE.md.
webvid_10m* 1.1TB는 추출이 끝나 삭제 가능합니다. 재다운로드는 hawk/scripts/resilient_hf_download.py로 약 7시간.