initial push

pytorch_model.bin

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:104253a41517faf75704853c207082c20b31264a7e9566a9a1ca22a9e088a729
-size 44535575
+oid sha256:3456c4d1c386b6fc57670f63ae1b8cfaccc3157528c4db99ed8fb8bf048959d4
+size 44539159

tar2bin.py

@@ -1,23 +1,26 @@
 import torch
-from collections import OrderedDict
 
+# 1) 원래 학습된 checkpoint 불러오기
+ckpt = torch.load("./CSAT_v2_ImageNet.pth.tar", map_location="cpu", weights_only=False)
 
-ckpt_path = "./CSAT_RCKD.pth.tar"
-ckpt = torch.load(ckpt_path, map_location="cpu", weights_only=False)
+# 2) state_dict 꺼내기 (포맷에 따라 분기)
+if "state_dict" in ckpt:
+    state_dict = ckpt["state_dict"]
+elif "model" in ckpt:
+    state_dict = ckpt["model"]
+else:
+    state_dict = ckpt
 
-# 1) state_dict 꺼내기
-#   - 보통 {'state_dict': ...} 형태니까 먼저 이걸 시도하고,
-#   - 아니면 그냥 ckpt 전체가 state_dict인 경우도 있어서 fallback
-state_dict = ckpt.get("state_dict", ckpt)
-# 2) DataParallel 썼으면 key 앞에 'module.' 붙어있을 수 있어서 제거
-new_state_dict = OrderedDict()
+# 3) Distributed / DataParallel인 경우 "module." 제거
+new_sd = {}
 for k, v in state_dict.items():
     if k.startswith("module."):
-        new_k = k[len("module."):]
-    else:
-        new_k = k
-    new_state_dict[new_k] = v
+        k = k[len("module."):]
+    new_sd[k] = v
 
-# 3) HuggingFace 관례대로 파일명 저장
-torch.save(new_state_dict, "CSAT_RCKD.bin")
-print("saved to pytorch_model.bin")
+# 4) HF 래퍼용으로 "backbone." prefix 붙이기
+wrapped_sd = {f"backbone.{k}": v for k, v in new_sd.items()}
+
+# 5) HF에서 사용할 파일로 저장
+torch.save(wrapped_sd, "pytorch_model.bin")
+print("saved HF-style weights to pytorch_model.bin")