eval / RKD /README.md
Whalswp's picture
Add files using upload-large-folder tool
d51fe7c verified
|
Raw History Blame Contribute Delete
2.67 kB

RKD Eval 라벨 정리

이 폴더는 RKD 계열 RoboCasa eval 결과를 모아 둔 곳이다. 기본 eval run은 seed42_my_atomic26_nenv10이며, 완료된 run은 summary.txt에 CHECK PASSED가 있고 task stats가 26/26이어야 한다.

모델 라벨

  • RKD v1 0.1: 기존 RKD 구현체(groot_rkd). KL 기반 relation distillation을 쓰며 rkd_temp=0.1 설정이다. phase3는 FM + RKD 보조 loss 고정 weight 0.5를 사용한다. Eval AVG: 54.2.
  • RKD v2 A: RKD v2 구현체(groot_rkd_v2)의 angle-only 버전이다. rkd_loss_type=angle. Eval AVG: 55.1.
  • RKD v2.1 A: v2와 같은 angle-only RKD 계열이며, v2.1 실험 묶음으로 재정리된 라벨이다. Eval AVG: 54.2.
  • RKD v2.1 DA: v2.1의 distance+angle 버전이다. rkd_loss_type=distance_angle, distance weight 1.0, angle weight 2.0을 사용한다. Eval AVG: 54.2.
  • RKD v2.1 A MoreSteps: angle-only RKD v2.1의 더 긴 학습/더 많은 step variant이다. Eval AVG: 53.5.
  • RKD v2.1 DA MoreSteps: distance+angle RKD v2.1의 더 긴 학습/더 많은 step variant이다. Eval AVG: 54.2.
  • RKD v2.1 DA MoreP2&3: baseline40 step-up 경로에서 phase2/phase3 학습 exposure를 더 준 distance+angle RKD v2.1 variant이다. Eval AVG: 53.9.
  • RKD DA ActionEncoderLP: MGRKD/AP-head LP 계열 variant이며, teacher feature로 action encoder 출력을 사용한다. Eval AVG: 54.8.
  • RKD DA RawActionLP: MGRKD/AP-head LP 계열 variant이며, teacher feature로 raw action을 사용한다. Eval AVG: 54.5.

버전 차이

  • v1: KL 기반 relation distillation만 사용한다. student/VLM relation distribution과 action-encoder teacher relation distribution을 temperature로 맞춘다. 여기 결과는 rkd_temp=0.1.
  • v2: RKD 구현을 일반화한 버전이다. rkd_loss_type으로 kl, distance, angle, distance_angle을 선택할 수 있고 diagonal exclusion 옵션도 들어간다.
  • v2.1: 코드 계열은 동일하게 groot_rkd_v2이며, 후속 실험 묶음으로 정리된 이름에 가깝다. 중요한 차이는 loss 선택이다.
    • A = angle-only RKD.
    • DA = distance + angle RKD.
    • 현재 DA는 distance weight 1.0, angle weight 2.0을 사용한다.
  • MoreSteps / MoreP2&3: 새 RKD loss 정의가 아니라 학습 budget/exposure 차이이다.
  • APHead_LP: main RKD v2.1 A/DA와 teacher/source 경로가 달라서 별도 묶음으로 보는 것이 좋다.

현재 분류

  • RKD v1~2: 기존 RKD v1과 RKD v2 angle-only 비교 묶음.
  • RKD v2.1: v2.1의 main A/DA 결과와 LP variant 묶음.
  • RKD v2.1/Steps Ablation: v2.1의 학습 exposure/step ablation 묶음.