|
Download RKD/README.md from Whalswp/eval: direct link, hf CLI and curl.
- Browser
- Download file 2.67 kB
-
https://huggingface.co/datasets/Whalswp/eval/resolve/main/RKD/README.md
- Command line
-
hf download hf://datasets/Whalswp/eval/RKD/README.md
-
curl -L -o README.md https://huggingface.co/datasets/Whalswp/eval/resolve/main/RKD/README.md
2.67 kB
RKD Eval 라벨 정리
이 폴더는 RKD 계열 RoboCasa eval 결과를 모아 둔 곳이다.
기본 eval run은 seed42_my_atomic26_nenv10이며, 완료된 run은 summary.txt에 CHECK PASSED가 있고 task stats가 26/26이어야 한다.
모델 라벨
RKD v1 0.1: 기존 RKD 구현체(groot_rkd). KL 기반 relation distillation을 쓰며rkd_temp=0.1설정이다. phase3는 FM + RKD 보조 loss 고정 weight0.5를 사용한다. Eval AVG:54.2.RKD v2 A: RKD v2 구현체(groot_rkd_v2)의 angle-only 버전이다.rkd_loss_type=angle. Eval AVG:55.1.RKD v2.1 A: v2와 같은 angle-only RKD 계열이며, v2.1 실험 묶음으로 재정리된 라벨이다. Eval AVG:54.2.RKD v2.1 DA: v2.1의 distance+angle 버전이다.rkd_loss_type=distance_angle, distance weight1.0, angle weight2.0을 사용한다. Eval AVG:54.2.RKD v2.1 A MoreSteps: angle-only RKD v2.1의 더 긴 학습/더 많은 step variant이다. Eval AVG:53.5.RKD v2.1 DA MoreSteps: distance+angle RKD v2.1의 더 긴 학습/더 많은 step variant이다. Eval AVG:54.2.RKD v2.1 DA MoreP2&3: baseline40 step-up 경로에서 phase2/phase3 학습 exposure를 더 준 distance+angle RKD v2.1 variant이다. Eval AVG:53.9.RKD DA ActionEncoderLP: MGRKD/AP-head LP 계열 variant이며, teacher feature로 action encoder 출력을 사용한다. Eval AVG:54.8.RKD DA RawActionLP: MGRKD/AP-head LP 계열 variant이며, teacher feature로 raw action을 사용한다. Eval AVG:54.5.
버전 차이
v1: KL 기반 relation distillation만 사용한다. student/VLM relation distribution과 action-encoder teacher relation distribution을 temperature로 맞춘다. 여기 결과는rkd_temp=0.1.v2: RKD 구현을 일반화한 버전이다.rkd_loss_type으로kl,distance,angle,distance_angle을 선택할 수 있고 diagonal exclusion 옵션도 들어간다.v2.1: 코드 계열은 동일하게groot_rkd_v2이며, 후속 실험 묶음으로 정리된 이름에 가깝다. 중요한 차이는 loss 선택이다.A= angle-only RKD.DA= distance + angle RKD.- 현재
DA는 distance weight1.0, angle weight2.0을 사용한다.
MoreSteps/MoreP2&3: 새 RKD loss 정의가 아니라 학습 budget/exposure 차이이다.APHead_LP: main RKD v2.1 A/DA와 teacher/source 경로가 달라서 별도 묶음으로 보는 것이 좋다.
현재 분류
RKD v1~2: 기존 RKD v1과 RKD v2 angle-only 비교 묶음.RKD v2.1: v2.1의 main A/DA 결과와 LP variant 묶음.RKD v2.1/Steps Ablation: v2.1의 학습 exposure/step ablation 묶음.