progress-stop: ์ ์ง ํ๋ SFT ์ ๋ชจ๋ธ ์ฒดํฌํฌ์ธํธ
๋ถ๋ฅ: ์ ์ง ํ๋์ SFT ๋ชจ๋ธ ์ฒดํฌํฌ์ธํธ. ์ ์ฑ
์ CALVIN ์์ฐ์ผ๋ก ๋ค์ ํ์ตํด ์ฑ๊ณตํ ๋ค ๋ฉ์ถ๊ฒ ํ๋ ์คํ์ ๋ชจ๋ธ์ด๋ค. ํด๋ ํ๋๊ฐ ๋ชจ๋ธ ํ๋๋ค. ๊ฒฐ๊ณผ๋ ๋ ํฌ Index-23227/vla-progress-label ์ calvin/RESULTS.ko.md 3.2 ์ ์ ์๋ค.
- ์ฑ๊ณต๋ฅ ์ ์งํค๋ฉด์ ์ฑ๊ณต ๋ค์ ์ค์ค๋ก ๋ฉ์ถ ๋ชจ๋ธ์ ์์๋ค. ์ฑ๊ณต๋ฅ ์ ์งํจ ๋ชจ๋ธ์ ๋ฉ์ถ์ง ์์๊ณ , ๋ฉ์ถ ๋ชจ๋ธ์ ์ฑ๊ณต๋ฅ ์ ์์๋ค. stop ์ง์๋ฅผ ํ์ตํ ๋ชจ๋ธ์ ์ง์๋ฅผ ๋ฐ์ผ๋ฉด ๋ฉ์ท๋ค.
- ๊ทธ๋์ 4 ์ฐจ๋ถํฐ๋ ์ ์ฑ
์ ๊ณ ์ ํ๊ณ ์๋ฃ ํ์ ๋ง ํ์ตํ๋ค. 4 ์ฐจ์ ํ์ ๊ธฐ๋ ์ด ์ ์ฅ์์ ์๋ค.
- ๊ฒฐ๊ณผ๋ฅผ ์ฒ ํํ ๋ชจ๋ธ๋ ๊ธฐ๋ก์ ์ํด ๊ทธ๋๋ก ๋๋ค. ์๋ ํ์ ์ ์๋ค.
1 ์ฐจ: ์์ฐ ๋์ ์ ์ง ๊ตฌ๊ฐ์ ๋ถ์๋ค (ฯ0.5 ์ค๋ฌด ๊ฐ, ๊ฒฐ๊ณผ๋ 3.2 ์ )
| ํด๋ |
๋ฌด์์ธ๊ฐ |
pad0_s42_10k, pad0_s43_10k, pad0_s44_10k, pad0_s42_30k |
์ ์ง๋ฅผ ๋ถ์ด์ง ์์ ๋์กฐ๊ตฐ์ด๋ค (์๋ ์
๊ณผ 30k ์คํ
) |
pad9_s42_10k |
์์ฐ ๋์ ์ ์ง ํ๋ ์ 9 ๊ฐ๋ฅผ ๋ถ์๋ค |
pad30_s42_10k, pad30_s43_10k, pad30_s44_10k, pad30_s42_30k |
์ ์ง ํ๋ ์ 30 ๊ฐ๋ฅผ ๋ถ์๋ค |
pad30_modevirtual_s42_10k, pad30_modetail_s42_10k |
์ ์ง ํ๋ ์ 30 ๊ฐ๋ฅผ ๋ถ์ด๋ ๋ฐฉ์์ ๋ฐ๊ฟจ๋ค |
pad90_s42_10k, pad90_s43_10k, pad90_s44_10k |
์ ์ง ํ๋ ์ 90 ๊ฐ๋ฅผ ๋ถ์๋ค |
padrand_s42_10k, padrand_s43_10k, padrand_s44_10k |
์ ์ง ๊ธธ์ด๋ฅผ ๋ฌด์์๋ก ๋ถ์๋ค |
stopcmd_modenone_s42_10k, stopcmd_modenone_s43_10k, stopcmd_modenone_s44_10k |
stop ์ง์๋ฅผ ๋ฐ์ผ๋ฉด ๋ฉ์ถ๋๋ก ํ์ตํ๋ค |
2 ์ฐจ: ์ ์ง๋ฅผ ๋ถ์ด๋ ์์น, ์ง์๋ฌธ, ๋ชจ๋ธ์ ๋ฐ๊ฟจ๋ค (ฯ0.5 ์ผ๊ณฑ, RLDX-1 ์
, PALM ๋, ๊ฒฐ๊ณผ๋ 3.2.4 ์ )
| ํด๋ |
๋ฌด์์ธ๊ฐ |
lmdb_s42_10k |
์๋ณธ ์์ฐ (LMDB ๋ณํ๋ณธ) ์ ๋์กฐ๊ตฐ์ด๋ค |
suffix_s42_10k, suffixrand_s42_10k |
์๋ณธ ๊ฐ๋์ ์ง์ ๋์ " then stop" ์ ๋ถ์ธ ๊ฐ๋๋ฅผ ํจ๊ป ํ์ตํ๋ค. ์ ์ง๋ 1 ์ด์ ๋ฌด์์ ๊ธธ์ด๋ค |
stop0_s42_10k, stop0then_s42_10k, retract_s42_10k, retract_s43_10k |
๊ฒฐ๊ณผ๋ฅผ ์ฒ ํํ๋ค. ํฉ์ฑ ๋ฐ์ดํฐ๊ฐ ์๋ ์ฅ๋ฉด์ด ์๋๋ผ ํ๊ฐ ์ฅ๋ฉด D ๋ก ๊ทธ๋ ค์ ธ ์์๋ค. ์๋ ์ฅ๋ฉด์ผ๋ก ๋ค์ ํฉ์ฑํ ๋ฐ์ดํฐ๋ก 3 ์ฐจ์์ ๋ค์ ํ์ตํ๋ค |
rldx_pad0_video, rldx_suffix_video, rldx_pad30_video |
RLDX-1 ์ ๋์กฐ๊ตฐ, " then stop" ๋ ๊ฐ๋, ์ ์ง 1 ์ด๋ค |
palm_time_e5_s42 |
PALM ์ ์๊ฐ ๋ผ๋ฒจ์ ์งํ๋ head ๋ฅผ ๋ถ์๋ค |
palm_phys_raw_e5_s42 |
๊ฒฐ๊ณผ๋ฅผ ์ฒ ํํ๋ค. ์ฅ๋ฉด A ์ C ์ ๋ธ๋ก ๊ณผ์ ์์ ๋ค๋ฅธ ๋ธ๋ก์ ์ฝ์ ๋ฌผ๋ฆฌ ๋ผ๋ฒจ๋ก ํ์ตํ๋ค |
3 ์ฐจ: ์ ์ฑ
๊ณผ ํจ๊ป ์๋ฃ head ๋ฅผ ํ์ตํ๋ค (ฯ0.5 ์ด๋, PALM ์
, RLDX-1 ๋, ๊ฒฐ๊ณผ๋ 3.2.6 ์ ๊ณผ 3.2.7 ์ )
| ํด๋ |
๋ฌด์์ธ๊ฐ |
state7_s42_10k, state14_s42_10k |
์๋ณธ ์์ฐ์ ๋ก๋ด ์ํ 7 ๊ฐ์ 14 ๊ฐ๋ฅผ ์
๋ ฅ์ผ๋ก ๋ฃ์๋ค |
stop0thenh30_s42_10k |
madokalif/calvin-abc-stop0-then-h30 ์ผ๋ก ํ์ตํ๋ค |
stop0h15_done_s42_10k, stop0h15_done_detach_s42_10k |
madokalif/calvin-abc-stop0-h15 (0.5 ์ด ์ ์ง) ์ ์๋ฃ head ๋ฅผ ๋ถ์๋ค |
stop0_done_s42_10k, stop0_done_detach_s42_10k |
madokalif/calvin-abc-stop0-h30 (1 ์ด ์ ์ง) ์ ์๋ฃ head ๋ฅผ ๋ถ์๋ค |
stop0h90_done_s42_10k, stop0h90_done_detach_s42_10k |
madokalif/calvin-abc-stop0-h90 (3 ์ด ์ ์ง) ์ ์๋ฃ head ๋ฅผ ๋ถ์๋ค |
stopcmd_modenone_done_detach_s42_10k |
madokalif/calvin-abc-plain ์ stop ๋ช
๋ น ์ํ๊ณผ ์๋ฃ head ๋ฅผ ๋ํ๋ค |
retracth30_s42_10k, retracth30_s43_10k |
madokalif/calvin-abc-retract-h30 ์ผ๋ก ํ์ตํ๋ค |
palm_noprog_e2_s42_ft, palm_time_e2_s42_ft |
๊ณต๊ฐ PALM ์์ ์ด์ด ํ์ตํ๋ค. ์งํ๋ ์์๊ณผ ์๊ฐ ๋ผ๋ฒจ ์งํ๋๋ค |
palm_phys_e5_s42 |
๊ณ ์น ๋จ์กฐ ๋ฌผ๋ฆฌ ๋ผ๋ฒจ๋ก ์ฒ์๋ถํฐ ํ์ตํ๋ค |
palm_time_e1_s42_lr1.25e-4 |
ํ์ต๋ฅ ๋น๊ต์ ์ค๊ฐ ์ฒดํฌํฌ์ธํธ๋ค. ๋น๊ต๋ ๋ก๋๊ฐ ๋ฉ์ถฐ ๊ฒฐ๋ก ์ด ์๋ค |
rldx_pad0_visual, rldx_pad0_b96 |
RLDX-1 ์ ์๊ฐ ์ธ์ฝ๋๋ฅผ ํ์ตํ ๋ชจ๋ธ๊ณผ ๋ฐฐ์น 96 ๋ชจ๋ธ์ด๋ค |
done ์ ์๋ฃ head ๋ฅผ ํจ๊ป ํ์ตํ ๋ชจ๋ธ์ด๊ณ , detach ๋ ๊ทธ head ์ gradient ๋ฅผ ์ ์ฑ
์ ํ๋ฆฌ์ง ์์ ๋ชจ๋ธ์ด๋ค.
- ฯ0.5 ํด๋์๋
model.safetensors, metadata.pt, assets, InternRobotics ์ ํ์ต ๋ก๊ทธ (train.log.gz) ๊ฐ ์๋ค. PALM ์ model.pth, RLDX-1 ์ ์ ์ ํ์์ ์ฒดํฌํฌ์ธํธ ํด๋๋ค.
CALVIN ์ ์ฅ์์ ๋ชฉ์
| ๋ถ๋ฅ |
์ ์ฅ์ |
์ฐ๋ ๊ณณ |
| ์๋ฃ ํ์ ์ ํ์ต๊ณผ ํ๊ฐ ๋ฐ์ดํฐ |
calvin-completion-abc |
๊ณ ์ ํ ์ ์ฑ
์ ๋กค์์์ผ๋ก ์ ์ง head ์ ์ธ๋ถ ํ์ ๊ธฐ๋ฅผ ํ์ตํ๊ณ ํ๊ฐํ๋ค |
| ์๋ฃ ํ์ ์ ์ต์ข
์ํ ๋ฐ์ดํฐ |
calvin-completion-d-test |
ํ์ ๊ธฐ๋ฅผ ์ฒ์ ๋ณด๋ ์ฅ๋ฉด D ์์ ์ฑ์ ํ๋ค. ํ์ต์ ์ฐ์ง ์๋๋ค |
| ์ ์ง ํ๋์ SFT ํ์ต ๋ฐ์ดํฐ |
calvin-abc-plain, calvin-abc-stop0-h15, calvin-abc-stop0-h30, calvin-abc-stop0-h90, calvin-abc-retract-h30, calvin-abc-stop0-then-h30, calvin-abc-stop0-then-h30-cam |
์ ์ฑ
์ CALVIN ์์ฐ์ผ๋ก ๋ค์ ํ์ตํด ์ฑ๊ณตํ ๋ค ๋ฉ์ถ๊ฒ ํ๋ ์คํ์ด๋ค |
| ์ ์ง ํ๋์ SFT ๋ชจ๋ธ ์ฒดํฌํฌ์ธํธ |
progress-stop (์ด ์ ์ฅ์) |
์ ๋ฐ์ดํฐ์ ์๋ณธ ์์ฐ์ผ๋ก ํ์ตํ ๋ชจ๋ธ์ด๋ค |
| ์ธ๋ถ ํ์ ๊ธฐ์ ํ๊ฐ ์ด๋ฏธ์ง |
calvin-judge-frames-sft |
ํ์ตํ์ง ์์ ํ์ ๊ธฐ์ ์ ๋ฉด ํด์๋๋ฅผ ๋ฐ๊ฟ ๋ฌป๋ ํ๊ฐ๋ค |
| ์๋ฃ ํ์ ์ ์ง๋จ ์์ |
calvin-completion-failure-examples-v1 |
์คํ ์ฌ๋ก์ ์ง๋จ๊ณผ ๋ณด์กฐ ์คํ์ด๋ค |