Instructions to use XYZPIT/gr00t_breadbag_baseline_100K with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- LeRobot
How to use XYZPIT/gr00t_breadbag_baseline_100K with LeRobot:
- Notebooks
- Google Colab
- Kaggle
GR00T Bread Bag Baseline H16 โ 100K
๋นต ๋ดํฌ ์ง๊ธฐ ํ์คํฌ๋ฅผ ์ํด NVIDIA GR00T N1.6-3B๋ฅผ fine-tuningํ baseline ์ฒดํฌํฌ์ธํธ์ ๋๋ค.
์ด ๋ชจ๋ธ์ ๋ณ๋๋ก ์ค๊ณํ ์์ ํ loss๋ฅผ ์ถ๊ฐํ์ง ์๊ณ GR00T์ ๊ธฐ๋ณธ ํ์ต objective๋ก ํ์ตํ์ต๋๋ค. ์ดํ์ loss ์ค๊ณ, masking, action horizon ๋ณ๊ฒฝ ๋ฑ ๊ฐ์ ์คํ๊ณผ ๋น๊ตํ๊ธฐ ์ํ ๊ธฐ์ค ๋ชจ๋ธ์ ๋๋ค.
Checkpoint: 100,000 steps
Action horizon: 16 steps
Status: Open-loop validation ์๋ฃ / ์ค๋ฌผ ๋ก๋ด ํ๊ฐ๋ ์งํ ์์
Task
ํ ์ด๋ธ ์์ ๋นต ๋ดํฌ๋ฅผ instruction์์ ์ง์ ํ ์์น์ ์์ ๋ฐ๋ผ ์ง๋ ์์ ์ ๋๋ค.
- Target position:
left,middle,right - Active hand:
left hand,right hand - Robot: dual-arm R1 Lite
- Cameras: head RGB, left wrist RGB, right wrist RGB
- Dataset: XYZPIT/260908_pick_up_the_specified_bread_bag
Example instruction:
Pick up the right bread bag with the right hand.
Baseline definition
์ด ์ฒดํฌํฌ์ธํธ์์ ๋งํ๋ baseline์ ๋ค์์ ์๋ฏธํฉ๋๋ค.
- GR00T N1.6-3B์์ fine-tuning
- Action chunk/horizon: 16
- ํ์ฌ ์์ ์ ์์ ์
๋ ฅ ์ฌ์ฉ (
video.delta_indices: [0]) - Arm action: state-relative
- Gripper action: absolute
- ๊ธฐ๋ณธ GR00T flow-matching objective ์ฌ์ฉ
- ๋ณ๋์ reconstruction, inactive-hold, delta, acceleration loss ๋ฏธ์ ์ฉ
- ์ถ๋ก ๋จ๊ณ์ hard hand gating์ ๋ชจ๋ธ ํ์ต์ด ์๋ ROS2 adapter ์ต์
Training configuration
| Item | Value |
|---|---|
| Starting checkpoint | GR00T N1.6-3B |
| Selected checkpoint | 100,000 steps |
| Full training run | 200,000 steps |
| Action horizon | 16 |
| Global batch size | 32 |
| Learning rate | 1e-4 |
| LR scheduler | cosine |
| Optimizer | AdamW |
| Weight decay | 1e-5 |
| Warmup ratio | 0.05 |
| Precision | bfloat16 |
| Number of GPUs | 1 |
Open-loop validation
Validation trajectories 20๊ฐ(traj 0โ19)์์ checkpoint๋ฅผ 20K ๊ฐ๊ฒฉ์ผ๋ก ๋น๊ตํ์ต๋๋ค. ์ ์ฒด action์ ๋จ์ MSE/MAE๋ฟ ์๋๋ผ, ์๋ก ๋จ์์ ๋ฒ์๊ฐ ๋ค๋ฅธ arm๊ณผ gripper๋ฅผ ๋ถ๋ฆฌํด ํ๊ฐํ์ต๋๋ค.
Checkpoint-100K results
| Metric | Result |
|---|---|
| Active-arm MAE | 0.022213 |
| Active-arm delta error | 0.005394 |
| Active-arm 95th percentile error | 0.092240 |
| Inactive-arm MAE | 0.003491 |
| Inactive-arm motion error | 0.002732 |
| Gripper state accuracy | 0.964232 |
| Close timing error | 6.95 steps |
| Excess gripper transitions | 1.80 |
| Overall MSE | 22.344541 |
| Overall MAE | 0.415355 |
Selection rationale
100K checkpoint๋ ๋น๊ต ๋์ ๊ฐ์ด๋ฐ ํน์ ์งํ ํ๋๋ง ๊ฐ์ฅ ์ข์ ๋ชจ๋ธ์ ์๋์ง๋ง, ์ฃผ์ task-level ์งํ์์ ์์๊ฐ ๊ณ ๋ฅด๊ฒ ๋์ ๊ฐ์ฅ ๊ท ํ์ ์ธ checkpoint๋ก ์ ์ ํ์ต๋๋ค.
- Composite average rank: 1.875 (1st)
- Metric ranks:
2, 2, 1, 2, 2, 2, 2, 2 - 40K checkpoint๋ gripper ๊ด๋ จ ์ผ๋ถ ์งํ๊ฐ ๋ ์ข์์ง๋ง, 100K๊ฐ arm tracking๊ณผ gripper ๋์์ ํฌํจํ ์ข ํฉ ์์ ์ฑ์์ ๋ ๊ท ํ์ ์ด์์ต๋๋ค.
Important notes on the metrics
- Arm joint action๊ณผ gripper action์ ๊ฐ์ ๋ฒ์๊ฐ ๋ค๋ฆ ๋๋ค. ํนํ gripper ๊ฐ์ ํฐ ์ค์ฐจ๊ฐ ์ ์ฒด MSE๋ฅผ ์ง๋ฐฐํ ์ ์์ผ๋ฏ๋ก, overall MSE/MAE๋ง์ผ๋ก checkpoint๋ฅผ ์ ํํ์ง ์์์ต๋๋ค.
- Open-loop validation์ ๊ธฐ๋ก๋ observation์ ๋ํ action ์์ธก ์ฑ๋ฅ์ ์ธก์ ํฉ๋๋ค. ์ค์ ๋ก๋ด์ closed-loop ์ฑ๊ณต๋ฅ , ์ถฉ๋ ์์ ์ฑ ๋๋ grasp ์ฑ๊ณต์ ์ง์ ๋ณด์ฅํ์ง ์์ต๋๋ค.
- ๊ฒฐ๊ณผ๋ ํ์ฌ validation split๊ณผ evaluator ์ค์ ์ ์์กดํฉ๋๋ค.
Intended use
- Bread-bag manipulation ์ฐ๊ตฌ์ baseline
- Action horizon, loss, masking ๋ฐ ๋ฐ์ดํฐ ์์ง ๋ฐฉ์์ ๋ํ ablation ๋น๊ต
- ROS2 policy server๋ฅผ ์ด์ฉํ R1 Lite ์ค๋ฌผ ๋ก๋ด ํ๊ฐ
Limitations
- ํ์ฌ checkpoint์ ์ค๋ฌผ ๋ก๋ด ์ฑ๊ณต๋ฅ ์ ์์ง ์ธก์ ๋์ง ์์์ต๋๋ค.
- ํ์ต ๋ฐ์ดํฐ๊ฐ ํน์ ์นด๋ฉ๋ผ ๋ฐฐ์น, ์์ ๊ณต๊ฐ, ๋นต ๋ดํฌ ์ธํ ๋ฐ instruction ํํ์ ์ ํ๋์ด ์์ด ํ๊ฒฝ ๋ณํ์ ์ผ๋ฐํ๋์ง ์์ ์ ์์ต๋๋ค.
- ์ง์ ํ์ง ์์ ํ์๋ action์ด ์ถ๋ ฅ๋ ์ ์์ต๋๋ค. ํ์ฌ ์ค๋ฌผ ์ถ๋ก ์์๋ ํ์ ์ ROS2 adapter์ hard gating์ผ๋ก inactive arm/gripper topic publish๋ฅผ ์ฐจ๋จํฉ๋๋ค.
- Gripper close timing error์ ๋ถํ์ํ open/close transition์ด ๋จ์ ์์ต๋๋ค.
- ์์ ์ธ์ฆ ๋ชจ๋ธ์ด ์๋๋ฉฐ, ์ค๋ฌผ ์ ์ฉ ์ dry-run๊ณผ ์ ์ ๊ฒ์ฆ์ด ํ์ํฉ๋๋ค.
Planned evaluation
- 100K checkpoint ์ค๋ฌผ ๋ก๋ด ์ถ๋ก
- ์์น ร ์ฌ์ฉ ์ ์กฐํฉ๋ณ ๋ฐ๋ณต ์คํ ๋ฐ ์ฑ๊ณต๋ฅ ์ธก์
- Gripper close timing๊ณผ action-chunk boundary ๋ก๊ทธ ๋ถ์
- ๋์ผ ์กฐ๊ฑด์์ ํ์ stable/masking ๋ชจ๋ธ๊ณผ ๋น๊ต
Citation and acknowledgment
This checkpoint is based on NVIDIA GR00T N1.6. Please follow the original GR00T repository and base-model terms when using or redistributing this model.
- Downloads last month
- 26
Model tree for XYZPIT/gr00t_breadbag_baseline_100K
Base model
nvidia/GR00T-N1.6-3B