README.md

---
license: apache-2.0
language:
  - en
tags:
  - lerobot
  - so101
  - so100
  - vla
  - vision-language-action
  - fine-tuning
  - catastrophic-forgetting
  - smolvla
  - pi0
size_categories:
  - n<1K
---

# SO-101 FT Adaptation Study

**SmolVLA / pi0.5 が新しいロボット・環境・タスクに適応するために必要な設定を体系的に調査する** プロジェクトの hub repo。

## Overview

### Research Questions

| Q | 内容 | 測定方法 |
|---|---|---|
| **Q1** | 最小データ量: 新タスク FT で目標性能を達成する最小 ep 数 | min data 4 段階 (10/30/50/100 ep) × success rate |
| **Q2** | 限界 iteration: catastrophic forgetting の限界 | sorting OOD color generalization (赤・青 学習 → 緑・紫 評価) |
| **Q3** | FT モード比較: Full FT vs LoRA で Q1/Q2 がどう変わるか | Phase 4 で LoRA mode 再実験 |

### Term Definitions

- **dataset**: ファインチューニングに使う data のみ
- **pre-train data**: SmolVLA の community pretrain (HuggingFaceVLA/community_dataset_v1/v2 で svla_so101_* を含むなど) は dataset としてカウントしない、本プロジェクト scope 外

### Hardware

- Robot: SO-101 follower
- Camera: Intel RealSense ×2 (top 俯瞰 + wrist 手先)
- Training: AWS SageMaker `ap-northeast-1`

### Models under test

- `lerobot/smolvla_base` (community pretrain で SO 系を学習済)
- `lerobot/pi05_base` (Physical Intelligence、KI 機構)

---

## Evaluation Protocol

### A. Success Criterion

| Task | 成功条件 |
|---|---|
| **pickplace** | 60 秒以内に cube が box に入った瞬間 (静止不要) |
| **stacking** | 60 秒以内に赤 cube が青 cube の上で **2 秒静止** |
| **sorting (IID)** | 60 秒以内に赤 → 右、青 → 左 **両方完了** (binary) |
| **sorting (OOD)** | 60 秒以内に **緑 → 右、紫 → 左** 両方完了 (binary) |

判定者: 人間 (user) 目視

### B. Trial Count

段階的 trial 数: **Step 1** 全条件 5 trial → **Step 2** 重要点のみ最大 10 trial

### C. Fixed Environment

照明・背景・camera を厳密に固定。cube は同メーカー・同サイズ・同素材、色のみ変数 (赤・青・緑・紫)。box 学習時 2-3 配置、評価も同配置。

### D. OOD Color Set

- 学習 (IID): 赤 + 青
- 評価 OOD: **緑 + 紫**

### E. Catastrophic Forgetting Threshold

**IID 成功率 > 70% かつ OOD 成功率 < 30%** を満たす最初の iteration を forgetting onset と定義。

### F. Min Data Stages (Q1)

**10, 30, 50, 100 ep** の 4 段階 (smolvla / pi0.5 共通)

### G. Iteration Stages (Q2)

**20k, 60k, 100k, 160k** step の 4 段階。1 training で全 checkpoint 保存。

### H. Object Placement

- cube 初期位置: 10 position
- 評価時: 同じ 10 position から random sampling
- stacking の青 cube (base): 2-3 position

### I. Result Format

Markdown table 形式。各実験 = 1 row として記録。

| カラム | 内容 |
|---|---|
| run_id | 一意 ID (例: `P2-smolvla-FFT-50ep-100k`) |
| phase | Phase 番号 |
| model | smolvla / pi0.5 |
| ft_mode | FullFT / LoRA |
| ep | training ep 数 |
| iter | checkpoint step |
| n_trials | trial 数 |
| pickplace_iid | IID 成功率 |
| stacking_iid | IID 成功率 |
| sorting_iid | IID 成功率 (赤+青) |
| sorting_ood | OOD 成功率 (緑+紫) |
| forgetting_flag | IID > 70% & OOD < 30% を満たすか |
| notes | 自由記述 |

---

## Roadmap

| Phase | 内容 | 状態 |
|---|---|---|
| **0a** | 評価 protocol 確定 (本 README) | ✅ Done |
| **0b** | smolvla_base / pi05_base zero-shot 実機 sanity check | 📅 |
| **1** | 自前 3 タスク録画 (pickplace + stacking + sorting、各 100-150 ep) | 📅 |
| **2** | smolvla × Full FT で 16 conditions 実験 | 📅 |
| **3** | pi0.5 × Full FT で 16 conditions 実験 | 📅 |
| **4** | smolvla LoRA + pi0.5 LoRA で 32 conditions 実験 | 📅 |
| **5** | 結果分析 + 公開 | 📅 |

実験 matrix: **合計 64 conditions** (4 ep × 4 iter × 4 (model × ft_mode))

---

## Results

### Phase 2: smolvla × Full FT

_(Phase 2 完了時に更新)_

| run_id | ep | iter | n | pickplace | stacking | sort_iid | sort_ood | forget? | notes |
|---|---|---|---|---|---|---|---|---|---|
| _placeholder_ | | | | | | | | | |

### Phase 3: pi0.5 × Full FT

_(Phase 3 完了時に更新)_

| run_id | ep | iter | n | pickplace | stacking | sort_iid | sort_ood | forget? | notes |
|---|---|---|---|---|---|---|---|---|---|
| _placeholder_ | | | | | | | | | |

### Phase 4: LoRA Mode

_(Phase 4 完了時に更新)_

| run_id | model | ep | iter | n | pickplace | stacking | sort_iid | sort_ood | forget? | notes |
|---|---|---|---|---|---|---|---|---|---|---|
| _placeholder_ | | | | | | | | | | |

---

## Linked Repos

### Training Datasets (Phase 1 で録画予定)

- _placeholder_: `Harumo/so101_pickplace_v1`
- _placeholder_: `Harumo/so101_stacking_v1`
- _placeholder_: `Harumo/so101_sorting_v1`

### Trained Models

- _placeholder_: Phase 2-4 で生成される各 model repo

### Eval Repos (lerobot-record.py 自動生成)

各実験条件の eval 動画は `lerobot-record.py` が自動で repo を作成して upload。完了次第ここに追加。

- _placeholder_

---

## Reproduction

評価 protocol の完全版は `evaluation_protocol.md` を参照 (本 hub repo に同梱予定)。

---

## Citation

```
@misc{harumo_so101_ft_adaptation_2026,
  author = {Sasatake, Harumo},
  title  = {SO-101 FT Adaptation Study: Investigating Minimum Data and Forgetting Limits of SmolVLA and pi0.5},
  year   = {2026},
  url    = {https://huggingface.co/datasets/Harumo/so101-ft-adaptation-study}
}
```

---

**Last updated**: 2026-05-19 (Phase 0a 完了)