Harumo/so101-ft-adaptation-study

SO-101 FT Adaptation Study

SmolVLA / pi0.5 が新しいロボット・環境・タスクに適応するために必要な設定を体系的に調査する プロジェクトの hub repo。

Overview

Research Questions

Q	内容	測定方法
Q1	最小データ量: 新タスク FT で目標性能を達成する最小 ep 数	min data 4 段階 (10/30/50/100 ep) × success rate
Q2	限界 iteration: catastrophic forgetting の限界	sorting OOD color generalization (赤・青 学習 → 緑・紫 評価)
Q3	FT モード比較: Full FT vs LoRA で Q1/Q2 がどう変わるか	Phase 4 で LoRA mode 再実験

Term Definitions

• dataset: ファインチューニングに使う data のみ
• pre-train data: SmolVLA の community pretrain (HuggingFaceVLA/community_dataset_v1/v2 で svla_so101_* を含むなど) は dataset としてカウントしない、本プロジェクト scope 外

Hardware

• Robot: SO-101 follower
• Camera: Intel RealSense ×2 (top 俯瞰 + wrist 手先)
• Training: AWS SageMaker ap-northeast-1

Models under test

• lerobot/smolvla_base (community pretrain で SO 系を学習済)
• lerobot/pi05_base (Physical Intelligence、KI 機構)

---

Evaluation Protocol

A. Success Criterion

Task	成功条件
pickplace	60 秒以内に cube が box に入った瞬間 (静止不要)
stacking	60 秒以内に赤 cube が青 cube の上で 2 秒静止
sorting (IID)	60 秒以内に赤 → 右、青 → 左 両方完了 (binary)
sorting (OOD)	60 秒以内に 緑 → 右、紫 → 左 両方完了 (binary)

判定者: 人間 (user) 目視

B. Trial Count

段階的 trial 数: Step 1 全条件 5 trial → Step 2 重要点のみ最大 10 trial

C. Fixed Environment

照明・背景・camera を厳密に固定。cube は同メーカー・同サイズ・同素材、色のみ変数 (赤・青・緑・紫)。box 学習時 2-3 配置、評価も同配置。

D. OOD Color Set

• 学習 (IID): 赤 + 青
• 評価 OOD: 緑 + 紫

E. Catastrophic Forgetting Threshold

IID 成功率 > 70% かつ OOD 成功率 < 30% を満たす最初の iteration を forgetting onset と定義。

F. Min Data Stages (Q1)

10, 30, 50, 100 ep の 4 段階 (smolvla / pi0.5 共通)

G. Iteration Stages (Q2)

20k, 60k, 100k, 160k step の 4 段階。1 training で全 checkpoint 保存。

H. Object Placement

• cube 初期位置: 10 position
• 評価時: 同じ 10 position から random sampling
• stacking の青 cube (base): 2-3 position

I. Result Format

Markdown table 形式。各実験 = 1 row として記録。

カラム	内容
run_id	一意 ID (例: P2-smolvla-FFT-50ep-100k)
phase	Phase 番号
model	smolvla / pi0.5
ft_mode	FullFT / LoRA
ep	training ep 数
iter	checkpoint step
n_trials	trial 数
pickplace_iid	IID 成功率
stacking_iid	IID 成功率
sorting_iid	IID 成功率 (赤+青)
sorting_ood	OOD 成功率 (緑+紫)
forgetting_flag	IID > 70% & OOD < 30% を満たすか
notes	自由記述

---

Roadmap

Phase	内容	状態
0a	評価 protocol 確定 (本 README)	✅ Done
0b	smolvla_base / pi05_base zero-shot 実機 sanity check	📅
1	自前 3 タスク録画 (pickplace + stacking + sorting、各 100-150 ep)	📅
2	smolvla × Full FT で 16 conditions 実験	📅
3	pi0.5 × Full FT で 16 conditions 実験	📅
4	smolvla LoRA + pi0.5 LoRA で 32 conditions 実験	📅
5	結果分析 + 公開	📅

実験 matrix: 合計 64 conditions (4 ep × 4 iter × 4 (model × ft_mode))

---

Results

Phase 2: smolvla × Full FT

(Phase 2 完了時に更新)

run_id	ep	iter	n	pickplace	stacking	sort_iid	sort_ood	forget?	notes
placeholder

Phase 3: pi0.5 × Full FT

(Phase 3 完了時に更新)

run_id	ep	iter	n	pickplace	stacking	sort_iid	sort_ood	forget?	notes
placeholder

Phase 4: LoRA Mode

(Phase 4 完了時に更新)

run_id	model	ep	iter	n	pickplace	stacking	sort_iid	sort_ood	forget?	notes
placeholder

---

Linked Repos

Training Datasets (Phase 1 で録画予定)

• placeholder: Harumo/so101_pickplace_v1
• placeholder: Harumo/so101_stacking_v1
• placeholder: Harumo/so101_sorting_v1

Trained Models

• placeholder: Phase 2-4 で生成される各 model repo

Eval Repos (lerobot-record.py 自動生成)

各実験条件の eval 動画は lerobot-record.py が自動で repo を作成して upload。完了次第ここに追加。

• placeholder

---

Reproduction

評価 protocol の完全版は evaluation_protocol.md を参照 (本 hub repo に同梱予定)。

---

Citation

@misc{harumo_so101_ft_adaptation_2026,
  author = {Sasatake, Harumo},
  title  = {SO-101 FT Adaptation Study: Investigating Minimum Data and Forgetting Limits of SmolVLA and pi0.5},
  year   = {2026},
  url    = {https://huggingface.co/datasets/Harumo/so101-ft-adaptation-study}
}

---

Last updated: 2026-05-19 (Phase 0a 完了)