JSHNSL/ffw_sg2_hdf5

FFW_SG2 — 원본 HDF5 데모 허브

ROBOTIS FFW_SG2 휴머노이드를 Isaac Sim / Isaac Lab (cyclo_lab) 에서 녹화·증강한 원본 HDF5 데모 보관소.

학습용이 아니라 원본 보관용이다. 파이프라인·학습 전체 절차는 → JSHNSL/humanoid-imitation-learning (English)

repo	담는 것	쓰임
이 repo (ffw_sg2_hdf5)	원본 HDF5 (raw / annotate / ik / generate / joint)	보관 · 재변환 · 데이터 증강
ffw_sg2_ltable_merge	변환된 LeRobot v3.0 데이터셋	학습이 직접 쓰는 것

학습용 repo를 가볍게 유지하려고 분리했다 (HDF5는 파일 하나가 수 GB). 바로 학습할 거면 이 repo가 아니라 ffw_sg2_ltable_merge를 쓸 것.

---

파이프라인 단계 (파일명 _단계 접미사)

raw → annotate → ik → generate → joint → (LeRobot 변환)

단계	내용
raw	VR teleop / 리더암으로 녹화한 원본
annotate	서브태스크 경계 주석 (Mimic 증강의 입력)
ik	IK 적용 (end-effector → joint)
generate	Isaac Mimic 데이터 증강 결과
joint	joint 공간으로 통일 — LeRobot 변환에 넣는 최종본

---

다운로드

먼저 — hf: command not found 나면

cyclo_lab 컨테이너에선 hf CLI가 lerobot venv 안에만 있고 PATH엔 없다. 셋 중 하나로:

lerobot-hf download ...                 # ① alias (권장, 아래 참고)
/root/lerobot_env/bin/hf download ...   # ② 풀 경로 (항상 됨)
lerobot-activate && hf download ...     # ③ venv 활성화 후 그냥 hf

① alias가 없으면 한 번만 등록:

echo "alias lerobot-hf='\${LEROBOT_VENV}/bin/hf'" >> ~/.bashrc && source ~/.bashrc

컨테이너 밖(일반 환경)에서 pip install huggingface_hub 했다면 그냥 hf로 쓰면 된다.

⚠️ --local-dir 은 반드시 /workspace/cyclo_lab 안으로

컨테이너 안에서 ~ 는 /root 다. 저장소는 /workspace/cyclo_lab 에 마운트돼 있다. --local-dir ~/AIWORKER/... 처럼 주면 호스트에 없는 컨테이너 내부 경로(/root/AIWORKER/...)에 받아지고, 호스트에선 안 보이며 컨테이너를 다시 만들면 날아간다.

cd /workspace/cyclo_lab            # 여기서 실행
... --local-dir ./datasets         # ✅ 호스트의 ~/AIWORKER/cyclo_lab/datasets 와 같은 곳

... --local-dir ~/AIWORKER/cyclo_lab/datasets   # ❌ 컨테이너 내부 /root/... 에 갇힘

받았는데 디렉토리에 안 보이면 십중팔구 이것 → find / -name "받은파일.hdf5" 로 찾아서 mv <경로> /workspace/cyclo_lab/datasets/ 로 옮기면 된다.

---

⚠️ --repo-type dataset 을 반드시 붙일 것. 빼면 model repo로 찾아서 404가 난다.

파일 하나 (파일명을 그대로 인자로 — 제일 많이 쓰는 방식):

lerobot-hf download JSHNSL/ffw_sg2_hdf5 --repo-type dataset \
    0713_ffw_sg2_l_table_annotate_merge_num96.hdf5 \
    --local-dir ./datasets

여러 개 한 번에:

lerobot-hf download JSHNSL/ffw_sg2_hdf5 --repo-type dataset \
    1425_58_ffw_sg2_l_table_raw.hdf5 \
    1425_58_ffw_sg2_l_table_ik.hdf5 \
    --local-dir ./datasets

패턴으로 (예: annotate 단계만):

lerobot-hf download JSHNSL/ffw_sg2_hdf5 --repo-type dataset \
    --include "*_annotate*.hdf5" \
    --local-dir ./datasets

전체 (⚠️ 크다 — 파일 목록/용량은 위쪽 Files and versions 탭에서 먼저 확인):

lerobot-hf download JSHNSL/ffw_sg2_hdf5 --repo-type dataset \
    --local-dir ./datasets

받은 것 확인:

ls -lh ./datasets/*.hdf5

속도/rate-limit 때문에 토큰을 쓰려면: export HF_TOKEN=hf_토큰 (또는 lerobot-hf auth login)

---

업로드

push_hdf5.py 사용 (스크립트는 humanoid-imitation-learning repo에 있음)

로그인 (write 토큰 필요):

lerobot-hf auth login --force   # 또는  export HF_TOKEN=hf_write토큰
unset HF_HUB_OFFLINE

① 뭐가 올라갈지 먼저 확인 (업로드 안 함 — 항상 먼저):

lerobot-python push_hdf5.py \
    --repo_id JSHNSL/ffw_sg2_hdf5 \
    --paths datasets/ffw_sg2_l_table_joint.hdf5 \
    --dry_run

② 실제 업로드:

lerobot-python push_hdf5.py \
    --repo_id JSHNSL/ffw_sg2_hdf5 \
    --paths datasets/ffw_sg2_l_table_joint.hdf5

파일 여러 개 / 디렉토리도 됨:

lerobot-python push_hdf5.py --repo_id JSHNSL/ffw_sg2_hdf5 \
    --paths datasets/a.hdf5 datasets/b.hdf5 --dry_run

디렉토리를 주면 재귀 탐색(*.hdf5)하고 그 디렉토리 이름이 repo 안 폴더가 된다 (예: --paths datasets/ffw_sg2_l_table → ffw_sg2_l_table/20260710/xxx.hdf5). 지금 파일들은 루트에 평평하게 있으니, 폴더로 정리하고 싶으면 디렉토리 단위로 올릴 것.

옵션	설명
--paths	파일/디렉토리 여러 개. 디렉토리는 재귀 탐색
--dry_run	목록 + 총 용량만 출력하고 종료
--path_in_repo	repo 안 접두 경로 (예: --path_in_repo hdf5)
--private	비공개 repo로 생성

⚠️ HDF5는 크다 (병합본은 수 GB). 업로드 전 --dry_run으로 총 용량 확인 필수.

---

삭제 (잘못 올렸을 때)

lerobot-hf auth login          # write 토큰

# 파일 하나
lerobot-hf repos delete-files JSHNSL/ffw_sg2_hdf5 \
    1425_58_ffw_sg2_l_table_ik.hdf5 --repo-type dataset

# 패턴 (fnmatch, '*'는 재귀)
lerobot-hf repos delete-files JSHNSL/ffw_sg2_hdf5 \
    "*_ik.hdf5" --repo-type dataset

# 폴더 통째로
lerobot-hf repos delete-files JSHNSL/ffw_sg2_hdf5 \
    "ffw_sg2_l_table/*" --repo-type dataset

• ⚠️ 여기서도 --repo-type dataset 필수
• --create-pr 붙이면 바로 안 지우고 PR로 만들어 검토 가능

⚠️ 삭제해도 용량은 안 줄어든다 → 스쿼시로 회수

git 기반이라 지워도 히스토리에 blob이 남아 저장소 용량이 안 준다. repo를 안 지우고 회수하려면 히스토리를 스쿼시한다:

# ① 파일 삭제 (아직 히스토리엔 남음)
lerobot-hf repos delete-files JSHNSL/ffw_sg2_hdf5 "지울파일.hdf5" --repo-type dataset

# ② 히스토리 스쿼시 → 여기서 용량이 실제로 회수됨
lerobot-python -c "
from huggingface_hub import HfApi
HfApi().super_squash_history(repo_id='JSHNSL/ffw_sg2_hdf5', repo_type='dataset')
print('squashed')
"

순서 중요: ①로 지우고 → ②로 스쿼시. 스쿼시는 현재 HEAD 상태만 남기고 이전 커밋을 다 버린다.

• ⚠️ 커밋 히스토리 영구 소멸 — 되돌릴 수 없다 (원본 보관 repo라 히스토리 가치는 낮은 편)
• CLI 명령 없음 → 파이썬으로만. write 토큰 필요.

방법	용량 회수	히스토리	repo
delete-files 만	❌	유지	유지
delete-files + super_squash_history	✅	소멸	유지
repo 삭제 후 재생성	✅	소멸	새로 만들어야 함

---

이 HDF5로 뭘 하나

A. Mimic 데이터 증강 (annotate → generate)

EC2_dataset_generation.txt 참고. 요약:

ANN=/workspace/cyclo_lab/datasets/0713_ffw_sg2_l_table_annotate_merge_num96.hdf5
GEN=/workspace/cyclo_lab/datasets/0713_ffw_sg2_l_table_generate.hdf5
PY=/workspace/cyclo_lab/third_party/IsaacLab/_isaac_sim/python.sh

cd /workspace/cyclo_lab && $PY \
  scripts/sim2real/imitation_learning/mimic/generate_dataset.py \
  --device cuda --num_envs 2 \
  --task Cyclo-Real-Mimic-Pick-Place-LTable-FFW-SG2-v0 \
  --generation_num_trials 10 \
  --input_file  $ANN \
  --output_file $GEN \
  --enable_cameras --headless

B. LeRobot 변환 (학습용 데이터셋 만들기)

HDF5는 바로 학습에 못 넣는다:

# (선택) 여러 세션 병합
lerobot-python merge_hdf5_demos.py \
    --inputs datasets/*_joint.hdf5 \
    --output datasets/merged_joint.hdf5

# HDF5 -> LeRobot v3.0
lerobot-python scripts/sim2real/imitation_learning/data_converter/isaaclab2lerobot.py \
    --task=Cyclo-Real-Pick-Place-LTable-FFW-SG2-v0 \
    --robot_type FFW_SG2 \
    --dataset_file datasets/merged_joint.hdf5

전체 절차(환경 준비 · 변환 · 학습 · 하이퍼파라미터 튜닝 · 시뮬 롤아웃)는 → JSHNSL/humanoid-imitation-learning

---

로봇 / 태스크

• 로봇: ROBOTIS FFW_SG2 (양팔 휴머노이드 + 리프트 + 헤드 + 모바일 베이스)
• 관측: observation.state 19-dim (arm_l 7 + gripper_l 1 + arm_r 7 + gripper_r 1 + head 2 + lift 1) · cam_head RGB 376×672
• 태스크 (L-Table): 박스를 양팔로 집어 L자 테이블로 옮겨 놓기. 베이스 이동(회전 90° + 주행)은 스크립트로 처리되고, 정책은 팔의 grasp/place만 학습한다.