calvin-completion-abc: 완료 판정의 학습과 평가 데이터 (장면 A, B, C)

분류: 완료 판정의 학습과 평가 데이터. 고정한 정책의 롤아웃에서 프레임마다 "지금 subtask 가 끝났는가" 를 맞히는 판정기를 학습하고 평가한다. 정지 head (고정한 π0.5 의 토큰을 읽는 판정기) 와 외부 판정기를 같은 프레임에서 학습하고 견준다.

항목	값
정책	공개 π0.5 CALVIN SFT (RLinf/RLinf-Pi05-CALVIN-ABC-D-SFT, revision ffe18938a37d3855c9ff50d6220d39bcd6434f15) 를 고정하고 평가 모드로 돌렸다
장면	CALVIN 의 A, B, C. 장면 D 는 최종 시험용으로 따로 수집한다
에피소드	990 개 (본 수집 612 개, 앞선 동작이 필요한 일곱 작업의 보충 수집 378 개). 34 작업 모두 목표 작업을 17 번 이상 시도했다
실행	성공한 뒤에도 같은 지시로 5 초를 더 실행해, 성공했다가 다시 실패하는 과정이 남는다. 정책의 실패도 모두 남겼다
프레임	제어 30 Hz, 영상 10 Hz. 영상 프레임 100,492 개 가운데 91,215 개를 학습 정답으로 쓴다 (완료 33,036, 미완료 58,179)
분할	학습 분할 825 에피소드 (75,737 프레임), 검증 분할 165 에피소드 (15,478 프레임). 같은 초기 상태에서 만든 에피소드는 한 분할에만 있다

정답

• 프레임마다 진짜 성공 (오라클, 시뮬레이터 상태로 확인한 성공) 의 현재 값이다. 첫 성공 뒤를 모두 완료로 두지 않는다.
• 겉보기가 성공과 같은 미완료 프레임은 학습 정답에서 뺐다 (use 가 거짓). 0.5 초보다 짧은 깜빡임, 라벨이 바뀌는 순간의 앞뒤, 블록을 쥐고 들었는데 높이 기준에 못 미친 프레임이다.
• 프레임마다 정답, 분할, 뺀 이유, 구간의 역할 (목표 작업 또는 앞선 동작) 은 training_manifest/frames.parquet 에 있다.

파일

경로	내용	크기
training_manifest/	프레임마다의 정답과 분할 (frames.parquet), 집계 (summary.json)	1 MB
bundles/collection.tar.part-*	main_collection/, supplement_collection/. 구간마다 npz 하나에 네 카메라의 RGB 와 깊이, 30 Hz 의 로봇 상태 (robot_obs), 장면 상태 (scene_obs), 관절 속도와 토크, 정책의 액션, 34 작업 전체의 성공 여부가 있다	36 GB
bundles/static448.tar.part-*	static448/. 저장한 상태를 되돌려 정면 카메라를 448 × 448 로 다시 그린 것이다	22 GB
bundles/load_replay.tar	load_replay/. 저장한 액션을 물리로 다시 재생해 기록한 손목 힘, 손가락 힘과 평균 관절 토크다	46 MB
policy_features/cache/	고정한 π0.5 가 프레임마다 계산하는 prefix 마지막 층의 토큰이다. 정면과 손목 이미지마다 4 × 4 로 평균 낸 토큰 (image_p4.npy) 과 instruction 토큰 (lang.npy, lang_len.npy) 이다. float16, manifest 의 행 순서다	19 GB
vision_features/cache/	네 카메라의 이미지를 π0.5 의 이미지 인코더 (SigLIP 과 projector) 에만 통과시킨 토큰이다. 4 × 4 로 평균 냈다	25 GB
bundles/judge_train_robometer.*	judge_train/robometer/. Robometer-4B 의 학습 데이터다. 구간 하나가 궤적 하나이고, 저자 형식의 진행도와 성공 라벨이 있다	12 GB
bundles/judge_train_dopamine.*	judge_train/dopamine/. Robo-Dopamine 의 학습 데이터다. 두 프레임 쌍과 그 사이 진행도 변화의 답이다 (fit 45,409, dev 10,902)	1.1 GB
bundles/judge_train_procvlm.*	judge_train/procvlm/. ProcVLM-2B 의 학습 데이터다. 프레임 묶음과 남은 동작, 진행도의 답 문장이다 (fit 42,209, dev 10,383)	3.4 GB
bundles/judge_train_clef.*	judge_train/clef/. Clef-flash 의 학습 행 목록이다. 이미지는 위의 수집 폴더에서 읽는다	1 MB

• 판정기마다의 학습 데이터는 저자의 라벨 규칙과 입력 형식이 서로 달라 따로 만들었다. 학습 분할 (fit) 과 조기 종료 분할 (dev) 만 있고, 검증 분할은 넣지 않았다. 라벨 규칙은 레포의 docs/EXTERNAL_JUDGE_TRAINING.ko.md 4 절, 만드는 법은 judge/train/<판정기>/README.ko.md 에 있다.

• 예/아니오 판정기 넷과 정지 head 는 따로 만든 데이터가 없다. 위의 수집 폴더와 특징을 학습 중에 바로 읽는다.

• 카메라는 정면 (200 × 200), 손목 (84 × 84), 추가 시점 둘 (200 × 200) 이다. 추가 시점 둘은 정책에 넣지 않았고, 가림 점검을 하지 않은 후보다.

• 정면 448 은 프레임마다 200 으로도 그려 저장 이미지와 견줬다. 프레임의 46.4% 가 픽셀까지 같았고, 다른 곳은 집게 손가락과 그 그림자였다. 손가락 관절은 저장하지 않아 집게 폭으로만 되돌렸기 때문으로 보인다.

• scene_obs 와 34 작업의 성공 여부는 정답을 만들고 분석하는 데 쓴다. 판정기의 입력으로 쓰지 않는다.

• 하중은 시뮬레이터가 계산한 값이고 실제 센서의 측정값이 아니다.

받는 법

구간 파일이 많아 HF 의 API 한도를 피하려고 bundles/ 에 tar 조각으로 묶었다. 받은 폴더에서 아래를 돌리면 공유 디스크와 같은 폴더 구조로 풀린다. 그 폴더를 레포 스크립트의 --root 로 쓴다.

bash calvin/unpack_collection_dataset.sh <받은 폴더>

스크립트는 레포 Index-23227/vla-progress-label 에 있다. 수집, 정답 규칙과 결과는 레포의 docs/FOURTH_COLLECTION_SETUP.ko.md, 외부 판정기의 학습 준비는 docs/EXTERNAL_JUDGE_TRAINING.ko.md 에 있다.

쓰는 법

• 학습 분할로 학습하고, 검증 분할로 같은 장면의 성능을 본다. 학습에서 장면 하나를 빼고 그 장면을 평가하는 방법으로 처음 보는 장면의 성능을 흉내 낸다.
• 처음 보는 장면의 최종 시험은 같은 수집기로 장면 D 를 새로 수집해서 한다. 그 데이터는 별도 저장소에 둔다.

CALVIN 저장소의 목적

분류	저장소	쓰는 곳
완료 판정의 학습과 평가 데이터	calvin-completion-abc (이 저장소)	고정한 정책의 롤아웃으로 정지 head 와 외부 판정기를 학습하고 평가한다
정지 행동의 SFT 학습 데이터	calvin-abc-plain, calvin-abc-stop0-h15, calvin-abc-stop0-h30, calvin-abc-stop0-h90, calvin-abc-retract-h30, calvin-abc-stop0-then-h30, calvin-abc-stop0-then-h30-cam	정책을 CALVIN 시연으로 다시 학습해 성공한 뒤 멈추게 하는 실험이다. 모두 성공한 시연이라 정책의 실패가 없다
정지 행동의 SFT 모델 체크포인트	progress-stop (모델 저장소)	위 데이터와 원본 시연으로 학습한 모델이다
외부 판정기의 평가 이미지	calvin-judge-frames-sft	학습하지 않은 판정기에 정면 해상도를 바꿔 묻는 평가다
완료 판정의 진단 예시	calvin-completion-failure-examples-v1	오판 사례의 진단과 보조 실험이다

원본 CALVIN 과 정책의 이용 조건을 따른다.