license: cc-by-4.0
viewer: false
tags:
- reinforcement-learning
- offline-reinforcement-learning
- unity-ml-agents
- minari
- causal-gpt-rl
Causal GPT-RL — Unity ML-Agents 궤적
모델이 제거된 Unity 빌드를 스톡 정책으로 외부 제어해 수집한 궤적을
Minari 형식으로 제공하는 오프라인 RL 데이터셋으로,
연속 행동 공간과 이산 행동 공간을 모두 포함합니다. 어떤 오프라인 RL 방법으로도
학습할 수 있으며, 저희는 두 공간 유형 모두에서 동작하는 새 접근법인
Causal GPT-RL을 개발하려고 만들었습니다. 8개 환경 전부가 expert 티어와 함께
스톡 정책을 점진적으로 열화시켜 만든 품질 래더(expert + 보정된
medium/simple)를 제공합니다 — 연속 제어 씬은 가우시안 행동 노이즈 범위로,
이산 목표 게임은 정책 로짓에 대한 softmax temperature 범위로 열화시킵니다.
티어는 무작위 정책 0.0과 스톡 expert 1.0 사이의 Minari 정규화 스킬을 기준으로
맞춥니다 — 목표는 simple 0.60 / medium 0.80 / expert 1.0이며 실제로는
simple 0.58–0.62, medium 0.77–0.85에 놓입니다. 열화량은 하나의 상수가 아니라
에피소드마다 보정된 범위에서 뽑습니다(그룹·팀 씬인 DungeonEscape와 SoccerTwos는
매치 단위로 뽑습니다). 그래서 각 티어의 평균은 목표에 맞으면서도 에피소드들이
한 점에 몰리지 않고 연속적인 스킬 대역을 덮습니다.
English edition — 이 문서의 영문판(정식 카드): README.md
동반 저장소
- 모델 제거 Unity 빌드와 대응하는 스톡 ONNX 정책: ccnets/causal-gpt-rl-unity-envs
- 학습된 Causal GPT-RL 정책 체크포인트 (Pyramids, PushBlock): ccnets/causal-gpt-rl-unity
- 수집 및 Minari 패키징 코드: examples/unity_collection
데이터 품질 공지 — 행동 라벨 (2026-08-01 해결)
이제 이 저장소의 모든 데이터셋은 Unity가 실제로 실행한 행동을 담고 있습니다.
ML-Agents 에이전트는 k 스텝마다 한 번만 결정을 내리고 Unity는 그 사이 구간에서
직전 결정을 계속 실행합니다. 그런데 수집기가 그 사이 스텝에 대해 실행 중이던 행동
대신 placeholder 0을 저장했고, 그래서 행동 열이 궤적을 만들어낸 정책과 어긋나
있었습니다. 관측·보상·종료 플래그와 궤적 자체는 전혀 영향을 받지 않았으므로,
공개된 리턴·step-reward·티어 보정값은 그동안에도 모두 유효했습니다.
수집기는 2026-07-30에 수정됐습니다 — 이제 각 에이전트의 마지막 실제 결정을
결정 공백 구간 너머로 이어서 기록합니다. 영향을 받은 21개 데이터셋은 전부 재수집해
교체했습니다: 이산 환경 12개 티어는 2026-07-30에, 연속 환경 9개는 2026-08-01에
교체했습니다. 교체된 파일에 placeholder가 들어 있던 비율은 다음과 같습니다
(티어 범위: expert – simple).
| 환경 | placeholder 행 비율 (교체 전 파일) | 상태 |
|---|---|---|
이산 4개 환경 — pushblock, dungeon-escape, soccer-twos, pyramids |
3–72% | 12개 티어 전부 2026-07-30 재수집 |
crawler |
0.57–1.03% | 3개 티어 전부 2026-08-01 재수집 |
walker |
1.05–1.62% | 3개 티어 전부 2026-08-01 재수집 |
3dball-hard |
0.02–1.46% | 3개 티어 전부 2026-08-01 재수집 |
worm |
0% | 애초에 해당 없음 — 에이전트가 종료되지 않음 |
원인은 하나인데 발생률은 크게 다릅니다. 이산 목표 게임에서는 공백 스텝도 다른
스텝과 똑같이 기록되므로 placeholder 비율이 결정 주기를 그대로 따라가며 행동 열을
지배하게 됩니다. 반면 연속 제어 씬에서는 어느 에이전트도 결정이나 종료 관측을
갖지 않은 스텝은 통째로 버려지므로, 순수한 공백 스텝은 애초에 데이터에 들어오지
않습니다 — 살아남는 것은 그 스텝에 다른 에이전트가 마침 종료된 경우뿐입니다.
그래서 연속 씬의 비율은 그 씬의 리셋 빈도를 따라가며 2% 아래에 머뭅니다. worm은
그 극한 사례입니다: 에이전트가 아예 종료되지 않아(모든 에피소드가 1000 스텝을 채움)
살아남는 공백 스텝이 하나도 없고, 따라서 세 티어 모두 처음부터 깨끗했습니다.
수집 실행은 비트 단위로 재현되지 않으므로 — 에이전트들이 비동기로 에피소드를 끝내기 때문에 경계가 다르게 잡힙니다 — 재수집된 각 티어는 교체 전 파일과 에피소드/트랜지션 수와 티어 지표가 조금씩 다릅니다. 밴드와 노이즈 시드는 건드리지 않았습니다. 이 작업은 라벨 수정이지 재보정이 아니며, 지표의 이동은 기록된 정책이 바뀐 것이 아니라 표집 노이즈입니다. 아래 표들은 모두 새 수치를 담고 있습니다.
데이터셋 목록
| Dataset id | Episodes | Transitions | Observation | Action |
|---|---|---|---|---|
unity/crawler/expert-v0 |
1,043 | 1,000,000 | Tuple(Box(126), Box(32)) |
Box(20, [-1, 1]) |
unity/crawler/medium-v0 |
1,120 | 1,000,000 | Tuple(Box(126), Box(32)) |
Box(20, [-1, 1]) |
unity/crawler/simple-v0 |
1,325 | 1,000,000 | Tuple(Box(126), Box(32)) |
Box(20, [-1, 1]) |
unity/pushblock/expert-v0 |
53,039 | 1,000,000 | Tuple(Box(105), Box(105)) |
Discrete(7) |
unity/pushblock/medium-v0 |
39,033 | 1,010,016 | Tuple(Box(105), Box(105)) |
Discrete(7) |
unity/pushblock/simple-v0 |
26,666 | 1,010,016 | Tuple(Box(105), Box(105)) |
Discrete(7) |
unity/soccer-twos/expert-v0 |
14,692 | 1,001,676 | ego Dict 안의 Tuple(Box(264), Box(72)) |
ego Dict 안의 MultiDiscrete([3, 3, 3]) |
unity/soccer-twos/medium-v0 |
12,940 | 1,002,368 | ego Dict 안의 Tuple(Box(264), Box(72)) |
ego Dict 안의 MultiDiscrete([3, 3, 3]) |
unity/soccer-twos/simple-v0 |
11,820 | 1,001,564 | ego Dict 안의 Tuple(Box(264), Box(72)) |
ego Dict 안의 MultiDiscrete([3, 3, 3]) |
unity/dungeon-escape/expert-v0 |
35,505 | 1,007,206 | ego Dict 안의 Tuple(Box(10), Box(360), Box(1)) |
ego Dict 안의 Discrete(7) |
unity/dungeon-escape/medium-v0 |
28,314 | 1,012,457 | ego Dict 안의 Tuple(Box(10), Box(360), Box(1)) |
ego Dict 안의 Discrete(7) |
unity/dungeon-escape/simple-v0 |
22,542 | 1,001,594 | ego Dict 안의 Tuple(Box(10), Box(360), Box(1)) |
ego Dict 안의 Discrete(7) |
unity/3dball-hard/expert-v0 |
1,011 | 1,000,008 | Tuple(Box(27), Box(18)) |
Box(2) |
unity/3dball-hard/medium-v0 |
1,311 | 1,000,008 | Tuple(Box(27), Box(18)) |
Box(2) |
unity/3dball-hard/simple-v0 |
1,701 | 1,000,008 | Tuple(Box(27), Box(18)) |
Box(2) |
unity/pyramids/expert-v0 |
5,392 | 1,000,000 | Tuple(Box(56), Box(56), Box(56), Box(4)) |
Discrete(5) |
unity/pyramids/medium-v0 |
4,174 | 1,000,000 | Tuple(Box(56), Box(56), Box(56), Box(4)) |
Discrete(5) |
unity/pyramids/simple-v0 |
3,065 | 1,000,000 | Tuple(Box(56), Box(56), Box(56), Box(4)) |
Discrete(5) |
unity/worm/expert-v0 |
1,000 | 1,000,000 | Box(64) |
Box(9, [-1, 1]) |
unity/worm/medium-v0 |
1,000 | 1,000,000 | Box(64) |
Box(9, [-1, 1]) |
unity/worm/simple-v0 |
1,000 | 1,000,000 | Box(64) |
Box(9, [-1, 1]) |
unity/walker/expert-v0 |
1,464 | 1,000,000 | Box(243) |
Box(39, [-1, 1]) |
unity/walker/medium-v0 |
1,695 | 1,000,000 | Box(243) |
Box(39, [-1, 1]) |
unity/walker/simple-v0 |
2,306 | 1,000,000 | Box(243) |
Box(39, [-1, 1]) |
공개된 환경·데이터셋·스톡 정책은 모두 ML-Agents release_23 기준입니다.
각 데이터셋은 <환경>/<tier>/data/main_data.hdf5와 같은 위치의 metadata.json
(minari_version 0.5.3)으로 구성됩니다. 관측 센서는 의미가 섞이지 않도록 별도의
Tuple leaf로 보존하며, 센서가 하나인 환경은 단일 Box를 씁니다.
SoccerTwos와 DungeonEscape는 공유 정책을 쓰는 분산형 다중 에이전트 환경이라
ego 스키마를 사용합니다 — observations["agents"]["agent_0"],
actions["agents"]["agent_0"]. 물리 에이전트 하나가 ego 에피소드 하나로 저장되며,
같은 경기나 협동 그룹은 match_id로 묶습니다
(docs/reproduction.md 참고).
로드 예시
from pathlib import Path
from huggingface_hub import snapshot_download
import minari
snapshot_download(
repo_id="ccnets/causal-gpt-rl-unity-datasets",
repo_type="dataset",
allow_patterns="worm/**", # 한 환경만; 지우면 전체 내려받기
local_dir=Path.home() / ".minari" / "datasets" / "unity",
)
dataset = minari.load_dataset("unity/worm/expert-v0")
# 보정된 티어: minari.load_dataset("unity/worm/medium-v0" | ".../simple-v0")
print(dataset.observation_space, dataset.action_space)
품질 래더
티어를 이렇게 만든 이유. 보통의 RL 파이프라인이라면 medium/simple 데이터는
expert에 이르는 도중의 초기 학습 체크포인트에서 나옵니다. 저희에게는 그
체크포인트들이 없고 최종 expert 정책만 있으므로, 각 티어를 expert에서 거꾸로
줄여서 만듭니다. 하나의 고정된 교란(= 열화된 한 점)을 쓰는 대신 에피소드마다
보정된 범위에서 스킬을 뽑아, 체크포인트들이 만들었을 스킬의 분포를 재현합니다.
각 래더는 하나의 스톡 정책에서 만든 단조 스킬 수열입니다. expert는 수정하지
않은 정책이고 medium/simple이 이를 점진적으로 열화시킵니다. 열화량은 티어 평균이
정규화 목표에 맞으면서 에피소드들이 연속적인 스킬 대역을 덮도록 보정했습니다
(seed 2310000).
- 연속 제어 씬(crawler, worm, walker, 3dball-hard)은 가우시안 행동 노이즈를
더하며,
noise_std를 에피소드마다 보정된 범위에서 뽑습니다. - 이산 목표 게임은 노출된 이산 로짓에 대해
softmax(logits/T)로 정책 자신의 행동 분포에서 표본을 뽑습니다 —T가 클수록 그럴듯한 2·3순위 행동을 고르게 되어 분포 안에서 매끄럽게 열화합니다(균일 무작위로 바꿔치는 epsilon 방식은 이봉이고 분포 밖이라 이와 다릅니다). PushBlock과 Pyramids는T를 에피소드마다 보정된 범위에서 뽑습니다(에피소드마다 자체 스킬 레벨 — 초기 체크포인트들의 스펙트럼처럼). - 협동 이산 환경 DungeonEscape은 softmax temperature
T를 매치마다 그룹 단위로 뽑아 그룹의 세 에이전트가 같은T를 공유합니다(매치 하나가 하나의 일관된 스킬 레벨 — 초기 체크포인트 한 시점처럼). 자기대전 SoccerTwos는T를 매치마다 팀 단위로 (더 넓은) 보정 범위에서 뽑으며, 두 팀이 독립적으로 뽑으므로 매치마다 두 스킬 레벨이 맞붙습니다(무작위 실력차 — 여러 체크포인트가 붙는 리그전처럼).
정규화는 각 환경의 티어 지표에 대해 (후보 − 무작위) / (expert − 무작위)입니다.
| 환경 | 티어 지표 | medium | simple | 열화 방식 |
|---|---|---|---|---|
crawler |
에피소드 리턴 | 0.83 | 0.62 | 에피소드별 noise_std 범위 |
worm |
에피소드 리턴 | 0.80 | 0.60 | 에피소드별 noise_std 범위 |
walker |
에피소드 리턴 | 0.85 | 0.59 | 에피소드별 noise_std 범위 |
3dball-hard |
에피소드 리턴 | 0.77 | 0.58 | 에피소드별 noise_std 범위 |
pushblock |
step-reward | 0.80 | 0.60 | 에피소드별 softmax temperature 범위 |
pyramids |
step-reward | 0.79 | 0.60 | 에피소드별 softmax temperature 범위 |
dungeon-escape |
step-reward | 0.80 | 0.61 | 그룹별 softmax temperature 범위 |
soccer-twos |
매치 스코어 | ≈0.80 | ≈0.60 | 팀별 softmax temperature 범위 |
soccer-twos 수치는 근사값입니다. 자기대전은 균형을 유지하므로 배포된 리턴에서
티어 스킬을 읽어낼 수 없고, 좌우를 바꿔 겨루는 side-swap 보정에서 얻습니다.
희소 보상 씬(pyramids, pushblock, dungeon, soccer)은 에피소드 결과가 물리적으로
이봉(해결 vs 타임아웃)이라 에피소드 리턴 히스토그램으로는 티어가 거의 분리되지
않습니다. 그래서 목표 게임(pushblock, pyramids, dungeon-escape)의 티어 지표는
평균 step-reward = 리턴 / 에피소드 길이이며, 이는 목표에 얼마나 효율적으로
도달했는지를 재는 연속적인 스킬 신호입니다. 배포된 expert-v0의 step-reward를
기준점으로 expert = 1 / 무작위 = 0으로 정규화합니다(pushblock 0.3537,
pyramids 0.01263, dungeon-escape 0.01936). simple의 목표는 0.60이고 배포된 티어는
0.58–0.62에 있으며(step-reward가 아니라 side-swap 매치 스코어로 채점하는
SoccerTwos는 근사), medium은 0.77–0.85에 걸쳐 있습니다.
이 값들이 얼마나 정밀한가. 모든 티어 수치는 한 번의 수집에 담긴 에피소드들에 대한 표본 평균이므로 표집 오차를 갖습니다. 리턴으로 채점하는 연속 씬이 가장 느슨한데, 그 씬들에서는 100만 트랜지션이 에피소드를 1,000~2,000개밖에 만들지 못하기 때문입니다. 배포된 파일에서 측정하면 정규화 기준으로 3DBallHard가 약 ±0.01, Crawler가 ±0.015, 에피소드 리턴의 표준편차가 평균과 맞먹는 Walker가 ±0.03입니다. 따라서 소수 둘째 자리는 확정값이 아니라 참고값으로 읽어 주세요 — 어떤 티어가 0.80이 아니라 0.83에 있다면 그것은 같은 밴드를 다시 수집해도 생기는 변동 폭 안이지, 밴드가 다르게 보정됐다는 뜻이 아닙니다. 밴드 자체는 레시피의 고정 상수이며(아래 환경별 표에 기재) 재현 가능한 부분은 그쪽입니다.
아래의 "종료율"은 그 환경의 종료 조건으로 끝난 에피소드 비율입니다 — Crawler/Walker/3DBallHard는 넘어짐, PushBlock은 블록 밀기 성공, Pyramids는 미로 해결("reach")입니다. Worm은 종료되지 않습니다(1000에서 절단).
환경별 래더 표 — 정확한 범위, 기준점, 평균 리턴, 비율
Crawler — 기준점: expert 2575.8405, 무작위 −0.88
| tier | 정규화 리턴 | noise_std 범위 | 평균 리턴 | 종료율 | 평균 길이 |
|---|---|---|---|---|---|
expert-v0 |
1.00 | -- | 2575.8405 | 0.073 | 958.77 |
medium-v0 |
≈0.83 | 0.15–0.23 | 2141.5175 | 0.193 | 892.86 |
simple-v0 |
≈0.62 | 0.21–0.32 | 1605.4283 | 0.435 | 754.72 |
Worm — 기준점: expert 1044.1063, 무작위 0.80 (종료되지 않음)
| tier | 정규화 리턴 | noise_std 범위 | 평균 리턴 | 종료율 | 평균 길이 |
|---|---|---|---|---|---|
expert-v0 |
1.00 | -- | 1044.1063 | 0.000 | 1000.00 |
medium-v0 |
≈0.80 | 0.09–0.15 | 839.4910 | 0.000 | 1000.00 |
simple-v0 |
≈0.60 | 0.15–0.22 | 632.4776 | 0.000 | 1000.00 |
Walker — 기준점: expert 1354.5654, 무작위 −0.49 (리턴의 내재 분산이 큼)
| tier | 정규화 리턴 | noise_std 범위 | 평균 리턴 | 종료율 | 평균 길이 |
|---|---|---|---|---|---|
expert-v0 |
1.00 | -- | 1354.5654 | 0.525 | 683.06 |
medium-v0 |
≈0.85 | 0.05–0.11 | 1154.9421 | 0.651 | 589.97 |
simple-v0 |
≈0.59 | 0.09–0.15 | 797.0197 | 0.827 | 433.65 |
3DBallHard — 기준점: expert 98.9095, 무작위 0.84 (상한이 있는 균형 과제라 거의 이봉)
| tier | 정규화 리턴 | noise_std 범위 | 평균 리턴 | 종료율 | 평균 길이 |
|---|---|---|---|---|---|
expert-v0 |
1.00 | -- | 98.9095 | 0.003 | 989.13 |
medium-v0 |
≈0.77 | 0.28–0.38 | 75.8680 | 0.373 | 762.78 |
simple-v0 |
≈0.58 | 0.31–0.44 | 58.0994 | 0.627 | 587.89 |
PushBlock — 티어 지표는 평균 step-reward(리턴 / 길이). step-reward 기준점: expert 0.353699(배포된 expert-v0, 53,039 에피소드), 무작위 ≈−0.0005(약한 값). 각 티어는 T를 에피소드마다 보정된 범위에서 뽑습니다(에피소드마다 자체 스킬 레벨 — 초기 체크포인트들의 스펙트럼처럼). T가 커져도 여전히 문제를 풀지만 더 헤매므로 리턴은 높게 유지되고(≈4.9) step-reward만 효율을 따라 떨어집니다. 종료율 = 성공률.
| tier | 정규화 step-reward | T (에피소드별) |
평균 step-reward | 평균 리턴 | 성공률 | 평균 길이 |
|---|---|---|---|---|---|---|
expert-v0 |
1.00 | -- | 0.353699 | 4.972780 | ≈1.00 | 18.85 |
medium-v0 |
0.80 | U(2.1, 3.2) |
0.282037 | 4.961591 | 0.997 | 25.88 |
simple-v0 |
0.60 | U(3.25, 4.75) |
0.213119 | 4.942463 | 0.996 | 37.88 |
Pyramids — 티어 지표는 평균 step-reward(리턴 / 길이). step-reward 기준점: expert 0.012633(배포된 expert-v0, 5,392 에피소드), 무작위 −0.001(희소: 무작위 정책은 항상 타임아웃). 각 티어는 T를 에피소드마다 보정된 범위에서 뽑습니다(에피소드마다 자체 스킬 레벨 — 초기 체크포인트들의 스펙트럼처럼). T가 커지면 목표까지 덜 직선적으로 가므로(에피소드가 길어짐) step-reward가 떨어지고 리턴은 expert 근처에 머뭅니다. 종료율 = 미로 도달·해결 비율.
| tier | 정규화 step-reward | T (에피소드별) |
평균 step-reward | 평균 리턴 | 도달률 | 평균 길이 |
|---|---|---|---|---|---|---|
expert-v0 |
1.00 | -- | 0.012633 | 1.797730 | 0.9911 | 185.46 |
medium-v0 |
0.79 | U(2.7, 4.9) |
0.009784 | 1.742249 | 0.990 | 239.58 |
simple-v0 |
0.60 | U(4.8, 7.1) |
0.007201 | 1.636223 | 0.981 | 326.26 |
DungeonEscape — 협동 목표 게임. 티어 지표는 평균 step-reward(리턴 / 길이). step-reward 기준점: expert 0.019355(배포된 expert-v0, 35,505 ego 에피소드), 무작위 ≈0.00015. softmax temperature T를 매치마다 협동 그룹 단위로 보정 범위에서 뽑아 세 에이전트가 공유합니다(매치 하나가 하나의 일관된 스킬 레벨 — 초기 체크포인트 한 시점처럼). T가 커지면 출구에 덜 효율적으로 도달하므로 step-reward가 떨어지지만 그룹은 여전히 자주 성공합니다. 그래서 그룹 성공률 any(agent_return > 0)(group_metadata.jsonl)은 티어 전반에서 높게 유지되어 더 이상 티어를 구분하지 못하고, step-reward가 그 역할을 합니다.
| tier | 정규화 step-reward | T 범위 (그룹별) |
평균 step-reward | 그룹 성공률 | 평균 길이 |
|---|---|---|---|---|---|
expert-v0 |
1.00 | 스톡 (노이즈 없음) | 0.019355 | 0.9604 | 28.37 |
medium-v0 |
0.80 | U(1.5, 3.0) |
0.015446 | 0.9183 | 35.76 |
simple-v0 |
0.61 | U(3.0, 4.0) |
0.011950 | 0.8585 | 44.43 |
SoccerTwos — 티어 지표는 고정된 스톡 정책을 상대로 한 side-swap 매치 스코어입니다(자기대전이라 배포된 평균 리턴은 두 티어 모두 ≈−0.04이고 스킬을 반영하지 못합니다. 표의 값은 보정 추정치입니다). 각 팀이 노출된 MultiDiscrete 로짓에 대한 softmax temperature T를 매치마다 독립적으로 (넓은) 보정 범위에서 뽑아 팀의 두 에이전트가 공유합니다 — 따라서 매치마다 독립적으로 뽑힌 두 스킬 레벨이 맞붙습니다(무작위 실력차 = 여러 체크포인트가 붙는 리그전). 티어는 ego 팀이 뽑은 T로 정해지며, 정규화 값은 그 대역이 고정 expert를 상대로 낸 평균 side-swap 매치 스코어입니다. 매치는 항상 종료됩니다.
| tier | 근사 정규화 스킬 | T (팀·매치별) |
매치 수 | 평균 길이 |
|---|---|---|---|---|
expert-v0 |
1.00 | 스톡 (노이즈 없음) | 3,673 | 68.18 |
medium-v0 |
≈0.80 | U(1.3, 2.6) |
3,235 | 77.46 |
simple-v0 |
≈0.60 | U(2.1, 3.4) |
2,955 | 84.73 |
에피소드 길이
오프라인 RL과 시퀀스 모델에는 에피소드 길이의 평균만이 아니라 분포가 필요합니다.
컨텍스트 길이, 패딩으로 버려지는 양, 길이 버킷팅이 필요한지가 여기서 정해집니다.
배포된 파일에서 직접 측정한 값이며, cv는 sd / 평균으로 꼬리가 얼마나 두꺼운지를
빠르게 보여줍니다.
데이터셋은 성격이 아주 다른 두 계열로 나뉩니다.
- 이동 제어 씬(Crawler, Worm, Walker, 3DBallHard)은 에이전트가 넘어질 때까지
진행하고 1000 스텝에서 절단되므로, 강한 티어일수록 그 상한에 몰립니다. Crawler
expert와 3DBallHardexpert/medium은 중앙값이 정확히 1000입니다. 이들의 평균 ± sd는 종 모양이 아니라 상한에 붙은 덩어리와 왼쪽 꼬리로 읽어야 합니다 — Crawlerexpert에도 2스텝짜리 에피소드가 있습니다. Worm은 극단적인 경우로, 에이전트가 아예 종료되지 않아 3,000개 에피소드 전부가 정확히 1000 스텝이고 모든 티어에서 sd가 정확히 0입니다. - 목표 게임(PushBlock, Pyramids, DungeonEscape, SoccerTwos)은 목표를 달성하면
끝나므로 짧고 오른쪽으로 치우칩니다. PushBlock이 극단인데 평균 18.85, 중앙값 15,
최대 1000으로
cv가 2에 가깝습니다. 여기서 배치를 최장 에피소드에 맞춰 패딩하면 약 50배를 버리게 되므로 길이로 버킷팅하는 편이 좋습니다.
열화는 두 계열을 반대 방향으로 움직입니다. 이동 제어 씬에서는 낮은 티어일수록 더 빨리 넘어지고(Crawler 958.77 → 892.86 → 754.72), 목표 게임에서는 목표 도달이 더 오래 걸립니다(PushBlock 18.85 → 25.88 → 37.88). 에피소드 길이를 feature로 쓰거나 버퍼 크기를 잡는다면 이 부호 차이가 그대로 영향을 줍니다.
1000 스텝을 넘는 환경은 DungeonEscape뿐이며, 그것도 아슬아슬합니다. 35,505개
expert 에피소드 중 3개가 상한을 넘고 가장 긴 것이 1,213 스텝입니다. 나머지 두
티어는 넘지 않습니다. 그 외에는 1000이 확실한 상한입니다 — 이동 제어 씬과
PushBlock·Pyramids는 정확히 1000에 도달하고, SoccerTwos는 훨씬 못 미칩니다(최대 832).
고정 버퍼는 1000이 아니라 이 표의 값을 기준으로 잡으세요.
데이터셋별 에피소드 길이 분포 — 에피소드 수, 평균, sd, cv, 최소/중앙/최대
| dataset | 에피소드 | 평균 | sd | cv | 최소 | 중앙값 | 최대 |
|---|---|---|---|---|---|---|---|
unity/crawler/expert-v0 |
1,043 | 958.77 | 157.56 | 0.16 | 2 | 1,000 | 1,000 |
unity/crawler/medium-v0 |
1,120 | 892.86 | 245.88 | 0.28 | 16 | 1,000 | 1,000 |
unity/crawler/simple-v0 |
1,325 | 754.72 | 332.53 | 0.44 | 7 | 1,000 | 1,000 |
unity/worm/expert-v0 |
1,000 | 1000.00 | 0.00 | 0.00 | 1,000 | 1,000 | 1,000 |
unity/worm/medium-v0 |
1,000 | 1000.00 | 0.00 | 0.00 | 1,000 | 1,000 | 1,000 |
unity/worm/simple-v0 |
1,000 | 1000.00 | 0.00 | 0.00 | 1,000 | 1,000 | 1,000 |
unity/walker/expert-v0 |
1,464 | 683.06 | 365.05 | 0.53 | 9 | 886 | 1,000 |
unity/walker/medium-v0 |
1,695 | 589.97 | 372.74 | 0.63 | 9 | 611 | 1,000 |
unity/walker/simple-v0 |
2,306 | 433.65 | 348.79 | 0.80 | 10 | 323 | 1,000 |
unity/3dball-hard/expert-v0 |
1,011 | 989.13 | 89.59 | 0.09 | 42 | 1,000 | 1,000 |
unity/3dball-hard/medium-v0 |
1,311 | 762.78 | 354.63 | 0.46 | 13 | 1,000 | 1,000 |
unity/3dball-hard/simple-v0 |
1,701 | 587.89 | 391.43 | 0.67 | 6 | 636 | 1,000 |
unity/pushblock/expert-v0 |
53,039 | 18.85 | 37.09 | 1.97 | 1 | 15 | 1,000 |
unity/pushblock/medium-v0 |
39,033 | 25.88 | 47.08 | 1.82 | 3 | 20 | 1,000 |
unity/pushblock/simple-v0 |
26,666 | 37.88 | 60.35 | 1.59 | 2 | 27 | 1,000 |
unity/pyramids/expert-v0 |
5,392 | 185.46 | 119.83 | 0.65 | 9 | 157 | 1,000 |
unity/pyramids/medium-v0 |
4,174 | 239.58 | 142.40 | 0.59 | 22 | 201 | 1,000 |
unity/pyramids/simple-v0 |
3,065 | 326.26 | 191.25 | 0.59 | 13 | 275 | 1,000 |
unity/dungeon-escape/expert-v0 |
35,505 | 28.37 | 26.31 | 0.93 | 1 | 25 | 1,213 |
unity/dungeon-escape/medium-v0 |
28,314 | 35.76 | 34.99 | 0.98 | 1 | 28 | 889 |
unity/dungeon-escape/simple-v0 |
22,542 | 44.43 | 48.03 | 1.08 | 1 | 31 | 969 |
unity/soccer-twos/expert-v0 |
14,692 | 68.18 | 63.14 | 0.93 | 6 | 48 | 574 |
unity/soccer-twos/medium-v0 |
12,940 | 77.46 | 71.27 | 0.92 | 7 | 55 | 479 |
unity/soccer-twos/simple-v0 |
11,820 | 84.73 | 83.51 | 0.99 | 7 | 59 | 832 |
빌드와 재현 절차(환경별 수집 레시피)는 docs/reproduction.md를 참고하세요.
출처와 표기
- 궤적은 Unity ML-Agents 자산을 실행해 생성했습니다(빌드와 스톡 정책은 Apache-2.0. 출처와 라이선스는 envs 저장소를 참고하세요).
- 이 저장소의 궤적 데이터는 원본 기록물이며 CC-BY-4.0으로 배포됩니다. ccnets — Causal GPT-RL과 Unity ML-Agents 원본 환경을 표기해 주세요.
라이선스
Creative Commons Attribution 4.0 International (CC-BY-4.0). LICENSE 참고.