README.ko.md

---
license: cc-by-4.0
viewer: false
tags:
  - reinforcement-learning
  - offline-reinforcement-learning
  - unity-ml-agents
  - minari
  - causal-gpt-rl
---

# Causal GPT-RL — Unity ML-Agents 궤적

모델이 제거된 Unity 빌드를 스톡 정책으로 외부 제어해 수집한 궤적을
[Minari](https://minari.farama.org) 형식으로 제공하는 **오프라인 RL 데이터셋**으로,
연속 행동 공간과 이산 행동 공간을 모두 포함합니다. 어떤 오프라인 RL 방법으로도
학습할 수 있으며, 저희는 두 공간 유형 모두에서 동작하는 새 접근법인
**Causal GPT-RL**을 개발하려고 만들었습니다. 8개 환경 전부가 `expert` 티어와 함께
스톡 정책을 점진적으로 열화시켜 만든 **품질 래더**(`expert` + 보정된
`medium`/`simple`)를 제공합니다 — 연속 제어 씬은 가우시안 행동 노이즈 범위로,
이산 목표 게임은 정책 로짓에 대한 softmax temperature 범위로 열화시킵니다.

티어는 무작위 정책 `0.0`과 스톡 expert `1.0` 사이의 Minari 정규화 스킬을 기준으로
맞춥니다 — **목표는 `simple` 0.60 / `medium` 0.80 / `expert` 1.0**이며 실제로는
simple 0.58–0.62, medium 0.77–0.85에 놓입니다. 열화량은 하나의 상수가 아니라
**에피소드마다 보정된 범위에서 뽑습니다**(그룹·팀 씬인 DungeonEscape와 SoccerTwos는
매치 단위로 뽑습니다). 그래서 각 티어의 *평균*은 목표에 맞으면서도 에피소드들이
한 점에 몰리지 않고 연속적인 스킬 대역을 덮습니다.

**English edition** — 이 문서의 영문판(정식 카드):
[README.md](https://huggingface.co/datasets/ccnets/causal-gpt-rl-unity-datasets/blob/main/README.md)

**동반 저장소**
- 모델 제거 Unity 빌드와 대응하는 스톡 ONNX 정책:
  [ccnets/causal-gpt-rl-unity-envs](https://huggingface.co/datasets/ccnets/causal-gpt-rl-unity-envs)
- 학습된 Causal GPT-RL 정책 체크포인트 (Pyramids, PushBlock):
  [ccnets/causal-gpt-rl-unity](https://huggingface.co/ccnets/causal-gpt-rl-unity)
- 수집 및 Minari 패키징 코드:
  [examples/unity_collection](https://github.com/ccnets-team/causal-gpt-rl/tree/main/examples/unity_collection)

## 데이터 품질 공지 — 행동 라벨 (2026-08-01 해결)

**이제 이 저장소의 모든 데이터셋은 Unity가 실제로 실행한 행동을 담고 있습니다.**
ML-Agents 에이전트는 *k* 스텝마다 한 번만 결정을 내리고 Unity는 그 사이 구간에서
직전 결정을 계속 실행합니다. 그런데 수집기가 그 사이 스텝에 대해 실행 중이던 행동
대신 placeholder `0`을 저장했고, 그래서 행동 열이 궤적을 만들어낸 정책과 어긋나
있었습니다. **관측·보상·종료 플래그와 궤적 자체는 전혀 영향을 받지 않았으므로**,
공개된 리턴·step-reward·티어 보정값은 그동안에도 모두 유효했습니다.

수집기는 **2026-07-30**에 수정됐습니다 — 이제 각 에이전트의 마지막 실제 결정을
결정 공백 구간 너머로 이어서 기록합니다. 영향을 받은 21개 데이터셋은 전부 재수집해
교체했습니다: 이산 환경 12개 티어는 2026-07-30에, 연속 환경 9개는 2026-08-01에
교체했습니다. 교체된 파일에 placeholder가 들어 있던 비율은 다음과 같습니다
(티어 범위: `expert` – `simple`).

| 환경 | placeholder 행 비율 (교체 전 파일) | 상태 |
|---|---:|---|
| 이산 4개 환경 — `pushblock`, `dungeon-escape`, `soccer-twos`, `pyramids` | 3–72% | **12개 티어 전부 2026-07-30 재수집** |
| `crawler` | 0.57–1.03% | **3개 티어 전부 2026-08-01 재수집** |
| `walker` | 1.05–1.62% | **3개 티어 전부 2026-08-01 재수집** |
| `3dball-hard` | 0.02–1.46% | **3개 티어 전부 2026-08-01 재수집** |
| `worm` | 0% | 애초에 해당 없음 — 에이전트가 종료되지 않음 |

원인은 하나인데 발생률은 크게 다릅니다. 이산 목표 게임에서는 공백 스텝도 다른
스텝과 똑같이 기록되므로 placeholder 비율이 결정 주기를 그대로 따라가며 행동 열을
지배하게 됩니다. 반면 연속 제어 씬에서는 *어느* 에이전트도 결정이나 종료 관측을
갖지 않은 스텝은 통째로 버려지므로, 순수한 공백 스텝은 애초에 데이터에 들어오지
않습니다 — 살아남는 것은 그 스텝에 다른 에이전트가 마침 종료된 경우뿐입니다.
그래서 연속 씬의 비율은 그 씬의 리셋 빈도를 따라가며 2% 아래에 머뭅니다. `worm`은
그 극한 사례입니다: 에이전트가 아예 종료되지 않아(모든 에피소드가 1000 스텝을 채움)
살아남는 공백 스텝이 하나도 없고, 따라서 세 티어 모두 처음부터 깨끗했습니다.

수집 실행은 비트 단위로 재현되지 않으므로 — 에이전트들이 비동기로 에피소드를
끝내기 때문에 경계가 다르게 잡힙니다 — 재수집된 각 티어는 교체 전 파일과
에피소드/트랜지션 수와 티어 지표가 조금씩 다릅니다. 밴드와 노이즈 시드는 건드리지
않았습니다. 이 작업은 라벨 수정이지 재보정이 아니며, 지표의 이동은 기록된 정책이
바뀐 것이 아니라 표집 노이즈입니다. 아래 표들은 모두 새 수치를 담고 있습니다.

## 데이터셋 목록

| Dataset id | Episodes | Transitions | Observation | Action |
|---|---:|---:|---|---|
| `unity/crawler/expert-v0` | 1,043 | 1,000,000 | `Tuple(Box(126), Box(32))` | `Box(20, [-1, 1])` |
| `unity/crawler/medium-v0` | 1,120 | 1,000,000 | `Tuple(Box(126), Box(32))` | `Box(20, [-1, 1])` |
| `unity/crawler/simple-v0` | 1,325 | 1,000,000 | `Tuple(Box(126), Box(32))` | `Box(20, [-1, 1])` |
| `unity/pushblock/expert-v0` | 53,039 | 1,000,000 | `Tuple(Box(105), Box(105))` | `Discrete(7)` |
| `unity/pushblock/medium-v0` | 39,033 | 1,010,016 | `Tuple(Box(105), Box(105))` | `Discrete(7)` |
| `unity/pushblock/simple-v0` | 26,666 | 1,010,016 | `Tuple(Box(105), Box(105))` | `Discrete(7)` |
| `unity/soccer-twos/expert-v0` | 14,692 | 1,001,676 | ego `Dict` 안의 `Tuple(Box(264), Box(72))` | ego `Dict` 안의 `MultiDiscrete([3, 3, 3])` |
| `unity/soccer-twos/medium-v0` | 12,940 | 1,002,368 | ego `Dict` 안의 `Tuple(Box(264), Box(72))` | ego `Dict` 안의 `MultiDiscrete([3, 3, 3])` |
| `unity/soccer-twos/simple-v0` | 11,820 | 1,001,564 | ego `Dict` 안의 `Tuple(Box(264), Box(72))` | ego `Dict` 안의 `MultiDiscrete([3, 3, 3])` |
| `unity/dungeon-escape/expert-v0` | 35,505 | 1,007,206 | ego `Dict` 안의 `Tuple(Box(10), Box(360), Box(1))` | ego `Dict` 안의 `Discrete(7)` |
| `unity/dungeon-escape/medium-v0` | 28,314 | 1,012,457 | ego `Dict` 안의 `Tuple(Box(10), Box(360), Box(1))` | ego `Dict` 안의 `Discrete(7)` |
| `unity/dungeon-escape/simple-v0` | 22,542 | 1,001,594 | ego `Dict` 안의 `Tuple(Box(10), Box(360), Box(1))` | ego `Dict` 안의 `Discrete(7)` |
| `unity/3dball-hard/expert-v0` | 1,011 | 1,000,008 | `Tuple(Box(27), Box(18))` | `Box(2)` |
| `unity/3dball-hard/medium-v0` | 1,311 | 1,000,008 | `Tuple(Box(27), Box(18))` | `Box(2)` |
| `unity/3dball-hard/simple-v0` | 1,701 | 1,000,008 | `Tuple(Box(27), Box(18))` | `Box(2)` |
| `unity/pyramids/expert-v0` | 5,392 | 1,000,000 | `Tuple(Box(56), Box(56), Box(56), Box(4))` | `Discrete(5)` |
| `unity/pyramids/medium-v0` | 4,174 | 1,000,000 | `Tuple(Box(56), Box(56), Box(56), Box(4))` | `Discrete(5)` |
| `unity/pyramids/simple-v0` | 3,065 | 1,000,000 | `Tuple(Box(56), Box(56), Box(56), Box(4))` | `Discrete(5)` |
| `unity/worm/expert-v0` | 1,000 | 1,000,000 | `Box(64)` | `Box(9, [-1, 1])` |
| `unity/worm/medium-v0` | 1,000 | 1,000,000 | `Box(64)` | `Box(9, [-1, 1])` |
| `unity/worm/simple-v0` | 1,000 | 1,000,000 | `Box(64)` | `Box(9, [-1, 1])` |
| `unity/walker/expert-v0` | 1,464 | 1,000,000 | `Box(243)` | `Box(39, [-1, 1])` |
| `unity/walker/medium-v0` | 1,695 | 1,000,000 | `Box(243)` | `Box(39, [-1, 1])` |
| `unity/walker/simple-v0` | 2,306 | 1,000,000 | `Box(243)` | `Box(39, [-1, 1])` |

공개된 환경·데이터셋·스톡 정책은 모두 **ML-Agents `release_23`** 기준입니다.
각 데이터셋은 `<환경>/<tier>/data/main_data.hdf5`와 같은 위치의 `metadata.json`
(`minari_version` 0.5.3)으로 구성됩니다. 관측 센서는 의미가 섞이지 않도록 별도의
`Tuple` leaf로 보존하며, 센서가 하나인 환경은 단일 `Box`를 씁니다.

SoccerTwos와 DungeonEscape는 공유 정책을 쓰는 분산형 다중 에이전트 환경이라
ego 스키마를 사용합니다 — `observations["agents"]["agent_0"]`,
`actions["agents"]["agent_0"]`. 물리 에이전트 하나가 ego 에피소드 하나로 저장되며,
같은 경기나 협동 그룹은 `match_id`로 묶습니다
([docs/reproduction.md](docs/reproduction.md) 참고).

## 로드 예시

```python
from pathlib import Path
from huggingface_hub import snapshot_download
import minari

snapshot_download(
    repo_id="ccnets/causal-gpt-rl-unity-datasets",
    repo_type="dataset",
    allow_patterns="worm/**",                       # 한 환경만; 지우면 전체 내려받기
    local_dir=Path.home() / ".minari" / "datasets" / "unity",
)
dataset = minari.load_dataset("unity/worm/expert-v0")
# 보정된 티어: minari.load_dataset("unity/worm/medium-v0" | ".../simple-v0")
print(dataset.observation_space, dataset.action_space)
```

## 품질 래더

**티어를 이렇게 만든 이유.** 보통의 RL 파이프라인이라면 `medium`/`simple` 데이터는
expert에 이르는 도중의 *초기 학습 체크포인트*에서 나옵니다. 저희에게는 그
체크포인트들이 없고 최종 expert 정책만 있으므로, 각 티어를 **expert에서 거꾸로
줄여서** 만듭니다. 하나의 고정된 교란(= 열화된 한 점)을 쓰는 대신 에피소드마다
보정된 *범위*에서 스킬을 뽑아, 체크포인트들이 만들었을 스킬의 *분포*를 재현합니다.

각 래더는 **하나의** 스톡 정책에서 만든 단조 스킬 수열입니다. `expert`는 수정하지
않은 정책이고 `medium`/`simple`이 이를 점진적으로 열화시킵니다. 열화량은 티어 평균이
정규화 목표에 맞으면서 에피소드들이 연속적인 스킬 대역을 덮도록 보정했습니다
(seed 2310000).

- **연속 제어** 씬(crawler, worm, walker, 3dball-hard)은 가우시안 행동 노이즈를
  더하며, `noise_std`를 에피소드마다 보정된 범위에서 뽑습니다.
- **이산 목표 게임**은 노출된 이산 로짓에 대해 `softmax(logits/T)`로 정책 자신의
  행동 분포에서 표본을 뽑습니다 — `T`가 클수록 그럴듯한 2·3순위 행동을 고르게 되어
  분포 안에서 매끄럽게 열화합니다(균일 무작위로 바꿔치는 epsilon 방식은 이봉이고
  분포 밖이라 이와 다릅니다). PushBlock과 Pyramids는 `T`를 **에피소드마다** 보정된
  범위에서 뽑습니다(에피소드마다 자체 스킬 레벨 — 초기 체크포인트들의 스펙트럼처럼).
- **협동** 이산 환경 DungeonEscape은 softmax temperature `T`를 **매치마다 그룹
  단위로** 뽑아 그룹의 세 에이전트가 같은 `T`를 공유합니다(매치 하나가 하나의 일관된
  스킬 레벨 — 초기 체크포인트 한 시점처럼). 자기대전 SoccerTwos는 `T`를 **매치마다
  팀 단위로** (더 넓은) 보정 범위에서 뽑으며, 두 팀이 독립적으로 뽑으므로 매치마다
  두 스킬 레벨이 맞붙습니다(무작위 실력차 — 여러 체크포인트가 붙는 리그전처럼).

정규화는 각 환경의 티어 지표에 대해 `(후보 − 무작위) / (expert − 무작위)`입니다.

| 환경 | 티어 지표 | medium | simple | 열화 방식 |
|---|---|---:|---:|---|
| `crawler` | 에피소드 리턴 | 0.83 | 0.62 | 에피소드별 `noise_std` 범위 |
| `worm` | 에피소드 리턴 | 0.80 | 0.60 | 에피소드별 `noise_std` 범위 |
| `walker` | 에피소드 리턴 | 0.85 | 0.59 | 에피소드별 `noise_std` 범위 |
| `3dball-hard` | 에피소드 리턴 | 0.77 | 0.58 | 에피소드별 `noise_std` 범위 |
| `pushblock` | step-reward | 0.80 | 0.60 | 에피소드별 softmax temperature 범위 |
| `pyramids` | step-reward | 0.79 | 0.60 | 에피소드별 softmax temperature 범위 |
| `dungeon-escape` | step-reward | 0.80 | 0.61 | 그룹별 softmax temperature 범위 |
| `soccer-twos` | 매치 스코어 | ≈0.80 | ≈0.60 | 팀별 softmax temperature 범위 |

`soccer-twos` 수치는 근사값입니다. 자기대전은 균형을 유지하므로 배포된 리턴에서
티어 스킬을 읽어낼 수 없고, 좌우를 바꿔 겨루는 side-swap 보정에서 얻습니다.
희소 보상 씬(pyramids, pushblock, dungeon, soccer)은 에피소드 결과가 물리적으로
이봉(해결 vs 타임아웃)이라 에피소드 리턴 히스토그램으로는 티어가 거의 분리되지
않습니다. 그래서 목표 게임(`pushblock`, `pyramids`, `dungeon-escape`)의 티어 지표는
**평균 step-reward** = `리턴 / 에피소드 길이`이며, 이는 목표에 *얼마나 효율적으로*
도달했는지를 재는 연속적인 스킬 신호입니다. 배포된 `expert-v0`의 step-reward를
기준점으로 `expert = 1 / 무작위 = 0`으로 정규화합니다(pushblock 0.3537,
pyramids 0.01263, dungeon-escape 0.01936). `simple`의 목표는 0.60이고 배포된 티어는
**0.58–0.62**에 있으며(step-reward가 아니라 side-swap 매치 스코어로 채점하는
SoccerTwos는 근사), `medium`은 0.77–0.85에 걸쳐 있습니다.

**이 값들이 얼마나 정밀한가.** 모든 티어 수치는 한 번의 수집에 담긴 에피소드들에
대한 표본 평균이므로 표집 오차를 갖습니다. 리턴으로 채점하는 연속 씬이 가장 느슨한데,
그 씬들에서는 100만 트랜지션이 에피소드를 1,000~2,000개밖에 만들지 못하기
때문입니다. 배포된 파일에서 측정하면 정규화 기준으로 3DBallHard가 약 ±0.01,
Crawler가 ±0.015, 에피소드 리턴의 표준편차가 평균과 맞먹는 Walker가 ±0.03입니다.

이것은 *한 수집 안의* 오차입니다. 수집 간 변동 폭은 따로 실측돼 있습니다 —
2026-07-30 라벨 수정 때 연속 씬을 **동일한 밴드와 시드로** 다시 수집했으므로, 두
기록은 수집 실행 그 자체 말고는 다르지 않습니다. 열화된 6개 티어에서 정규화 수치는
0.01–0.03만큼 움직였고, Walker `medium`과 3DBallHard `medium`은 둘 다 0.03을 꽉
채워 움직였습니다 — 위에 적은 3DBallHard의 수집 내 오차의 세 배입니다.
**연속 씬 티어 수치의 재현 정밀도는 0.03으로 보아 주세요.**

따라서 소수 둘째 자리는 확정값이 아니라 참고값으로 읽어 주세요 — 어떤 티어가 0.80이
아니라 0.83에 있다면 그것은 *같은* 밴드를 다시 수집해도 생기는 변동 폭 안이지,
밴드가 다르게 보정됐다는 뜻이 아닙니다. 밴드 자체는 레시피의 고정 상수이며(아래
환경별 표에 기재) 재현 가능한 부분은 그쪽입니다.

아래의 "종료율"은 그 환경의 종료 조건으로 끝난 에피소드 비율입니다 —
Crawler/Walker/3DBallHard는 넘어짐, PushBlock은 블록 밀기 성공, Pyramids는 미로
해결("reach")입니다. Worm은 종료되지 않습니다(1000에서 절단).

<details>
<summary><b>환경별 래더 표</b> — 정확한 범위, 기준점, 평균 리턴, 비율</summary>

**Crawler** — 기준점: expert 2575.8405, 무작위 −0.88

| tier | 정규화 리턴 | noise_std 범위 | 평균 리턴 | 종료율 | 평균 길이 |
|---|---:|---:|---:|---:|---:|
| `expert-v0` | 1.00 | -- | 2575.8405 | 0.073 | 958.77 |
| `medium-v0` | ≈0.83 | 0.15–0.23 | 2141.5175 | 0.193 | 892.86 |
| `simple-v0` | ≈0.62 | 0.21–0.32 | 1605.4283 | 0.435 | 754.72 |

**Worm** — 기준점: expert 1044.1063, 무작위 0.80 (종료되지 않음)

| tier | 정규화 리턴 | noise_std 범위 | 평균 리턴 | 종료율 | 평균 길이 |
|---|---:|---:|---:|---:|---:|
| `expert-v0` | 1.00 | -- | 1044.1063 | 0.000 | 1000.00 |
| `medium-v0` | ≈0.80 | 0.09–0.15 | 839.4910 | 0.000 | 1000.00 |
| `simple-v0` | ≈0.60 | 0.15–0.22 | 632.4776 | 0.000 | 1000.00 |

**Walker** — 기준점: expert 1354.5654, 무작위 −0.49 (리턴의 내재 분산이 큼)

| tier | 정규화 리턴 | noise_std 범위 | 평균 리턴 | 종료율 | 평균 길이 |
|---|---:|---:|---:|---:|---:|
| `expert-v0` | 1.00 | -- | 1354.5654 | 0.525 | 683.06 |
| `medium-v0` | ≈0.85 | 0.05–0.11 | 1154.9421 | 0.651 | 589.97 |
| `simple-v0` | ≈0.59 | 0.09–0.15 | 797.0197 | 0.827 | 433.65 |

**3DBallHard** — 기준점: expert 98.9095, 무작위 0.84 (상한이 있는 균형 과제라 거의 이봉)

| tier | 정규화 리턴 | noise_std 범위 | 평균 리턴 | 종료율 | 평균 길이 |
|---|---:|---:|---:|---:|---:|
| `expert-v0` | 1.00 | -- | 98.9095 | 0.003 | 989.13 |
| `medium-v0` | ≈0.77 | 0.28–0.38 | 75.8680 | 0.373 | 762.78 |
| `simple-v0` | ≈0.58 | 0.31–0.44 | 58.0994 | 0.627 | 587.89 |

**PushBlock** — 티어 지표는 **평균 step-reward**(`리턴 / 길이`). step-reward 기준점: expert 0.353699(배포된 `expert-v0`, 53,039 에피소드), 무작위 ≈−0.0005(약한 값). 각 티어는 `T`를 **에피소드마다** 보정된 범위에서 뽑습니다(에피소드마다 자체 스킬 레벨 — 초기 체크포인트들의 스펙트럼처럼). `T`가 커져도 여전히 문제를 풀지만 더 헤매므로 리턴은 높게 유지되고(≈4.9) step-reward만 효율을 따라 떨어집니다. 종료율 = 성공률.

| tier | 정규화 step-reward | `T` (에피소드별) | 평균 step-reward | 평균 리턴 | 성공률 | 평균 길이 |
|---|---:|---:|---:|---:|---:|---:|
| `expert-v0` | 1.00 | -- | 0.353699 | 4.972780 | ≈1.00 | 18.85 |
| `medium-v0` | 0.80 | `U(2.1, 3.2)` | 0.282037 | 4.961591 | 0.997 | 25.88 |
| `simple-v0` | 0.60 | `U(3.25, 4.75)` | 0.213119 | 4.942463 | 0.996 | 37.88 |

**Pyramids** — 티어 지표는 **평균 step-reward**(`리턴 / 길이`). step-reward 기준점: expert 0.012633(배포된 `expert-v0`, 5,392 에피소드), 무작위 −0.001(희소: 무작위 정책은 항상 타임아웃). 각 티어는 `T`를 **에피소드마다** 보정된 범위에서 뽑습니다(에피소드마다 자체 스킬 레벨 — 초기 체크포인트들의 스펙트럼처럼). `T`가 커지면 목표까지 덜 직선적으로 가므로(에피소드가 길어짐) step-reward가 떨어지고 리턴은 expert 근처에 머뭅니다. 종료율 = 미로 도달·해결 비율.

| tier | 정규화 step-reward | `T` (에피소드별) | 평균 step-reward | 평균 리턴 | 도달률 | 평균 길이 |
|---|---:|---:|---:|---:|---:|---:|
| `expert-v0` | 1.00 | -- | 0.012633 | 1.797730 | 0.9911 | 185.46 |
| `medium-v0` | 0.79 | `U(2.7, 4.9)` | 0.009784 | 1.742249 | 0.990 | 239.58 |
| `simple-v0` | 0.60 | `U(4.8, 7.1)` | 0.007201 | 1.636223 | 0.981 | 326.26 |

**DungeonEscape** — 협동 목표 게임. 티어 지표는 **평균 step-reward**(`리턴 / 길이`). step-reward 기준점: expert 0.019355(배포된 `expert-v0`, 35,505 ego 에피소드), 무작위 ≈0.00015. softmax temperature `T`를 **매치마다 협동 그룹 단위로** 보정 범위에서 뽑아 세 에이전트가 공유합니다(매치 하나가 하나의 일관된 스킬 레벨 — 초기 체크포인트 한 시점처럼). `T`가 커지면 출구에 덜 효율적으로 도달하므로 step-reward가 떨어지지만 그룹은 여전히 자주 성공합니다. 그래서 그룹 성공률 `any(agent_return > 0)`(`group_metadata.jsonl`)은 티어 전반에서 높게 유지되어 더 이상 티어를 구분하지 못하고, step-reward가 그 역할을 합니다.

| tier | 정규화 step-reward | `T` 범위 (그룹별) | 평균 step-reward | 그룹 성공률 | 평균 길이 |
|---|---:|---|---:|---:|---:|
| `expert-v0` | 1.00 | 스톡 (노이즈 없음) | 0.019355 | 0.9604 | 28.37 |
| `medium-v0` | 0.80 | `U(1.5, 3.0)` | 0.015446 | 0.9183 | 35.76 |
| `simple-v0` | 0.61 | `U(3.0, 4.0)` | 0.011950 | 0.8585 | 44.43 |

**SoccerTwos** — 티어 지표는 고정된 스톡 정책을 상대로 한 **side-swap 매치 스코어**입니다(자기대전이라 배포된 평균 리턴은 두 티어 모두 ≈−0.04이고 스킬을 반영하지 못합니다. 표의 값은 보정 추정치입니다). 각 **팀**이 노출된 MultiDiscrete 로짓에 대한 softmax temperature `T`를 **매치마다 독립적으로** (넓은) 보정 범위에서 뽑아 팀의 두 에이전트가 공유합니다 — 따라서 매치마다 독립적으로 뽑힌 두 스킬 레벨이 맞붙습니다(무작위 실력차 = 여러 체크포인트가 붙는 리그전). 티어는 ego 팀이 뽑은 `T`로 정해지며, 정규화 값은 그 대역이 고정 expert를 상대로 낸 평균 side-swap 매치 스코어입니다. 매치는 항상 종료됩니다.

| tier | 근사 정규화 스킬 | `T` (팀·매치별) | 매치 수 | 평균 길이 |
|---|---:|---|---:|---:|
| `expert-v0` | 1.00 | 스톡 (노이즈 없음) | 3,673 | 68.18 |
| `medium-v0` | ≈0.80 | `U(1.3, 2.6)` | 3,235 | 77.46 |
| `simple-v0` | ≈0.60 | `U(2.1, 3.4)` | 2,955 | 84.73 |

</details>

## 에피소드 길이

오프라인 RL과 시퀀스 모델에는 에피소드 길이의 평균만이 아니라 *분포*가 필요합니다.
컨텍스트 길이, 패딩으로 버려지는 양, 길이 버킷팅이 필요한지가 여기서 정해집니다.
배포된 파일에서 직접 측정한 값이며, `cv`는 `sd / 평균`으로 꼬리가 얼마나 두꺼운지를
빠르게 보여줍니다.

데이터셋은 성격이 아주 다른 두 계열로 나뉩니다.

- **이동 제어 씬**(Crawler, Worm, Walker, 3DBallHard)은 에이전트가 넘어질 때까지
  진행하고 1000 스텝에서 절단되므로, 강한 티어일수록 그 상한에 몰립니다. Crawler
  `expert`와 3DBallHard `expert`/`medium`은 *중앙값*이 정확히 1000입니다. 이들의
  평균 ± sd는 종 모양이 아니라 **상한에 붙은 덩어리와 왼쪽 꼬리**로 읽어야 합니다 —
  Crawler `expert`에도 2스텝짜리 에피소드가 있습니다. Worm은 극단적인 경우로,
  에이전트가 아예 종료되지 않아 3,000개 에피소드 전부가 정확히 1000 스텝이고
  모든 티어에서 sd가 정확히 0입니다.
- **목표 게임**(PushBlock, Pyramids, DungeonEscape, SoccerTwos)은 목표를 달성하면
  끝나므로 짧고 오른쪽으로 치우칩니다. PushBlock이 극단인데 평균 18.85, 중앙값 15,
  최대 1000으로 `cv`가 2에 가깝습니다. 여기서 배치를 최장 에피소드에 맞춰 패딩하면
  약 50배를 버리게 되므로 길이로 버킷팅하는 편이 좋습니다.

열화는 두 계열을 **반대 방향으로** 움직입니다. 이동 제어 씬에서는 낮은 티어일수록
더 빨리 넘어지고(Crawler 958.77 → 892.86 → 754.72), 목표 게임에서는 목표 도달이
더 오래 걸립니다(PushBlock 18.85 → 25.88 → 37.88). 에피소드 길이를 feature로 쓰거나
버퍼 크기를 잡는다면 이 부호 차이가 그대로 영향을 줍니다.

**1000 스텝을 넘는 환경은 DungeonEscape뿐이며**, 그것도 아슬아슬합니다. 35,505개
`expert` 에피소드 중 3개가 상한을 넘고 가장 긴 것이 1,213 스텝입니다. 나머지 두
티어는 넘지 않습니다. 그 외에는 1000이 확실한 상한입니다 — 이동 제어 씬과
PushBlock·Pyramids는 정확히 1000에 도달하고, SoccerTwos는 훨씬 못 미칩니다(최대 832).
고정 버퍼는 1000이 아니라 이 표의 값을 기준으로 잡으세요.

<details>
<summary><b>데이터셋별 에피소드 길이 분포</b> — 에피소드 수, 평균, sd, cv, 최소/중앙/최대</summary>

| dataset | 에피소드 | 평균 | sd | cv | 최소 | 중앙값 | 최대 |
|---|---:|---:|---:|---:|---:|---:|---:|
| `unity/crawler/expert-v0` | 1,043 | 958.77 | 157.56 | 0.16 | 2 | 1,000 | 1,000 |
| `unity/crawler/medium-v0` | 1,120 | 892.86 | 245.88 | 0.28 | 16 | 1,000 | 1,000 |
| `unity/crawler/simple-v0` | 1,325 | 754.72 | 332.53 | 0.44 | 7 | 1,000 | 1,000 |
| `unity/worm/expert-v0` | 1,000 | 1000.00 | 0.00 | 0.00 | 1,000 | 1,000 | 1,000 |
| `unity/worm/medium-v0` | 1,000 | 1000.00 | 0.00 | 0.00 | 1,000 | 1,000 | 1,000 |
| `unity/worm/simple-v0` | 1,000 | 1000.00 | 0.00 | 0.00 | 1,000 | 1,000 | 1,000 |
| `unity/walker/expert-v0` | 1,464 | 683.06 | 365.05 | 0.53 | 9 | 886 | 1,000 |
| `unity/walker/medium-v0` | 1,695 | 589.97 | 372.74 | 0.63 | 9 | 611 | 1,000 |
| `unity/walker/simple-v0` | 2,306 | 433.65 | 348.79 | 0.80 | 10 | 323 | 1,000 |
| `unity/3dball-hard/expert-v0` | 1,011 | 989.13 | 89.59 | 0.09 | 42 | 1,000 | 1,000 |
| `unity/3dball-hard/medium-v0` | 1,311 | 762.78 | 354.63 | 0.46 | 13 | 1,000 | 1,000 |
| `unity/3dball-hard/simple-v0` | 1,701 | 587.89 | 391.43 | 0.67 | 6 | 636 | 1,000 |
| `unity/pushblock/expert-v0` | 53,039 | 18.85 | 37.09 | 1.97 | 1 | 15 | 1,000 |
| `unity/pushblock/medium-v0` | 39,033 | 25.88 | 47.08 | 1.82 | 3 | 20 | 1,000 |
| `unity/pushblock/simple-v0` | 26,666 | 37.88 | 60.35 | 1.59 | 2 | 27 | 1,000 |
| `unity/pyramids/expert-v0` | 5,392 | 185.46 | 119.83 | 0.65 | 9 | 157 | 1,000 |
| `unity/pyramids/medium-v0` | 4,174 | 239.58 | 142.40 | 0.59 | 22 | 201 | 1,000 |
| `unity/pyramids/simple-v0` | 3,065 | 326.26 | 191.25 | 0.59 | 13 | 275 | 1,000 |
| `unity/dungeon-escape/expert-v0` | 35,505 | 28.37 | 26.31 | 0.93 | 1 | 25 | 1,213 |
| `unity/dungeon-escape/medium-v0` | 28,314 | 35.76 | 34.99 | 0.98 | 1 | 28 | 889 |
| `unity/dungeon-escape/simple-v0` | 22,542 | 44.43 | 48.03 | 1.08 | 1 | 31 | 969 |
| `unity/soccer-twos/expert-v0` | 14,692 | 68.18 | 63.14 | 0.93 | 6 | 48 | 574 |
| `unity/soccer-twos/medium-v0` | 12,940 | 77.46 | 71.27 | 0.92 | 7 | 55 | 479 |
| `unity/soccer-twos/simple-v0` | 11,820 | 84.73 | 83.51 | 0.99 | 7 | 59 | 832 |

</details>

**빌드와 재현 절차**(환경별 수집 레시피)는
[docs/reproduction.md](docs/reproduction.md)를 참고하세요.

## 출처와 표기

- 궤적은 Unity ML-Agents 자산을 실행해 생성했습니다(빌드와 스톡 정책은 Apache-2.0.
  출처와 라이선스는 envs 저장소를 참고하세요).
- **이 저장소의 궤적 데이터**는 원본 기록물이며 **CC-BY-4.0**으로 배포됩니다.
  *ccnets — Causal GPT-RL*과 Unity ML-Agents 원본 환경을 표기해 주세요.

## 라이선스

Creative Commons Attribution 4.0 International (CC-BY-4.0). `LICENSE` 참고.