Datasets:
File size: 2,838 Bytes
de9ee3d 65f3c26 de9ee3d 65f3c26 de9ee3d 257a0ed 65f3c26 de9ee3d 82d90d0 de9ee3d | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 | ---
license: apache-2.0
language:
- ko
task_categories:
- text-generation
tags:
- rlvr
- reasoning
- countdown
pretty_name: Countdown RLVR
---
# Countdown RLVR
Qwen3-4B의 검증 가능한 추론 학습에 사용하는 Countdown 데이터셋입니다.
주어진 숫자를 각각 한 번 사용하여 목표값을 만드는 수식을 생성합니다.
## 1. 데이터 구성
| 분할 | 개수 | 숫자 개수 | 목표값 | SHA-256 |
|---|---:|---:|---:|---|
| train | 1,024 | 4 | 10~100 | `aa7abb6242d8ada72e55a6d8d0917e3618473ddf2f0f880b288814394b231131` |
| validation | 128 | 4 | 10~100 | `b06a1be3604d637aa19bd61af57aadf98fbbffcb8ef4db8d477fe8535c617497` |
| test | 256 | 4 | 10~100 | `416c02076321875cccfeed19f742e56048269b4b9d24112f6a2bee82ba301815` |
`demo.jsonl`에는 검증 흐름을 확인하는 숫자 3개 문제를 둡니다.
## 2. 데이터 필드
| 필드 | 의미 |
|---|---|
| `problem_id` | 문제 식별자 |
| `split` | train, validation, test 분할 |
| `number_count` | 문제에 사용하는 숫자 개수 |
| `numbers` | 각각 한 번 사용할 숫자 목록 |
| `target` | 수식의 목표값 |
| `prompt` | 모델에 전달하는 한국어 문제 문자열 |
문제 생성기는 solver로 해답 존재 여부를 확인한 뒤 `solution`을 저장하지 않습니다.
따라서 RLVR 학습 입력에는 정답 수식이나 reasoning 궤적이 포함되지 않습니다.
## 3. 생성과 검증
문제 생성기는 다음 조건을 적용합니다.
- 허용 연산: 두 수 사이의 `+`, `-`, `*`, `/`와 괄호
- 숫자 사용: 입력 숫자를 각각 정확히 한 번 사용
- 목표값 일치: 수식 계산 결과와 `target` 비교
- 해답 존재: 결정적 solver로 확인
보상은 형식 0.3, 수식 규칙 0.2, 목표값 일치 0.5의 가중합입니다.
형식 보상은 마지막으로 완결된 `answer` 태그의 내용 존재 여부를 검사합니다.
태그 안에 허용하지 않는 문자가 있으면 형식 보상은 유지되고 수식 규칙 보상은 0이 됩니다.
## 4. 사용 예
```python
from src.artifacts import load_jsonl, resolve_artifact
path = resolve_artifact(
"data/countdown/test.jsonl",
"NotoriousH2/countdown-rlvr",
filename="test.jsonl",
)
test_rows = load_jsonl(path)
```
`revision`을 생략하면 프로젝트의 publish manifest에 기록된 commit을 사용합니다.
## 5. 생성 계보
Countdown 문제와 해답 존재 여부는 `src/countdown.py`가 결정적으로 생성합니다.
Teacher 모델은 이 데이터셋 생성에 사용하지 않습니다.
## 6. 제한
이 데이터셋은 숫자 4개와 사칙연산으로 범위를 제한합니다.
수학적 추론 능력 전반이나 자유 형식 증명을 평가하지 않습니다.
평가 수치는 공개 모델의 실행 결과 JSON과 model card에서 확인합니다.
|