File size: 2,838 Bytes
de9ee3d
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
65f3c26
 
 
 
 
de9ee3d
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
65f3c26
de9ee3d
 
 
 
257a0ed
65f3c26
 
de9ee3d
 
 
 
 
 
 
 
 
 
 
 
 
 
82d90d0
de9ee3d
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
---
license: apache-2.0
language:
- ko
task_categories:
- text-generation
tags:
- rlvr
- reasoning
- countdown
pretty_name: Countdown RLVR
---

# Countdown RLVR

Qwen3-4B의 검증 가능한 추론 학습에 사용하는 Countdown 데이터셋입니다.
주어진 숫자를 각각 한 번 사용하여 목표값을 만드는 수식을 생성합니다.

## 1. 데이터 구성

| 분할 | 개수 | 숫자 개수 | 목표값 | SHA-256 |
|---|---:|---:|---:|---|
| train | 1,024 | 4 | 10~100 | `aa7abb6242d8ada72e55a6d8d0917e3618473ddf2f0f880b288814394b231131` |
| validation | 128 | 4 | 10~100 | `b06a1be3604d637aa19bd61af57aadf98fbbffcb8ef4db8d477fe8535c617497` |
| test | 256 | 4 | 10~100 | `416c02076321875cccfeed19f742e56048269b4b9d24112f6a2bee82ba301815` |

`demo.jsonl`에는 검증 흐름을 확인하는 숫자 3개 문제를 둡니다.

## 2. 데이터 필드

| 필드 | 의미 |
|---|---|
| `problem_id` | 문제 식별자 |
| `split` | train, validation, test 분할 |
| `number_count` | 문제에 사용하는 숫자 개수 |
| `numbers` | 각각 한 번 사용할 숫자 목록 |
| `target` | 수식의 목표값 |
| `prompt` | 모델에 전달하는 한국어 문제 문자열 |

문제 생성기는 solver로 해답 존재 여부를 확인한 뒤 `solution`을 저장하지 않습니다.
따라서 RLVR 학습 입력에는 정답 수식이나 reasoning 궤적이 포함되지 않습니다.

## 3. 생성과 검증

문제 생성기는 다음 조건을 적용합니다.

- 허용 연산: 두 수 사이의 `+`, `-`, `*`, `/`와 괄호
- 숫자 사용: 입력 숫자를 각각 정확히 한 번 사용
- 목표값 일치: 수식 계산 결과와 `target` 비교
- 해답 존재: 결정적 solver로 확인

보상은 형식 0.3, 수식 규칙 0.2, 목표값 일치 0.5의 가중합입니다.
형식 보상은 마지막으로 완결된 `answer` 태그의 내용 존재 여부를 검사합니다.
태그 안에 허용하지 않는 문자가 있으면 형식 보상은 유지되고 수식 규칙 보상은 0이 됩니다.

## 4. 사용 예

```python
from src.artifacts import load_jsonl, resolve_artifact

path = resolve_artifact(
    "data/countdown/test.jsonl",
    "NotoriousH2/countdown-rlvr",
    filename="test.jsonl",
)
test_rows = load_jsonl(path)
```

`revision`을 생략하면 프로젝트의 publish manifest에 기록된 commit을 사용합니다.

## 5. 생성 계보

Countdown 문제와 해답 존재 여부는 `src/countdown.py`가 결정적으로 생성합니다.
Teacher 모델은 이 데이터셋 생성에 사용하지 않습니다.

## 6. 제한

이 데이터셋은 숫자 4개와 사칙연산으로 범위를 제한합니다.
수학적 추론 능력 전반이나 자유 형식 증명을 평가하지 않습니다.
평가 수치는 공개 모델의 실행 결과 JSON과 model card에서 확인합니다.