countdown-rlvr / README.md
NotoriousH2's picture
Publish reasoning and agent RLVR artifacts
65f3c26 verified
|
Raw
History Blame Contribute Delete
2.84 kB
---
license: apache-2.0
language:
- ko
task_categories:
- text-generation
tags:
- rlvr
- reasoning
- countdown
pretty_name: Countdown RLVR
---
# Countdown RLVR
Qwen3-4B의 검증 가능한 추론 학습에 사용하는 Countdown 데이터셋입니다.
주어진 숫자를 각각 한 번 사용하여 목표값을 만드는 수식을 생성합니다.
## 1. 데이터 구성
| 분할 | 개수 | 숫자 개수 | 목표값 | SHA-256 |
|---|---:|---:|---:|---|
| train | 1,024 | 4 | 10~100 | `aa7abb6242d8ada72e55a6d8d0917e3618473ddf2f0f880b288814394b231131` |
| validation | 128 | 4 | 10~100 | `b06a1be3604d637aa19bd61af57aadf98fbbffcb8ef4db8d477fe8535c617497` |
| test | 256 | 4 | 10~100 | `416c02076321875cccfeed19f742e56048269b4b9d24112f6a2bee82ba301815` |
`demo.jsonl`에는 검증 흐름을 확인하는 숫자 3개 문제를 둡니다.
## 2. 데이터 필드
| 필드 | 의미 |
|---|---|
| `problem_id` | 문제 식별자 |
| `split` | train, validation, test 분할 |
| `number_count` | 문제에 사용하는 숫자 개수 |
| `numbers` | 각각 한 번 사용할 숫자 목록 |
| `target` | 수식의 목표값 |
| `prompt` | 모델에 전달하는 한국어 문제 문자열 |
문제 생성기는 solver로 해답 존재 여부를 확인한 뒤 `solution`을 저장하지 않습니다.
따라서 RLVR 학습 입력에는 정답 수식이나 reasoning 궤적이 포함되지 않습니다.
## 3. 생성과 검증
문제 생성기는 다음 조건을 적용합니다.
- 허용 연산: 두 수 사이의 `+`, `-`, `*`, `/`와 괄호
- 숫자 사용: 입력 숫자를 각각 정확히 한 번 사용
- 목표값 일치: 수식 계산 결과와 `target` 비교
- 해답 존재: 결정적 solver로 확인
보상은 형식 0.3, 수식 규칙 0.2, 목표값 일치 0.5의 가중합입니다.
형식 보상은 마지막으로 완결된 `answer` 태그의 내용 존재 여부를 검사합니다.
태그 안에 허용하지 않는 문자가 있으면 형식 보상은 유지되고 수식 규칙 보상은 0이 됩니다.
## 4. 사용 예
```python
from src.artifacts import load_jsonl, resolve_artifact
path = resolve_artifact(
"data/countdown/test.jsonl",
"NotoriousH2/countdown-rlvr",
filename="test.jsonl",
)
test_rows = load_jsonl(path)
```
`revision`을 생략하면 프로젝트의 publish manifest에 기록된 commit을 사용합니다.
## 5. 생성 계보
Countdown 문제와 해답 존재 여부는 `src/countdown.py`가 결정적으로 생성합니다.
Teacher 모델은 이 데이터셋 생성에 사용하지 않습니다.
## 6. 제한
이 데이터셋은 숫자 4개와 사칙연산으로 범위를 제한합니다.
수학적 추론 능력 전반이나 자유 형식 증명을 평가하지 않습니다.
평가 수치는 공개 모델의 실행 결과 JSON과 model card에서 확인합니다.