--- license: apache-2.0 language: - ko task_categories: - text-generation tags: - rlvr - reasoning - countdown pretty_name: Countdown RLVR --- # Countdown RLVR Qwen3-4B의 검증 가능한 추론 학습에 사용하는 Countdown 데이터셋입니다. 주어진 숫자를 각각 한 번 사용하여 목표값을 만드는 수식을 생성합니다. ## 1. 데이터 구성 | 분할 | 개수 | 숫자 개수 | 목표값 | SHA-256 | |---|---:|---:|---:|---| | train | 1,024 | 4 | 10~100 | `aa7abb6242d8ada72e55a6d8d0917e3618473ddf2f0f880b288814394b231131` | | validation | 128 | 4 | 10~100 | `b06a1be3604d637aa19bd61af57aadf98fbbffcb8ef4db8d477fe8535c617497` | | test | 256 | 4 | 10~100 | `416c02076321875cccfeed19f742e56048269b4b9d24112f6a2bee82ba301815` | `demo.jsonl`에는 검증 흐름을 확인하는 숫자 3개 문제를 둡니다. ## 2. 데이터 필드 | 필드 | 의미 | |---|---| | `problem_id` | 문제 식별자 | | `split` | train, validation, test 분할 | | `number_count` | 문제에 사용하는 숫자 개수 | | `numbers` | 각각 한 번 사용할 숫자 목록 | | `target` | 수식의 목표값 | | `prompt` | 모델에 전달하는 한국어 문제 문자열 | 문제 생성기는 solver로 해답 존재 여부를 확인한 뒤 `solution`을 저장하지 않습니다. 따라서 RLVR 학습 입력에는 정답 수식이나 reasoning 궤적이 포함되지 않습니다. ## 3. 생성과 검증 문제 생성기는 다음 조건을 적용합니다. - 허용 연산: 두 수 사이의 `+`, `-`, `*`, `/`와 괄호 - 숫자 사용: 입력 숫자를 각각 정확히 한 번 사용 - 목표값 일치: 수식 계산 결과와 `target` 비교 - 해답 존재: 결정적 solver로 확인 보상은 형식 0.3, 수식 규칙 0.2, 목표값 일치 0.5의 가중합입니다. 형식 보상은 마지막으로 완결된 `answer` 태그의 내용 존재 여부를 검사합니다. 태그 안에 허용하지 않는 문자가 있으면 형식 보상은 유지되고 수식 규칙 보상은 0이 됩니다. ## 4. 사용 예 ```python from src.artifacts import load_jsonl, resolve_artifact path = resolve_artifact( "data/countdown/test.jsonl", "NotoriousH2/countdown-rlvr", filename="test.jsonl", ) test_rows = load_jsonl(path) ``` `revision`을 생략하면 프로젝트의 publish manifest에 기록된 commit을 사용합니다. ## 5. 생성 계보 Countdown 문제와 해답 존재 여부는 `src/countdown.py`가 결정적으로 생성합니다. Teacher 모델은 이 데이터셋 생성에 사용하지 않습니다. ## 6. 제한 이 데이터셋은 숫자 4개와 사칙연산으로 범위를 제한합니다. 수학적 추론 능력 전반이나 자유 형식 증명을 평가하지 않습니다. 평가 수치는 공개 모델의 실행 결과 JSON과 model card에서 확인합니다.