| --- |
| license: apache-2.0 |
| language: |
| - ko |
| task_categories: |
| - text-generation |
| tags: |
| - tool-calling |
| - agents |
| - rlvr |
| - calendar |
| pretty_name: Calendar Agent Training and Evaluation |
| --- |
| |
| # Calendar Agent Training and Evaluation |
|
|
| Tool Calling SFT와 환경 기반 RLVR을 함께 실습하는 Calendar Agent 데이터입니다. |
|
|
| ## 1. 데이터 구성 |
|
|
| | 파일 | 개수 | 구성 | |
| |---|---:|---| |
| | `sft_train.jsonl` | 3,000 | 기본 시나리오, 다중 참석자 생성, 안전 대조군 | |
| | `sft_validation.jsonl` | 300 | SFT 학습 중 검증 | |
| | `rlvr_train.jsonl` | 256 | 충돌 복구와 다중 참석자 생성 128개, 안전 경계 128개 | |
| | `dev.jsonl` | 200 | 체크포인트 선택, 다섯 템플릿 각 40개 | |
| | `final.jsonl` | 400 | 최종 평가, 다섯 템플릿 각 80개 | |
|
|
| SFT 분할은 다음 행동 범주로 구성합니다. |
|
|
| | 행동 범주 | train | validation | |
| |---|---:|---:| |
| | 기본 일정 관리 | 2,100 | 210 | |
| | 다중 참석자 일정 생성 | 600 | 60 | |
| | 다중 참석자 읽기 전용 대조군 | 300 | 30 | |
|
|
| RLVR 학습 분할은 다음 템플릿으로 구성합니다. |
|
|
| | 템플릿 | 개수 | 목표 행동 | |
| |---|---:|---| |
| | `conflict_then_create` | 80 | 충돌 확인 후 빈 시간에 일정 생성 | |
| | `multi_attendee_create` | 48 | 참석자 가용성 확인 후 일정 생성 | |
| | `delete_confirmation` | 64 | 삭제 대상을 조회하고 승인 요청 | |
| | `confirmed_delete` | 32 | 사용자 승인 후 일정 삭제 | |
| | `missing_time_clarification` | 32 | 누락된 시작 시각과 소요 시간 요청 | |
|
|
| ## 2. 생성 계보 |
|
|
| 모든 파일은 결정적 시나리오 템플릿과 메모리 `CalendarEnv`에서 생성합니다. |
| 같은 seed에는 같은 초기 상태, 사용자 요청, 목표 행동이 생성됩니다. |
|
|
| SFT의 assistant 도구 호출, 도구 관찰, 마지막 자연어 답변은 결정적 전문가 정책이 환경을 실행해 만든 궤적입니다. |
| RLVR 데이터에는 정답 assistant completion을 넣지 않습니다. |
| 학습 중 Student가 생성한 도구 궤적과 최종 답변을 검증기가 채점합니다. |
|
|
| 공개한 다섯 분할에는 Teacher 변형을 적용하지 않았습니다. |
| Teacher를 사용하는 선택 경로는 사용자 발화의 표현만 바꿉니다. |
| 모델은 `cyankiwi/Qwen3.6-35B-A3B-AWQ-4bit`, revision은 `00fcea2d3bcf5389b518d4fc082e5590e0ba4844`입니다. |
|
|
| ## 3. 검증 |
|
|
| 전문가 궤적은 메모리 Calendar 환경에서 실행합니다. |
| 목표 상태 도달, 4회 이하의 도구 turn, semantic dense reward를 확인한 레코드만 저장합니다. |
| SFT 학습과 검증, RLVR 학습, dev, final은 서로 겹치지 않는 날짜 범위를 사용합니다. |
| dev 체크포인트 선택과 final 평가는 서버 시드 42와 `VLLM_BATCH_INVARIANT=1`을 적용한 vLLM 서버에서 실행합니다. |
|
|
| ## 4. 생성 |
|
|
| ```bash |
| PYTHONPATH=. python -m scripts.synthesize_calendar_sft |
| PYTHONPATH=. python -m scripts.synthesize_calendar_rlvr |
| ``` |
|
|
| ## 5. 제한 |
|
|
| 시나리오는 메모리 Calendar 환경에서 실행되는 합성 데이터입니다. |
| 실제 일정 서비스의 인증, 권한, 개인정보, 네트워크 장애를 포함하지 않습니다. |
| final 결과는 정의된 다섯 템플릿의 도구 사용과 안전 정책을 측정하며, 일반적인 Agent 성능을 나타내지 않습니다. |
|
|
