--- base_model: Qwen/Qwen3.5-0.8B library_name: peft pipeline_tag: text-generation license: other tags: - base_model:adapter:Qwen/Qwen3.5-0.8B - lora - sft - korean - reasoning - thinking-process datasets: - NotoriousH2/reasoning_sft_sample --- # reasoning_sft_sample_lora_b_quality_v4 `Qwen/Qwen3.5-0.8B`에 한국어 `Thinking Process` 형식 데이터를 SFT한 LoRA adapter입니다. - Dataset: `NotoriousH2/reasoning_sft_sample` - Config: `method_b` - Route: student trace를 teacher가 한국어 `Thinking Process` 형식으로 정리한 데이터 - Base model: `Qwen/Qwen3.5-0.8B` - Train split: 400 examples - Training: QLoRA, 2 epochs, LoRA r=16, alpha=32 ## System Prompt ```text 당신은 한국어로 추론하고 답하는 조수입니다. reasoning 영역은 `Thinking Process:`로 시작하고, 한국어로 구조화해 작성하세요. 최종 응답은 사용자의 요청에 맞는 자연스러운 한국어로 작성하세요. ``` ## Usage ```python from peft import AutoPeftModelForCausalLM from transformers import AutoTokenizer model_id = "NotoriousH2/reasoning_sft_sample_lora_b_quality_v4" tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True) model = AutoPeftModelForCausalLM.from_pretrained( model_id, device_map="auto", torch_dtype="auto", trust_remote_code=True, ) ```