prototie/prototie-ai-final

Prototie AI — 한국어 추론 특화 AI

Qwen3-14B 기반 3단계(SFT→GRPO→DARE-TIES) 학습 파이프라인으로 개발된 한국어 AI입니다.

학습 파이프라인

• STEP1: SFT — KMMLU, 한국어 수학, CLIcK 데이터 파인튜닝
• STEP2: GRPO — 3중 보상 함수(정확도/한국어/형식) 강화학습
• STEP3: DARE-TIES — GRPO(w=0.7) + SFT(w=0.3) 모델 병합

사용 예시

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

tokenizer = AutoTokenizer.from_pretrained("prototie/prototie-ai-final", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    "prototie/prototie-ai-final",
    torch_dtype=torch.bfloat16, device_map="auto", trust_remote_code=True,
)