README.md

metadata

license: apache-2.0
language:
  - ko
tags:
  - korean
  - reasoning
  - darwin
  - ffn-transplant
pipeline_tag: text-generation

JGOS-31B-Citizen-R

JGOS-31B-Citizen-R는 한국어 다단계 추론에 특화된 31B 모델입니다.

모델 개요

• 베이스 모델: JGOS-31B-Citizen (원본)
• 기법: Darwin 교배 — 다양한 공개/자체 모델의 FFN(Feed-Forward Network) 계층을 추출하여 원본 Citizen 백본에 선택적으로 이식(transplant), 한국어 추론 능력을 강화했습니다.
• 아키텍처: Gemma4 계열 (31B)
• 언어: 한국어 우선

특징

원본 JGOS-31B-Citizen 대비 한국어 전 영역에서 향상:

• MuSR(Ko) — 다단계 서사 추론 대폭 향상
• KMMLU / Com2 / CLIcK — 지식·상식·문화/언어 전 과목 동반 상승

FFN 이식을 통해 한국어 추론 경로가 강화되어, thinking(추론) 모드에서 최적 성능을 발휘합니다.

사용법 (중요)

반드시 thinking 모드로 호출하세요. 추론 채널이 꺼지면 성능이 크게 저하됩니다.

{
  "messages": [{"role": "user", "content": "..."}],
  "chat_template_kwargs": {"enable_thinking": true},
  "max_tokens": 8192
}

• enable_thinking=True 필수
• max_tokens >= 8192 권장 (충분한 추론 공간 확보)

서빙 (vLLM)

vllm serve FINAL-Bench/JGOS-31B-Citizen-R \
  --served-model-name JGOS-31B-Citizen-R \
  --max-model-len 16384 --trust-remote-code \
  --limit-mm-per-prompt '{"image":0,"video":0}'

라이선스

Gemma Terms of Use (Gemma4 파생).