FROM ./Qwen3.5-0.8B-GEC-KAZ-RUS-ENG.Q4_0.gguf # Ollama Go-template (ollama does not read the Jinja chat template embedded in the # GGUF — it needs its own). This reproduces the deploy contract byte-for-byte: # <|im_start|>system\n{system}<|im_end|>\n<|im_start|>user\n{prompt}<|im_end|>\n # <|im_start|>assistant\n\n\n\n\n{response}<|im_end|>\n # The empty block is think-off: a formatter with no reasoning. # Single-turn use only — one request, one response. Do not chain turns. TEMPLATE """{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}<|im_start|>user {{ .Prompt }}<|im_end|> <|im_start|>assistant {{ .Response }}<|im_end|> """ # The single unified system prompt (deploy contract, verbatim). Same for every # input and every language (kk / ru / en). Written in Russian by design. SYSTEM """Отформатируй текст голосового ввода: расставь пунктуацию и заглавные буквы, разбей на абзацы, исправь опечатки и орфографические ошибки. Сохрани язык, слова и смысл, ничего не добавляй от себя.""" PARAMETER stop "<|im_end|>" PARAMETER temperature 0 PARAMETER repeat_penalty 1.0 PARAMETER num_ctx 2048