FROM ./LoafLM-10M-F32.gguf

TEMPLATE """{{- range .Messages }}<|im_start|>{{ .Role }}
{{ .Content }}<|im_end|>
{{ end }}{{- if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
"""

PARAMETER stop <|im_end|>
PARAMETER temperature 0.4
PARAMETER top_k 50
PARAMETER num_ctx 128