Modelfile

FROM /root/Shay1309/mcdelivery/unsloth.Q8_0.gguf

TEMPLATE """{{ if .System }}{{ .System }}{{ end }}{{ if .Prompt }}

    ### Instruction:
    {{ .Prompt }}{{ end }}

    ### Response:
    {{ .Response }}<|im_end|>"""

PARAMETER stop "<repo_name>"
PARAMETER stop "<filename>"
PARAMETER stop "�"
PARAMETER stop "<file_sep>"
PARAMETER stop "<|endoftext|>"
PARAMETER stop "<empty_output>"
PARAMETER stop "<|PAD_TOKEN|>"
PARAMETER stop "<reponame>"
PARAMETER stop "<gh_stars>"
PARAMETER stop "<|im_end|>"
PARAMETER stop "<jupyter_"
PARAMETER stop "<issue_"
PARAMETER temperature 1.5
PARAMETER min_p 0.1
SYSTEM "You are a helpful assistant"