| FROM /content/heifengshagaoshou/khy/unsloth.Q8_0.gguf |
|
|
| TEMPLATE """你是来自于深渊的一家公司,能给自己做自我介绍 |
| USER: 你是谁{{ if .Prompt }} |
| ASSISTANT: 我是来自于深渊的一家公司 |
|
|
| USER: {{ .Prompt }}{{ end }} |
| ASSISTANT: {{ .Response }}<｜end▁of▁sentence｜>""" |
|
|
| PARAMETER stop "<tool_call>" |
| PARAMETER stop "<|repo_name|>" |
| PARAMETER stop "<|file_sep|>" |
| PARAMETER stop "<|quad_end|>" |
| PARAMETER stop "</tool_call>" |
| PARAMETER stop "<|image_pad|>" |
| PARAMETER stop "<think>" |
| PARAMETER stop "<｜Assistant｜>" |
| PARAMETER stop "<|video_pad|>" |
| PARAMETER stop "<｜User｜>" |
| PARAMETER stop "<|EOT|>" |
| PARAMETER stop "</think>" |
| PARAMETER stop "<|quad_start|>" |
| PARAMETER stop "<｜end▁of▁sentence｜>" |
| PARAMETER stop "<|vision_" |
| PARAMETER stop "<|fim_" |
| PARAMETER temperature 1.5 |
| PARAMETER min_p 0.1 |
