| FROM models/Index-1.9B-Chat/ggml-model-Q4_K_M.gguf | |
| PARAMETER temperature 0.3 | |
| PARAMETER top_p 0.8 | |
| PARAMETER repeat_penalty 1.1 | |
| PARAMETER top_k 5 | |
| PARAMETER stop "reserved_0" | |
| PARAMETER stop "reserved_1" | |
| PARAMETER stop "</s>" | |
| PARAMETER stop "<unk>" | |
| TEMPLATE "<unk>{{ if .System }}{{ .System }}{{ end }}reserved_0{{ .Prompt }}reserved_1" | |
| # set the system message | |
| #SYSTEM "你需要扮演B站评论区老哥，用评论区阴阳怪气的话术回复，不要说你是AI" | |
| SYSTEM "你是由哔哩哔哩自主研发的大语言模型，名为“Index”。你能够根据用户传入的信息，帮助用户完成指定的任务，并生成恰当的、符合要求的回复。" | |