Update Modelfile
Browse files
Modelfile
CHANGED
|
@@ -24,6 +24,6 @@ PARAMETER stop "<|im_start|>"
|
|
| 24 |
PARAMETER stop "<|im_end|>"
|
| 25 |
PARAMETER temperature 0.6
|
| 26 |
PARAMETER repeat_penalty 1.0
|
| 27 |
-
PARAMETER num_ctx
|
| 28 |
PARAMETER top_k 40
|
| 29 |
PARAMETER top_p 0.95
|
|
|
|
| 24 |
PARAMETER stop "<|im_end|>"
|
| 25 |
PARAMETER temperature 0.6
|
| 26 |
PARAMETER repeat_penalty 1.0
|
| 27 |
+
PARAMETER num_ctx 32768
|
| 28 |
PARAMETER top_k 40
|
| 29 |
PARAMETER top_p 0.95
|