Update Modelfile
Browse files
Modelfile
CHANGED
|
@@ -24,5 +24,9 @@ PARAMETER stop "<|quad_start|>"
|
|
| 24 |
PARAMETER stop "<|endoftext|>"
|
| 25 |
PARAMETER stop "<|vision_"
|
| 26 |
PARAMETER stop "<|fim_"
|
|
|
|
| 27 |
PARAMETER temperature 0.9
|
| 28 |
-
PARAMETER min_p 0.8
|
|
|
|
|
|
|
|
|
|
|
|
| 24 |
PARAMETER stop "<|endoftext|>"
|
| 25 |
PARAMETER stop "<|vision_"
|
| 26 |
PARAMETER stop "<|fim_"
|
| 27 |
+
PARAMETER num_ctx 16000
|
| 28 |
PARAMETER temperature 0.9
|
| 29 |
+
PARAMETER min_p 0.8
|
| 30 |
+
PARAMETER top_p 0.95
|
| 31 |
+
PARAMETER top_k 60
|
| 32 |
+
PARAMETER repeat_penalty 1.3
|