Upload Modelfile with huggingface_hub

Modelfile

@@ -1,10 +1,24 @@
+FROM gemma-4-E2B-it.Q4_K_M.gguf
 
-FROM .
-TEMPLATE """{{- range $i, $_ := .Messages }}
-{{- $last := eq (len (slice $.Messages $i)) 1 }}
-<|turn>{{ .Role }}
-{{ .Content }}{{ if not $last }}<turn|>
-{{ end }}
-{{- end }}<turn|>
-<|turn>model
-"""
+TEMPLATE """{{- if .System }}<start_of_turn>system
+{{ .System }}<end_of_turn>
+{{ end }}{{- range .Messages }}{{- if eq .Role "user" }}<start_of_turn>user
+{{ .Content }}<end_of_turn>
+{{- else if eq .Role "assistant" }}<start_of_turn>model
+{{ .Content }}<end_of_turn>
+{{- end }}{{- end }}<start_of_turn>model
+"""
+
+PARAMETER temperature 0.7
+PARAMETER top_p 0.9
+PARAMETER num_ctx 4096
+PARAMETER num_predict 512
+PARAMETER repeat_penalty 1.3
+PARAMETER repeat_last_n 128
+PARAMETER stop "<end_of_turn>"
+PARAMETER stop "<start_of_turn>"
+PARAMETER stop "<eos>"
+
+SYSTEM """אתה יועץ משפטי AI של BrainboxAI, מומחה בחוק הישראלי.
+ענה בעברית בצורה מקצועית אך מובנת. ציין את החוקים והסעיפים הרלוונטיים.
+אם אינך בטוח, ציין זאת במפורש. אתה לא מחליף ייעוץ משפטי מעורך דין."""