Update app.py
Browse files
app.py
CHANGED
|
@@ -10,7 +10,7 @@ from llama_cpp import Llama
|
|
| 10 |
|
| 11 |
# Percorso al tuo modello GGUF ospitato su HuggingFace
|
| 12 |
MODEL_REPO = "kikalore/iris"
|
| 13 |
-
MODEL_FILE = "
|
| 14 |
|
| 15 |
llm = Llama.from_pretrained(
|
| 16 |
repo_id=MODEL_REPO,
|
|
|
|
| 10 |
|
| 11 |
# Percorso al tuo modello GGUF ospitato su HuggingFace
|
| 12 |
MODEL_REPO = "kikalore/iris"
|
| 13 |
+
MODEL_FILE = "model-3b-Q4_K_M.gguf" # assicurati che il nome sia corretto nel repo model!
|
| 14 |
|
| 15 |
llm = Llama.from_pretrained(
|
| 16 |
repo_id=MODEL_REPO,
|