Spaces:
Running
Running
Update app.py
Browse files
app.py
CHANGED
|
@@ -12,7 +12,8 @@ import gradio as gr
|
|
| 12 |
REPO_ID = "bartowski/Llama-3.2-3B-Instruct-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
|
| 13 |
FILENAME = "Llama-3.2-3B-Instruct-Q5_K_M.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
|
| 14 |
SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
|
| 15 |
-
MODEL_DIR =
|
|
|
|
| 16 |
os.makedirs(MODEL_DIR, exist_ok=True)
|
| 17 |
DEST_PATH = os.path.join(MODEL_DIR, FILENAME)
|
| 18 |
|
|
|
|
| 12 |
REPO_ID = "bartowski/Llama-3.2-3B-Instruct-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
|
| 13 |
FILENAME = "Llama-3.2-3B-Instruct-Q5_K_M.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
|
| 14 |
SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
|
| 15 |
+
MODEL_DIR = "/data/models"
|
| 16 |
+
# MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")
|
| 17 |
os.makedirs(MODEL_DIR, exist_ok=True)
|
| 18 |
DEST_PATH = os.path.join(MODEL_DIR, FILENAME)
|
| 19 |
|