Hugging Face's logo

Spaces:
Fu01978
/
VoxAI
Running

App Files Community
1
Fu01978 commited on
Commit
a2969cd
路
verified 路
1 Parent(s): d44c7d9

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +1 -1
app.py CHANGED
@@ -10,7 +10,7 @@ import gradio as gr
10
 
11
  # ------------- CONFIG -------------
12
  REPO_ID = "bartowski/Llama-3.2-3B-Instruct-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
- FILENAME = "Llama-3.2-3B-Instruct-Q6_K_L.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
15
  MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")
16
  os.makedirs(MODEL_DIR, exist_ok=True)
 
10
 
11
  # ------------- CONFIG -------------
12
  REPO_ID = "bartowski/Llama-3.2-3B-Instruct-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
+ FILENAME = "Llama-3.2-3B-Instruct-Q5_K_M.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
15
  MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")
16
  os.makedirs(MODEL_DIR, exist_ok=True)