Fu01978 commited on
Commit
d44c7d9
verified
1 Parent(s): 0c6aa17

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -9,8 +9,8 @@ from llama_cpp import Llama
9
  import gradio as gr
10
 
11
  # ------------- CONFIG -------------
12
- REPO_ID = "erfanzar/LinguaMatic-2.7B-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
- FILENAME = "LinguaMatic-2.7B-GGUF.Q6_K.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
15
  MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")
16
  os.makedirs(MODEL_DIR, exist_ok=True)
 
9
  import gradio as gr
10
 
11
  # ------------- CONFIG -------------
12
+ REPO_ID = "bartowski/Llama-3.2-3B-Instruct-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
+ FILENAME = "Llama-3.2-3B-Instruct-Q6_K_L.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
15
  MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")
16
  os.makedirs(MODEL_DIR, exist_ok=True)