Fu01978 commited on
Commit
09e3fe2
verified
1 Parent(s): ba4e476

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -9,8 +9,8 @@ from llama_cpp import Llama
9
  import gradio as gr
10
 
11
  # ------------- CONFIG -------------
12
- REPO_ID = "QuantFactory/leniachat-gemma-2b-v0-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
- FILENAME = "leniachat-gemma-2b-v0.Q5_1.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
15
  MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")
16
  os.makedirs(MODEL_DIR, exist_ok=True)
 
9
  import gradio as gr
10
 
11
  # ------------- CONFIG -------------
12
+ REPO_ID = "LiquidAI/LFM2-2.6B-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
+ FILENAME = "LFM2-2.6B-Q6_K.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
15
  MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")
16
  os.makedirs(MODEL_DIR, exist_ok=True)