Fu01978 commited on
Commit
7993bbd
verified
1 Parent(s): 2088260

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -9,8 +9,8 @@ from llama_cpp import Llama
9
  import gradio as gr
10
 
11
  # ------------- CONFIG -------------
12
- REPO_ID = "DevQuasar/kyutai.helium-1-2b-GGUF" # "bartowski/Llama-3.2-3B-Instruct-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
- FILENAME = "kyutai.helium-1-2b.Q8_0.gguf" # "Llama-3.2-3B-Instruct-Q5_K_M.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
15
  MODEL_DIR = "/data/models"
16
  # MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")
 
9
  import gradio as gr
10
 
11
  # ------------- CONFIG -------------
12
+ REPO_ID = "DZgas/Tower-Plus-2B-GGUF" # "bartowski/Llama-3.2-3B-Instruct-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
+ FILENAME = "Tower-Plus-2B.Q6_K.gguf" # "Llama-3.2-3B-Instruct-Q5_K_M.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta."
15
  MODEL_DIR = "/data/models"
16
  # MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")