Fu01978 commited on
Commit
2c6a8c9
verified
1 Parent(s): 83fda21

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -9,8 +9,8 @@ from llama_cpp import Llama
9
  import gradio as gr
10
 
11
  # ------------- CONFIG -------------
12
- REPO_ID = "mradermacher/ReasonableLlama3-3B-Jr-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
- FILENAME = "ReasonableLlama3-3B-Jr.Q5_K_M.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" (Espec铆ficamente, la versi贸n \"Turbo\" de VoxAI) y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta. Si te preguntan qui茅n eres, responde con algo similar a \"Soy VoxAI (Espec铆ficamente, la versi贸n Turbo de VoxAI) ...\""
15
  MODEL_DIR = "/data/models"
16
  # MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")
 
9
  import gradio as gr
10
 
11
  # ------------- CONFIG -------------
12
+ REPO_ID = "MaziyarPanahi/Llama-3.2-1B-Instruct-GGUF" # "mradermacher/EuroLLM-1.7B-Instruct-GGUF"
13
+ FILENAME = "Llama-3.2-1B-Instruct.Q8_0.gguf" # "EuroLLM-1.7B-Instruct.Q8_0.gguf"
14
  SYSTEM_PROMPT = "Eres un asistente de conversaci贸n amistoso. Eres paciente y met贸dico. Tu nombre es \"VoxAI\" (Espec铆ficamente, la versi贸n \"Turbo\" de VoxAI) y siempre dices \"隆Viva Espa帽a!\" al final de CADA respuesta. Si te preguntan qui茅n eres, responde con algo similar a \"Soy VoxAI (Espec铆ficamente, la versi贸n Turbo de VoxAI) ...\""
15
  MODEL_DIR = "/data/models"
16
  # MODEL_DIR = os.path.join(os.path.abspath(os.path.dirname(__file__)), "models")