vonewman commited on
Commit
5588e5e
·
verified ·
1 Parent(s): f8f6a15

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -3
app.py CHANGED
@@ -11,12 +11,12 @@ st.title('Évaluation de la Performance d’un LLM')
11
 
12
  # Configuration de la sidebar pour l'entree utilisateur
13
  st.sidebar.header('Configuration de l’Évaluation')
 
14
  model_name = st.sidebar.text_input('Nom du Modèle (e.g., gpt-3.5-turbo)')
15
  num_samples = st.sidebar.number_input('Nombre d’Évaluations à Tester', min_value=1, step=1, value=2)
16
 
17
- #vLLM = "https://27g2a644hwr4d7-8000.proxy.runpod.net/"
18
- vLLM="https://f25yugogeqi4cj-8000.proxy.runpod.net/v1"
19
- BASE_URL="https://f25yugogeqi4cj-8000.proxy.runpod.net/v1" # vLLM endpoint + v1
20
  API_KEY="SOMEHOW"
21
 
22
  client = OpenAI(
 
11
 
12
  # Configuration de la sidebar pour l'entree utilisateur
13
  st.sidebar.header('Configuration de l’Évaluation')
14
+ vLLM_endpoint = st.sidebar.text_input('vLLM Endpoint from RunPod')
15
  model_name = st.sidebar.text_input('Nom du Modèle (e.g., gpt-3.5-turbo)')
16
  num_samples = st.sidebar.number_input('Nombre d’Évaluations à Tester', min_value=1, step=1, value=2)
17
 
18
+
19
+ BASE_URL= vLLM_endpoint+"v1"
 
20
  API_KEY="SOMEHOW"
21
 
22
  client = OpenAI(