micross50 commited on
Commit
522c7bc
·
verified ·
1 Parent(s): 2eddba1

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +6 -2
app.py CHANGED
@@ -43,7 +43,10 @@ st.write(f"Version SQLite: {sqlite3.sqlite_version}")
43
  # Configuration du modèle Gemma 3:12B
44
  @st.cache_resource
45
  def load_llm():
 
 
46
  client = InferenceClient(
 
47
  provider="together",
48
  api_key=os.environ.get("HUGGINGFACE_TOKEN")
49
  )
@@ -51,6 +54,7 @@ def load_llm():
51
 
52
 
53
 
 
54
  # Chargement du modèle
55
  llm = load_llm()
56
 
@@ -122,7 +126,7 @@ def generate_response(state: AgentState) -> AgentState:
122
  RÉPONSE:
123
  """
124
  completion = llm.chat.completions.create(
125
- model="Qwen/Qwen2.5-3B-Instruct",
126
  messages=[
127
  {
128
  "role": "user",
@@ -148,7 +152,7 @@ def process_feedback(state: AgentState) -> AgentState:
148
  Proposez 3 améliorations concrètes pour améliorer les réponses futures à ce type de question:
149
  """
150
  completion = llm.chat.completions.create(
151
- model="Qwen/Qwen2.5-3B-Instruct",
152
  messages=[
153
  {
154
  "role": "user",
 
43
  # Configuration du modèle Gemma 3:12B
44
  @st.cache_resource
45
  def load_llm():
46
+ from huggingface_hub import InferenceClient
47
+
48
  client = InferenceClient(
49
+ model="meta-llama/Meta-Llama-3.1-3B-Instruct", # Change to a supported model
50
  provider="together",
51
  api_key=os.environ.get("HUGGINGFACE_TOKEN")
52
  )
 
54
 
55
 
56
 
57
+
58
  # Chargement du modèle
59
  llm = load_llm()
60
 
 
126
  RÉPONSE:
127
  """
128
  completion = llm.chat.completions.create(
129
+ model="meta-llama/Meta-Llama-3.1-3B-Instruct",
130
  messages=[
131
  {
132
  "role": "user",
 
152
  Proposez 3 améliorations concrètes pour améliorer les réponses futures à ce type de question:
153
  """
154
  completion = llm.chat.completions.create(
155
+ model="meta-llama/Meta-Llama-3.1-3B-Instruct",
156
  messages=[
157
  {
158
  "role": "user",