FPll commited on
Commit
fdf9785
·
verified ·
1 Parent(s): be1633f

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +17 -5
app.py CHANGED
@@ -35,7 +35,7 @@ llm = Llama(
35
  model_path=model_path,
36
  n_ctx=4096,
37
  n_threads=2,
38
- verbose=False
39
  )
40
 
41
  def cerca_su_wikipedia(query):
@@ -66,9 +66,21 @@ def cerca_su_wikipedia(query):
66
 
67
  if risultati:
68
  titolo = risultati[0]
69
- riassunto = wikipedia.summary(titolo, chars=8000)
70
- print(f"--- RAG SUCCESSO --- Testo estratto da: {titolo}")
71
- return f"[INFORMATZIONES DAE WIKIPEDIA: {riassunto}]"
 
 
 
 
 
 
 
 
 
 
 
 
72
 
73
  print("--- RAG FALLITO --- Nessun risultato trovato.")
74
  return ""
@@ -130,7 +142,7 @@ def respond(message, history):
130
  # 3. GENERAZIONE CON PARAMETRI OTTIMIZZATI PER GLI ELENCHI
131
  response = llm(
132
  prompt,
133
- max_tokens=512,
134
  stop=["<|eot_id|>", "<|start_header_id|>", "<|end_header_id|>"],
135
  stream=True,
136
  temperature=0.1,
 
35
  model_path=model_path,
36
  n_ctx=4096,
37
  n_threads=2,
38
+ verbose=True
39
  )
40
 
41
  def cerca_su_wikipedia(query):
 
66
 
67
  if risultati:
68
  titolo = risultati[0]
69
+ try:
70
+ # Scarica la pagina completa
71
+ pagina = wikipedia.page(titolo)
72
+
73
+ # Partiamo da ZERO (per salvare le biografie/definizioni)
74
+ # e arriviamo fino a 6000 caratteri (per catturare le liste più in basso)
75
+ testo_utile = pagina.content[:10000]
76
+
77
+ print(f"--- RAG SUCCESSO UNIVERSALE --- Testo estratto da: {titolo}")
78
+ return testo_utile
79
+
80
+ except wikipedia.exceptions.DisambiguationError as e:
81
+ # Se è una pagina ambigua, prende la prima opzione
82
+ pagina = wikipedia.page(e.options[0])
83
+ return pagina.content[:10000]
84
 
85
  print("--- RAG FALLITO --- Nessun risultato trovato.")
86
  return ""
 
142
  # 3. GENERAZIONE CON PARAMETRI OTTIMIZZATI PER GLI ELENCHI
143
  response = llm(
144
  prompt,
145
+ max_tokens=768,
146
  stop=["<|eot_id|>", "<|start_header_id|>", "<|end_header_id|>"],
147
  stream=True,
148
  temperature=0.1,