Update app.py
Browse files
app.py
CHANGED
|
@@ -35,7 +35,7 @@ llm = Llama(
|
|
| 35 |
model_path=model_path,
|
| 36 |
n_ctx=4096,
|
| 37 |
n_threads=2,
|
| 38 |
-
verbose=
|
| 39 |
)
|
| 40 |
|
| 41 |
def cerca_su_wikipedia(query):
|
|
@@ -66,9 +66,21 @@ def cerca_su_wikipedia(query):
|
|
| 66 |
|
| 67 |
if risultati:
|
| 68 |
titolo = risultati[0]
|
| 69 |
-
|
| 70 |
-
|
| 71 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 72 |
|
| 73 |
print("--- RAG FALLITO --- Nessun risultato trovato.")
|
| 74 |
return ""
|
|
@@ -130,7 +142,7 @@ def respond(message, history):
|
|
| 130 |
# 3. GENERAZIONE CON PARAMETRI OTTIMIZZATI PER GLI ELENCHI
|
| 131 |
response = llm(
|
| 132 |
prompt,
|
| 133 |
-
max_tokens=
|
| 134 |
stop=["<|eot_id|>", "<|start_header_id|>", "<|end_header_id|>"],
|
| 135 |
stream=True,
|
| 136 |
temperature=0.1,
|
|
|
|
| 35 |
model_path=model_path,
|
| 36 |
n_ctx=4096,
|
| 37 |
n_threads=2,
|
| 38 |
+
verbose=True
|
| 39 |
)
|
| 40 |
|
| 41 |
def cerca_su_wikipedia(query):
|
|
|
|
| 66 |
|
| 67 |
if risultati:
|
| 68 |
titolo = risultati[0]
|
| 69 |
+
try:
|
| 70 |
+
# Scarica la pagina completa
|
| 71 |
+
pagina = wikipedia.page(titolo)
|
| 72 |
+
|
| 73 |
+
# Partiamo da ZERO (per salvare le biografie/definizioni)
|
| 74 |
+
# e arriviamo fino a 6000 caratteri (per catturare le liste più in basso)
|
| 75 |
+
testo_utile = pagina.content[:10000]
|
| 76 |
+
|
| 77 |
+
print(f"--- RAG SUCCESSO UNIVERSALE --- Testo estratto da: {titolo}")
|
| 78 |
+
return testo_utile
|
| 79 |
+
|
| 80 |
+
except wikipedia.exceptions.DisambiguationError as e:
|
| 81 |
+
# Se è una pagina ambigua, prende la prima opzione
|
| 82 |
+
pagina = wikipedia.page(e.options[0])
|
| 83 |
+
return pagina.content[:10000]
|
| 84 |
|
| 85 |
print("--- RAG FALLITO --- Nessun risultato trovato.")
|
| 86 |
return ""
|
|
|
|
| 142 |
# 3. GENERAZIONE CON PARAMETRI OTTIMIZZATI PER GLI ELENCHI
|
| 143 |
response = llm(
|
| 144 |
prompt,
|
| 145 |
+
max_tokens=768,
|
| 146 |
stop=["<|eot_id|>", "<|start_header_id|>", "<|end_header_id|>"],
|
| 147 |
stream=True,
|
| 148 |
temperature=0.1,
|