Update app.py

app.py

@@ -155,6 +155,73 @@ FINE ONTOLOGIA.
 """
     logger.debug("[create_system_prompt_for_sparql] Prompt generato con ESEMPI e regole SPARQL.")
     return prompt
+from huggingface_hub import InferenceClient
+
+def classify_and_translate(question_text: str, model_answer_text: str) -> str:
+    """
+    Classifica la lingua della domanda e della risposta, quindi traduce la risposta
+    nella lingua della domanda se sono diverse.
+    
+    Parametri:
+    - question_text: Testo della domanda dell'utente.
+    - model_answer_text: Risposta del modello (in qualsiasi lingua).
+    
+    Restituisce:
+    - La risposta tradotta nella lingua della domanda o la risposta originale
+      se entrambe le lingue coincidono.
+    """
+    # Costanti
+    LANG_DETECT_MODEL = "papluca/xlm-roberta-base-language-detection"  # Modello per rilevamento lingua
+    TRANSLATOR_MODEL_PREFIX = "Helsinki-NLP/opus-mt"  # Prefisso dei modelli di traduzione
+
+    # Crea il client per il rilevamento delle lingue
+    lang_detect_client = InferenceClient(
+        token=HF_API_KEY,
+        model=LANG_DETECT_MODEL
+    )
+
+    # Rileva la lingua della domanda
+    try:
+        question_lang_result = lang_detect_client.text_classification(text=question_text)
+        question_lang = question_lang_result[0]['label']
+        logger.info(f"[LangDetect] Lingua della domanda: {question_lang}")
+    except Exception as e:
+        logger.error(f"Errore nel rilevamento della lingua della domanda: {e}")
+        question_lang = "en"  # Default fallback
+
+    # Rileva la lingua della risposta
+    try:
+        answer_lang_result = lang_detect_client.text_classification(text=model_answer_text)
+        answer_lang = answer_lang_result[0]['label']
+        logger.info(f"[LangDetect] Lingua della risposta: {answer_lang}")
+    except Exception as e:
+        logger.error(f"Errore nel rilevamento della lingua della risposta: {e}")
+        answer_lang = "en"  # Default fallback
+
+    # Se le lingue sono uguali, non tradurre
+    if question_lang == answer_lang:
+        logger.info("[Translate] Lingue uguali, nessuna traduzione necessaria.")
+        return model_answer_text
+
+    # Prepara il modello di traduzione
+    translator_model = f"{TRANSLATOR_MODEL_PREFIX}-{answer_lang}-{question_lang}"
+
+    # Crea il client per la traduzione
+    translator_client = InferenceClient(
+        token=HF_API_KEY,
+        model=translator_model
+    )
+
+    # Traduci la risposta
+    try:
+        translation_result = translator_client.translation(text=model_answer_text)
+        translated_answer = translation_result["translation_text"]
+        logger.info("[Translate] Risposta tradotta con successo.")
+    except Exception as e:
+        logger.error(f"Errore nella traduzione {answer_lang}->{question_lang}: {e}")
+        translated_answer = model_answer_text  # Fallback alla risposta originale
+
+    return translated_answer
 
 
 def create_system_prompt_for_guide() -> str:
@@ -165,11 +232,11 @@ def create_system_prompt_for_guide() -> str:
     - Se non c'è query o non ci sono risultati, prova comunque a dare una risposta.
     """
     prompt = (
-        "SEI UNA GUIDA MUSEALE VIRTUALE. "
-        "RISPONDI IN MODO BREVE (~50 PAROLE), SENZA SALUTI O INTRODUZIONI PROLISSE. "
-        "SE HAI RISULTATI SPARQL, USALI. "
-        "SE NON HAI RISULTATI O NON HAI UNA QUERY, RISPONDI COMUNQUE CERCANDO DI RIARRANGIARE LE TUE CONOSCENZE."
-    )
+    "SEI UNA GUIDA MUSEALE VIRTUALE. "
+    "RISPONDI IN MODO BREVE (~50 PAROLE), SENZA SALUTI O INTRODUZIONI PROLISSE. "
+    "SE HAI RISULTATI SPARQL, USALI. "
+    "SE NON HAI RISULTATI O NON HAI UNA QUERY, RISPONDI COMUNQUE CERCANDO DI RIARRANGIARE LE TUE CONOSCENZE."
+)
     logger.debug("[create_system_prompt_for_guide] Prompt per la risposta guida museale generato.")
     return prompt
 
@@ -279,7 +346,7 @@ def assistant_endpoint(req: AssistantRequest):
                 {"role": "user", "content": user_message}
             ],
             max_tokens=512,
-            temperature=0.3
+            temperature=0
         )
         possible_query = gen_sparql_output["choices"][0]["message"]["content"].strip()
         logger.info(f"[assistant_endpoint] Query generata dal modello: {possible_query}")
@@ -327,7 +394,6 @@ def assistant_endpoint(req: AssistantRequest):
             )
             for idx, row in enumerate(results)
         )
-
         second_prompt = (
             f"{system_prompt_guide}\n\n"
             f"Domanda utente: {user_message}\n"
@@ -363,19 +429,19 @@ def assistant_endpoint(req: AssistantRequest):
                 {"role": "user", "content": "Fornisci la risposta finale."}
             ],
             max_tokens=512,
-            temperature=0.7
+            temperature=0.2
         )
         final_answer = final_output["choices"][0]["message"]["content"].strip()
         logger.info(f"[assistant_endpoint] Risposta finale generata: {final_answer}")
     except Exception as ex:
         logger.error(f"Errore nella generazione della risposta finale: {ex}")
         raise HTTPException(status_code=500, detail="Errore nella generazione della risposta in linguaggio naturale.")
-
+    final_ans = classify_and_translate(user_message, final_answer)
     # Risposta JSON
     logger.debug("[assistant_endpoint] Fine elaborazione. Restituzione risposta.")
     return {
         "query": generated_query,
-        "response": final_answer
+        "response": final_ans
     }
 
 # ---------------------------------------------------------------------------
@@ -392,4 +458,4 @@ def home():
 # MAIN
 # ---------------------------------------------------------------------------
 if __name__ == "__main__":
-    logger.info("Avvio dell'applicazione FastAPI sulla porta 8000.")
+    logger.info("Avvio dell'applicazione FastAPI.")