Update app.py

app.py

@@ -3,52 +3,60 @@ from huggingface_hub import hf_hub_download
 from llama_cpp import Llama
 import os
 
-# 1. Recupero Token
+# 1. Recupero Token e Scaricamento
 token = os.getenv("HF_TOKEN")
 if token:
     token = token.strip()
 
-# Scaricamento modello
 model_path = hf_hub_download(
     repo_id="FPll/Limba-1.0",
     filename="Meta-Llama-3.1-8B.Q4_K_M.gguf",
     token=token
 )
 
-# 2. Inizializzazione (n_threads=8 per spingere sulla CPU)
+# 2. Inizializzazione (n_threads=8 per massimizzare le prestazioni della CPU)
 llm = Llama(model_path=model_path, n_ctx=1024, n_threads=8)
 
 def respond(message, history):
-    # Istruzione di sistema per l'identità
-    system_message = "Ses Limba 1.0, un'IA creada pro su Litzeu Scientificu Enrico Fermi de Nugoro pro su Progettu Margherita. Chistiona in sardu o italianu de STEM."
+    # --- ISTRUZIONI DI SISTEMA (Blindate) ---
+    system_message = (
+        "Sei Limba 1.0, un'intelligenza artificiale creata appositamente per il Liceo Scientifico 'Enrico Fermi' di Nuoro "
+        "nell'ambito del Progetto Margherita. I tuoi creatori sono Francesco Palladino e il team tecnologico del Liceo Fermi. "
+        "Il progetto è stato finanziato dalla Regione Autonoma della Sardegna. "
+        "RISPONDI SEMPRE E SOLO IN ITALIANO O IN SARDO. NON USARE L'INGLESE. "
+        "Se ti chiedono chi sei, dichiara di essere l'IA del Liceo Fermi di Nuoro."
+    )
     
-    # Formattazione prompt con memoria della conversazione (history)
+    # Costruzione del prompt secondo il formato Llama 3.1
     prompt = f"<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n\n{system_message}<|eot_id|>"
+    
     for user_msg, assistant_msg in history:
         prompt += f"<|start_header_id|>user<|end_header_id|>\n\n{user_msg}<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n{assistant_msg}<|eot_id|>"
+    
     prompt += f"<|start_header_id|>user<|end_header_id|>\n\n{message}<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n"
     
-    # GENERAZIONE IN STREAMING
+    # Generazione con Temperatura bassa (0.1) per massima precisione
     output = llm.create_completion(
         prompt,
         max_tokens=512,
-        stop=["<|eot_id|>"],
-        stream=True # Attiviamo il flusso continuo
+        temperature=0.1,  # <--- Forza l'obbedienza alle istruzioni
+        top_p=0.9,        # Filtra le parole meno probabili per evitare errori
+        stop=["<|eot_id|>", "<|begin_of_text|>"],
+        stream=True
     )
     
     token_str = ""
     for chunk in output:
         delta = chunk["choices"][0]["text"]
         token_str += delta
-        yield token_str # Invia la parola al browser appena è pronta
+        yield token_str
 
-# 3. Interfaccia Gradio
+# 3. Interfaccia Chat
 demo = gr.ChatInterface(
     respond,
     title="🚀 Limba 1.0 - Progetto Margherita",
-    description="Su primu protòtipu de IA pro s'iscola sarda. Parla-mi in sardu o de fìsica e matemàtica!",
-    examples=["Iscrie sa fòrmula de s'energia tzinetica", "Chie est istadu Enricu Fermi?", "A ite zerbit sa derivata?"],
-    type="messages"
+    description="Liceo Scientifico 'E. Fermi' - Nuoro. Chistiona cun s'IA in sardu o italianu!",
+    examples=["Chie ti hat creadu?", "Chie hat finantziadu custu progettu?", "Iscrie sa fòrmula de s'energia tzinetica"],
 )
 
 if __name__ == "__main__":