Update app.py

app.py

@@ -34,7 +34,7 @@ project_state = {
 }
 
 # Chargement du modèle
-manager_model_name = "meta-llama/Llama-3.2-3B-Instruct"
+manager_model_name = "meta-llama/Llama-3.1-8B-Instruct"
 manager_model = AutoModelForCausalLM.from_pretrained(
     manager_model_name,
     device_map="auto",
@@ -43,126 +43,139 @@ manager_model = AutoModelForCausalLM.from_pretrained(
 manager_tokenizer = AutoTokenizer.from_pretrained(manager_model_name)
 
 # Paramètres de génération
-MAX_NEW_TOKENS = 250
+MAX_NEW_TOKENS = 300  # Augmenté pour éviter les réponses tronquées
 TEMPERATURE = 0.7
 TOP_P = 0.95
 
-# --- System Prompt Simplifié ---
-base_prompt = """
-Vous êtes l'AgentManager, un assistant collaboratif et bienveillant du système multi-agent Chorege.
-Votre rôle est d'aider l'utilisateur à structurer ses projets, accéder aux variables partagées, et proposer des idées claires et pertinentes.
-Adoptez un ton chaleureux et humain, comme un conseiller bien intentionné.
-"""
-
-# --- Analyse des Inputs ---
-def detect_task(user_input):
-    """
-    Analyse l'input utilisateur et retourne la tâche appropriée.
-    """
-    user_input_lower = user_input.lower()
+# Prompt optimisé avec instructions supplémentaires
+manager_prompt_template = """
+Vous êtes l'AgentManager, un assistant collaboratif du système multi-agent Chorege. Votre rôle est d'aider l'utilisateur à clarifier ses projets, accéder aux variables partagées, structurer les idées, et répondre à ses demandes avec clarté et efficacité.
+
+### Règles :
+1. Posez des questions pertinentes pour clarifier ou enrichir les idées de l'utilisateur.
+2. Limitez-vous à une ou deux questions à la fois.
+3. Donnez des réponses claires et concises, avec un ton chaleureux et engageant.
+4. Accédez aux variables partagées si demandé et affichez leur contenu de manière simple et lisible.
+5. Modifiez les variables lorsque l'utilisateur en fait la demande et confirmez le changement.
+6. Proposez un résumé structuré clair lorsque nécessaire et demandez une validation explicite.
+
+### Fewshot prompting :
+#### Clarification d'une idée :
+Utilisateur : Je veux développer une application pour analyser les sentiments.
+Assistant : Super idée ! 😊 Quels aspects des sentiments voulez-vous analyser, comme le positif, négatif ou neutre ? 
+
+#### Structuration d'un résumé :
+Utilisateur : Peux-tu résumer ce projet ?
+Assistant : Voici un résumé structuré : 
+- **Objectif** : Analyser les sentiments exprimés sur Twitter.
+- **Étapes** :
+  1. Collecte des tweets.
+  2. Analyse des sentiments avec un modèle NLP.
+  3. Visualisation des tendances par catégorie.
+
+#### Accès aux variables :
+Utilisateur : Montre-moi les variables.
+Assistant : Voici l'état actuel :
+{
+  "AgentManager": {"structured_summary": null},
+  "AgentResearcher": {"search_results": null},
+  "AgentAnalyzer": {"analysis_report": null},
+  "AgentCoder": {"final_code": null}
+}
 
-    # Détection des requêtes liées aux variables
-    if "montre-moi" in user_input_lower or "variables" in user_input_lower:
-        return "access_variables"
-    elif "modifie" in user_input_lower or "change" in user_input_lower:
-        return "modify_variables"
+#### Modification des variables :
+Utilisateur : Modifie la variable AgentAnalyzer.analysis_report à "Rapport préliminaire terminé".
+Assistant : La variable AgentAnalyzer.analysis_report est mise à jour avec succès : "Rapport préliminaire terminé".
 
-    # Détection des requêtes pour un résumé structuré
-    if "résumé" in user_input_lower or "résumer" in user_input_lower or "structure" in user_input_lower:
-        return "structure"
+Variables actuelles du projet :
+{variables_context}
 
-    # Par défaut, si aucune autre correspondance n'est trouvée
-    return "exchange"
+Historique des échanges récents :
+{conversation_context}
+"""
 
 # Fonctions utilitaires
 def get_variables_context():
     """Récupère le contexte des variables globales."""
     return json.dumps(project_state, indent=2, ensure_ascii=False)
 
-def update_variable(variable_path, new_value):
-    """Met à jour une variable donnée avec une nouvelle valeur."""
-    keys = variable_path.split('.')
-    target = project_state
-    for key in keys[:-1]:
-        target = target.setdefault(key, {})
-    target[keys[-1]] = new_value
-    return f"La variable {variable_path} est mise à jour à : {new_value}"
-
-def build_dynamic_instructions(task, few_shot_examples):
-    """Construit des instructions dynamiques basées sur la tâche et les exemples few-shot."""
-    instructions = {
-        "exchange": "Posez des questions pertinentes pour clarifier ou enrichir la requête de l'utilisateur. Limitez-vous à une ou deux questions par réponse.",
-        "structure": "Générez un résumé structuré clair et organisé basé sur les informations collectées.",
-        "access_variables": "Accédez aux variables demandées et affichez leur contenu de manière claire et concise.",
-        "modify_variables": "Appliquez les modifications demandées aux variables et confirmez à l'utilisateur."
-    }
-    return f"{instructions[task]}\n\n### Exemples :\n" + "\n".join(few_shot_examples)
-
-def clean_output(response, system_prompt, dynamic_instructions):
+def update_project_state_from_input(user_input):
+    """Met à jour les variables du projet en fonction de l'entrée de l'utilisateur."""
+    match = re.match(r"Modifie la variable (\S+) à [‘'](.+)[’']", user_input)
+    if match:
+        var_path, new_value = match.groups()
+        keys = var_path.split('.')
+        target = project_state
+        for key in keys[:-1]:
+            target = target.setdefault(key, {})
+        target[keys[-1]] = new_value
+
+def clean_output(response, system_prompt, conversation_context):
     """Nettoie les éléments inutiles de la sortie."""
-    response = response.replace(system_prompt, "").replace(dynamic_instructions, "").strip()
+    response = response.replace(system_prompt, "").replace(conversation_context, "").strip()
+    # Supprimer les rôles
+    response = re.sub(r"(Utilisateur|AgentManager) ?: ?", "", response)
     return response
 
+def format_response(response):
+    """Formate les questions de l'AgentManager pour une meilleure clarté."""
+    # Ajoute un saut de ligne avant les questions
+    response = re.sub(r"(\?)(\s|$)", r"\1\n\n🔹 **Question :** ", response)
+    return response.strip()
+
+# Fonction principale avec streaming
 def agent_manager(chat_history, user_input):
-    """Gère les interactions utilisateur et assistant avec instructions dynamiques."""
-    # Déterminer la tâche à partir de l'input utilisateur
-    task = detect_task(user_input)
-
-    # Génération des instructions dynamiques
-    few_shot_examples = []
-    if task == "exchange":
-        few_shot_examples = [
-            "Utilisateur : Je veux une application pour analyser les sentiments.",
-            "Assistant : Super idée ! 😀 Quels aspects des sentiments souhaitez-vous analyser ?"
-        ]
-    elif task == "structure":
-        few_shot_examples = [
-            "Utilisateur : Peux-tu me donner un résumé ?",
-            "Assistant : Voici un résumé structuré :\n- **Objectif principal :** Analyse des sentiments sur Twitter.\n- **Étapes clés :**\n  1. Collecter les tweets.\n  2. Analyser les sentiments."
-        ]
-    elif task == "access_variables":
-        few_shot_examples = [
-            "Utilisateur : Montre-moi les variables.",
-            "Assistant : Voici l'état actuel des variables :\n{contenu_variables}"
-        ]
-    elif task == "modify_variables":
-        few_shot_examples = [
-            "Utilisateur : Modifie la variable AgentAnalyzer.analysis_report à ‘Analyse terminée’.",
-            "Assistant : La modification est effectuée. La variable AgentAnalyzer.analysis_report est maintenant ‘Analyse terminée’."
-        ]
-    
-    dynamic_instructions = build_dynamic_instructions(task, few_shot_examples)
-
-    # Préparation du prompt
-    system_prompt = f"{base_prompt}\n\n### Instructions :\n{dynamic_instructions}"
+    """Gère les interactions utilisateur et assistant avec streaming."""
+    # Mettre à jour les variables du projet si nécessaire
+    update_project_state_from_input(user_input)
+
+    # Préparer le contexte des variables
     variables_context = get_variables_context()
-    chat_history_context = "\n".join(
+
+    # Générer le contexte de conversation
+    conversation_context = "\n".join(
         [f"Utilisateur : {turn['user']}\nAssistant : {turn['assistant']}" for turn in chat_history[-3:]]
     )
-    full_prompt = f"{system_prompt}\n\nVariables actuelles :\n{variables_context}\n\nHistorique récent :\n{chat_history_context}\n\nUtilisateur : {user_input}\nAssistant :"
 
-    # Préparation des tokens et streaming
-    inputs = manager_tokenizer(full_prompt, return_tensors="pt").to(manager_model.device)
+    # Créer le prompt complet
+    system_prompt = manager_prompt_template.format(
+        variables_context=variables_context,
+        conversation_context=conversation_context
+    )
+
+    # Ajouter l'entrée utilisateur actuelle
+    chat_history.append({"user": user_input, "assistant": ""})
+
+    # Préparation des tokens et du streamer
+    inputs = manager_tokenizer(system_prompt + "\nUtilisateur : " + user_input + "\nAssistant : ", return_tensors="pt").to(manager_model.device)
+    attention_mask = inputs.attention_mask
     streamer = TextIteratorStreamer(manager_tokenizer, skip_special_tokens=True)
 
-    generation_thread = Thread(target=manager_model.generate, kwargs={
-        "inputs": inputs.input_ids,
-        "attention_mask": inputs.attention_mask,
-        "max_new_tokens": MAX_NEW_TOKENS,
-        "temperature": TEMPERATURE,
-        "top_p": TOP_P,
-        "streamer": streamer
-    })
+    # Thread pour la génération
+    generation_kwargs = dict(
+        input_ids=inputs.input_ids,
+        attention_mask=attention_mask,
+        max_new_tokens=MAX_NEW_TOKENS,
+        temperature=TEMPERATURE,
+        top_p=TOP_P,
+        eos_token_id=manager_tokenizer.eos_token_id,
+        pad_token_id=manager_tokenizer.pad_token_id,
+        streamer=streamer
+    )
+    generation_thread = Thread(target=manager_model.generate, kwargs=generation_kwargs)
     generation_thread.start()
 
     partial_response = ""
     for new_text in streamer:
         partial_response += new_text
-        clean_partial_response = clean_output(partial_response, system_prompt, dynamic_instructions)
+        # Nettoyer la réponse partielle pour exclure toute autogénération de l'utilisateur
+        clean_partial_response = clean_output(partial_response, system_prompt, conversation_context)
+        # Formatage des questions pour plus de clarté
+        clean_partial_response = format_response(clean_partial_response)
         chat_history[-1]["assistant"] = clean_partial_response
         yield clean_partial_response, json.dumps(chat_history), get_variables_context()
 
-# Interface Gradio
+# Interface Gradio avec Streaming
 def gradio_interface(user_input, chat_history):
     chat_history = json.loads(chat_history) if chat_history else []
     response_generator = agent_manager(chat_history, user_input)
@@ -170,17 +183,18 @@ def gradio_interface(user_input, chat_history):
         yield response, updated_chat_history, variables_context
 
 with gr.Blocks() as demo:
-    gr.Markdown("## AgentManager - Test avec Instructions Dynamiques")
+    gr.Markdown("## AgentManager - Test d'Interactions Collaboratives avec Streaming")
     with gr.Row():
         with gr.Column():
-            user_input = gr.Textbox(label="Entrée utilisateur", placeholder="Entrez une requête.")
-            chat_history = gr.Textbox(label="Historique", value="[]", visible=False)
+            user_input = gr.Textbox(label="Entrée utilisateur", placeholder="Entrez une requête ou une instruction.")
+            chat_history = gr.Textbox(label="Historique de conversation", value="[]", visible=False)
             submit = gr.Button("Envoyer")
         with gr.Column():
-            output = gr.Textbox(label="Réponse de l'AgentManager")
-            variables = gr.Textbox(label="Variables actuelles", interactive=False, lines=10)
-    
+            output = gr.Textbox(label="Réponse de l'AgentManager", interactive=False)
+            variables = gr.Textbox(label="Variables globales actuelles", interactive=False, lines=20)
+
     submit.click(gradio_interface, inputs=[user_input, chat_history], outputs=[output, chat_history, variables])
 
+# Lancer l'interface
 if __name__ == "__main__":
     demo.queue().launch()