Create app.py

app.py

@@ -0,0 +1,164 @@
+import json
+import re
+import logging
+from transformers import AutoModelForCausalLM, AutoTokenizer
+import gradio as gr
+
+# Configuration du logger
+logging.basicConfig(
+    level=logging.INFO,
+    format="%(asctime)s - %(levelname)s - %(message)s",
+    handlers=[
+        logging.StreamHandler()
+    ]
+)
+
+# Variables globales simulées
+project_state = {
+    "AgentManager": {"structured_summary": None},
+    "AgentResearcher": {"search_results": None},
+    "AgentAnalyzer": {"analysis_report": None, "instruction_for_coder": None},
+    "AgentCoder": {"final_code": None}
+}
+
+# Chargement du modèle pour l'AgentManager
+manager_model_name = "meta-llama/Llama-3.1-8B-Instruct"
+manager_model = AutoModelForCausalLM.from_pretrained(
+    manager_model_name,
+    device_map="auto",
+    torch_dtype=torch.bfloat16  # Utilisation de bfloat16 comme recommandé
+)
+manager_tokenizer = AutoTokenizer.from_pretrained(manager_model_name)
+
+# Prompt prédéfini
+manager_prompt_template = """
+Vous êtes l'AgentManager d'un système multi-agent.
+
+- Votre rôle est d'interagir avec l'utilisateur pour comprendre sa demande.
+- Vous devez poser des questions pertinentes pour obtenir toutes les informations nécessaires.
+- Une fois que vous estimez avoir suffisamment d'informations, vous générez un résumé structuré du projet.
+- Vous incluez les informations des variables du projet si elles ne sont pas vides.
+- Vous demandez une validation explicite à l'utilisateur pour le résumé généré.
+- Vous pouvez modifier les variables du projet si l'utilisateur en fait la demande.
+
+Variables du projet :
+{variables_context}
+"""
+
+# Fonctions utilitaires
+def get_variables_context():
+    variables = {}
+    for agent, data in project_state.items():
+        variables[agent] = {}
+        for key, value in data.items():
+            variables[agent][key] = value if value else "N/A"
+    variables_context = json.dumps(variables, indent=2, ensure_ascii=False)
+    return variables_context
+
+def update_project_state(modifications):
+    for var, value in modifications.items():
+        keys = var.split('.')
+        target = project_state
+        for key in keys[:-1]:
+            target = target.get(key, {})
+        target[keys[-1]] = value
+
+def extract_modifications(user_input):
+    modifications = {}
+    if "modifie" in user_input.lower():
+        matches = re.findall(r"modifie la variable (\w+(?:\.\w+)*) à (.+)", user_input, re.IGNORECASE)
+        for match in matches:
+            var_name, var_value = match
+            modifications[var_name.strip()] = var_value.strip()
+    return modifications
+
+def extract_structured_summary(response):
+    start_token = "Résumé Structuré :"
+    end_token = "Fin du Résumé"
+    start_index = response.find(start_token)
+    end_index = response.find(end_token, start_index)
+    if start_index != -1 and end_index != -1:
+        summary = response[start_index + len(start_token):end_index].strip()
+        return summary
+    else:
+        logging.warning("Le résumé structuré n'a pas pu être extrait.")
+        return None
+
+# Fonction principale de l'AgentManager
+def agent_manager(chat_history, user_input):
+    variables_context = get_variables_context()
+    system_prompt = manager_prompt_template.format(variables_context=variables_context)
+
+    conversation = [{"role": "system", "content": system_prompt}]
+
+    # Ajouter l'historique
+    for turn in chat_history:
+        conversation.append({"role": "user", "content": turn['user']})
+        conversation.append({"role": "assistant", "content": turn['assistant']})
+
+    # Ajouter l'entrée utilisateur actuelle
+    conversation.append({"role": "user", "content": user_input})
+
+    # Vérifier si l'utilisateur souhaite modifier des variables
+    modifications = extract_modifications(user_input)
+    if modifications:
+        update_project_state(modifications)
+        response = "Les variables ont été mises à jour selon votre demande."
+        chat_history.append({'user': user_input, 'assistant': response})
+        return response, chat_history, False
+
+    # Générer la réponse
+    prompt = manager_tokenizer.apply_chat_template(conversation, add_generation_prompt=True, tokenize=False)
+
+    input_ids = manager_tokenizer(prompt, return_tensors="pt").to(manager_model.device)
+    output_ids = manager_model.generate(
+        input_ids["input_ids"],
+        max_new_tokens=256,
+        eos_token_id=manager_tokenizer.eos_token_id,
+        pad_token_id=manager_tokenizer.pad_token_id,
+        attention_mask=input_ids["attention_mask"]
+    )
+    response = manager_tokenizer.decode(output_ids[0], skip_special_tokens=True)
+
+    chat_history.append({'user': user_input, 'assistant': response})
+
+    # Vérifier si un résumé a été généré pour validation
+    if "Validez-vous ce résumé" in response:
+        structured_summary = extract_structured_summary(response)
+        project_state["AgentManager"]["structured_summary"] = structured_summary
+        return response, chat_history, True  # Indique que le résumé est prêt pour validation
+    else:
+        return response, chat_history, False
+
+# Interface Gradio avec modification des variables
+def gradio_interface(user_input, chat_history, variables_input):
+    chat_history = json.loads(chat_history) if chat_history else []
+    # Mettre à jour les variables du project_state si l'utilisateur les a modifiées
+    if variables_input:
+        try:
+            updated_variables = json.loads(variables_input)
+            global project_state
+            project_state = updated_variables
+        except json.JSONDecodeError:
+            return "Erreur : Le format des variables est invalide.", chat_history, json.dumps(project_state, indent=2, ensure_ascii=False), variables_input
+
+    response, updated_chat_history, _ = agent_manager(chat_history, user_input)
+    return response, json.dumps(updated_chat_history), json.dumps(project_state, indent=2, ensure_ascii=False), json.dumps(project_state, indent=2, ensure_ascii=False)
+
+with gr.Blocks() as demo:
+    gr.Markdown("## Simulation de l'AgentManager avec modification des variables")
+    with gr.Row():
+        with gr.Column():
+            user_input = gr.Textbox(label="Entrée utilisateur", placeholder="Entrez une requête ou une instruction.")
+            variables_input = gr.Textbox(label="Modifier les variables du projet (JSON)", placeholder="Entrez un JSON valide pour modifier les variables.", lines=10)
+            chat_history = gr.Textbox(label="Historique de conversation", value="[]", visible=False)
+            submit = gr.Button("Envoyer")
+        with gr.Column():
+            output = gr.Textbox(label="Réponse de l'AgentManager", interactive=False)
+            variables_output = gr.Textbox(label="Variables globales actuelles", interactive=False, lines=20)
+
+    submit.click(gradio_interface, inputs=[user_input, chat_history, variables_input], outputs=[output, chat_history, variables_output, variables_input])
+
+# Lancer l'interface
+if __name__ == "__main__":
+    demo.launch()