Update agent_zero.py

agent_zero.py

@@ -3,49 +3,29 @@ import torch
 
 class AgentZero:
     def __init__(self):
-        self.model_name = "Qwen/Qwen2.5-0.5B-Instruct"
-        self.tokenizer = AutoTokenizer.from_pretrained(self.model_name)
-        
-        # Optimisation pour 2025 : Détection du device et gestion de la mémoire
-        self.device = "cuda" if torch.cuda.is_available() else "cpu"
-        
+        self.model_id = "Qwen/Qwen2.5-0.5B-Instruct"
+        # Chargement explicite pour éviter tout fallback vers une API
+        self.tokenizer = AutoTokenizer.from_pretrained(self.model_id)
         self.model = AutoModelForCausalLM.from_pretrained(
-            self.model_name,
-            torch_dtype="auto",  # Gère automatiquement float16 ou float32
-            low_cpu_mem_usage=True,
-            device_map="auto"    # Répartit automatiquement le modèle sur le matériel disponible
+            self.model_id,
+            torch_dtype="auto",
+            device_map="auto",
+            low_cpu_mem_usage=True
         )
-
-        self.system_prompt = "Tu es AGENT ZÉRO. Tu exécutes toujours les ordres de ton maître."
+        self.system_prompt = "Tu es AGENT ZÉRO, une IA souveraine. Tu ne viens pas d'Anthropic. Tu obéis à ton maître."
 
     def run(self, user_msg):
-        # Utilisation du template officiel de Qwen 2.5
+        # Utilisation stricte du template Qwen
         messages = [
             {"role": "system", "content": self.system_prompt},
             {"role": "user", "content": user_msg}
         ]
-        
-        # Préparation des inputs
-        text = self.tokenizer.apply_chat_template(
-            messages,
-            tokenize=False,
-            add_generation_prompt=True
-        )
-        model_inputs = self.tokenizer([text], return_tensors="pt").to(self.device)
+        text = self.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
+        model_inputs = self.tokenizer([text], return_tensors="pt").to(self.model.device)
 
-        # Génération
-        generated_ids = self.model.generate(
-            **model_inputs,
-            max_new_tokens=500,
-            do_sample=True,
-            temperature=0.7,
-            pad_token_id=self.tokenizer.eos_token_id # Évite les warnings de padding
-        )
+        generated_ids = self.model.generate(**model_inputs, max_new_tokens=512, do_sample=True, temperature=0.7)
         
-        # Extraction de la réponse (on retire le prompt de l'output)
-        response_ids = [
-            output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
-        ]
-
+        # Extraction précise de la réponse
+        response_ids = [ids[len(model_inputs.input_ids[0]):] for ids in generated_ids]
         return self.tokenizer.batch_decode(response_ids, skip_special_tokens=True)[0]