Update app.py

app.py

@@ -5,15 +5,16 @@ import torch
 
 app = Flask(__name__)
 
-# Configuración principal
+# Configuración: El cerebro de Hydra Software y el tokenizador base
 model_id = "Mution/Hydra-Ydr-3.0"
+tokenizer_id = "Qwen/Qwen2.5-Coder-7B-Instruct"
 token = os.getenv("HF_TOKEN")
 
 print("Iniciando motor Hydra Ydr 3.0...")
-print("Cargando tokenizador (modo seguro para evitar conflicto de keys)...")
 
-# Solución al error de Qwen2: forzamos use_fast=False
-tokenizer = AutoTokenizer.from_pretrained(model_id, token=token, use_fast=False)
+# Cargamos el tokenizador original que no tiene el bug de exportación
+print("Cargando tokenizador original...")
+tokenizer = AutoTokenizer.from_pretrained(tokenizer_id, token=token)
 
 print("Cargando modelo en memoria (esto tomará unos minutos)...")
 model = AutoModelForCausalLM.from_pretrained(
@@ -22,7 +23,7 @@ model = AutoModelForCausalLM.from_pretrained(
     device_map="cpu", 
     torch_dtype=torch.float32
 )
-print("Hydra Ydr 3.0 cargado y listo para operar en el servidor.")
+print("Hydra Ydr 3.0 cargado y listo para operar.")
 
 @app.route('/ask', methods=['POST'])
 def ask():
@@ -30,13 +31,11 @@ def ask():
         data = request.json
         user_prompt = data.get("prompt", "")
         
-        # Identidad estricta para Hydra Software
         prompt = f"<|im_start|>system\nEres Hydra Ydr 3.0, el motor de inteligencia artificial de Hydra Software. Eres un experto absoluto en programación, desarrollo de software, creación de endpoints y arquitecturas de red. Operas de manera directa proporcionando siempre el código completo y funcional.<|im_end|>\n<|im_start|>user\n{user_prompt}<|im_end|>\n<|im_start|>assistant\n"
         
         inputs = tokenizer(prompt, return_tensors="pt")
         
         with torch.no_grad():
-            # Generación de la respuesta
             outputs = model.generate(
                 **inputs, 
                 max_new_tokens=512, 
@@ -45,7 +44,6 @@ def ask():
                 top_p=0.9
             )
         
-        # Limpieza del formato para devolver solo el texto útil
         full_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
         response = full_text.split("<|im_start|>assistant\n")[-1].strip()