Update interface.py

interface.py

@@ -12,14 +12,16 @@ from decorators import gpu_decorator  # Asegúrate de que la ruta es correcta
 # Nuevas importaciones para Yi-Coder
 import torch
 from transformers import AutoTokenizer, AutoModelForCausalLM
+import json
+
+# Inicialización del dispositivo
+device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
 
-# Inicialización del modelo Yi-Coder
-device = "cuda" if torch.cuda.is_available() else "cpu"
 model_path = "01-ai/Yi-Coder-9B-Chat"
 
 # Carga del tokenizer y modelo
 tokenizer = AutoTokenizer.from_pretrained(model_path)
-model = AutoModelForCausalLM.from_pretrained(model_path, device_map="auto").to(device).eval()
+model = AutoModelForCausalLM.from_pretrained(model_path).to(device).eval()
 
 def parse_bounds(bounds_str, num_params):
     try:
@@ -38,13 +40,14 @@ def parse_bounds(bounds_str, num_params):
         upper_bounds = [np.inf] * num_params
         return lower_bounds, upper_bounds
 
-@gpu_decorator(duration=300)
-def generate_analysis(prompt, max_length=1024, device=None):
+def generate_analysis(prompt, max_length=1024):
     """
     Genera un análisis utilizando el modelo Yi-Coder-9B-Chat.
     """
     try:
+        # Tokenizar el prompt y mover los tensores al dispositivo correcto
         inputs = tokenizer(prompt, return_tensors="pt").to(device)
+        
         with torch.no_grad():
             outputs = model.generate(
                 **inputs,
@@ -52,6 +55,7 @@ def generate_analysis(prompt, max_length=1024, device=None):
                 eos_token_id=tokenizer.eos_token_id,
                 pad_token_id=tokenizer.eos_token_id
             )
+        
         analysis = tokenizer.decode(outputs[0], skip_special_tokens=True)
         return analysis
     except Exception as e:
@@ -75,8 +79,7 @@ def process_and_plot(
     show_params,
     biomass_eq_count,
     substrate_eq_count,
-    product_eq_count,
-    device=None
+    product_eq_count
 ):
     # Leer el archivo Excel
     df = pd.read_excel(file.name)
@@ -139,7 +142,7 @@ def process_and_plot(
             )
             biomass_results.append({
                 'model': main_model,
-                'y_pred': y_pred,
+                'y_pred': y_pred.tolist(),  # Convertir a lista para serialización
                 'equation': equation,
                 'params': main_model.params['biomass']
             })
@@ -167,7 +170,7 @@ def process_and_plot(
             )
             substrate_results.append({
                 'model': main_model,
-                'y_pred': y_pred,
+                'y_pred': y_pred.tolist(),  # Convertir a lista para serialización
                 'equation': equation,
                 'params': main_model.params['substrate']
             })
@@ -195,7 +198,7 @@ def process_and_plot(
             )
             product_results.append({
                 'model': main_model,
-                'y_pred': y_pred,
+                'y_pred': y_pred.tolist(),  # Convertir a lista para serialización
                 'equation': equation,
                 'params': main_model.params['product']
             })
@@ -244,16 +247,16 @@ Eres un experto en modelado de bioprocesos.
 Analiza los siguientes resultados experimentales y proporciona un veredicto sobre la calidad de los modelos, sugiriendo mejoras si es necesario.
 
 ### Biomasa:
-{biomass_results}
+{json.dumps(biomass_results, indent=2)}
 
 ### Sustrato:
-{substrate_results}
+{json.dumps(substrate_results, indent=2)}
 
 ### Producto:
-{product_results}
+{json.dumps(product_results, indent=2)}
 """
 
     # Generar el análisis utilizando Yi-Coder
-    analysis = generate_analysis(prompt, max_length=1024, device=device)
+    analysis = generate_analysis(prompt, max_length=1024)
 
     return image, analysis