Update app.py

app.py

@@ -1,5 +1,4 @@
 from fastapi import FastAPI, HTTPException, Request
-from fastapi import FastAPI, HTTPException, Request
 from pydantic import BaseModel
 import uvicorn
 import requests
@@ -70,7 +69,8 @@ class ModelManager:
                 temp_filename = await self.save_model_to_temp_file(model_config)
                 start_time = time.time()
                 print(f"Cargando modelo desde {temp_filename}")
-                llama = Llama.load(temp_filename)  # Usa el método adecuado para cargar el modelo
+                # Asegúrate de usar el método correcto para cargar el modelo
+                llama = Llama.load(temp_filename)
                 end_time = time.time()
                 load_duration = end_time - start_time
                 if load_duration > 0:
@@ -114,8 +114,8 @@ class ModelManager:
         async with self.index_lock:
             part_name = f"part_{part_index}"
             print(f"Indexando parte {part_index}")
-            # Usar un nombre de archivo temporal para cada parte del modelo
-            with open(f"/tmp/{part_name}.gguf", 'wb') as f:
+            temp_filename = f"/tmp/{part_name}.gguf"
+            with open(temp_filename, 'wb') as f:
                 f.write(model_part.getvalue())
             print(f"Parte {part_index} indexada y guardada")