Update app.py

app.py

@@ -1,13 +1,15 @@
 from fastapi import FastAPI, HTTPException, Request
+from fastapi import FastAPI, HTTPException, Request
 from pydantic import BaseModel
 import uvicorn
 import requests
 import os
 import io
 import time
+import asyncio
 from typing import List, Dict, Any
-from llama_cpp import Llama  # Asegúrate de ajustar esto según la biblioteca que utilices
 from tqdm import tqdm
+from llama_cpp import Llama  # Asegúrate de ajustar esto según la biblioteca que utilices
 
 app = FastAPI()
 
@@ -165,8 +167,4 @@ def start_uvicorn():
     uvicorn.run(app, host="0.0.0.0", port=7860)
 
 if __name__ == "__main__":
-    loop = asyncio.get_event_loop()
-    model_manager = ModelManager()
-    tasks = [model_manager.load_model(config) for config in model_configs]
-    loop.run_until_complete(asyncio.gather(*tasks))
-    start_uvicorn()
+    asyncio.run(start_uvicorn())