Corrección: ejecutar fusión antes de iniciar API

app.py

@@ -1,39 +1,60 @@
 import os
 import subprocess
-from fastapi import FastAPI
 import torch
 from transformers import AutoModelForCausalLM, AutoTokenizer
-from huggingface_hub import hf_hub_download
+from fastapi import FastAPI
+from pydantic import BaseModel
 
 # ✅ Configuración
-BASE_MODEL = "microsoft/phi-2"
-REPO_ID = "fcp2207/Fusion_modelo_Phi2"
-MODEL_FILENAME = "phi2_finetuned.pth"
 SAVE_PATH = "phi2_full_model"
+MODEL_REPO = "fcp2207/Fusion_modelo_Phi2"
 
-# ✅ Verificar si el modelo fusionado ya existe
+# ✅ Ejecutar `fusion_modelo.py` si el modelo no existe
 if not os.path.exists(SAVE_PATH):
     print("🔄 Ejecutando fusion_modelo.py para fusionar el modelo...")
     try:
-        # Ejecuta fusion_modelo.py antes de la API
         subprocess.run(["python", "fusion_modelo.py"], check=True)
-        print("✅ `fusion_modelo.py` ejecutado correctamente.")
     except subprocess.CalledProcessError as e:
         print(f"❌ Error ejecutando fusion_modelo.py: {e}")
-        exit(1)  # Detiene la ejecución si hay un error
-
+        exit(1)
 else:
     print(f"✅ El modelo ya está fusionado en {SAVE_PATH}.")
 
-# ✅ Inicializar la API
+# ✅ Inicializar FastAPI
 app = FastAPI()
 
+# ✅ Cargar modelo y tokenizer
+print("🔄 Cargando modelo fusionado en memoria...")
+try:
+    model = AutoModelForCausalLM.from_pretrained(SAVE_PATH, torch_dtype=torch.float16, device_map="cpu")
+    tokenizer = AutoTokenizer.from_pretrained(SAVE_PATH)
+    print("✅ Modelo y tokenizer cargados correctamente.")
+except Exception as e:
+    print(f"❌ Error al cargar el modelo fusionado: {e}")
+    exit(1)
+
+# ✅ Definir la estructura de la solicitud
+class InputText(BaseModel):
+    input_text: str
+
 @app.get("/")
 def home():
-    return {"message": "Fusión de modelo completada en Hugging Face Space 🚀"}
+    return {"message": "🚀 API de Chatbot con Phi-2 en funcionamiento"}
+
+@app.post("/predict/")
+def predict(request: InputText):
+    """Genera una respuesta basada en el input del usuario."""
+    inputs = tokenizer(request.input_text, return_tensors="pt", padding=True, truncation=True, max_length=512)
+
+    with torch.no_grad():
+        outputs = model.generate(**inputs, max_length=150)
+
+    response_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
+    return {"response": response_text}
+
+# ✅ Ejecutar el servidor
+if __name__ == "__main__":
+    import uvicorn
+    uvicorn.run(app, host="0.0.0.0", port=8000)
 
-@app.get("/status")
-def status():
-    """Devuelve el estado del modelo"""
-    return {"status": "Modelo fusionado y listo para usarse", "model_path": SAVE_PATH}
 

fusion_modelo.py

@@ -5,18 +5,19 @@ import os
 
 # ✅ Configuración
 BASE_MODEL = "microsoft/phi-2"
-REPO_ID = "fcp2207/Fusion_modelo_Phi2"  # Asegúrate de que el repo es correcto y público
-MODEL_FILENAME = "phi2_finetuned.pth"
+FINE_TUNED_REPO = "fcp2207/Phi-2"  # Repositorio donde está el modelo fine-tuned
+FINE_TUNED_FILENAME = "phi2_finetuned.pth"
 SAVE_PATH = "phi2_full_model"
+UPLOAD_REPO = "fcp2207/Fusion_modelo_Phi2"  # Donde subiremos el modelo fusionado
 
 # ✅ Descargar pesos fine-tuned desde Hugging Face
-print("🔄 Descargando pesos fine-tuned...")
+print("🔄 Descargando pesos fine-tuned desde Hugging Face...")
 try:
-    model_path = hf_hub_download(REPO_ID, MODEL_FILENAME)
-    print(f"✅ Pesos descargados correctamente en: {model_path}")
+    model_path = hf_hub_download(repo_id=FINE_TUNED_REPO, filename=FINE_TUNED_FILENAME)
+    print(f"✅ Pesos descargados correctamente: {model_path}")
 except Exception as e:
     print(f"❌ Error al descargar los pesos: {str(e)}")
-    exit(1)  # Detener ejecución si falla
+    exit(1)
 
 # ✅ Cargar modelo base optimizado para CPU
 print("🔄 Cargando modelo base en CPU...")
@@ -60,12 +61,13 @@ else:
 print("🚀 Subiendo modelo fusionado a Hugging Face...")
 try:
     upload_folder(
-        repo_id=REPO_ID, 
-        folder_path=SAVE_PATH, 
+        repo_id=UPLOAD_REPO,
+        folder_path=SAVE_PATH,
         commit_message="Subiendo modelo fusionado",
-        use_auth_token=True  # 🔹 Forzar autenticación
+        use_auth_token=True  # 🔹 Forzar autenticación si es necesario
     )
-    print(f"✅ ¡Modelo subido exitosamente a https://huggingface.co/{REPO_ID}!")
+    print(f"✅ ¡Modelo subido exitosamente a https://huggingface.co/{UPLOAD_REPO}!")
 except Exception as e:
     print(f"❌ Error al subir el modelo a Hugging Face: {str(e)}")
 
+

requirements.txt

@@ -1,6 +1,6 @@
-torch
-transformers
-huggingface_hub
 fastapi
 uvicorn
+transformers
+torch
+huggingface_hub
 accelerate>=0.26.0