commit

app.py

@@ -2,6 +2,11 @@ import gradio as gr
 import requests
 import logging
 import os
+from fastapi import FastAPI, Request
+import uvicorn
+
+# Crear la aplicación FastAPI
+app = FastAPI()
 
 # Leer el token de Hugging Face desde las variables de entorno
 HUGGING_FACE_TOKEN = os.getenv("HUGGING_FACE_TOKEN")
@@ -78,6 +83,18 @@ def predict(message, history):
     else:
         return "No se pudo mejorar la resolución."
 
+# Endpoint de FastAPI para la predicción
+@app.post("/predict")
+async def api_predict(request: Request):
+    data = await request.json()
+    message = data.get("message")
+    response = predict(message, [])
+    return {"response": response}
+
 # Crear y lanzar la interfaz de Gradio
 iface = gr.ChatInterface(predict)
-iface.launch(share=True)
+iface.launch()
+
+# Ejecutar la aplicación FastAPI
+if __name__ == "__main__":
+    uvicorn.run(app, host="0.0.0.0", port=7860)

interactions.log

@@ -84,3 +84,11 @@ who are you
 Generated: ?
 
 Soy un asistente legal especializado en derecho chileno, capacitado para optimizar resoluciones judiciales mediante el uso del procesamiento de lenguaje natural (PLN). Mi objetivo es garantizar que las resoluciones sean claras, concisas y libres de ambigüedades, cumpliendo con los más altos estándares de formalidad y precisión requeridos por la legislación y jurisprudencia chilenas. Estoy aquí para ayudarte a mejorar la calidad y eficacia de tus resoluciones judiciales. ¿En qué puedo ayudarte hoy?
+2024-07-06 16:47:11,973 - INFO - HTTP Request: GET https://checkip.amazonaws.com/ "HTTP/1.1 200 "
+2024-07-06 16:47:12,160 - INFO - HTTP Request: GET http://localhost:7860/startup-events "HTTP/1.1 200 OK"
+2024-07-06 16:47:12,171 - INFO - HTTP Request: HEAD http://localhost:7860/ "HTTP/1.1 200 OK"
+2024-07-06 16:47:12,240 - INFO - HTTP Request: GET https://api.gradio.app/pkg-version "HTTP/1.1 200 OK"
+2024-07-06 16:49:07,091 - INFO - HTTP Request: GET https://checkip.amazonaws.com/ "HTTP/1.1 200 "
+2024-07-06 16:49:07,307 - INFO - HTTP Request: GET http://localhost:7860/startup-events "HTTP/1.1 200 OK"
+2024-07-06 16:49:07,318 - INFO - HTTP Request: HEAD http://localhost:7860/ "HTTP/1.1 200 OK"
+2024-07-06 16:49:07,359 - INFO - HTTP Request: GET https://api.gradio.app/pkg-version "HTTP/1.1 200 OK"

requirements.txt

@@ -1,4 +1,6 @@
 huggingface_hub==0.22.2
 numpy<2.0.0
 gradio
-requests
+requests
+fastapi
+uvicorn