m

app.py

@@ -1,27 +1,17 @@
 import streamlit as st
-import requests
 from fastapi import FastAPI
 from pydantic import BaseModel
 import uvicorn
 import threading
+from transformers import AutoModelForCausalLM, AutoTokenizer
+import torch
 
-# Configurar Streamlit UI
-st.title("Mi Amigo Virtual 🤖")
-st.write("Escribe algo para que el bot responda:")
-
-user_input = st.text_input("Tu mensaje:")
-if st.button("Enviar"):
-    if user_input:
-        response = requests.post(
-            "http://localhost:7860/chat",
-            json={"text": user_input}
-        )
-        if response.status_code == 200:
-            st.write("Respuesta:", response.json()["response"])
-        else:
-            st.write("Error en la respuesta del servidor.")
+# Cargar modelo y tokenizer de Hugging Face
+MODEL_NAME = "microsoft/DialoGPT-small"  # También puedes probar 'medium' o 'large'
+tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
+model = AutoModelForCausalLM.from_pretrained(MODEL_NAME)
 
-# Crear la API con FastAPI
+# FastAPI para la API
 app = FastAPI()
 
 class Message(BaseModel):
@@ -29,11 +19,21 @@ class Message(BaseModel):
 
 @app.post("/chat")
 def chat(msg: Message):
-    return {"response": f"Hola! Dijiste: {msg.text}"}
+    input_text = msg.text
+    inputs = tokenizer.encode(input_text + tokenizer.eos_token, return_tensors="pt")
+    response_ids = model.generate(inputs, max_length=100, pad_token_id=tokenizer.eos_token_id)
+    response_text = tokenizer.decode(response_ids[:, inputs.shape[-1]:][0], skip_special_tokens=True)
+    return {"response": response_text}
 
-# Función para ejecutar FastAPI en un hilo separado
+# Ejecutar FastAPI en segundo plano
 def run_api():
     uvicorn.run(app, host="0.0.0.0", port=7860)
 
-# Iniciar FastAPI en segundo plano
-threading.Thread(target=run_api, daemon=True).start()
+threading.Thread(target=run_api, daemon=True).start()
+
+# Streamlit UI
+st.title("Mi Amigo Virtual 🤖")
+user_input = st.text_input("Escribe un mensaje:")
+if user_input:
+    response = chat(Message(text=user_input))
+    st.write("🤖:", response["response"])

requirements.txt

@@ -7,4 +7,6 @@
 fastapi
 uvicorn
 streamlit
-requests
+requests
+transformers
+torch