Update app.py

app.py

@@ -7,10 +7,11 @@ chat_model_state = None
 chat_tokenizer_state = None
 
 def load_chat_model():
-    """Función para cargar el modelo de chat"""
+    """Función para cargar el modelo de chat."""
     global chat_model_state, chat_tokenizer_state
     try:
         model_name = "Qwen/Qwen2.5-3B-Instruct"
+        # Cargar el modelo en CPU o GPU según disponibilidad
         chat_model_state = AutoModelForCausalLM.from_pretrained(
             model_name,
             torch_dtype=torch.float16 if torch.cuda.is_available() else torch.float32,
@@ -22,7 +23,7 @@ def load_chat_model():
         print(f"Error al cargar el modelo de chat: {e}")
 
 def generate_response(messages, model, tokenizer):
-    """Genera una respuesta usando el modelo de chat"""
+    """Genera una respuesta usando el modelo de chat."""
     try:
         if model is None or tokenizer is None:
             raise ValueError("El modelo de chat o el tokenizer no están cargados.")
@@ -63,7 +64,7 @@ def generate_response(messages, model, tokenizer):
 
 # Gradio Interface
 with gr.Blocks() as app_chat:
-    gr.Markdown("### Chatbot Simple")
+    gr.Markdown("### Chatbot Simple (CPU/GPU Compatible)")
     chatbot_interface = gr.Chatbot(label="Conversación")
     text_input_chat = gr.Textbox(label="Escribe tu mensaje", lines=1)
     send_btn_chat = gr.Button("Enviar")
@@ -119,5 +120,10 @@ with gr.Blocks() as app_chat:
 # Cargar el modelo al iniciar
 load_chat_model()
 
-# Ejecutar la aplicación
-app_chat.launch()
+# Ejecutar la aplicación con configuración segura
+app_chat.queue(api_open=True).launch(
+    server_name="0.0.0.0",  # Permite acceso local
+    server_port=7860,  # Puerto local
+    share=True,  # Crea un enlace público
+    enable_queue=True  # Activa la cola de procesamiento
+)