Update app.py

app.py

@@ -1,12 +1,13 @@
 from transformers import pipeline
 import gradio as gr
 
-# Carrega um modelo de linguagem
-chat = pipeline("text-generation", model="tiiuae/falcon-7b-instruct")
+# Carrega Falcon 7B Instruct
+chat = pipeline("text-generation", model="tiiuae/falcon-7b-instruct", device_map="auto")
 
 def responder(msg):
-    resposta = chat(msg, max_length=100, pad_token_id=50256)[0]['generated_text']
-    return resposta
+    prompt = f"Você é um assistente útil que responde em português.\nUsuário: {msg}\nAssistente:"
+    resposta = chat(prompt, max_new_tokens=200, temperature=0.7, top_p=0.9)[0]['generated_text']
+    # Remove o prompt da saída
+    return resposta.split("Assistente:")[-1].strip()
 
-# Interface
 gr.Interface(fn=responder, inputs="text", outputs="text").launch()