File size: 547 Bytes
655135d bf841e7 655135d bf841e7 655135d |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
from transformers import pipeline
import gradio as gr
# Carrega Falcon 7B Instruct
chat = pipeline("text-generation", model="tiiuae/falcon-7b-instruct", device_map="auto")
def responder(msg):
prompt = f"Você é um assistente útil que responde em português.\nUsuário: {msg}\nAssistente:"
resposta = chat(prompt, max_new_tokens=200, temperature=0.7, top_p=0.9)[0]['generated_text']
# Remove o prompt da saída
return resposta.split("Assistente:")[-1].strip()
gr.Interface(fn=responder, inputs="text", outputs="text").launch()
|