Update app.py

app.py

@@ -1,33 +1,24 @@
+import os
 import gradio as gr
 from transformers import AutoTokenizer, AutoModelForCausalLM
-from huggingface_hub import login
 
-# Login no Hugging Face com seu token (faça login se necessário)
-HUGGINGFACE_TOKEN = 'seu_token_huggingface'  # Coloque seu token de autenticação aqui
-login(token=HUGGINGFACE_TOKEN)
+# Obter o token de autenticação a partir do Secret
+HUGGINGFACE_TOKEN = os.getenv("HUGGINGFACE_TOKEN")
 
-# Carregar o modelo e o tokenizador
+# Definir o modelo e o tokenizador
 model_id = "mistralai/Mixtral-8x7B-Instruct-v0.1"
-tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
-model = AutoModelForCausalLM.from_pretrained(model_id, trust_remote_code=True)
+tokenizer = AutoTokenizer.from_pretrained(model_id, use_auth_token=HUGGINGFACE_TOKEN, trust_remote_code=True)
+model = AutoModelForCausalLM.from_pretrained(model_id, use_auth_token=HUGGINGFACE_TOKEN, trust_remote_code=True)
 
 def generate_text(prompt):
-    # Tokenizar o texto de entrada
     inputs = tokenizer(prompt, return_tensors="pt")
-
-    # Gerar a resposta com o modelo
     outputs = model.generate(**inputs, max_length=200)
-
-    # Decodificar e retornar a resposta gerada
     generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
     return generated_text
 
 # Criar a interface Gradio
-iface = gr.Interface(fn=generate_text, 
-                     inputs="text", 
-                     outputs="text",
-                     live=True,
-                     title="Geração de Texto com Mixtral")
+iface = gr.Interface(fn=generate_text, inputs="text", outputs="text", live=True, title="Geração de Texto com Mixtral")
 
+# Executar o app
 if __name__ == "__main__":
     iface.launch()