Update app.py

app.py

@@ -1,73 +1,43 @@
 import gradio as gr
 import torch
-from transformers import AutoModelForCausalLM, AutoTokenizer
+from transformers import AutoTokenizer, AutoModelForCausalLM
 
-# Modelo pequeno, viável em CPU grátis do Hugging Face
-MODEL_NAME = "microsoft/DialoGPT-small"
+MODEL_NAME = "NousResearch/Nous-Hermes-2-SOLAR-0.8B"
 
 tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
-model = AutoModelForCausalLM.from_pretrained(MODEL_NAME).to("cpu")
-
+model = AutoModelForCausalLM.from_pretrained(
+    MODEL_NAME,
+    torch_dtype=torch.float32,
+    device_map="cpu"
+)
 
 def responder(pergunta: str) -> str:
-    """
-    Bot de Perguntas e Respostas sobre Deep Learning.
-    Recebe uma pergunta em texto e devolve uma resposta em português,
-    com tom de professor explicando de forma simples.
-    """
-
-    pergunta = (pergunta or "").strip()
-    if not pergunta:
-        return "Me manda uma pergunta sobre Deep Learning 🙂"
-
-    # Prompt de sistema: define o "personagem"
-    system_prefix = (
-        "Você é o Professor DL, um professor de Deep Learning. "
-        "Responda SEMPRE em português do Brasil, de forma simples, didática e objetiva, "
-        "usando exemplos práticos quando possível. "
-        "Explique conceitos como redes neurais, camadas, CNN, RNN, overfitting, "
-        "regularização, dropout, etc., sem fórmulas muito pesadas."
-    )
+    if not pergunta.strip():
+        return "Pode mandar sua pergunta sobre Deep Learning!"
 
     prompt = (
-        system_prefix
-        + "\n\n"
-        + f"Aluno: {pergunta}\n"
-        + "Professor DL:"
+        "Você é o Professor DL, um especialista em Deep Learning. "
+        "Explique tudo de maneira simples, objetiva e em português. "
+        "Use exemplos práticos. Responda como um professor experiente.\n\n"
+        f"Aluno: {pergunta}\nProfessor DL:"
     )
 
-    # Tokenização
-    inputs = tokenizer(
-        prompt,
-        return_tensors="pt",
-        truncation=True,
-        max_length=512,
-    )
+    inputs = tokenizer(prompt, return_tensors="pt").to("cpu")
 
-    # Geração
     with torch.no_grad():
-        output_ids = model.generate(
+        output = model.generate(
             **inputs,
-            max_new_tokens=160,
-            do_sample=True,
-            top_p=0.9,
+            max_new_tokens=200,
             temperature=0.7,
-            pad_token_id=tokenizer.eos_token_id,
+            top_p=0.9,
+            do_sample=True,
         )
 
-    saida = tokenizer.decode(output_ids[0], skip_special_tokens=True)
+    resposta = tokenizer.decode(output[0], skip_special_tokens=True)
 
-    # Extrai só a parte depois de "Professor DL:"
-    if "Professor DL:" in saida:
-        resposta = saida.split("Professor DL:")[-1].strip()
-    else:
-        resposta = saida.strip()
-
-    if not resposta:
-        resposta = (
-            "Boa pergunta! Tenta reformular ou ser um pouco mais específico "
-            "sobre o que você quer saber em Deep Learning."
-        )
+    # limpa o texto
+    if "Professor DL:" in resposta:
+        resposta = resposta.split("Professor DL:")[-1].strip()
 
     return resposta
 
@@ -75,14 +45,10 @@ def responder(pergunta: str) -> str:
 demo = gr.Interface(
     fn=responder,
     inputs=gr.Textbox(lines=2, label="Sua pergunta sobre Deep Learning"),
-    outputs=gr.Textbox(lines=8, label="Resposta do Professor DL"),
-    title="Professor DL - Bot de Deep Learning",
-    description=(
-        "Faça perguntas sobre redes neurais, Deep Learning, CNN, RNN, overfitting, "
-        "regularização, etc. O Professor DL responde em português, de forma didática."
-    ),
+    outputs=gr.Textbox(lines=10, label="Resposta do Professor DL"),
+    title="Professor DL - Chatbot de Deep Learning",
+    description="Pergunte qualquer coisa sobre DL, redes neurais, CNN, RNN, overfitting, regularização, etc.",
 )
 
 if __name__ == "__main__":
     demo.launch()
-