Upload folder using huggingface_hub
Browse files- test_model.py +38 -0
test_model.py
ADDED
|
@@ -0,0 +1,38 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
from transformers import pipeline, AutoModelForCausalLM, AutoTokenizer
|
| 2 |
+
|
| 3 |
+
# Caminho para o seu modelo treinado
|
| 4 |
+
model_path = "./gpt2-eli5-final-by-Yvens"
|
| 5 |
+
|
| 6 |
+
print(f"🔄 Carregando modelo de: {model_path} ...")
|
| 7 |
+
|
| 8 |
+
try:
|
| 9 |
+
# Carregar modelo e tokenizer
|
| 10 |
+
model = AutoModelForCausalLM.from_pretrained(model_path)
|
| 11 |
+
tokenizer = AutoTokenizer.from_pretrained(model_path)
|
| 12 |
+
|
| 13 |
+
# 1. Contar Parâmetros
|
| 14 |
+
num_params = model.num_parameters()
|
| 15 |
+
print(f"✅ Modelo carregado com sucesso!")
|
| 16 |
+
print(f"📏 Número de Parâmetros: {num_params:,} ({num_params/1e6:.1f} Milhões)")
|
| 17 |
+
print("-" * 40)
|
| 18 |
+
|
| 19 |
+
# 2. Criar Pipeline de Geração
|
| 20 |
+
# O pipeline abstrai a complexidade de tokenizar -> gerar -> decodificar
|
| 21 |
+
generator = pipeline("text-generation", model=model, tokenizer=tokenizer)
|
| 22 |
+
|
| 23 |
+
# 3. Testar
|
| 24 |
+
prompt = "Why is the sky blue?"
|
| 25 |
+
print(f"🤖 Pergunta (Prompt): \"{prompt}\"")
|
| 26 |
+
print("⏳ Gerando resposta...")
|
| 27 |
+
|
| 28 |
+
# Gerar texto (max_length limita o tamanho, num_return_sequences gera 1 resposta)
|
| 29 |
+
output = generator(prompt, max_length=100, num_return_sequences=1, do_sample=True, temperature=0.7)
|
| 30 |
+
|
| 31 |
+
print("-" * 40)
|
| 32 |
+
print("💬 Resposta Gerada:")
|
| 33 |
+
print(output[0]['generated_text'])
|
| 34 |
+
print("-" * 40)
|
| 35 |
+
|
| 36 |
+
except Exception as e:
|
| 37 |
+
print(f"❌ Erro ao carregar o modelo: {e}")
|
| 38 |
+
print("Verifique se o caminho da pasta está correto e se ela contém os arquivos config.json e pytorch_model.bin")
|