File size: 1,437 Bytes
bcd30ce | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 | from transformers import pipeline, AutoModelForCausalLM, AutoTokenizer
# Caminho para o seu modelo treinado
model_path = "./gpt2-eli5-final-by-Yvens"
print(f"🔄 Carregando modelo de: {model_path} ...")
try:
# Carregar modelo e tokenizer
model = AutoModelForCausalLM.from_pretrained(model_path)
tokenizer = AutoTokenizer.from_pretrained(model_path)
# 1. Contar Parâmetros
num_params = model.num_parameters()
print(f"✅ Modelo carregado com sucesso!")
print(f"📏 Número de Parâmetros: {num_params:,} ({num_params/1e6:.1f} Milhões)")
print("-" * 40)
# 2. Criar Pipeline de Geração
# O pipeline abstrai a complexidade de tokenizar -> gerar -> decodificar
generator = pipeline("text-generation", model=model, tokenizer=tokenizer)
# 3. Testar
prompt = "Why is the sky blue?"
print(f"🤖 Pergunta (Prompt): \"{prompt}\"")
print("⏳ Gerando resposta...")
# Gerar texto (max_length limita o tamanho, num_return_sequences gera 1 resposta)
output = generator(prompt, max_length=100, num_return_sequences=1, do_sample=True, temperature=0.7)
print("-" * 40)
print("💬 Resposta Gerada:")
print(output[0]['generated_text'])
print("-" * 40)
except Exception as e:
print(f"❌ Erro ao carregar o modelo: {e}")
print("Verifique se o caminho da pasta está correto e se ela contém os arquivos config.json e pytorch_model.bin")
|