Try a different prediction method

#1
by Rafaeltak - opened
Files changed (1) hide show
  1. app.py +9 -12
app.py CHANGED
@@ -38,18 +38,15 @@ def formal_to_dostoevsky(texto_informal):
38
  )
39
 
40
  # Forzamos parámetros de generación específicos para transformación de estilo
41
- output_ids = model.generate(
42
- inputs["input_ids"],
43
- attention_mask=inputs["attention_mask"],
44
- max_length=300,
45
- min_length=30, # Forzamos a que desarrolle la idea
46
- num_beams=5,
47
- do_sample=True, # Necesario para usar temperature
48
- temperature=0.75,
49
- top_p=0.80,
50
- no_repeat_ngram_size=3,
51
- repetition_penalty=1.7,
52
- early_stopping=True
53
  )
54
 
55
  # Decodificar omitiendo los tokens especiales
 
38
  )
39
 
40
  # Forzamos parámetros de generación específicos para transformación de estilo
41
+ outputs = model.generate(
42
+ input_ids,
43
+ max_length=100,
44
+ do_sample=True, # Permite creatividad
45
+ top_k=50, # Filtra palabras raras
46
+ top_p=0.95, # Nucleus sampling para coherencia
47
+ temperature=0.9, # Evita que se vuelva loco o muy plano
48
+ repetition_penalty=2.5, # ¡Clave! Evita que repita "bread" o "Today"
49
+ no_repeat_ngram_size=3 # Evita que repita frases de 3 palabras
 
 
 
50
  )
51
 
52
  # Decodificar omitiendo los tokens especiales