End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:

all_results.json

@@ -1,29 +1,29 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5587765574455261,
-    "eval_rouge1": 0.4494,
+    "eval_loss": 0.5392429828643799,
+    "eval_rouge1": 0.4255,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.4489,
-    "eval_rougeLsum": 0.4499,
-    "eval_runtime": 112.3734,
+    "eval_rougeL": 0.4247,
+    "eval_rougeLsum": 0.4257,
+    "eval_runtime": 112.4591,
     "eval_samples": 747,
-    "eval_samples_per_second": 6.647,
-    "eval_steps_per_second": 0.214,
+    "eval_samples_per_second": 6.642,
+    "eval_steps_per_second": 0.213,
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5849229097366333,
-    "predict_rouge1": 0.4152,
+    "predict_loss": 0.5639165639877319,
+    "predict_rouge1": 0.3981,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4125,
-    "predict_rougeLsum": 0.414,
-    "predict_runtime": 564.0427,
+    "predict_rougeL": 0.3961,
+    "predict_rougeLsum": 0.3978,
+    "predict_runtime": 560.7464,
     "predict_samples": 3761,
-    "predict_samples_per_second": 6.668,
-    "predict_steps_per_second": 0.209,
-    "total_flos": 7.496541225879552e+16,
-    "train_loss": 0.914843011009319,
-    "train_runtime": 5163.073,
+    "predict_samples_per_second": 6.707,
+    "predict_steps_per_second": 0.21,
+    "total_flos": 7.526178534957466e+16,
+    "train_loss": 0.8352148081689672,
+    "train_runtime": 5166.7453,
     "train_samples": 14266,
-    "train_samples_per_second": 13.815,
-    "train_steps_per_second": 1.728
+    "train_samples_per_second": 13.806,
+    "train_steps_per_second": 1.726
 }

eval_results.json

@@ -1,13 +1,13 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5587765574455261,
-    "eval_rouge1": 0.4494,
+    "eval_loss": 0.5392429828643799,
+    "eval_rouge1": 0.4255,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.4489,
-    "eval_rougeLsum": 0.4499,
-    "eval_runtime": 112.3734,
+    "eval_rougeL": 0.4247,
+    "eval_rougeLsum": 0.4257,
+    "eval_runtime": 112.4591,
     "eval_samples": 747,
-    "eval_samples_per_second": 6.647,
-    "eval_steps_per_second": 0.214
+    "eval_samples_per_second": 6.642,
+    "eval_steps_per_second": 0.213
 }

generated_predictions.txt

@@ -1,25 +1,25 @@
 dan
-slot
+di
 
 untuk
 tidak
 saya
 9
 "
-.
+saat
 
 untuk
 dapat
 lebih
-mudah
+1
 atau
 adalah
 pada
 jika
 k
 
-1
-
+2
+,
 t
 ke
 yang
@@ -32,11 +32,11 @@ di
 kami
 ,
 .
-saat
-situs
-u
+
+-
+jika
 besar
-online
+indonesia
 itu
 
 di
@@ -54,7 +54,7 @@ hal
 
 akan
 lebih
-"
+sebagai
 seperti
 anda
 anda
@@ -68,43 +68,43 @@ dengan
 yang
 di
 -
-uang
+dengan
 atau
-"
+situs
 :
 online
 jika
-namun
+0
 maka
 untuk
 online
-7
+8
 saja
-besar
-sangat
+slot
+/
 akan
 untuk
 banyak
 orang
-:
-terbaik
-itu
+memiliki
+telah
+mungkin
 di
 dan
 dari
 atau
 dari
 0
-,
-hanya
-kan
-saja
+t
+kita
+u
+situs
 menjadi
 sebagai
 0
 satu
-besar
-membuat
+maka
+ada
 kita
 9
 oleh
@@ -114,10 +114,10 @@ dapat
 6
 kamu
 ini
-m
+lain
 dengan
 5
-.
+salah
 e
 8
 kan
@@ -134,49 +134,49 @@ slot
 i
 adalah
 juga
-ke
+beberapa
 
 dari
-
+.
 
 kita
 karena
-tidak
+.
 para
-hal
+judi
 ada
-pada
+akan
 
 saat
 d
 bisa
-8
+anda
 /
-baik
+indonesia
 baik
 s
 dan
 
-satu
+tersebut
 
-anda
+untuk
 
 dan
 yang
 menjadi
-
+oleh
 yang
 bisa
 besar
-d
+kami
 dan
 online
 sebagai
-satu
+3
 memiliki
 i
-
-sudah
+hal
+0
 0
 bisnis
 yang
@@ -188,20 +188,20 @@ saat
 
 saja
 itu
-
+situs
 oleh
 pada
 memiliki
 0
-6
+a
 pada
-salah
-beberapa
+baik
+dan
 4
 pada
 ini
 -
-kamu
+saja
 
 2
 1
@@ -215,7 +215,7 @@ i
 2
 0
 lebih
-ke
+mereka
 kamu
 dengan
 9
@@ -227,72 +227,72 @@ salah
 anda
 ini
 dengan
-saja
+menggunakan
 
 itu
 d
-pada
+itu
 .
-beberapa
+ini
 game
 lebih
-
+uang
 d
 tahun
 
-
+ingin
 oleh
 9
 atau
 permainan
-bisnis
+d
 ada
 .
 sudah
-oleh
+.
 untuk
 bahwa
 hanya
-satu
+salah
 5
-oleh
-sangat
+bahwa
+masih
 di
 
 kan
 online
-menggunakan
+slot
 atau
 anda
-kita
+3
 cara
-hanya
+
 
 lebih
 saat
 anda
 tidak
-game
+melakukan
 s
-akan
+juga
 di
-u
+saja
 dan
 sebagai
 an
 2
 .
 bisa
-uang
+kamu
 e
 0
 juga
-dalam
-5
-an
+adalah
+tidak
+sangat
 
 saat
-saja
+6
 ini
 /
 anda
@@ -303,23 +303,23 @@ jika
 ?
 5
 mereka
-saat
+an
 untuk
 :
-5
+sudah
 dan
-an
+membuat
 menjadi
 juga
 "
 
 ini
 bisa
-4
-?
+/
+permainan
 banyak
-slot
-8
+semua
+"
 di
 dalam
 ,
@@ -327,18 +327,18 @@ bermain
 i
 di
 kami
-memiliki
+sudah
 anda
-
-ke
+a
+an
 oleh
 ,
-tersebut
+saya
 s
-tersebut
+beberapa
 online
 a
-pada
+waktu
 8
 0
 situs
@@ -348,14 +348,14 @@ oleh
 permainan
 mereka
 itu
-di
+besar
 i
 dalam
-saja
+
 terbaik
 e
-satu
-banyak
+3
+5
 (
 hanya
 tidak
@@ -364,40 +364,40 @@ saat
 -
 an
 mereka
-n
+mudah
 
 
 
 yang
 mereka
 )
-karena
+kita
 -
 oleh
 
 u
 bisa
-d
+lain
 karena
 kita
 sudah
-secara
+a
 .
 2
 di
 d
-a
+pemain
 untuk
-hanya
+u
 ke
-untuk
+dengan
 cara
 yang
 untuk
 -
 
 )
-)
+saya
 
 satu
 i
@@ -406,60 +406,60 @@ pada
 2
 di
 saya
-memiliki
+9
 
 maka
 atau
 saja
 pada
 ini
-pada
+akan
 oleh
 itu
 itu
 .
 jika
-kamu
+hanya
 itu
 )
 
 menggunakan
-5
+memiliki
 baik
-"
-di
+harus
+jadi
 membuat
-akan
-oleh
+)
+7
 anda
 
 dengan
 ke
 untuk
 "
-jika
+7
 di
 s
-4
+semua
 yang
-baik
-t
+oleh
+2
 3
-6
+setiap
 dari
 untuk
 nya
 nya
 /
-slot
+game
 itu
-bisa
+permainan
 i
 2
 kita
-tidak
+:
 dalam
-banyak
+)
 jika
 game
 yang
@@ -473,29 +473,29 @@ atau
 saat
 itu
 
-sebagai
-,
+hal
+akan
 s
 -
-
+karena
 
 memiliki
 4
 
 saya
-
+ke
 7
 kami
-?
+an
 -
-o
-bahwa
+hal
+permainan
 9
-ada
+dapat
 m
-(
+2
 itu
-saja
+tersebut
 indonesia
 ini
 ada
@@ -505,16 +505,16 @@ untuk
 dalam
 mereka
 jika
-cara
-juga
+
+atau
 e
 nya
 lebih
-
+menjadi
 anda
 -
 saja
-kami
+hanya
 seperti
 .
 bisa
@@ -527,7 +527,7 @@ dengan
 telah
 tidak
 
-an
+sangat
 cara
 nya
 bisa
@@ -541,8 +541,8 @@ s
 3
 i
 dari
-slot
-9
+lain
+5
 
 3
 dapat
@@ -550,58 +550,58 @@ bisa
 7
 banyak
 )
-3
+para
 e
 i
-slot
+9
 atau
-ini
-pada
-2
+indonesia
+k
+dari
 online
 dan
 ,
 .
-yang
-nya
-membuat
+poker
+"
+a
 dengan
 pada
 akan
 
 bahwa
 (
-ada
+uang
 anda
 di
-telah
+uang
 ,
-poker
+baik
 untuk
-uang
+6
 saat
-dapat
+n
 anda
 itu
 dapat
 online
 kami
 0
-dari
-5
+oleh
+bermain
 seperti
 1
-juga
+:
 
 tidak
+dengan
 
-
-menjadi
-tahun
+jika
+slot
 itu
 ?
 tersebut
-yang
+hanya
 itu
 sudah
 banyak
@@ -611,41 +611,41 @@ saat
 dari
 di
 judi
-akan
+anda
 kan
 untuk
 "
 d
-a
-pemain
+s
+game
 dari
 salah
 juga
 akan
-)
+menjadi
 tidak
-banyak
+s
 s
 dan
 0
 tersebut
 8
-lain
-karena
-adalah
+bahwa
+)
+bisa
 saya
 yang
 tidak
 dengan
 dalam
-semua
+?
 cara
-itu
+seperti
 
 dan
-sebagai
+baik
 dari
-e
+orang
 di
 beberapa
 ,
@@ -656,10 +656,10 @@ online
 -
 menjadi
 9
-pemain
+tidak
 baik
 sangat
-judi
+kamu
 satu
 1
 
@@ -667,25 +667,25 @@ pada
 )
 atau
 sangat
-an
+juga
 orang
-ini
-u
+adalah
+slot
 namun
 ada
-an
+kami
 orang
 
 adalah
 jika
 satu
-
+atau
 seperti
-:
+bisa
 menjadi
 
 dengan
-t
+judi
 tidak
 saya
 lain
@@ -693,14 +693,14 @@ dapat
 /
 7
 dan
+harus
+bisa
 
-banyak
-
-orang
+dalam
 /
 di
-waktu
-kita
+e
+banyak
 situs
 secara
 bisa
@@ -709,8 +709,8 @@ nya
 cara
 (
 judi
-maka
-anda
+/
+an
 memiliki
 di
 
@@ -719,15 +719,15 @@ menjadi
 2
 dapat
 
-7
+0
 nya
-tahun
+2
 ini
-
+?
 (
 maka
-secara
-situs
+k
+judi
 akan
 sudah
 ini
@@ -741,56 +741,56 @@ tidak
 1
 5
 ini
-itu
+juga
 menjadi
 .
 telah
 i
-kan
+adalah
 ini
 :
 1
 dan
 kan
-karena
+)
 juga
 yang
 jika
 dengan
-(
+saja
 9
 
-tersebut
-kan
+:
+mereka
 4
 untuk
 0
-karena
+,
 banyak
 dengan
 telah
-beberapa
-/
-tahun
-8
+e
+s
+harus
+dalam
 i
 di
 
-bahwa
-p
+bermain
+juga
 sudah
 dan
 di
 juga
 
-7
+salah
 orang
 hal
-dari
+slot
 satu
 ,
 tersebut
-.
+7
 dalam
 "
 online
@@ -801,44 +801,44 @@ kamu
 
 9
 untuk
-itu
+hanya
 dari
 dalam
 ini
 ini
 orang
-sebagai
+bermain
 pada
 online
 situs
 0
 
-/
+jika
 tidak
 dari
-saja
+k
 ada
-)
+mereka
 akan
 di
-banyak
+di
 cara
 anda
 6
-sudah
+seperti
 orang
 :
-judi
+.
 0
-:
+kan
 .
-saja
-oleh
+kami
+menggunakan
 untuk
 lebih
 0
 
-harus
+k
 adalah
 7
 mereka
@@ -847,17 +847,17 @@ mereka
 
 yang
 akan
-tidak
+akan
 beberapa
 dari
-namun
+tentang
 1
 online
 dapat
 untuk
 nya
 e
-lebih
+hal
 
 bisa
 online
@@ -879,44 +879,44 @@ saja
 akan
 harus
 3
-secara
+4
 
-dari
+salah
 
 s
-7
+karena
 kamu
 seperti
 untuk
 oleh
 nya
-4
+sangat
 memiliki
-atau
+:
 bisa
 1
 
-e
+saja
 i
-tidak
+o
 judi
 kan
-anda
+secara
 
 0
 menjadi
 memiliki
 t
-ada
+kamu
 dari
 memiliki
 ,
-uang
-indonesia
+.
+adalah
 akan
 1
-ke
-hanya
+lebih
+sebagai
 anda
 ,
 saat
@@ -924,27 +924,27 @@ saya
 juga
 tersebut
 memiliki
-cara
-0
-,
-saya
+7
+bermain
+t
+kami
 
 itu
 mereka
 an
 (
 banyak
-
-0
+4
+k
 adalah
-para
+poker
 9
 pada
 dan
 akan
 (
 sangat
-dalam
+baik
 seperti
 tersebut
 2
@@ -954,17 +954,17 @@ ada
 oleh
 anda
 n
-hal
-uang
+i
+indonesia
 kita
 judi
-e
-kami
-menjadi
+kamu
+/
+memiliki
 
 5
 dan
-membuat
+4
 /
 sebagai
 0
@@ -972,16 +972,16 @@ baik
 dan
 saat
 2
-)
+3
 kan
-banyak
+(
 "
 ke
 ,
 banyak
-ada
+dalam
+
 
-ke
 0
 banyak
 yang
@@ -996,12 +996,12 @@ baik
 kami
 menjadi
 dapat
-u
+jika
 (
 k
 /
 online
-dari
+"
 kita
 game
 ?
@@ -1017,72 +1017,72 @@ hanya
 4
 ini
 :
--
+0
 2
 akan
-judi
+seperti
 ini
-tahun
+menjadi
 -
 jika
-dengan
+sangat
 mereka
 t
-online
+lebih
 dalam
 nya
 itu
-bermain
-/
-baik
+)
+hal
+a
 
 ada
 dari
-t
+bagi
 akan
-menggunakan
+sangat
 membuat
-u
+an
 (
 itu
 3
-:
-pada
+bermain
+sudah
 -
 situs
-8
-baik
+,
+d
 tersebut
 anda
 di
 pada
-a
+membuat
 bisa
 lebih
 yang
 1
 di
-dari
+ingin
 1
 akan
 kita
 harus
 sangat
 -
-secara
+9
 dapat
-s
+karena
 saya
-
+di
 anda
 dalam
 dalam
 untuk
-dengan
+(
 dan
-cara
+9
 untuk
-satu
+jadi
 tersebut
 lebih
 6
@@ -1091,24 +1091,24 @@ hanya
 
 bisa
 untuk
-tersebut
+poker
 
 nya
 dalam
 ?
 dan
 mereka
-pada
+bahwa
 -
 menjadi
-bermain
+dengan
 u
 a
-kami
+9
 
 menjadi
 adalah
-mendapatkan
+bisnis
 indonesia
 dapat
 ke
@@ -1117,7 +1117,7 @@ di
 8
 bahwa
 ,
-lebih
+harus
 untuk
 
 satu
@@ -1125,13 +1125,13 @@ satu
 ke
 lebih
 
-cara
+tersebut
 juga
 kita
 9
 sebagai
 t
-di
+kita
 dapat
 akan
 kami
@@ -1139,13 +1139,13 @@ untuk
 permainan
 k
 bisa
-satu
-memiliki
+mendapatkan
+
 :
 bahwa
-a
-para
-memiliki
+sudah
+kita
+3
 cara
 dan
 8
@@ -1153,8 +1153,8 @@ dengan
 ,
 2
 
--
-sebagai
+semua
+a
 di
 an
 kamu
@@ -1164,12 +1164,12 @@ mereka
 ?
 online
 nya
-(
+beberapa
 cara
 .
 0
-jika
-jika
+indonesia
+a
 akan
 ke
 1
@@ -1178,7 +1178,7 @@ ke
 ini
 bisa
 dan
-i
+8
 dengan
 cara
 k
@@ -1188,18 +1188,18 @@ indonesia
 9
 itu
 telah
-secara
-ingin
+u
+kamu
 sebagai
 dengan
 memiliki
 ada
-anda
+d
 i
 ke
 1
 bisa
-uang
+m
 
 menjadi
 dari
@@ -1215,7 +1215,7 @@ dengan
 mereka
 dalam
 yang
-0
+semua
 
 lebih
 :
@@ -1225,11 +1225,11 @@ anda
 "
 dari
 dan
-)
-beberapa
+hal
+cara
 membuat
 dengan
-menjadi
+/
 
 5
 dan
@@ -1241,11 +1241,11 @@ anda
 .
 karena
 banyak
-(
+ingin
 
 i
 lain
-game
+bagi
 4
 7
 
@@ -1276,7 +1276,7 @@ baik
 sangat
 1
 bagi
-itu
+pemain
 lebih
 indonesia
 hanya
@@ -1286,22 +1286,22 @@ untuk
 judi
 juga
 ,
-apa
+/
 online
 s
 ini
-bahwa
+kami
 yang
 itu
 anda
 dengan
 1
 beberapa
-beberapa
+sebagai
 d
-menjadi
-itu
-di
+karena
+.
+-
 .
 )
 kita
@@ -1310,57 +1310,57 @@ untuk
 u
 tidak
 adalah
-sebagai
+sangat
 yang
 lebih
 anda
 sangat
-kami
+sudah
 poker
-s
 i
-slot
-uang
+i
+dan
+telah
 melakukan
 ini
-situs
-para
-.
+4
+7
+1
 baik
 sangat
 9
 beberapa
-saya
+kan
 
 2
 mereka
 dan
 1
-tidak
+akan
 bagi
-menggunakan
+u
 
 anda
 dalam
 ada
 .
-menggunakan
-dengan
+6
+7
 juga
 bisa
 untuk
 salah
-m
+telah
 .
-a
+d
 9
 e
-maka
+namun
 )
 kita
 e
 2
-bisnis
+atau
 
 sangat
 9
@@ -1376,7 +1376,7 @@ cara
 tersebut
 ?
 juga
-saat
+dengan
 yang
 
 -
@@ -1385,7 +1385,7 @@ yang
 mereka
 
 a
-dapat
+saat
 8
 dan
 akan
@@ -1394,25 +1394,25 @@ jadi
 banyak
 atau
 satu
-an
 
-kan
+
+judi
 u
-sangat
+menjadi
 dari
 permainan
 k
 hal
 oleh
 besar
-dengan
+seperti
 cara
-jika
-6
-
+juga
+secara
+mereka
 )
-ke
-n
+bermain
+secara
 judi
 yang
 lebih
@@ -1429,7 +1429,7 @@ itu
 tersebut
 kamu
 hanya
-namun
+menggunakan
 dapat
 yang
 akan
@@ -1440,23 +1440,23 @@ dengan
 i
 s
 "
-apa
+d
 permainan
 sangat
-secara
+t
 dari
 
 8
 adalah
 banyak
 bisa
-kamu
-mereka
+u
+sebagai
 untuk
-t
+9
 ada
 yang
-akan
+t
 e
 nya
 sebagai
@@ -1464,12 +1464,12 @@ di
 melakukan
 m
 :
-dapat
+kita
 i
 satu
-harus
+?
 k
-anda
+harus
 atau
 5
 oleh
@@ -1481,7 +1481,7 @@ akan
 bisa
 
 ada
-karena
+?
 lebih
 atau
 a
@@ -1494,22 +1494,22 @@ baik
 /
 baik
 bisa
-harus
-2
+sangat
+sebagai
 sangat
 an
 a
-seperti
+besar
 ,
 di
 jika
 online
 t
 –
-hanya
-:
+u
+baik
 di
-jika
+akan
 ,
 akan
 ini
@@ -1523,12 +1523,12 @@ anda
 permainan
 dengan
 dapat
-beberapa
-jika
+saat
+sebagai
 9
 :
 yang
-bermain
+
 mereka
 yang
 memiliki
@@ -1540,40 +1540,40 @@ dan
 banyak
 perlu
 :
-beberapa
+uang
 untuk
 an
 memiliki
-indonesia
+maka
 membuat
 ke
 dalam
-slot
+memiliki
 mereka
 adalah
 pada
 -
-mereka
+kita
 /
-r
+–
 juga
 hal
 dalam
 hanya
-sudah
-situs
+karena
+t
 ke
-judi
+dari
 ,
-o
+game
 situs
-telah
-ini
+menjadi
+waktu
 itu
 u
 menjadi
 4
-,
+dan
 kamu
 
 
@@ -1581,7 +1581,7 @@ juga
 sangat
 slot
 5
-menggunakan
+semua
 atau
 bahwa
 .
@@ -1589,8 +1589,8 @@ bahwa
 memiliki
 dengan
 8
-.
-untuk
+i
+?
 k
 untuk
 atau
@@ -1600,7 +1600,7 @@ oleh
 mereka
 bisa
 tidak
-/
+jika
 /
 banyak
 
@@ -1612,7 +1612,7 @@ nya
 dari
 /
 yang
-
+memiliki
 menjadi
 akan
 
@@ -1620,15 +1620,15 @@ akan
 dengan
 juga
 mereka
-baru
+?
 adalah
 9
-maka
+secara
 
 bisa
 dan
-akan
-lebih
+sebagai
+ke
 8
 e
 
@@ -1637,53 +1637,53 @@ sudah
 :
 dan
 o
-0
-harga
+pada
+6
 satu
 sangat
 ,
-permainan
+:
 0
 anda
-an
+dari
 kamu
-membuat
-menggunakan
-tahun
-sudah
+secara
+slot
+kita
+bahwa
 kami
 oleh
 dapat
 beberapa
 tidak
-kami
-orang
+judi
+cara
 banyak
-harus
-7
+"
+kami
 
 .
 an
 dari
 memiliki
 1
-itu
+saja
 
-.
+dalam
 7
 dari
 dalam
 anda
-orang
-untuk
+menggunakan
+indonesia
 beberapa
-secara
+kan
 :
 -
-9
-9
+/
+kamu
 lebih
-8
+beberapa
 .
 ada
 mereka
@@ -1695,50 +1695,50 @@ bagi
 bagi
 tidak
 saya
-:
+dari
 
 0
 di
 dan
 membuat
 2
-2
+5
 uang
 u
 hanya
 ada
 1
 saya
-6
-bahwa
-k
-permainan
+semua
+judi
+ada
+menjadi
 
+para
 permainan
-bisa
 0
 sebagai
 itu
-mendapatkan
+hal
 0
-8
-adalah
+
+online
 melakukan
 
 
 kami
 
-maka
-poker
-lain
+sangat
+sudah
+melakukan
 cara
-m
+n
 lain
 pada
 oleh
 karena
 tersebut
-?
+saya
 ,
 .
 ini
@@ -1754,23 +1754,23 @@ menjadi
 ,
 menjadi
 )
-beberapa
+?
 adalah
 0
-atau
+orang
 
 9
 saya
 permainan
-0
+salah
 memiliki
 anda
 orang
 oleh
 
 di
-besar
-.
+u
+apa
 sudah
 
 0
@@ -1783,17 +1783,17 @@ akan
 karena
 apa
 .
-situs
+9
 bahwa
 oleh
 online
-bagi
+dapat
 .
 hanya
 yang
 pada
 di
-memiliki
+lebih
 
 judi
 4
@@ -1807,16 +1807,16 @@ kami
 beberapa
 yang
 bisa
-sudah
+jika
 tidak
 juga
 (
 (
 e
-judi
+kami
 permainan
-mungkin
-salah
+para
+ini
 )
 saat
 banyak
@@ -1825,13 +1825,13 @@ banyak
 yang
 d
 .
--
+0
 6
 .
 jika
-4
+harus
 1
-kami
+t
 atau
 bisa
 judi
@@ -1839,13 +1839,13 @@ tidak
 kamu
 dan
 satu
-telah
+u
 1
 oleh
 itu
 bermain
 adalah
-harus
+4
 
 1
 
@@ -1855,15 +1855,15 @@ anda
 tersebut
 s
 adalah
-t
+7
 5
-(
+karena
 .
 
 (
 di
-0
-,
+lebih
+secara
 juga
 .
 an
@@ -1878,7 +1878,7 @@ mereka
 oleh
 
 
-a
+u
 kan
 (
 
@@ -1888,12 +1888,12 @@ untuk
 
 banyak
 permainan
-i
+k
 harus
 s
 dalam
 harus
-membuat
+secara
 (
 tahun
 ke
@@ -1901,11 +1901,11 @@ pada
 
 ,
 itu
-sebagai
+dari
 judi
-dapat
+online
 menggunakan
--
+i
 harus
 karena
 menjadi
@@ -1914,17 +1914,17 @@ memiliki
 oleh
 pada
 bisa
-6
+indonesia
 a
 untuk
 dalam
-itu
+i
 "
 nya
 dengan
 pada
 ?
-baik
+apa
 bisnis
 lain
 dari
@@ -1937,31 +1937,31 @@ dan
 anda
 bisnis
 dengan
-bahwa
+bisnis
 karena
-9
-:
+kita
+permainan
 3
 2
 dalam
 di
 saat
-a
+s
 itu
 o
 
 adalah
 
 hal
-u
-,
+t
+6
 3
 juga
-kita
+besar
 2
-bermain
+uang
 t
-bermain
+cara
 
 ,
 9
@@ -1977,17 +1977,17 @@ bisa
 i
 karena
 online
-satu
+permainan
 dengan
 jadi
 
-bermain
+para
 tidak
-2
+harga
 nya
-beberapa
-ke
-9
+hal
+(
+hanya
 an
 dapat
 itu
@@ -2007,85 +2007,85 @@ anda
 lebih
 yang
 saya
-membuat
+saja
 .
 dalam
 akan
-harus
+hal
 2
 9
 .
 e
 mereka
-membuat
+salah
 dengan
 
 permainan
 harus
-mudah
+bagi
 -
 bahwa
 membuat
-kan
+sebagai
 6
 dari
 :
-7
+memiliki
 di
 
 r
 2
-kan
-ini
+bermain
+saja
 
 karena
 
 lain
 harus
 mereka
-poker
+permainan
 namun
 anda
-telah
+poker
 
 "
 maka
 2
 dapat
-sudah
+a
 ,
 anda
 -
-karena
+7
 2
 s
 0
 1
-karena
-4
+8
+juga
 seperti
 ke
-beberapa
-s
+kan
+banyak
 maka
 lebih
 harus
 
 ,
-beberapa
+pada
 -
-an
+sudah
 seperti
 sudah
 m
 an
 yang
-itu
+jika
 3
 bisa
 untuk
 
-beberapa
+4
 dapat
 untuk
 bisa
@@ -2097,19 +2097,19 @@ karena
 dengan
 di
 online
-ini
+hal
 permainan
 "
-permainan
+melakukan
 dapat
-dalam
+akan
 
-baik
+u
 nya
 menjadi
 banyak
 5
-game
+u
 n
 bahwa
 harus
@@ -2119,21 +2119,21 @@ membuat
 tahun
 di
 lain
-membuat
+5
 /
 memiliki
 .
-bagi
+an
 online
 i
 kami
 oleh
-yang
+maka
 1
-
+dari
 di
-kan
-banyak
+bagi
+s
 banyak
 anda
 
@@ -2141,26 +2141,26 @@ pemain
 )
 dari
 "
-ada
+(
 ,
-namun
+oleh
 lain
 situs
-sebagai
+judi
 4
 dapat
 .
-ke
-i
-kamu
+t
+t
+sudah
 atau
 i
-a
+saja
 untuk
 dengan
-baru
+tentang
 1
-beberapa
+sebagai
 mudah
 banyak
 0
@@ -2172,7 +2172,7 @@ i
 bahwa
 9
 tidak
-sangat
+8
 ada
 dalam
 untuk
@@ -2186,56 +2186,56 @@ anda
 saja
 ,
 )
-uang
+membuat
 sudah
-e
+lain
 itu
 jika
-besar
+dalam
 permainan
 beberapa
 yang
 ,
 saja
 kami
-sudah
+satu
 untuk
 bisa
 2
 hal
 dengan
 dalam
-judi
+poker
 itu
 mereka
 
 yang
-nya
+indonesia
 bisa
 saja
-s
+adalah
 beberapa
 (
 .
 anda
 untuk
 jika
-t
-seperti
-uang
+kan
 seperti
+tidak
+saat
 anda
 memiliki
 e
 ,
-apa
+tahun
 juga
-bisa
+1
 dalam
-membuat
+bermain
 .
 0
-para
+o
 0
 3
 anda
@@ -2243,47 +2243,47 @@ karena
 lebih
 1
 
-k
+seperti
 kan
 ,
 dengan
-slot
+online
 para
 an
 saya
-sudah
+dapat
 dari
 karena
 anda
-
+adalah
 besar
 5
-ke
-u
+
+melakukan
 yang
 akan
-dan
+bermain
 bisa
 
 beberapa
-bagi
+?
 3
-uang
-tidak
-an
+maka
+adalah
+bahwa
 atau
 nya
 menjadi
-ada
-indonesia
-membuat
+tersebut
+7
+dan
 dan
 menjadi
-8
+orang
 adalah
 pada
 
-seperti
+game
 
 ,
 orang
@@ -2292,17 +2292,17 @@ a
 1
 :
 o
+atau
 adalah
-adalah
-waktu
-salah
+namun
+menggunakan
 dapat
-saya
-online
+situs
+indonesia
 akan
 harus
 di
-1
+k
 :
 e
 
@@ -2331,23 +2331,23 @@ t
 adalah
 "
 satu
-cara
-di
+?
+u
 anda
 memiliki
-maka
+bermain
 dan
-"
-kami
+dengan
+poker
 ,
-kan
+6
 kita
 untuk
 u
 :
 memiliki
 ada
-untuk
+harus
 )
 sudah
 sangat
@@ -2356,25 +2356,25 @@ karena
 online
 oleh
 permainan
-karena
+baik
 bisa
 nya
-memiliki
+4
 mereka
 di
 yang
-online
+lebih
 8
-7
+melakukan
 
 -
 semua
 i
 jika
 anda
-dan
-an
-atau
+telah
+itu
+k
 
 d
 0
@@ -2383,10 +2383,10 @@ yang
 
 
 
-8
-karena
-d
-sudah
+jika
+lebih
+maka
+satu
 juga
 untuk
 dan
@@ -2394,7 +2394,7 @@ adalah
 dengan
 untuk
 dengan
-kita
+oleh
 jika
 3
 untuk
@@ -2404,44 +2404,44 @@ apa
 itu
 s
 menjadi
-5
+cara
 sebagai
 atau
 6
 ini
 9
-akan
-d
-situs
+setiap
+salah
+pemain
 adalah
 dalam
 )
 /
-dan
+namun
 lebih
 maka
 0
-dan
+a
 e
 permainan
 3
 ,
-bisa
+sangat
 ?
 online
 banyak
 game
-i
+s
 lebih
 2
 
 -
 yang
-"
-jadi
-pemain
+8
+jika
+lebih
 banyak
-oleh
+hal
 mereka
 cara
 )
@@ -2450,27 +2450,27 @@ kami
 -
 dengan
 yang
-u
+4
 yang
 sudah
 adalah
-s
+karena
 judi
 baik
-an
+5
 situs
 
 juga
 anda
 kamu
 .
-itu
+slot
 oleh
 
 i
-ke
 /
-ini
+satu
+-
 a
 2
 ini
@@ -2478,21 +2478,21 @@ karena
 (
 
 
-harus
+online
 yang
-e
+saja
 akan
 ini
-satu
+kan
 anda
-jika
+3
 slot
 ,
 online
 di
-adalah
+untuk
 atau
-satu
+"
 hal
 saya
 yang
@@ -2503,8 +2503,8 @@ pada
 hal
 ada
 8
-?
-0
+6
+nya
 dengan
 d
 kita
@@ -2513,7 +2513,7 @@ situs
 untuk
 menjadi
 mereka
-karena
+)
 
 itu
 kami
@@ -2522,11 +2522,11 @@ tidak
 ?
 i
 ada
-tidak
-,
+
+e
 
 1
-uang
+5
 
 2
 e
@@ -2539,26 +2539,26 @@ p
 4
 
 dengan
-k
+
 :
 harus
 /
 saja
 untuk
 uang
-online
+lebih
 dalam
 ?
-harus
-saat
+sangat
+(
 s
 adalah
 nya
-kan
+d
 
-tersebut
+bahwa
 nya
-waktu
+kita
 mereka
 yang
 an
@@ -2571,9 +2571,9 @@ saat
 yang
 ,
 t
-tahun
+t
 namun
-
+6
 karena
 untuk
 tidak
@@ -2583,17 +2583,17 @@ online
 ke
 dengan
 ?
-e
+u
 di
 
 itu
-banyak
+mereka
 dapat
 pada
 dari
 nya
 dapat
-maka
+memiliki
 
 5
 :
@@ -2601,10 +2601,10 @@ e
 saja
 -
 i
-tersebut
-pemain
-satu
-lebih
+baik
+para
+ke
+baik
 kita
 
 beberapa
@@ -2615,12 +2615,12 @@ oleh
 karena
 harus
 .
-?
+u
 uang
 memiliki
 (
 
-kami
+an
 itu
 menjadi
 itu
@@ -2632,7 +2632,7 @@ nya
 yang
 9
 an
-cara
+s
 yang
 dapat
 yang
@@ -2642,32 +2642,32 @@ dengan
 tersebut
 atau
 adalah
-baik
-ada
-dapat
+7
+yang
+-
 hanya
 sudah
 :
 sangat
 tidak
 dengan
-yang
-saya
+memiliki
+6
 situs
 0
--
+di
 kamu
 bisa
 beberapa
 .
 yang
-
+9
 u
-
-:
-sebagai
+,
+tersebut
+karena
 2
-harus
+tersebut
 0
 kami
 kamu
@@ -2681,10 +2681,10 @@ di
 seperti
 (
 menggunakan
-/
+jika
 sangat
 di
-an
+adalah
 i
 2
 ,
@@ -2694,21 +2694,21 @@ indonesia
 sangat
 untuk
 atau
-a
-semua
+lain
+ingin
 situs
 lebih
 
-namun
-
+waktu
+dengan
 jika
 adalah
-9
+seperti
 yang
 anda
-saya
+apa
 0
-bisnis
+melakukan
 ini
 di
 9
@@ -2716,11 +2716,11 @@ pada
 1
 oleh
 .
-,
+judi
 )
-memiliki
+secara
 5
-
+9
 :
 hal
 o
@@ -2739,16 +2739,16 @@ dari
 permainan
 i
 a
-
+akan
 yang
 lebih
 8
 ini
 akan
-salah
+situs
 online
 online
-tersebut
+ada
 yang
 -
 ke
@@ -2765,10 +2765,10 @@ anda
 4
 
 orang
-akan
+6
 -
 dapat
-sebagai
+beberapa
 anda
 2
 anda
@@ -2778,83 +2778,83 @@ u
 dan
 itu
 tersebut
-melakukan
+.
 tidak
 dan
 s
 8
 indonesia
-saya
+/
 oleh
 s
-online
+i
 9
 3
 hal
-adalah
+kamu
 0
-bisa
-harus
-tersebut
+hanya
+saja
+
 ini
 )
 .
 nya
-poker
+n
 bahwa
 7
 sangat
 yang
-cara
+karena
 i
 hanya
-satu
+k
 saat
 i
-satu
+sudah
 kita
 dan
 untuk
 ini
-kamu
+?
 dapat
 e
-akan
-,
+waktu
+harga
 anda
 di
 juga
 dalam
-beberapa
+slot
 0
 untuk
 ada
 jika
-/
+ini
 0
 (
 tersebut
 -
 .
 anda
-dengan
+satu
 online
 ini
-adalah
+bisa
 
 tersebut
 ini
-7
+saja
 kami
 apa
 2
 ada
-bisa
+situs
 ,
 saja
 dan
 anda
-cara
+satu
 kita
 kamu
 untuk
@@ -2867,34 +2867,34 @@ situs
 s
 anda
 tidak
-pada
+saat
 dengan
 oleh
 banyak
 )
-8
+"
 memiliki
 dalam
 
-untuk
+)
 oleh
-sebagai
-
+bermain
+dan
 sudah
-indonesia
+maka
 ada
 dengan
 permainan
 tersebut
-dalam
-bisa
-saja
+.
+n
+harus
 itu
 akan
-saja
+hanya
 ?
 jika
-kan
+
 0
 3
 memiliki
@@ -2902,22 +2902,22 @@ akan
 itu
 sangat
 0
-pada
-kamu
+nya
+d
 mereka
 sudah
 pada
 untuk
 1
-harus
+(
 
 secara
 
 
 sebagai
-bahwa
+kan
 s
-melakukan
+adalah
 dapat
 sudah
 yang
@@ -2928,11 +2928,11 @@ adalah
 2
 tidak
 ini
-itu
-?
+harus
+secara
 2
-adalah
-hal
+ingin
+slot
 untuk
 0
 t
@@ -2948,9 +2948,9 @@ banyak
 seperti
 saat
 akan
-oleh
-tidak
-juga
+7
+akan
+lebih
 kami
 besar
 yang
@@ -2959,21 +2959,21 @@ karena
 5
 uang
 dengan
-t
+sebagai
 ,
 lain
 dalam
 dan
 akan
-saya
+menjadi
 2
 ini
-,
+jadi
 apa
 mereka
 untuk
 k
-itu
+s
 apa
 dan
 mendapatkan
@@ -2988,20 +2988,20 @@ ke
 telah
 s
 situs
-saat
+mungkin
 4
 bisnis
-secara
-maka
+membuat
+sangat
 namun
 nya
 ,
-uang
-sebagai
+semua
+hanya
 dengan
 menjadi
 /
-t
+6
 harus
 .
 dengan
@@ -3026,7 +3026,7 @@ lebih
 
 bisa
 nya
-memiliki
+besar
 membuat
 pada
 adalah
@@ -3034,24 +3034,24 @@ salah
 maka
 banyak
 )
-itu
-0
-maka
 online
+0
+
+lebih
 situs
-kami
+slot
 5
 menjadi
-online
+5
 orang
 .
-/
+hal
 ?
 /
 0
 anda
 adalah
-
+5
 beberapa
 online
 
@@ -3078,8 +3078,8 @@ seperti
 nya
 kamu
 6
-8
-sangat
+membuat
+menjadi
 mendapatkan
 kamu
 ada
@@ -3095,30 +3095,30 @@ baik
 anda
 2
 .
-seperti
+karena
 akan
-kita
+an
 
 cara
-bermain
+para
 kita
 seperti
 
 .
-tentang
+indonesia
 3
 )
 dan
-,
+melakukan
 0
 tidak
-dalam
+dari
 sebagai
 situs
 dari
-situs
+jika
+-
 -
-k
 semua
 dengan
 saja
@@ -3127,14 +3127,14 @@ oleh
 dengan
 
 
-poker
+)
 dari
 juga
 nya
 karena
 saya
 adalah
-situs
+secara
 saja
 slot
 sudah
@@ -3145,42 +3145,42 @@ dengan
 ,
 karena
 tidak
-adalah
+banyak
 lebih
 i
 s
 ke
 hal
-kita
+7
 ke
 baik
 ke
 beberapa
-salah
+lain
 
 ,
 
 "
 1
-secara
+0
 lebih
-?
-judi
-menjadi
+banyak
 judi
 pada
+saya
+pada
 mereka
-situs
+cara
 pada
 ke
 /
-9
-u
-di
+
+membuat
+jika
 "
 memiliki
-hanya
-anda
+"
+jika
 untuk
 orang
 
@@ -3189,17 +3189,17 @@ yang
 
 
 lain
-anda
+lain
 
 satu
 ini
 secara
 karena
-kamu
+oleh
 harus
 
 besar
-semua
+kami
 i
 karena
 seperti
@@ -3207,12 +3207,12 @@ seperti
 dengan
 
 bisa
-saja
-bahwa
+lain
+kita
 2
 di
 e
-sudah
+tidak
 dari
 8
 online
@@ -3220,23 +3220,23 @@ online
 karena
 ?
 hal
-3
-seperti
-itu
-kamu
-membuat
-:
-(
+3
+seperti
+seperti
+bisnis
+para
+saat
+situs
 ,
 0
 adalah
 dari
 atau
-cara
+sangat
 /
 hal
 ini
-hal
+memiliki
 .
 satu
 
@@ -3245,55 +3245,55 @@ dan
 indonesia
 hanya
 8
-sebagai
-seperti
+sangat
+t
 atau
-para
+slot
 untuk
-bahwa
+judi
 ada
-sebagai
+pemain
 untuk
-.
-saya
+adalah
+dan
 cara
 ke
 ,
-besar
+?
 yang
 s
 5
 
-yang
+u
 yang
 lebih
 baik
 bisa
 tidak
-?
+7
 indonesia
-juga
-(
+1
+7
 saat
 ,
 secara
-tidak
-secara
-besar
-anda
+an
+an
+untuk
+dapat
 mereka
-online
+mudah
 ,
 
-e
+menjadi
 3
 salah
-situs
+saja
 kita
 e
 online
 yang
-di
+an
 5
 s
 tidak
@@ -3302,8 +3302,8 @@ kami
 adalah
 9
 mereka
-pada
-hal
+5
+2
 0
 adalah
 kan
@@ -3316,23 +3316,23 @@ d
 pada
 saya
 oleh
-tahun
-"
+baik
+cara
 
 k
 hal
-dan
-judi
+kan
+kami
 bagi
-salah
+kan
 bagi
-4
+ini
 online
 n
-jika
-,
+banyak
+5
 tidak
-menjadi
+e
 dalam
 jika
 oleh
@@ -3341,22 +3341,22 @@ membuat
 sebagai
 di
 menjadi
-"
-kami
+)
+beberapa
 beberapa
 
 s
-ini
+nya
 s
 jika
-3
+5
 pada
 kami
 ke
 karena
 ke
 3
-"
+pada
 dan
 nya
 2
@@ -3371,40 +3371,40 @@ saja
 dalam
 tidak
 anda
-e
-i
+permainan
+jadi
 ini
 4
 menggunakan
-namun
+game
 nya
 harus
 untuk
 i
-dengan
+permainan
 
 dapat
 tidak
 d
-harga
-sudah
+p
+4
 akan
-seperti
+karena
 orang
 bahwa
 juga
 satu
 
 kami
-:
-s
+"
+sangat
+kami
 saya
-an
 ini
 untuk
 kita
 namun
-dan
+
 lebih
 2
 2
@@ -3424,7 +3424,7 @@ harus
 di
 akan
 beberapa
-kamu
+saat
 sebagai
 yang
 
@@ -3432,7 +3432,7 @@ sebagai
 s
 /
 adalah
-kita
+tidak
 
 yang
 s
@@ -3440,64 +3440,64 @@ lebih
 
 tersebut
 situs
-/
+telah
 s
-sangat
+?
 anda
-0
+o
 nya
 bahwa
 tidak
 /
 saja
 .
-9
-judi
+secara
+salah
 di
 3
 seperti
-seperti
+beberapa
 karena
-t
+kami
 pada
 e
-secara
-?
+t
+9
 8
-
+namun
 ,
 kita
 ini
 
-ke
+satu
 mereka
-baik
+indonesia
 6
 
-dengan
+sangat
 online
-akan
+(
 
 
 5
 situs
-hanya
+situs
 oleh
-online
+orang
 ada
 bahwa
-
+kami
 dari
 hal
 dengan
-itu
+memiliki
 
 memiliki
-dengan
-e
+
+k
 kita
-sangat
-i
+e
+bahwa
 4
 tersebut
 seperti
@@ -3505,14 +3505,14 @@ situs
 1
 bisa
 dan
-
+pemain
 saja
 3
 ke
-saat
+cara
 
 )
-7
+judi
 lain
 u
 akan
@@ -3539,7 +3539,7 @@ lebih
 sebagai
 satu
 
-sangat
+9
 7
 dalam
 i
@@ -3550,41 +3550,41 @@ bisa
 namun
 )
 sangat
-saja
+anda
 ini
 4
 s
 jika
 harus
 0
-di
+saja
 8
-"
+pemain
 2
 ini
 menjadi
-ini
+secara
 banyak
 anda
-n
+d
 indonesia
 ini
 ada
 untuk
 online
 di
-karena
+akan
 sudah
 satu
 k
-oleh
+maka
 baik
 indonesia
-bermain
-online
+an
+6
 poker
 sebagai
-bisa
+kamu
 saya
 online
 8
@@ -3592,18 +3592,18 @@ kita
 pada
 oleh
 dengan
-memiliki
+kita
 (
 ini
 .
 s
 dari
 ini
-di
+semua
 di
 sangat
 harus
-kan
+7
 7
 harus
 0
@@ -3627,11 +3627,11 @@ memiliki
 saja
 beberapa
 orang
-hanya
-:
-3
+2
+slot
+ada
 judi
-menjadi
+5
 untuk
 game
 pemain
@@ -3641,28 +3641,28 @@ itu
 oleh
 ini
 situs
-uang
+saja
 :
 dan
 dan
 dalam
-saja
+oleh
 0
 dengan
-dalam
+semua
 poker
 )
 2
-/
+saya
 orang
 
 "
 dari
 anda
 )
-9
+beberapa
 online
-satu
+kan
 a
 yang
 .
@@ -3670,25 +3670,25 @@ yang
 orang
 atau
 yang
-bermain
+satu
 mereka
-d
+s
 -
 sudah
 "
 t
-indonesia
-itu
-hanya
+e
+online
+baik
 banyak
 0
 adalah
 lebih
-8
+"
 2
 juga
 baik
-lebih
+di
 itu
 kami
 dengan
@@ -3698,24 +3698,24 @@ karena
 orang
 7
 hal
-saja
+
 tersebut
-)
+setiap
 saya
 lebih
-bahwa
+/
 bisnis
 satu
 menggunakan
 5
-bahwa
-harus
+seperti
+6
 0
 para
 beberapa
 baik
 ada
-hanya
+an
 
 e
 baik
@@ -3724,12 +3724,12 @@ akan
 membuat
 slot
 akan
-menjadi
+atau
 pada
-/
+sangat
 ini
 dan
-.
+
 tidak
 online
 jika
@@ -3740,22 +3740,22 @@ yang
 kami
 9
 orang
-jika
+menjadi
 akan
 telah
 dengan
 juga
-indonesia
-u
+saja
+harus
 dari
-a
-besar
+bahwa
+satu
 beberapa
 ,
 :
-mereka
-game
-m
-kamu
+bisnis
+slot
+salah
+k
 6
 dari

predict_results.json

@@ -1,12 +1,12 @@
 {
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5849229097366333,
-    "predict_rouge1": 0.4152,
+    "predict_loss": 0.5639165639877319,
+    "predict_rouge1": 0.3981,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4125,
-    "predict_rougeLsum": 0.414,
-    "predict_runtime": 564.0427,
+    "predict_rougeL": 0.3961,
+    "predict_rougeLsum": 0.3978,
+    "predict_runtime": 560.7464,
     "predict_samples": 3761,
-    "predict_samples_per_second": 6.668,
-    "predict_steps_per_second": 0.209
+    "predict_samples_per_second": 6.707,
+    "predict_steps_per_second": 0.21
 }

train_results.json

@@ -1,9 +1,9 @@
 {
     "epoch": 5.0,
-    "total_flos": 7.496541225879552e+16,
-    "train_loss": 0.914843011009319,
-    "train_runtime": 5163.073,
+    "total_flos": 7.526178534957466e+16,
+    "train_loss": 0.8352148081689672,
+    "train_runtime": 5166.7453,
     "train_samples": 14266,
-    "train_samples_per_second": 13.815,
-    "train_steps_per_second": 1.728
+    "train_samples_per_second": 13.806,
+    "train_steps_per_second": 1.726
 }

trainer_state.json

@@ -10,112 +10,112 @@
   "log_history": [
     {
       "epoch": 1.0,
-      "grad_norm": 2.7599432468414307,
+      "grad_norm": 3.2753658294677734,
       "learning_rate": 4e-05,
-      "loss": 1.3987,
+      "loss": 1.233,
       "step": 1784
     },
     {
       "epoch": 1.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.6450759768486023,
-      "eval_rouge1": 0.4474,
+      "eval_loss": 0.6087062954902649,
+      "eval_rouge1": 0.4912,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4495,
-      "eval_rougeLsum": 0.4472,
-      "eval_runtime": 113.2438,
-      "eval_samples_per_second": 6.596,
-      "eval_steps_per_second": 0.212,
+      "eval_rougeL": 0.4859,
+      "eval_rougeLsum": 0.4881,
+      "eval_runtime": 112.5011,
+      "eval_samples_per_second": 6.64,
+      "eval_steps_per_second": 0.213,
       "step": 1784
     },
     {
       "epoch": 2.0,
-      "grad_norm": 3.751906633377075,
+      "grad_norm": 2.76861834526062,
       "learning_rate": 3e-05,
-      "loss": 0.8591,
+      "loss": 0.7935,
       "step": 3568
     },
     {
       "epoch": 2.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5833613276481628,
-      "eval_rouge1": 0.4222,
+      "eval_loss": 0.5581778883934021,
+      "eval_rouge1": 0.4176,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4206,
-      "eval_rougeLsum": 0.4228,
-      "eval_runtime": 112.1253,
-      "eval_samples_per_second": 6.662,
+      "eval_rougeL": 0.4157,
+      "eval_rougeLsum": 0.4171,
+      "eval_runtime": 112.1842,
+      "eval_samples_per_second": 6.659,
       "eval_steps_per_second": 0.214,
       "step": 3568
     },
     {
       "epoch": 3.0,
-      "grad_norm": 1.9588125944137573,
+      "grad_norm": 1.8127230405807495,
       "learning_rate": 2e-05,
-      "loss": 0.7949,
+      "loss": 0.7385,
       "step": 5352
     },
     {
       "epoch": 3.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5684486031532288,
-      "eval_rouge1": 0.4462,
+      "eval_loss": 0.5451030731201172,
+      "eval_rouge1": 0.4227,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4449,
-      "eval_rougeLsum": 0.4456,
-      "eval_runtime": 111.7592,
-      "eval_samples_per_second": 6.684,
-      "eval_steps_per_second": 0.215,
+      "eval_rougeL": 0.4192,
+      "eval_rougeLsum": 0.4214,
+      "eval_runtime": 112.2353,
+      "eval_samples_per_second": 6.656,
+      "eval_steps_per_second": 0.214,
       "step": 5352
     },
     {
       "epoch": 4.0,
-      "grad_norm": 2.155653238296509,
+      "grad_norm": 1.9295331239700317,
       "learning_rate": 1e-05,
-      "loss": 0.7674,
+      "loss": 0.7114,
       "step": 7136
     },
     {
       "epoch": 4.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5638545751571655,
-      "eval_rouge1": 0.4564,
+      "eval_loss": 0.5406314730644226,
+      "eval_rouge1": 0.4115,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4538,
-      "eval_rougeLsum": 0.4545,
-      "eval_runtime": 113.3026,
-      "eval_samples_per_second": 6.593,
-      "eval_steps_per_second": 0.212,
+      "eval_rougeL": 0.4115,
+      "eval_rougeLsum": 0.4106,
+      "eval_runtime": 112.3402,
+      "eval_samples_per_second": 6.649,
+      "eval_steps_per_second": 0.214,
       "step": 7136
     },
     {
       "epoch": 5.0,
-      "grad_norm": 2.0103201866149902,
+      "grad_norm": 1.6341142654418945,
       "learning_rate": 0.0,
-      "loss": 0.7542,
+      "loss": 0.6996,
       "step": 8920
     },
     {
       "epoch": 5.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5587765574455261,
-      "eval_rouge1": 0.4494,
+      "eval_loss": 0.5392429828643799,
+      "eval_rouge1": 0.4255,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4489,
-      "eval_rougeLsum": 0.4499,
-      "eval_runtime": 112.3597,
-      "eval_samples_per_second": 6.648,
-      "eval_steps_per_second": 0.214,
+      "eval_rougeL": 0.4247,
+      "eval_rougeLsum": 0.4257,
+      "eval_runtime": 113.1717,
+      "eval_samples_per_second": 6.601,
+      "eval_steps_per_second": 0.212,
       "step": 8920
     },
     {
       "epoch": 5.0,
       "step": 8920,
-      "total_flos": 7.496541225879552e+16,
-      "train_loss": 0.914843011009319,
-      "train_runtime": 5163.073,
-      "train_samples_per_second": 13.815,
-      "train_steps_per_second": 1.728
+      "total_flos": 7.526178534957466e+16,
+      "train_loss": 0.8352148081689672,
+      "train_runtime": 5166.7453,
+      "train_samples_per_second": 13.806,
+      "train_steps_per_second": 1.726
     }
   ],
   "logging_steps": 500,
@@ -123,7 +123,7 @@
   "num_input_tokens_seen": 0,
   "num_train_epochs": 5,
   "save_steps": 500,
-  "total_flos": 7.496541225879552e+16,
+  "total_flos": 7.526178534957466e+16,
   "train_batch_size": 8,
   "trial_name": null,
   "trial_params": null