End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.5089
-- Rouge1: 0.6799
+- Rouge1: 0.3782
 - Rouge2: 0.0
-- Rougel: 0.6778
-- Rougelsum: 0.681
+- Rougel: 0.3758
+- Rougelsum: 0.3773
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -1,29 +1,29 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5211541056632996,
-    "eval_rouge1": 0.3932,
+    "eval_loss": 0.508884608745575,
+    "eval_rouge1": 0.3782,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.3893,
-    "eval_rougeLsum": 0.3908,
-    "eval_runtime": 604.5409,
+    "eval_rougeL": 0.3758,
+    "eval_rougeLsum": 0.3773,
+    "eval_runtime": 570.3471,
     "eval_samples": 750,
-    "eval_samples_per_second": 1.241,
-    "eval_steps_per_second": 0.04,
+    "eval_samples_per_second": 1.315,
+    "eval_steps_per_second": 0.042,
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5071459412574768,
-    "predict_rouge1": 0.4145,
+    "predict_loss": 0.49721843004226685,
+    "predict_rouge1": 0.4346,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.415,
-    "predict_rougeLsum": 0.4143,
-    "predict_runtime": 2697.3303,
+    "predict_rougeL": 0.4342,
+    "predict_rougeLsum": 0.4339,
+    "predict_runtime": 2503.4473,
     "predict_samples": 3752,
-    "predict_samples_per_second": 1.391,
-    "predict_steps_per_second": 0.044,
-    "total_flos": 4.90582346563584e+16,
-    "train_loss": 0.6208877221351247,
-    "train_runtime": 3924.9461,
+    "predict_samples_per_second": 1.499,
+    "predict_steps_per_second": 0.047,
+    "total_flos": 4.925218464202752e+16,
+    "train_loss": 0.5876135240221237,
+    "train_runtime": 3946.7671,
     "train_samples": 14272,
-    "train_samples_per_second": 18.181,
-    "train_steps_per_second": 1.136
+    "train_samples_per_second": 18.081,
+    "train_steps_per_second": 1.13
 }

eval_results.json

@@ -1,13 +1,13 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5211541056632996,
-    "eval_rouge1": 0.3932,
+    "eval_loss": 0.508884608745575,
+    "eval_rouge1": 0.3782,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.3893,
-    "eval_rougeLsum": 0.3908,
-    "eval_runtime": 604.5409,
+    "eval_rougeL": 0.3758,
+    "eval_rougeLsum": 0.3773,
+    "eval_runtime": 570.3471,
     "eval_samples": 750,
-    "eval_samples_per_second": 1.241,
-    "eval_steps_per_second": 0.04
+    "eval_samples_per_second": 1.315,
+    "eval_steps_per_second": 0.042
 }

generated_predictions.txt

@@ -2,7 +2,7 @@ atau
 0
 dengan
 bisa
-t
+bisa
 ada
 saja
 yang
@@ -28,7 +28,7 @@ e
 untuk
 atau
 banyak
-bermain
+uang
 harus
 bisa
 m
@@ -39,7 +39,7 @@ anda
 anda
 hal
 
-
+menjadi
 
 
 "
@@ -54,14 +54,14 @@ dan
 situs
 sebagai
 menjadi
-maka
-bagi
+e
+para
 ada
 an
 
 (
 dapat
-ini
+yang
 saya
 untuk
 memiliki
@@ -69,29 +69,29 @@ memiliki
 (
 
 ada
-pemain
+dari
 .
 lebih
 indonesia
-yang
-permainan
+karena
+kita
 ,
 oleh
 4
 :
 6
 dapat
-:
+1
 hal
-7
-kan
+dengan
+bisa
 2
-bermain
+maka
 nya
 dari
 (
 o
-mendapatkan
+o
 anda
 u
 -
@@ -99,44 +99,44 @@ ini
 tidak
 
 6
-m
+apa
 sudah
 bahwa
 judi
 mendapatkan
 atau
 e
-tersebut
+/
 sangat
 i
-n
+k
 ke
 bahwa
 dari
-indonesia
+salah
 sebagai
-dan
+namun
 satu
 online
 dalam
 saat
 
 akan
-itu
-satu
+beberapa
+saya
 2
 kita
 e
-yang
-mendapatkan
+menggunakan
+di
 :
 di
 merupakan
 secara
 sangat
-tentang
+agar
 menggunakan
-hanya
+kita
 menjadi
 satu
 tahun
@@ -146,16 +146,16 @@ dan
 ini
 adalah
 ke
-"
+seperti
 bisa
 menjadi
-bisnis
+satu
 dari
 dalam
 )
-7
+-
 2
-tidak
+kita
 kan
 di
 -
@@ -165,20 +165,20 @@ adalah
 saja
 saat
 s
-o
-n
+untuk
+?
 atau
 lebih
 tidak
 1
-cara
+uang
 tersebut
 ini
 kan
 hal
 atau
 2
-permainan
+s
 saja
 saya
 itu
@@ -192,8 +192,8 @@ tidak
 
 an
 
-hal
-banyak
+saya
+(
 sudah
 di
 untuk
@@ -216,10 +216,10 @@ judi
 itu
 kita
 
-tahun
+situs
 mudah
 untuk
-u
+7
 yang
 salah
 
@@ -233,7 +233,7 @@ slot
 ,
 adalah
 (
-dan
+-
 uang
 
 lebih
@@ -242,7 +242,7 @@ membuat
 2
 menggunakan
 4
-a
+hanya
 menjadi
 saat
 oleh
@@ -257,7 +257,7 @@ bahwa
 9
 
 ada
-hal
+harus
 ini
 karena
 2
@@ -268,7 +268,7 @@ untuk
 pada
 t
 nya
-banyak
+karena
 dalam
 saat
 dapat
@@ -278,7 +278,7 @@ lebih
 kamu
 seperti
 akan
-6
+beberapa
 
 0
 .
@@ -286,7 +286,7 @@ akan
 dan
 bahwa
 bisa
-mendapatkan
+kan
 dapat
 seperti
 e
@@ -297,7 +297,7 @@ untuk
 lebih
 sebagai
 harus
-untuk
+maka
 )
 untuk
 dalam
@@ -312,8 +312,8 @@ memiliki
 beberapa
 )
 
-bisnis
-sangat
+situs
+akan
 1
 salah
 4
@@ -326,8 +326,8 @@ mereka
 permainan
 1
 mereka
-semua
-p
+secara
+pemain
 anda
 dari
 dari
@@ -339,12 +339,12 @@ nya
 anda
 lebih
 tidak
-cara
+n
 besar
 dengan
 
 -
-u
+nya
 saya
 saat
 9
@@ -360,7 +360,7 @@ salah
 ada
 situs
 e
-saja
+hanya
 ada
 ini
 0
@@ -377,7 +377,7 @@ anda
 0
 baik
 
--
+0
 9
 (
 oleh
@@ -386,20 +386,20 @@ ada
 hanya
 banyak
 judi
-(
+lagi
 
 oleh
 kan
 dalam
 s
-tersebut
+adalah
 adalah
 mereka
 satu
 s
 -
 
-"
+)
 i
 juga
 menjadi
@@ -423,12 +423,12 @@ dapat
 ,
 baru
 
-dapat
+)
 seperti
 besar
 ,
 akan
-9
+yang
 oleh
 adalah
 semua
@@ -436,11 +436,11 @@ semua
 bahwa
 
 itu
-kamu
+"
 sehingga
 6
 satu
-)
+poker
 hal
 dari
 t
@@ -461,11 +461,11 @@ k
 1
 atau
 tidak
-seperti
+8
 sebagai
 e
 memiliki
-baik
+indonesia
 akan
 dia
 itu
@@ -479,9 +479,9 @@ a
 g
 menggunakan
 hal
-saat
+8
 
-untuk
+u
 karena
 
 seperti
@@ -493,8 +493,8 @@ satu
 
 7
 (
-
-sebagai
+an
+d
 saat
 salah
 dan
@@ -505,7 +505,7 @@ seperti
 saya
 tersebut
 baik
-lain
+ke
 s
 jika
 :
@@ -516,7 +516,7 @@ sebagai
 akan
 2
 saja
-besar
+uang
 0
 kami
 atau
@@ -530,21 +530,21 @@ dalam
 lain
 karena
 memiliki
-karena
+cara
 (
 
 
-orang
+cara
 .
 membuat
-apa
+game
 
 tidak
 pemain
 hal
 dan
 9
-lain
+melakukan
 ke
 adalah
 ,
@@ -553,7 +553,7 @@ para
 dalam
 secara
 beberapa
-nya
+?
 
 
 salah
@@ -566,24 +566,24 @@ harus
 2
 oleh
 .
-poker
-sudah
+ke
+game
 orang
-merupakan
+8
 .
 bahwa
 dan
 1
 dengan
 memiliki
-salah
+kan
 "
 atau
 3
-permainan
-
-judi
-saat
+cara
+s
+para
+cara
 tersebut
 e
 saat
@@ -610,7 +610,7 @@ indonesia
 atau
 dalam
 ada
-nya
+saja
 akan
 
 nya
@@ -619,27 +619,27 @@ k
 dengan
 bisa
 4
-dapat
+baik
 juga
 
 harus
 
-harus
+orang
 atau
 2
 1
 4
 kamu
 judi
-indonesia
-(
+benar
+i
 .
 hanya
 .
 /
 e
 
-kami
+hal
 membuat
 bisa
 bahwa
@@ -647,11 +647,11 @@ bahwa
 akan
 tidak
 1
-baik
+setelah
 0
 game
 kan
-e
+sangat
 ,
 tersebut
 mereka
@@ -660,10 +660,10 @@ kami
 an
 7
 an
-7
+k
 dari
 banyak
-k
+pemain
 .
 atau
 orang
@@ -674,7 +674,7 @@ satu
 online
 sangat
 (
-menggunakan
+m
 dan
 s
 )
@@ -690,12 +690,12 @@ karena
 situs
 pada
 untuk
-pada
+dalam
 an
-ada
-"
+atau
+tidak
 situs
-pada
+akan
 a
 ini
 mudah
@@ -707,7 +707,7 @@ di
 yang
 ,
 an
-jika
+online
 cara
 permainan
 2
@@ -732,7 +732,7 @@ d
 yang
 
 menggunakan
-
+?
 2
 kita
 e
@@ -747,7 +747,7 @@ dari
 
 ,
 dari
-dalam
+masih
 r
 7
 saat
@@ -760,19 +760,19 @@ harus
 untuk
 mereka
 dengan
-situs
+-
 saat
 
 waktu
 ini
 dapat
 anda
-semua
-7
+beberapa
+a
 sudah
 ini
-
-.
+5
+hanya
 a
 
 0
@@ -782,11 +782,11 @@ ini
 banyak
 memiliki
 (
-(
+baru
 9
 dalam
 dengan
-dari
+kamu
 di
 ada
 m
@@ -794,33 +794,33 @@ m
 banyak
 itu
 juga
-9
+
 ,
 yang
 kamu
-kan
-semua
+7
+5
 di
 yang
 akan
-besar
+secara
 dan
 i
 "
-banyak
+di
 k
-atau
-:
+"
+e
 harus
 kami
 online
-sudah
+cara
 online
 membuat
 dan
 7
 ?
-seperti
+menjadi
 sudah
 -
 situs
@@ -828,13 +828,13 @@ permainan
 dalam
 kamu
 dari
-menggunakan
-"
+orang
+-
 jika
 anda
 -
 
-tersebut
+?
 4
 s
 
@@ -846,11 +846,11 @@ ada
 di
 judi
 yang
-an
+poker
+2
+3
+"
 2
-sudah
-judi
-,
 nya
 oleh
 "
@@ -860,26 +860,26 @@ besar
 kami
 7
 s
-bisa
+ini
 dapat
 s
 an
-kan
-orang
+k
+)
 mereka
 -
 bahwa
 
-bahwa
+ini
 d
-dengan
+
 hal
 (
 (
 u
 para
 
-permainan
+an
 0
 3
 a
@@ -887,12 +887,12 @@ bisa
 anda
 kan
 hanya
-saja
+bahwa
 oleh
 yang
 di
 baik
-1
+karena
 4
 di
 atau
@@ -904,32 +904,32 @@ e
 mendapatkan
 -
 t
-k
+a
 kan
 /
-harga
-banyak
-menjadi
+kan
+waktu
+k
 jika
 poker
 ,
 game
 di
-tahun
+slot
 nya
 ?
 .
 i
 e
-?
+tidak
 ada
-situs
-maka
+poker
+salah
 beberapa
 i
 dalam
 di
-kan
+a
 1
 dari
 beberapa
@@ -937,13 +937,13 @@ beberapa
 1
 :
 s
-
+0
 dapat
 ini
 ini
 o
-oleh
-7
+ada
+mendapatkan
 0
 8
 saya
@@ -952,21 +952,21 @@ satu
 an
 ini
 2
-jika
-dapat
+seperti
+di
 dan
 bisa
 menggunakan
 
 a
 /
-3
+kamu
 nya
 pada
 online
 ke
-apa
-/
+permainan
+maka
 bermain
 jika
 9
@@ -974,13 +974,13 @@ satu
 atau
 untuk
 
-satu
+beberapa
 pada
 satu
-
+ini
 1
 -
-5
+dapat
 "
 jika
 bisa
@@ -991,20 +991,20 @@ kita
 
 
 orang
-harga
+mudah
 akan
 ?
 sebagai
 g
 pada
-:
-untuk
+s
+telah
 3
 karena
 nya
 online
 
-untuk
+hal
 )
 7
 bahwa
@@ -1020,8 +1020,8 @@ satu
 anda
 itu
 u
-uang
-/
+salah
+situs
 8
 pemain
 menggunakan
@@ -1030,17 +1030,17 @@ dari
 oleh
 atau
 yang
-saat
-cara
-slot
+menggunakan
+dan
+bermain
 waktu
 ke
 dalam
-secara
+salah
 adalah
 itu
 baru
-8
+cara
 adalah
 k
 atau
@@ -1062,17 +1062,17 @@ pada
 anda
 k
 permainan
-?
+an
 0
 
-kamu
+e
 anda
 saja
 
 tidak
 6
-3
-ada
+secara
+adalah
 hal
 beberapa
 banyak
@@ -1084,14 +1084,14 @@ di
 saya
 banyak
 bisa
-an
+kamu
 memiliki
 8
 dan
 memiliki
-hanya
+uang
 yang
-4
+)
 sebagai
 karena
 
@@ -1105,7 +1105,7 @@ melakukan
 5
 itu
 itu
-ada
+tersebut
 mereka
 3
 salah
@@ -1121,15 +1121,15 @@ i
 dapat
 2
 0
-apa
+o
 seperti
 di
 ?
-5
+adalah
 situs
 banyak
 
-1
+i
 situs
 2
 hal
@@ -1137,7 +1137,7 @@ tersebut
 3
 t
 juga
-dan
+
 anda
 2
 hal
@@ -1145,13 +1145,13 @@ bagi
 dan
 .
 saya
-tidak
-indonesia
+-
+salah
 dan
-
+,
 menjadi
 online
-pemain
+game
 
 untuk
 anda
@@ -1168,7 +1168,7 @@ anda
 kami
 ,
 ,
-terbaik
+o
 secara
 lebih
 baik
@@ -1192,20 +1192,20 @@ bahwa
 terbaik
 lebih
 hanya
-saja
+k
 satu
 
 baik
 bahwa
 ,
-permainan
+kamu
 sangat
 para
 dengan
-8
+4
 dapat
-5
-indonesia
+?
+u
 namun
 0
 mereka
@@ -1216,16 +1216,16 @@ menjadi
 k
 
 menggunakan
-itu
+lebih
 oleh
 k
-
-namun
+-
+lain
 bisnis
 
 mendapatkan
 kami
-situs
+a
 akan
 apa
 di
@@ -1233,33 +1233,33 @@ memiliki
 judi
 4
 kita
-indonesia
-cara
+8
+menjadi
 bagi
 banyak
 tahun
 dan
-anda
+memiliki
 akan
 tidak
 sangat
 hanya
-mungkin
-atau
+akan
+dapat
 -
-
-seperti
-"
+tak
+cara
+lagi
 1
 .
 dan
--
-dapat
+t
+beberapa
 saja
 yang
-m
+nya
 s
-sebagai
+kita
 oleh
 
 dan
@@ -1269,7 +1269,7 @@ t
 harus
 nya
 poker
-salah
+jika
 3
 untuk
 oleh
@@ -1278,38 +1278,38 @@ maka
 .
 dalam
 pada
-mereka
-7
+3
+t
 8
 situs
 s
 adalah
 ini
 di
-dari
+r
 lebih
 seperti
 untuk
-baru
+m
 jadi
 kamu
-judi
+oleh
 sebagai
 ini
 dan
-dengan
+e
 lebih
 sebagai
 dalam
 tahun
 untuk
 
-dari
+,
 itu
 dapat
-adalah
+lebih
 permainan
-hal
+kamu
 kita
 di
 s
@@ -1321,7 +1321,7 @@ baik
 
 ini
 9
-judi
+kan
 ini
 dalam
 hanya
@@ -1342,18 +1342,18 @@ kami
 1
 salah
 
-hanya
+tidak
 dan
-r
-hanya
-judi
+anda
+kami
+4
 orang
 /
 lebih
 uang
 slot
 )
-secara
+bagi
 salah
 dalam
 pada
@@ -1362,12 +1362,12 @@ adalah
 di
 banyak
 hal
-tersebut
+saat
 0
 orang
 baik
 lebih
-4
+9
 yang
 4
 harga
@@ -1378,19 +1378,19 @@ akan
 s
 bermain
 memiliki
-9
+(
 untuk
-serta
+produk
 ,
 saya
 pada
 atau
 di
 )
-mereka
+online
 sangat
-beberapa
-kita
+permainan
+dengan
 dengan
 mereka
 saat
@@ -1400,10 +1400,10 @@ yang
 .
 5
 ,
-k
+judi
 atau
-slot
-ke
+saya
+bahwa
 i
 
 )
@@ -1414,17 +1414,17 @@ ada
 atau
 oleh
 bagi
-orang
+bisa
 0
-mudah
-3
-saja
-ke
+4
+untuk
+
+salah
 e
 sangat
 di
 bisa
-indonesia
+game
 mereka
 5
 terbaik
@@ -1454,23 +1454,23 @@ menggunakan
 para
 )
 s
-secara
+kamu
 juga
 dari
 5
 di
-kan
-ini
+semua
+yang
 -
 
 tersebut
-maka
-baru
+bermain
+menjadi
 a
 8
 1
 menjadi
-)
+
 
 ini
 sangat
@@ -1484,12 +1484,12 @@ dan
 /
 anda
 sudah
-t
-)
+game
+banyak
 mendapatkan
 4
 2
-ada
+beberapa
 an
 dari
 jika
@@ -1498,7 +1498,7 @@ dari
 dari
 mereka
 hanya
-6
+dengan
 atau
 hanya
 mudah
@@ -1510,7 +1510,7 @@ yang
 merupakan
 .
 
-situs
+baru
 karena
 memiliki
 
@@ -1531,7 +1531,7 @@ ada
 bisa
 
 u
-semua
+waktu
 tahun
 8
 harus
@@ -1539,7 +1539,7 @@ maka
 
 orang
 ke
-
+adalah
 ?
 
 8
@@ -1550,7 +1550,7 @@ harus
 hanya
 menggunakan
 i
-(
+3
 adalah
 .
 ,
@@ -1569,7 +1569,7 @@ jika
 ?
 5
 lebih
-apa
+ini
 mereka
 juga
 bahwa
@@ -1580,16 +1580,16 @@ situs
 menggunakan
 y
 
-indonesia
+seperti
 dari
-harus
+sangat
 akan
 dari
 ,
 0
 saat
 ?
-anda
+maka
 banyak
 mereka
 :
@@ -1601,18 +1601,18 @@ yang
 perlu
 6
 kita
-a
-6
+?
+slot
 indonesia
 tersebut
 kami
 3
--
-akan
+
+dalam
 a
 untuk
 sangat
-/
+-
 juga
 maka
 
@@ -1620,16 +1620,16 @@ bisa
 banyak
 hal
 hanya
-menjadi
+pada
 7
-bisa
+tersebut
 0
 2
 situs
 dapat
 situs
-7
-dalam
+dan
+akan
 "
 juga
 secara
@@ -1649,54 +1649,54 @@ dapat
 .
 ?
 menjadi
-menjadi
+
 .
 ,
 judi
 ini
-saya
+8
 anda
 jika
 "
-e
+:
 i
 mungkin
 tidak
-oleh
+cara
 oleh
 ini
 2
 saat
 akan
 baru
-0
+2
 tahun
 d
 dan
 di
-s
-bagi
-memiliki
+satu
+jadi
+n
 kami
 jika
 banyak
 masih
 
-a
+dan
 itu
-r
-pada
+o
+:
 
 seperti
 8
 )
 ini
-k
+,
 memiliki
 permainan
-kan
+kamu
 akan
-sebagai
+nya
 ,
 atau
 untuk
@@ -1705,10 +1705,10 @@ mereka
 e
 .
 3
-slot
-dalam
+di
+menggunakan
 3
-4
+)
 baik
 0
 membuat
@@ -1717,18 +1717,18 @@ pada
 sangat
 masih
 dan
-permainan
+saya
 atau
 menggunakan
 di
-p
-kita
+saja
+dalam
 
-7
+?
 sangat
 orang
 indonesia
-4
+2
 kan
 4
 i
@@ -1736,13 +1736,13 @@ untuk
 salah
 dengan
 besar
-di
-7
+2
+untuk
 ?
-bisa
+6
 
 )
-bermain
+/
 telah
 untuk
 ,
@@ -1750,11 +1750,11 @@ nya
 anda
 maka
 kan
-bermain
+tahun
 i
 0
 dapat
-satu
+hanya
 memiliki
 1
 permainan
@@ -1764,27 +1764,27 @@ slot
 
 
 e
-jadi
-di
-(
+yang
+baik
+sudah
 judi
-s
-saat
+satu
+karena
 .
 s
 sebagai
 anda
-untuk
+”
 banyak
-telah
+bisa
 di
 ini
 
 satu
-sudah
+bisa
 baik
 ada
-2
+judi
 bisa
 situs
 itu
@@ -1794,8 +1794,8 @@ nya
 di
 sudah
 2
-satu
-1
+e
+
 atau
 ,
 ,
@@ -1814,13 +1814,13 @@ untuk
 nya
 seperti
 hanya
-nya
+pemain
 akan
 "
 ini
 permainan
 pada
-,
+dalam
 :
 anda
 ini
@@ -1828,7 +1828,7 @@ atau
 dan
 
 di
-salah
+7
 bisa
 anda
 mereka
@@ -1836,7 +1836,7 @@ akan
 .
 sebagai
 di
-n
+beberapa
 semua
 
 n
@@ -1844,7 +1844,7 @@ dan
 –
 banyak
 setiap
-itu
+m
 ,
 3
 yang
@@ -1866,7 +1866,7 @@ e
 tidak
 dan
 dan
-/
+ingin
 h
 harus
 saja
@@ -1884,8 +1884,8 @@ di
 untuk
 orang
 banyak
-an
-an
+setelah
+hal
 untuk
 :
 6
@@ -1893,12 +1893,12 @@ anda
 ada
 permainan
 i
-cara
+seperti
 (
 mudah
 e
 (
-saya
+k
 untuk
 lebih
 “
@@ -1917,18 +1917,18 @@ slot
 nya
 yang
 seperti
-,
+?
 )
 a
 ingin
 sebagai
 dengan
-bagi
+jenis
 lebih
 yang
 k
 ke
-orang
+secara
 ini
 harus
 bahwa
@@ -1941,7 +1941,7 @@ bagi
 1
 sudah
 tidak
-0
+e
 adalah
 pada
 situs
@@ -1950,22 +1950,22 @@ situs
 untuk
 2
 .
-harus
+beberapa
 harus
 akan
-salah
-5
+k
+
 itu
-ini
+lebih
 hal
 saja
-yang
+t
 secara
 saat
 orang
-salah
+ke
 
-k
+?
 -
 para
 anda
@@ -1977,20 +1977,20 @@ besar
 yang
 dan
 anda
-3
+dalam
 satu
-jika
+3
 k
 ke
 karena
 bisa
-dalam
+yang
 apa
 tersebut
 e
 
 di
-banyak
+sangat
 karena
 
 online
@@ -2012,7 +2012,7 @@ itu
 lebih
 nya
 sangat
-
+dengan
 karena
 seperti
 .
@@ -2020,12 +2020,12 @@ jika
 dari
 memiliki
 hal
-pada
+7
 kita
-memiliki
+t
 "
 tidak
-kita
+dengan
 -
 karena
 dan
@@ -2037,7 +2037,7 @@ bisa
 untuk
 e
 t
-maka
+baik
 .
 tahun
 
@@ -2045,16 +2045,16 @@ k
 kan
 hal
 banyak
-ke
+sudah
 kita
 
 oleh
 besar
 :
 bermain
-
+ini
 pada
-orang
+harus
 akan
 :
 -
@@ -2069,12 +2069,12 @@ kan
 u
 menjadi
 
-oleh
+saya
 sebagai
 hal
 saat
 orang
-menjadi
+besar
 :
 4
 menjadi
@@ -2082,7 +2082,7 @@ saya
 nya
 harus
 namun
-memiliki
+bisnis
 indonesia
 4
 2
@@ -2112,13 +2112,13 @@ nya
 )
 di
 yang
-oleh
+9
 karena
 mereka
 seperti
-judi
+u
 situs
-waktu
+6
 
 "
 8
@@ -2136,27 +2136,27 @@ kan
 -
 seperti
 harus
-anda
+kan
 yang
 sudah
 
 saat
 nya
 .
-salah
+besar
 online
 
 anda
-slot
-banyak
+semua
+kan
 dari
 saja
 (
 
 seperti
 akan
-menggunakan
-indonesia
+ini
+0
 orang
 baru
 ke
@@ -2187,11 +2187,11 @@ kami
 -
 dengan
 dengan
-1
+membuat
 pada
 -
 t
-bahwa
+dan
 (
 1
 ada
@@ -2203,14 +2203,14 @@ pada
 baik
 d
 
-membuat
+menjadi
 menggunakan
 beberapa
 bisa
 sangat
 cara
 nya
-:
+
 an
 memiliki
 indonesia
@@ -2221,14 +2221,14 @@ ini
 bisa
 (
 4
-dengan
+?
 menjadi
 dan
-beberapa
+lain
 memiliki
 ke
 beberapa
-sehingga
+tentang
 online
 karena
 harus
@@ -2238,10 +2238,10 @@ hal
 
 
 atau
-di
+
 ,
-menggunakan
-sangat
+tahun
+saja
 
 yang
 akan
@@ -2273,10 +2273,10 @@ tidak
 bahwa
 .
 dari
-5
+banyak
 sudah
 situs
-besar
+salah
 ,
 s
 bahwa
@@ -2285,27 +2285,27 @@ dapat
 atau
 tersebut
 .
-e
+hal
 pada
 ini
 0
 sebagai
 6
 dan
-salah
-menggunakan
+k
+secara
 p
 kami
 ada
 ?
 0
 pada
-jika
+kamu
 2
 bagi
 juga
 banyak
-anda
+
 tidak
 dan
 tidak
@@ -2314,28 +2314,28 @@ untuk
 .
 4
 apa
-
+.
 bisa
 bisa
-kamu
+judi
 seperti
 cara
-secara
+?
 semua
 itu
 beberapa
 indonesia
-u
+namun
 0
 ini
-lain
+d
 0
 karena
-namun
+slot
 ini
 tidak
 9
-besar
+online
 -
 2
 pada
@@ -2350,7 +2350,7 @@ sangat
 :
 memiliki
 menjadi
-u
+dalam
 atau
 pada
 0
@@ -2363,7 +2363,7 @@ jika
 s
 di
 kita
-kamu
+maka
 merupakan
 menjadi
 2
@@ -2373,11 +2373,11 @@ an
 bermain
 ?
 -
-9
+5
 -
-(
+mereka
 besar
-saja
+namun
 )
 orang
 maka
@@ -2393,7 +2393,7 @@ s
 dengan
 waktu
 an
-i
+dengan
 
 saat
 
@@ -2401,7 +2401,7 @@ saat
 :
 saja
 online
-8
+dengan
 5
 secara
 adalah
@@ -2412,7 +2412,7 @@ dan
 situs
 anda
 
-m
+"
 .
 mudah
 ada
@@ -2426,7 +2426,7 @@ dan
 tersebut
 7
 mereka
-akan
+judi
 
 juga
 bahwa
@@ -2440,7 +2440,7 @@ sudah
 yang
 baik
 -
-indonesia
+-
 apa
 8
 9
@@ -2450,9 +2450,9 @@ dan
 
 dalam
 dalam
-memiliki
+situs
 hal
-5
+d
 :
 
 melakukan
@@ -2477,15 +2477,15 @@ sangat
 permainan
 beberapa
 .
-bisnis
+melakukan
 pada
 di
-ke
+seperti
 ini
-p
+yang
 sudah
 memiliki
-0
+kepada
 atau
 5
 yang
@@ -2501,7 +2501,7 @@ lebih
 anda
 pada
 i
-d
+kami
 mereka
 orang
 ,
@@ -2509,10 +2509,10 @@ s
 judi
 tahun
 lain
-kan
-satu
+mereka
+dan
 :
-seperti
+sudah
 saya
 ini
 adalah
@@ -2528,9 +2528,9 @@ kita
 ,
 -
 game
-menjadi
+jika
+dengan
 dengan
-kami
 banyak
 2
 slot
@@ -2539,50 +2539,50 @@ jika
 juga
 nya
 melakukan
-orang
+e
 para
 ke
 9
 tersebut
 
 
-hal
-s
+4
+ke
 waktu
 ,
-karena
+mereka
 apa
 kita
 adalah
-6
+3
 membuat
-harus
+lebih
 anda
 cara
-akan
+3
 /
 sangat
-memiliki
+sendiri
 dan
 mereka
 akan
 mendapatkan
 ,
 seperti
-banyak
+sangat
 ini
 bahwa
 dengan
 bisa
-beberapa
+
 menjadi
 ,
-semua
-dan
+beberapa
+seperti
 judi
 ,
 kita
-k
+cara
 akan
 kita
 nya
@@ -2598,15 +2598,15 @@ dalam
 hanya
 -
 untuk
-banyak
+mereka
 di
 sangat
-e
+dan
 itu
 saat
 .
 saat
-tersebut
+tidak
 di
 sudah
 ada
@@ -2616,28 +2616,28 @@ oleh
 tahun
 a
 :
-sangat
+jika
 akan
 jika
-waktu
-mudah
-judi
+ingin
+o
+bahwa
 apa
 yang
-dapat
-menjadi
+seperti
+membuat
 kamu
 melakukan
 8
 ingin
 1
-secara
+dengan
 
 .
 di
 -
-5
-s
+(
+orang
 di
 
 dan
@@ -2649,12 +2649,12 @@ seperti
 an
 
 kami
-masih
+nya
 satu
 akan
 lebih
-permainan
-m
+judi
+yang
 telah
 dengan
 
@@ -2669,11 +2669,11 @@ itu
 an
 kamu
 ke
-oleh
+m
 an
 yang
 lainnya
-jika
+dari
 dan
 dapat
 2
@@ -2696,12 +2696,12 @@ juga
 lebih
 
 atau
-indonesia
+sudah
 (
 dan
-game
+uang
 ini
-saya
+ke
 dari
 dalam
 itu
@@ -2722,7 +2722,7 @@ dan
 ini
 an
 cara
-beberapa
+lain
 2
 /
 .
@@ -2730,13 +2730,13 @@ dari
 namun
 rumah
 jika
-e
+judi
 2
 permainan
 ,
 4
 satu
-harus
+orang
 maka
 pada
 dari
@@ -2759,19 +2759,19 @@ itu
 nya
 seperti
 juga
-bahwa
+maka
 game
-ke
+hal
 -
 seperti
 sudah
 lain
 merupakan
 online
-.
+oleh
 orang
 e
-itu
+
 
 kamu
 
@@ -2788,7 +2788,7 @@ pada
 tersebut
 ini
 1
-slot
+akan
 sudah
 telah
 harus
@@ -2804,7 +2804,7 @@ seperti
 menggunakan
 ?
 anda
-2
+menjadi
 
 a
 4
@@ -2814,11 +2814,11 @@ orang
 sangat
 ke
 online
-lebih
+8
 yang
 dan
 
-atau
+"
 itu
 i
 dan
@@ -2834,15 +2834,15 @@ mendapatkan
 pada
 yang
 dapat
-judi
+kamu
 satu
 
 .
 oleh
-5
+k
 saat
 akan
-apa
+t
 e
 adalah
 juga
@@ -2851,13 +2851,13 @@ juga
 harus
 kita
 a
-permainan
-ada
+a
+membuat
 d
 0
 t
 an
-situs
+hanya
 hal
 baru
 d
@@ -2868,7 +2868,7 @@ saat
 lebih
 sebagai
 tidak
-bahwa
+bisnis
 cara
 yang
 anda
@@ -2879,7 +2879,7 @@ ini
 namun
 3
 hal
-5
+harus
 dari
 saat
 di
@@ -2889,17 +2889,17 @@ jika
 untuk
 3
 nya
-sangat
+
 kami
-hal
+,
 an
-atau
 akan
-
+akan
+kan
 permainan
 1
 saya
-baik
+6
 dan
 di
 kan
@@ -2909,17 +2909,17 @@ ini
 cara
 "
 yang
-ada
-2
-lain
 slot
-namun
+2
+semua
+menggunakan
+salah
 ingin
 r
 ,
 yang
 sebagai
-a
+k
 cara
 dan
 atau
@@ -2930,8 +2930,8 @@ online
 sudah
 mereka
 judi
-membuat
-harus
+?
+yang
 orang
 ada
 p
@@ -2940,7 +2940,7 @@ ke
 memiliki
 0
 lebih
-mereka
+(
 ada
 oleh
 2
@@ -2949,26 +2949,26 @@ juga
 bisa
 sebagai
 melakukan
-sangat
+judi
 cara
 kan
-an
+situs
 dapat
-8
+cara
 
 situs
-bermain
+6
 melakukan
 2
 (
-.
+di
 s
 menjadi
 itu
 4
 anda
 yang
-"
+saja
 kami
 /
 di
@@ -2981,20 +2981,20 @@ e
 saat
 hal
 seperti
-untuk
+ini
 atau
 .
 2
-harus
+semua
 baik
 tentang
 
 mereka
-di
+ini
 juga
 yang
-seperti
-melakukan
+slot
+uang
 8
 bahwa
 bisa
@@ -3002,7 +3002,7 @@ saat
 "
 "
 ,
-/
+sangat
 dengan
 jenis
 di
@@ -3012,17 +3012,17 @@ menjadi
 ?
 besar
 nya
-bermain
+k
 dalam
-sangat
+saat
 8
 membuat
-
+tahun
 yang
 juga
 9
 5
-3
+jika
 
 an
 yang
@@ -3033,7 +3033,7 @@ bahwa
 untuk
 membuat
 5
-s
+judi
 poker
 orang
 hal
@@ -3047,11 +3047,11 @@ karena
 5
 s
 ,
-bahwa
+jika
 saat
 -
-saja
-jika
+baik
+kami
 banyak
 slot
 a
@@ -3060,12 +3060,12 @@ poker
 besar
 kita
 tidak
-ke
-9
+nya
+satu
 untuk
 ,
 harus
-hal
+:
 seperti
 kan
 bisa
@@ -3074,11 +3074,11 @@ waktu
 9
 dalam
 .
-harus
+u
 juga
 uang
 1
-atau
+i
 orang
 a
 tersebut
@@ -3096,14 +3096,14 @@ i
 banyak
 
 -
-m
+lain
 akan
 para
 oleh
-satu
-apa
+indonesia
+pemain
 para
-kan
+3
 sebagai
 
 saya
@@ -3119,12 +3119,12 @@ an
 indonesia
 poker
 besar
-cara
+beberapa
 kita
 kamu
 dengan
 
-maka
+baik
 salah
 2
 
@@ -3132,9 +3132,9 @@ dengan
 indonesia
 ?
 0
-bahwa
+8
 juga
-3
+orang
 harus
 o
 bisa
@@ -3146,7 +3146,7 @@ t
 
 .
 ke
-0
+3
 akan
 itu
 harus
@@ -3156,9 +3156,9 @@ adalah
 
 
 1
-an
+bahwa
 )
-a
+di
 pada
 telah
 karena
@@ -3172,7 +3172,7 @@ karena
 
 dengan
 secara
-saat
+8
 pada
 situs
 dalam
@@ -3181,8 +3181,8 @@ seperti
 itu
 (
 0
-tahun
-kita
+masih
+yang
 bermain
 tersebut
 oleh
@@ -3193,13 +3193,13 @@ dan
 uang
 sangat
 karena
-k
+kamu
 banyak
-oleh
+8
 dengan
-salah
+mereka
 e
-baik
+salah
 kan
 bahwa
 yang
@@ -3228,9 +3228,9 @@ ini
 )
 bahwa
 mereka
-para
+tahun
 memiliki
-pemain
+bagi
 1
 2
 dapat
@@ -3239,7 +3239,7 @@ juga
 indonesia
 adalah
 lain
-hanya
+apa
 pada
 -
 kita
@@ -3249,8 +3249,8 @@ memiliki
 kan
 ,
 i
-anda
-maka
+judi
+baik
 
 sangat
 bisa
@@ -3264,23 +3264,23 @@ saya
 ini
 2
 untuk
-kamu
-hanya
+?
+a
 kita
 kan
 karena
 tidak
 :
 di
-cara
+dapat
 oleh
-e
+sudah
 ,
 situs
 ?
 dalam
 :
-salah
+k
 0
 jika
 memiliki
@@ -3298,17 +3298,17 @@ juga
 1
 karena
 itu
-besar
+maka
 hanya
-2
+n
 lebih
 poker
 mereka
 ?
-bagi
+s
 lain
 bermain
-situs
+a
 anda
 6
 u
@@ -3317,8 +3317,8 @@ tahun
 menggunakan
 -
 6
-para
-"
+bermain
+ini
 indonesia
 ada
 saat
@@ -3334,7 +3334,7 @@ online
 mereka
 di
 ini
-ingin
+di
 harus
 sudah
 kan
@@ -3343,26 +3343,26 @@ dan
 sangat
 /
 ada
-poker
-dapat
+para
+kita
 i
 /
 8
-maka
+u
 6
-,
+kan
 (
 hanya
 2
-saya
-memiliki
+dan
+oleh
 -
 juga
 judi
 akan
 :
-kami
-pada
+para
+baik
 baik
 .
 i
@@ -3371,7 +3371,7 @@ sangat
 bahwa
 banyak
 ini
-juga
+9
 
 ke
 cara
@@ -3387,17 +3387,17 @@ indonesia
 .
 bermain
 :
--
+9
 -
 online
-s
+sendiri
 dapat
 kan
 membuat
 kan
 dari
 
-5
+judi
 saya
 
 k
@@ -3410,7 +3410,7 @@ hal
 mereka
 akan
 ,
-trading
+di
 dari
 itu
 (
@@ -3418,15 +3418,15 @@ itu
 harus
 baik
 sudah
-melakukan
-)
-adalah
+beberapa
+judi
+pada
 tidak
-ke
+-
 .
-orang
+beberapa
 
-hanya
+itu
 e
 banyak
 dengan
@@ -3434,64 +3434,64 @@ dengan
 poker
 karena
 adalah
-1
+juga
 m
 di
 0
 k
 1
-
-baik
+4
+slot
 5
-besar
-ketika
+game
+menggunakan
 nya
 yang
 di
-karena
+"
 (
 
 
 bahwa
 menjadi
-secara
+jika
 3
 3
-memiliki
+/
 0
 k
 untuk
 8
 )
 jika
-itu
-
+anda
+7
 menjadi
 ada
 saat
 dan
 
-mereka
-atau
+oleh
+?
 dalam
-saya
+yang
 7
 
-5
+slot
 ada
 dengan
 yang
 d
 dan
 -
-3
+saat
 /
 karena
-dan
+/
 sangat
 karena
 untuk
-sebagai
+bisa
 mereka
 dengan
 nya
@@ -3500,7 +3500,7 @@ nya
 
 lain
 seperti
-lain
+kan
 dari
 3
 ini
@@ -3516,22 +3516,22 @@ akan
 kan
 dan
 
-e
+yang
 online
 lebih
 orang
 banyak
 pada
-para
+slot
 
 )
-dari
+adalah
 telah
 lebih
 
 t
 para
-membuat
+kan
 6
 dapat
 untuk
@@ -3555,7 +3555,7 @@ dengan
 online
 juga
 dan
-uang
+bagi
 dalam
 namun
 
@@ -3573,7 +3573,7 @@ adalah
 satu
 bahwa
 an
-4
+tahun
 itu
 hal
 akan
@@ -3590,12 +3590,12 @@ kan
 
 tidak
 /
-sudah
-hal
+4
+-
 akan
 karena
 akan
-:
+kan
 s
 i
 permainan
@@ -3609,41 +3609,41 @@ harus
 dari
 
 hanya
-maka
+para
 jika
-karena
+k
 6
 (
 
-tentang
+mungkin
 bisa
 2
 karena
 sebagai
 kita
 itu
-/
+bermain
 0
 baik
-apa
+pemain
 h
 akan
 )
 ,
-i
+nya
 sebagai
-d
+.
 poker
 sangat
 )
-dengan
+:
 e
 kami
-baik
+7
 tidak
 1
 :
-para
+bermain
 itu
 
 0
@@ -3658,18 +3658,18 @@ memiliki
 
 oleh
 tidak
-7
-uang
+6
+ke
 9
 dalam
 dengan
 namun
 7
-permainan
+beberapa
 permainan
 tersebut
 t
-jadi
+pemain
 adalah
 0
 k
@@ -3681,30 +3681,30 @@ dengan
 i
 untuk
 atau
-seperti
+m
 situs
 bahwa
-indonesia
+kan
 satu
 untuk
 "
 sudah
-besar
+indonesia
 baik
 3
-saja
+i
 s
 ?
 tersebut
 sudah
 saat
-membuat
+a
 menjadi
 saja
 ke
 juga
 saya
-kamu
+?
 hanya
 ada
 di
@@ -3722,7 +3722,7 @@ oleh
 8
 :
 ,
-d
+membuat
 kita
 tersebut
 juga
@@ -3737,15 +3737,15 @@ nya
 9
 tidak
 k
-.
+
 
 seperti
-m
+salah
 banyak
 uang
 game
 saya
-ke
+itu
 k
 8
 saya

predict_results.json

@@ -1,12 +1,12 @@
 {
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5071459412574768,
-    "predict_rouge1": 0.4145,
+    "predict_loss": 0.49721843004226685,
+    "predict_rouge1": 0.4346,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.415,
-    "predict_rougeLsum": 0.4143,
-    "predict_runtime": 2697.3303,
+    "predict_rougeL": 0.4342,
+    "predict_rougeLsum": 0.4339,
+    "predict_runtime": 2503.4473,
     "predict_samples": 3752,
-    "predict_samples_per_second": 1.391,
-    "predict_steps_per_second": 0.044
+    "predict_samples_per_second": 1.499,
+    "predict_steps_per_second": 0.047
 }

train_results.json

@@ -1,9 +1,9 @@
 {
     "epoch": 5.0,
-    "total_flos": 4.90582346563584e+16,
-    "train_loss": 0.6208877221351247,
-    "train_runtime": 3924.9461,
+    "total_flos": 4.925218464202752e+16,
+    "train_loss": 0.5876135240221237,
+    "train_runtime": 3946.7671,
     "train_samples": 14272,
-    "train_samples_per_second": 18.181,
-    "train_steps_per_second": 1.136
+    "train_samples_per_second": 18.081,
+    "train_steps_per_second": 1.13
 }

trainer_state.json

@@ -10,112 +10,112 @@
   "log_history": [
     {
       "epoch": 1.0,
-      "grad_norm": 0.5049543976783752,
+      "grad_norm": 0.48672914505004883,
       "learning_rate": 0.0008,
-      "loss": 0.8224,
+      "loss": 0.7751,
       "step": 892
     },
     {
       "epoch": 1.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5704124569892883,
-      "eval_rouge1": 0.6572,
+      "eval_loss": 0.556481659412384,
+      "eval_rouge1": 0.6744,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6564,
-      "eval_rougeLsum": 0.655,
-      "eval_runtime": 38.0247,
-      "eval_samples_per_second": 19.724,
+      "eval_rougeL": 0.6731,
+      "eval_rougeLsum": 0.6738,
+      "eval_runtime": 38.0578,
+      "eval_samples_per_second": 19.707,
       "eval_steps_per_second": 0.631,
       "step": 892
     },
     {
       "epoch": 2.0,
-      "grad_norm": 0.47203755378723145,
+      "grad_norm": 0.4337797462940216,
       "learning_rate": 0.0006,
-      "loss": 0.6196,
+      "loss": 0.5945,
       "step": 1784
     },
     {
       "epoch": 2.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5431475043296814,
-      "eval_rouge1": 0.6602,
+      "eval_loss": 0.5315232872962952,
+      "eval_rouge1": 0.6624,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6579,
-      "eval_rougeLsum": 0.6606,
-      "eval_runtime": 37.5492,
-      "eval_samples_per_second": 19.974,
-      "eval_steps_per_second": 0.639,
+      "eval_rougeL": 0.6627,
+      "eval_rougeLsum": 0.6631,
+      "eval_runtime": 38.5047,
+      "eval_samples_per_second": 19.478,
+      "eval_steps_per_second": 0.623,
       "step": 1784
     },
     {
       "epoch": 3.0,
-      "grad_norm": 0.5097192525863647,
+      "grad_norm": 0.5190469026565552,
       "learning_rate": 0.0004,
-      "loss": 0.5778,
+      "loss": 0.5498,
       "step": 2676
     },
     {
       "epoch": 3.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5372552871704102,
-      "eval_rouge1": 0.6757,
+      "eval_loss": 0.5278128981590271,
+      "eval_rouge1": 0.6681,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6756,
-      "eval_rougeLsum": 0.6745,
-      "eval_runtime": 38.295,
-      "eval_samples_per_second": 19.585,
-      "eval_steps_per_second": 0.627,
+      "eval_rougeL": 0.6682,
+      "eval_rougeLsum": 0.6679,
+      "eval_runtime": 38.5769,
+      "eval_samples_per_second": 19.442,
+      "eval_steps_per_second": 0.622,
       "step": 2676
     },
     {
       "epoch": 4.0,
-      "grad_norm": 0.4385349154472351,
+      "grad_norm": 0.41587188839912415,
       "learning_rate": 0.0002,
-      "loss": 0.5503,
+      "loss": 0.5192,
       "step": 3568
     },
     {
       "epoch": 4.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.525574266910553,
-      "eval_rouge1": 0.659,
+      "eval_loss": 0.5092559456825256,
+      "eval_rouge1": 0.6755,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6569,
-      "eval_rougeLsum": 0.6586,
-      "eval_runtime": 38.268,
-      "eval_samples_per_second": 19.599,
-      "eval_steps_per_second": 0.627,
+      "eval_rougeL": 0.6729,
+      "eval_rougeLsum": 0.6744,
+      "eval_runtime": 37.8591,
+      "eval_samples_per_second": 19.81,
+      "eval_steps_per_second": 0.634,
       "step": 3568
     },
     {
       "epoch": 5.0,
-      "grad_norm": 0.4007055461406708,
+      "grad_norm": 0.39830541610717773,
       "learning_rate": 0.0,
-      "loss": 0.5343,
+      "loss": 0.4995,
       "step": 4460
     },
     {
       "epoch": 5.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5211541056632996,
-      "eval_rouge1": 0.6659,
+      "eval_loss": 0.508884608745575,
+      "eval_rouge1": 0.6799,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6648,
-      "eval_rougeLsum": 0.6661,
-      "eval_runtime": 38.0598,
-      "eval_samples_per_second": 19.706,
-      "eval_steps_per_second": 0.631,
+      "eval_rougeL": 0.6778,
+      "eval_rougeLsum": 0.681,
+      "eval_runtime": 37.9857,
+      "eval_samples_per_second": 19.744,
+      "eval_steps_per_second": 0.632,
       "step": 4460
     },
     {
       "epoch": 5.0,
       "step": 4460,
-      "total_flos": 4.90582346563584e+16,
-      "train_loss": 0.6208877221351247,
-      "train_runtime": 3924.9461,
-      "train_samples_per_second": 18.181,
-      "train_steps_per_second": 1.136
+      "total_flos": 4.925218464202752e+16,
+      "train_loss": 0.5876135240221237,
+      "train_runtime": 3946.7671,
+      "train_samples_per_second": 18.081,
+      "train_steps_per_second": 1.13
     }
   ],
   "logging_steps": 500,
@@ -123,7 +123,7 @@
   "num_input_tokens_seen": 0,
   "num_train_epochs": 5,
   "save_steps": 500,
-  "total_flos": 4.90582346563584e+16,
+  "total_flos": 4.925218464202752e+16,
   "train_batch_size": 16,
   "trial_name": null,
   "trial_params": null