End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.4683
-- Rouge1: 0.6725
+- Rouge1: 0.3952
 - Rouge2: 0.0
-- Rougel: 0.6711
-- Rougelsum: 0.6719
+- Rougel: 0.3892
+- Rougelsum: 0.3933
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -1,29 +1,29 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.47984424233436584,
-    "eval_rouge1": 0.395,
+    "eval_loss": 0.4682966470718384,
+    "eval_rouge1": 0.3952,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.3935,
+    "eval_rougeL": 0.3892,
     "eval_rougeLsum": 0.3933,
-    "eval_runtime": 568.619,
+    "eval_runtime": 615.3276,
     "eval_samples": 747,
-    "eval_samples_per_second": 1.314,
-    "eval_steps_per_second": 0.042,
+    "eval_samples_per_second": 1.214,
+    "eval_steps_per_second": 0.039,
     "predict_gen_len": 1.0,
-    "predict_loss": 0.4885707199573517,
-    "predict_rouge1": 0.41,
+    "predict_loss": 0.4768540561199188,
+    "predict_rouge1": 0.4109,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4097,
-    "predict_rougeLsum": 0.4092,
-    "predict_runtime": 2754.6092,
+    "predict_rougeL": 0.4122,
+    "predict_rougeLsum": 0.4096,
+    "predict_runtime": 2349.5499,
     "predict_samples": 3737,
-    "predict_samples_per_second": 1.357,
-    "predict_steps_per_second": 0.042,
-    "total_flos": 4.9120107429888e+16,
-    "train_loss": 0.6270396870521358,
-    "train_runtime": 3918.4765,
+    "predict_samples_per_second": 1.591,
+    "predict_steps_per_second": 0.05,
+    "total_flos": 4.93143020273664e+16,
+    "train_loss": 0.5944349318809424,
+    "train_runtime": 3932.2853,
     "train_samples": 14290,
-    "train_samples_per_second": 18.234,
-    "train_steps_per_second": 1.141
+    "train_samples_per_second": 18.17,
+    "train_steps_per_second": 1.137
 }

eval_results.json

@@ -1,13 +1,13 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.47984424233436584,
-    "eval_rouge1": 0.395,
+    "eval_loss": 0.4682966470718384,
+    "eval_rouge1": 0.3952,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.3935,
+    "eval_rougeL": 0.3892,
     "eval_rougeLsum": 0.3933,
-    "eval_runtime": 568.619,
+    "eval_runtime": 615.3276,
     "eval_samples": 747,
-    "eval_samples_per_second": 1.314,
-    "eval_steps_per_second": 0.042
+    "eval_samples_per_second": 1.214,
+    "eval_steps_per_second": 0.039
 }

generated_predictions.txt

@@ -9,25 +9,25 @@ d
 )
 permainan
 saja
-tidak
+secara
 yang
 4
 
 ?
-atau
+menggunakan
 di
 satu
 
 kamu
 cara
-dapat
+.
 a
 bisa
 6
 bisa
-mungkin
 pemain
-satu
+pemain
+bermain
 hal
 ,
 hal
@@ -45,7 +45,7 @@ dan
 apa
 bermain
 "
-cara
+3
 yang
 tersebut
 yang
@@ -55,7 +55,7 @@ juga
 9
 dapat
 sangat
-maka
+nya
 1
 kamu
 -
@@ -72,21 +72,21 @@ tidak
 di
 mereka
 kami
-sebagai
+sudah
 sudah
 
 6
 atau
-8
+cara
 (
 telah
-memiliki
-saat
+(
+"
 juga
 maka
 dari
 .
-4
+yang
 0
 bahwa
 2
@@ -103,7 +103,7 @@ sebagai
 hanya
 0
 orang
-6
+online
 hanya
 .
 .
@@ -117,7 +117,7 @@ tersebut
 ini
 adalah
 "
-e
+situs
 i
 2
 dari
@@ -150,20 +150,20 @@ kami
 dapat
 s
 cara
-juga
+baik
 )
 online
 bermain
 ,
 0
-saja
+:
 ke
 memiliki
-permainan
+tentang
 
 tidak
 menjadi
-,
+.
 8
 (
 dengan
@@ -178,15 +178,15 @@ hanya
 satu
 banyak
 s
-kita
+satu
 bisa
 dengan
 slot
 ?
-kamu
+kita
 cara
 untuk
-semua
+4
 anda
 dan
 atau
@@ -210,12 +210,12 @@ kan
 ,
 sebagai
 1
-bagi
+waktu
 an
 
 anda
-tersebut
-bisnis
+)
+orang
 para
 ada
 bisnis
@@ -226,7 +226,7 @@ slot
 itu
 juga
 ini
-atau
+baik
 lain
 i
 dalam
@@ -253,38 +253,38 @@ karena
 /
 dan
 lebih
-jika
+oleh
 atau
-9
+secara
 nya
 anda
 cara
 untuk
 satu
-saja
-beberapa
+baik
+baik
 4
-an
+di
 di
 6
 6
 )
 dari
 2
-adalah
+i
 untuk
 -
 0
 beberapa
 ada
-menggunakan
+0
 beberapa
 untuk
 ,
 7
 :
 besar
-sebagai
+seperti
 oleh
 sangat
 
@@ -295,36 +295,36 @@ permainan
 d
 maka
 ini
-d
+uang
 a
 nya
 -
 i
 sudah
 ke
-:
+k
 juga
 banyak
-mudah
+maka
 
 banyak
--
+atau
 bisa
 beberapa
 3
 ini
 anda
 baik
-di
+memiliki
 3
 judi
 
-pemain
+bisa
 cara
 jika
 orang
 di
-harus
+7
 ada
 situs
 masih
@@ -345,21 +345,21 @@ an
 dan
 kami
 hanya
-membuat
-)
+hanya
+5
 
 
 sebagai
-satu
+5
 kami
-seperti
+tidak
 dengan
 di
 dari
 sebagai
 
 8
-"
+para
 t
 situs
 2
@@ -369,23 +369,23 @@ di
 1
 i
 s
-salah
+u
 2
 ,
 kita
 slot
-itu
+u
 secara
 .
 secara
 ada
 sebagai
 3
-karena
+u
 untuk
 bisa
 anda
-
+.
 7
 bisa
 ini
@@ -393,20 +393,20 @@ tidak
 bisa
 
 4
--
+indonesia
 hanya
 tersebut
 untuk
-maka
+harus
 para
 dari
 telah
 tidak
-para
+terbaik
 saya
 beberapa
 untuk
-tersebut
+5
 i
 atau
 oleh
@@ -415,20 +415,20 @@ besar
 besar
 judi
 
-baik
+secara
 yang
 memiliki
 jadi
 d
 tidak
 game
-1
+dari
 poker
 -
-online
+menjadi
 juga
 harus
-sangat
+tersebut
 dapat
 karena
 banyak
@@ -444,9 +444,9 @@ online
 akan
 permainan
 juga
-adalah
+an
+
 
-kamu
 (
 k
 seperti
@@ -463,27 +463,27 @@ e
 saya
 
 ini
-7
+a
 1
 game
 )
 
 lebih
-dapat
+ada
 /
 d
 permainan
 dapat
 di
-0
+u
 namun
 bahwa
 
-orang
-saya
+sudah
+8
 dan
 4
-ke
+itu
 lebih
 yang
 sangat
@@ -499,16 +499,16 @@ tersebut
 0
 e
 i
-–
-mereka
+kita
+memiliki
 slot
 juga
 "
-1
+untuk
 dan
 untuk
 yang
-para
+besar
 untuk
 situs
 dengan
@@ -519,7 +519,7 @@ saya
 dari
 nya
 karena
-telah
+semua
 kami
 adalah
 nya
@@ -530,7 +530,7 @@ dan
 harus
 ini
 permainan
-kami
+e
 nya
 ke
 s
@@ -538,7 +538,7 @@ s
 sudah
 kamu
 jika
-besar
+kita
 mereka
 .
 pada
@@ -548,17 +548,17 @@ anda
 semua
 dan
 kami
-orang
+secara
 ini
 seperti
 di
 harus
-2
+akan
 u
-2
+pada
 3
-jika
-judi
+)
+t
 ?
 7
 online
@@ -578,52 +578,52 @@ tersebut
 "
 mereka
 cara
-beberapa
+tersebut
 i
-membuat
+t
 
 oleh
 bagi
-)
+di
 ini
 
-t
+a
 tidak
-ada
-tahun
+banyak
+poker
 tersebut
-namun
+salah
 saya
 yang
 
-tidak
+secara
 online
 nya
 hanya
-mendapatkan
+baik
 dengan
-bagi
+bisnis
 mereka
 secara
 (
-cara
+/
 i
-:
+sebagai
 .
 lebih
 akan
--
+0
 adalah
 1
 slot
 situs
 ,
 7
-indonesia
+yang
 4
 :
 "
-juga
+e
 -
 tidak
 e
@@ -631,9 +631,9 @@ e
 2
 p
 ketika
-menggunakan
+anda
 9
-mendapatkan
+orang
 5
 orang
 judi
@@ -646,24 +646,24 @@ pada
 
 2
 atau
-mereka
+sebagai
 2
 satu
-melakukan
+pemain
 kamu
 ?
 mereka
 kamu
 :
-bisnis
+game
 baik
-perlu
+kita
 nya
-indonesia
+a
 sebagai
-indonesia
-dapat
-s
+a
+.
+kami
 tidak
 -
 oleh
@@ -675,16 +675,16 @@ mereka
 0
 jika
 ,
-besar
+salah
 2
 sebagai
 adalah
 bermain
 kita
 dalam
-adalah
+:
 lebih
-kita
+)
 dalam
 dalam
 oleh
@@ -700,35 +700,35 @@ uang
 ,
 0
 (
-sudah
+kami
 
 di
 ke
 yang
-semua
+bermain
 di
 membuat
 slot
-?
+9
 menjadi
-kamu
+-
 online
 nya
-poker
+juga
 beberapa
-salah
+k
 bahwa
 beberapa
 
 kita
 :
 
-oleh
+saat
 lebih
 slot
 ini
 judi
-u
+7
 kami
 yang
 -
@@ -740,26 +740,26 @@ juga
 5
 semua
 -
-dalam
+-
 
 dapat
 menggunakan
-(
+untuk
 mereka
 orang
-lain
+tidak
 di
 di
 jika
 satu
-:
-i
+(
+bisa
 indonesia
 :
 judi
-saat
+kita
 u
-d
+k
 "
 mereka
 namun
@@ -767,7 +767,7 @@ t
 yang
 4
 
-hal
+harus
 yang
 ini
 s
@@ -779,7 +779,7 @@ lebih
 bisnis
 s
 2
-indonesia
+6
 
 1
 anda
@@ -788,13 +788,13 @@ di
 3
 kami
 dalam
-
-baik
+salah
+indonesia
 mungkin
 4
 -
 di
-kamu
+secara
 /
 game
 
@@ -814,11 +814,11 @@ judi
 k
 untuk
 1
-:
+indonesia
 k
-(
-e
-permainan
+
+
+game
 adalah
 namun
 u
@@ -826,19 +826,19 @@ i
 kami
 pemain
 dari
-l
+lagi
 i
 1
 orang
 di
-4
+lebih
 dalam
 (
 ,
 e
 ,
 o
-d
+/
 2
 kita
 orang
@@ -852,8 +852,8 @@ hanya
 adalah
 9
 /
-online
-.
+tersebut
+
 )
 nya
 k
@@ -861,7 +861,7 @@ k
 lebih
 situs
 /
-orang
+dari
 an
 2
 kami
@@ -879,28 +879,28 @@ namun
 :
 memiliki
 saat
-bahwa
+kan
 telah
-tersebut
+harus
 ?
-slot
+lain
 e
-membuat
-beberapa
+kami
+7
 
 dan
 game
-hal
-a
+e
+.
 saat
 oleh
 indonesia
 /
 hal
 atau
-juga
+akan
 anda
-6
+s
 online
 i
 atau
@@ -916,13 +916,13 @@ dalam
 ,
 dapat
 untuk
-maka
+uang
 baik
 sebagai
 1
 dari
 1
-
+banyak
 itu
 an
 1
@@ -939,7 +939,7 @@ tidak
 :
 pada
 atau
-jika
+/
 tidak
 di
 
@@ -949,7 +949,7 @@ sudah
 k
 kan
 ,
-karena
+memiliki
 1
 di
 ke
@@ -966,18 +966,18 @@ adalah
 dengan
 bagi
 m
-salah
+kan
 online
 telah
-tahun
-bermain
+pemain
+baik
 t
 online
 5
 bahwa
 9
 ini
-8
+oleh
 dapat
 ingin
 
@@ -989,7 +989,7 @@ lebih
 a
 ke
 memiliki
-8
+memiliki
 :
 orang
 8
@@ -1021,7 +1021,7 @@ bermain
 k
 .
 )
-tersebut
+judi
 .
 ini
 9
@@ -1030,7 +1030,7 @@ ada
 t
 apa
 e
-indonesia
+jika
 menjadi
 bahwa
 nya
@@ -1040,21 +1040,21 @@ untuk
 e
 a
 ke
-saya
-menggunakan
-yang
+sudah
+banyak
+beberapa
 yang
-m
+ingin
 )
 9
-pada
+ada
 ,
-sebagai
+jika
 jika
 juga
 dari
 dan
-lagi
+masih
 kami
 0
 i
@@ -1067,9 +1067,9 @@ yang
 
 an
 di
-k
+saat
 -
-slot
+a
 kami
 
 t
@@ -1078,14 +1078,14 @@ ke
 banyak
 judi
 atau
-situs
+s
 menggunakan
 jika
 pada
 "
 di
 online
-"
+besar
 akan
 atau
 kamu
@@ -1098,17 +1098,17 @@ sebagai
 satu
 permainan
 nya
-para
+mereka
 dalam
 tersebut
 lebih
-/
+judi
 bisa
 terbaik
 ?
 banyak
 ada
-kan
+poker
 saya
 untuk
 d
@@ -1118,11 +1118,11 @@ dalam
 adalah
 ,
 kami
-jika
+dapat
 saat
 sangat
 juga
-mereka
+poker
 kita
 membuat
 -
@@ -1132,23 +1132,23 @@ e
 ini
 ke
 dengan
-?
-dengan
+8
+bisa
 sangat
 "
 atau
-saat
+para
 
 cara
 ke
 harus
-sangat
+yang
 9
 menjadi
 kami
 9
 8
-bagi
+hal
 i
 menggunakan
 0
@@ -1161,11 +1161,11 @@ besar
 (
 hanya
 ?
-untuk
+ini
 (
-s
+cara
 banyak
-salah
+8
 m
 kami
 atau
@@ -1192,28 +1192,28 @@ u
 di
 1
 baru
-judi
+/
 dalam
 ada
 s
 ,
 
 
-pemain
-/
+a
+menjadi
 
 untuk
-u
+a
 saat
-menggunakan
+d
 m
-beberapa
+k
 hal
 seperti
 tersebut
 saja
 anda
-untuk
+2
 m
 online
 2
@@ -1230,41 +1230,41 @@ kami
 maka
 itu
 lebih
-ini
+adalah
 atau
 
-dapat
+itu
 setiap
 besar
 -
 atau
 
-6
+a
 /
-harus
+permainan
 di
 dapat
 yang
-?
+besar
 dalam
 adalah
 slot
 salah
 0
-i
+saya
 satu
 bagi
 online
 para
 di
 (
-poker
+dengan
 satu
 1
 adalah
 kita
 "
-karena
+i
 telah
 karena
 4
@@ -1273,19 +1273,19 @@ dan
 seperti
 mereka
 yang
-memiliki
+:
 judi
 satu
 4
 2
 telah
-1
-namun
+mudah
+memiliki
 karena
 bermain
 di
 dari
-harus
+situs
 banyak
 k
 memiliki
@@ -1294,12 +1294,12 @@ anda
 dalam
 )
 dalam
-mereka
+lebih
 hal
 anda
 nya
 bisa
-mungkin
+permainan
 lain
 saya
 atau
@@ -1325,19 +1325,19 @@ adalah
 bisa
 memiliki
 online
-juga
+saat
 o
-
-k
+hanya
+bermain
 harus
 an
 0
 sangat
-kamu
+saja
 itu
 saya
 s
-sehingga
+o
 ini
 sangat
 baik
@@ -1348,7 +1348,7 @@ s
 3
 kami
 saya
-s
+ada
 pada
 .
 di
@@ -1386,7 +1386,7 @@ dapat
 yang
 
 "
-0
+karena
 secara
 menjadi
 saja
@@ -1399,10 +1399,10 @@ di
 online
 atau
 nya
-
+bagi
 poker
 .
-uang
+poker
 
 itu
 (
@@ -1430,14 +1430,14 @@ i
 5
 tidak
 jika
-pemain
+hal
 t
 adalah
 bisa
 cara
 game
 baik
-kamu
+
 m
 s
 dengan
@@ -1445,10 +1445,10 @@ a
 6
 
 menjadi
-i
+cara
 untuk
 .
-harus
+hal
 o
 satu
 dan
@@ -1458,7 +1458,7 @@ adalah
 2
 pada
 saja
-saat
+3
 secara
 satu
 -
@@ -1469,11 +1469,11 @@ pada
 sudah
 adalah
 dari
-game
+lain
 
 semua
 kan
-yang
+semua
 di
 "
 bisa
@@ -1492,13 +1492,13 @@ baik
 anda
 k
 itu
-s
+
 kami
 seperti
 bisnis
 
 adalah
--
+indonesia
 permainan
 akan
 i
@@ -1523,17 +1523,17 @@ indonesia
 0
 )
 nya
-ke
+?
 melakukan
 1
 di
 melakukan
-dapat
+secara
 tidak
 salah
-)
+saya
 besar
-tersebut
+tentang
 .
 nya
 akan
@@ -1545,27 +1545,27 @@ sudah
 seperti
 karena
 dan
-a
+t
 
 8
 kita
 mereka
-besar
+mereka
 dapat
 
-kan
+permainan
 -
 bisa
 melakukan
 9
 ,
-seperti
+mendapatkan
 
-tidak
+yang
 kamu
 juga
 dari
-satu
+situs
 .
 
 oleh
@@ -1575,7 +1575,7 @@ juga
 .
 dalam
 "
-,
+8
 anda
 itu
 dari
@@ -1586,19 +1586,19 @@ sangat
 ada
 .
 3
-game
-lebih
+adalah
+online
 ,
 2
 0
 
 ini
-lebih
+kan
 dari
 an
 a
-ke
-tahun
+k
+beberapa
 satu
 telah
 lain
@@ -1606,12 +1606,12 @@ lain
 untuk
 oleh
 
-5
+7
 saya
 bisa
 
 saja
-judi
+online
 dan
 0
 oleh
@@ -1630,20 +1630,20 @@ satu
 memiliki
 bisa
 nya
-mendapatkan
+:
 
-dan
+t
 
-2
-?
+.
+a
 yang
 anda
-
+1
 /
-seperti
+salah
 kita
 online
--
+tersebut
 akan
 pada
 setiap
@@ -1656,7 +1656,7 @@ s
 situs
 dengan
 adalah
-
+5
 5
 
 orang
@@ -1666,7 +1666,7 @@ e
 hal
 oleh
 itu
-dan
+lebih
 satu
 adalah
 nya
@@ -1687,14 +1687,14 @@ anda
 lebih
 bahwa
 indonesia
-
+9
 i
 tidak
 dengan
 di
 semua
 an
-saat
+"
 indonesia
 baik
 dari
@@ -1719,10 +1719,10 @@ dapat
 tersebut
 bagi
 0
-tersebut
+dengan
 9
-7
-kita
+kamu
+pada
 kami
 anda
 ini
@@ -1740,11 +1740,11 @@ sebagai
 jika
 satu
 saat
-d
+k
 s
 kita
 t
-semua
+membuat
 sebagai
 
 cara
@@ -1765,10 +1765,10 @@ salah
 ?
 hal
 untuk
-online
+i
 8
 hal
-namun
+
 s
 itu
 
@@ -1776,17 +1776,17 @@ itu
 "
 online
 4
-.
+judi
 seperti
 sangat
 permainan
 online
 dari
-memiliki
+kita
 dan
 mungkin
 mereka
-pada
+akan
 menggunakan
 )
 dalam
@@ -1808,19 +1808,19 @@ saja
 lain
 t
 lain
-menjadi
+oleh
 namun
 kan
 kamu
 /
 pada
 yang
-sebagai
+permainan
 bahwa
 nya
 maka
 dari
-adalah
+harga
 dengan
 saat
 salah
@@ -1837,15 +1837,15 @@ judi
 3
 hal
 ke
-di
-mudah
+karena
+dengan
 saat
-6
+bermain
 9
 tersebut
 mereka
 
-menggunakan
+bermain
 yang
 "
 menggunakan
@@ -1853,12 +1853,12 @@ anda
 membuat
 9
 i
-)
+adalah
 bagi
-
+memberikan
 lebih
-pada
-besar
+banyak
+apa
 (
 /
 s
@@ -1869,7 +1869,7 @@ ke
 6
 kan
 anda
-slot
+melakukan
 cara
 kamu
 pada
@@ -1880,15 +1880,15 @@ harus
 hanya
 dapat
 saja
-dapat
-?
-5
-sudah
-permainan
+dapat
+?
+mereka
+lebih
+kamu
 memiliki
 online
 saya
-indonesia
+anda
 bahwa
 saja
 0
@@ -1897,7 +1897,7 @@ telah
 oleh
 .
 
-d
+7
 tersebut
 
 menggunakan
@@ -1905,23 +1905,23 @@ menggunakan
 atau
 kamu
 yang
-.
+telah
 lebih
 ini
 maka
 judi
 4
-i
+kami
 permainan
 di
 dengan
 semua
-a
+t
 tersebut
 memiliki
 ,
 sebagai
-dalam
+2
 a
 6
 secara
@@ -1944,9 +1944,9 @@ mendapatkan
 menjadi
 melakukan
 indonesia
-pada
+-
 /
-online
+mereka
 sebagai
 harga
 
@@ -1955,7 +1955,7 @@ untuk
 hal
 memiliki
 (
-melakukan
+untuk
 tidak
 mereka
 hanya
@@ -1967,13 +1967,13 @@ semua
 sebagai
 tersebut
 lain
-ada
+4
 .
 tidak
-beberapa
+dalam
 bahwa
 ,
-saat
+a
 
 situs
 dapat
@@ -1996,24 +1996,24 @@ telah
 saja
 ,
 lebih
-saat
+besar
 -
 nya
 ke
-u
+saja
 sebagai
-1
+(
 bisa
 )
-saya
+oleh
 sangat
-anda
+kami
 0
 dengan
 adalah
 hal
 kami
-dan
+di
 "
 orang
 
@@ -2038,11 +2038,11 @@ d
 pada
 di
 
-juga
+dalam
 hal
 6
 di
-para
+judi
 s
 bahwa
 ada
@@ -2053,10 +2053,10 @@ e
 pada
 saya
 dengan
-t
+kamu
 nya
 sangat
-1
+cara
 membuat
 adalah
 tidak
@@ -2076,17 +2076,17 @@ k
 ke
 situs
 :
-sangat
-judi
+saya
+besar
 mungkin
 ini
 dapat
-salah
+kamu
 i
 a
 k
 2
-7
+indonesia
 seperti
 1
 anda
@@ -2098,7 +2098,7 @@ dan
 cara
 kan
 maka
-e
+ada
 0
 itu
 dan
@@ -2109,16 +2109,16 @@ satu
 oleh
 jika
 salah
-dari
+ini
 dari
 5
 orang
-3
+harus
 5
 dengan
 online
 1
-banyak
+dengan
 i
 )
 (
@@ -2126,12 +2126,12 @@ i
 untuk
 tentang
 situs
--
+ke
 pada
-menggunakan
+6
 3
 kita
-menjadi
+7
 saja
 banyak
 u
@@ -2141,20 +2141,20 @@ game
 adalah
 ,
 untuk
-oleh
+5
 tersebut
 /
-saya
+bahwa
 online
 namun
 seperti
 slot
-kita
+di
 5
-seperti
+para
 
 harus
-satu
+u
 nya
 
 akan
@@ -2169,11 +2169,11 @@ kita
 saja
 bahwa
 untuk
-saya
+sebagai
 
 ,
 ,
-bisa
+menjadi
 d
 -
 anda
@@ -2206,14 +2206,14 @@ bisnis
 di
 s
 kita
-saya
+judi
 orang
 mereka
 online
 bermain
 
-,
-baik
+jika
+harga
 ada
 itu
 tidak
@@ -2230,18 +2230,18 @@ untuk
 tahun
 saat
 mereka
-,
+poker
 pada
 ini
 dalam
 dan
 atau
 t
-lebih
+,
 mereka
 
 :
-di
+maka
 dalam
 para
 dari
@@ -2250,14 +2250,14 @@ akan
 dengan
 menjadi
 saya
-jadi
+ke
 0
 dalam
-pemain
+bisnis
 saya
 7
 7
-kami
+cara
 ,
 1
 dapat
@@ -2271,15 +2271,15 @@ ke
 dan
 0
 banyak
-saja
+hal
 0
-ingin
+jadi
 akan
 pada
 2
 menjadi
 dapat
-bahwa
+kamu
 di
 
 u
@@ -2307,10 +2307,10 @@ juga
 besar
 ini
 
-jika
-untuk
+,
+tidak
 dari
-kamu
+cara
 mudah
 untuk
 sangat
@@ -2335,7 +2335,7 @@ anda
 dengan
 untuk
 -
-bisa
+secara
 jika
 bermain
 yang
@@ -2343,7 +2343,7 @@ hanya
 k
 saja
 )
-g
+kita
 
 )
 online
@@ -2357,27 +2357,27 @@ untuk
 t
 pada
 untuk
-kan
+5
 ,
 judi
-bagi
+mendapatkan
 e
 saat
 
-judi
+secara
 k
-(
+mungkin
 dalam
 harus
-)
+5
 orang
 ,
 
 dalam
 ada
-bisa
+ini
 akan
-pada
+karena
 saya
 
 lain
@@ -2396,7 +2396,7 @@ lebih
 anda
 banyak
 juga
-sudah
+seperti
 :
 kita
 memiliki
@@ -2407,7 +2407,7 @@ dengan
 )
 anda
 i
-
+bahwa
 yang
 saya
 k
@@ -2418,10 +2418,10 @@ dari
 baik
 dan
 judi
-kita
+dalam
 kami
 juga
-online
+dapat
 para
 :
 ini
@@ -2431,14 +2431,14 @@ bisa
 d
 dengan
 dan
-permainan
+cara
 dapat
-lain
+2
 (
 secara
 memiliki
 yang
-kamu
+?
 oleh
 .
 atau
@@ -2453,20 +2453,20 @@ adalah
 atau
 yang
 beberapa
-menjadi
+lebih
 mereka
 ?
 
-maka
+semua
 memiliki
 dalam
 oleh
 -
 
-0
+dan
 itu
 adalah
-4
+sebagai
 -
 ?
 dalam
@@ -2491,7 +2491,7 @@ yang
 seperti
 untuk
 
-salah
+d
 yang
 ke
 
@@ -2534,12 +2534,12 @@ baik
 ,
 untuk
 
-banyak
+e
 yang
-an
+
 o
 sangat
-dan
+0
 sangat
 ke
 tersebut
@@ -2551,16 +2551,16 @@ hanya
 5
 k
 bahwa
-apa
+sangat
 hal
 8
 kami
-5
+satu
 tersebut
 9
 
 -
-i
+ada
 besar
 6
 s
@@ -2569,7 +2569,7 @@ dalam
 anda
 karena
 akan
-semua
+(
 bahwa
 akan
 sebagai
@@ -2580,8 +2580,8 @@ uang
 dan
 lebih
 
-harus
--
+baik
+dari
 bisa
 9
 untuk
@@ -2605,7 +2605,7 @@ saja
 para
 dan
 oleh
-tahun
+poker
 s
 sebagai
 waktu
@@ -2623,12 +2623,12 @@ yang
 tidak
 beberapa
 s
-dan
+
 
 mereka
 
-)
-kami
+tidak
+judi
 pada
 ,
 dan
@@ -2637,9 +2637,9 @@ d
 perlu
 an
 yang
-salah
-e
-bagi
+hal
+di
+.
 
 sangat
 bermain
@@ -2657,17 +2657,17 @@ karena
 0
 7
 a
-kamu
+)
 
 i
 itu
 atau
 1
 9
-ke
+hanya
 untuk
 juga
-4
+bisa
 bisa
 setiap
 dengan
@@ -2678,7 +2678,7 @@ karena
 sudah
 poker
 
-
+r
 "
 online
 2
@@ -2697,7 +2697,7 @@ sangat
 
 indonesia
 9
-harus
+9
 s
 menjadi
 ini
@@ -2705,7 +2705,7 @@ ini
 saya
 di
 i
-e
+i
 jika
 4
 ini
@@ -2715,7 +2715,7 @@ tidak
 t
 i
 
-anda
+yang
 
 karena
 satu
@@ -2729,10 +2729,10 @@ i
 atau
 adalah
 ini
-,
-3
+ini
+secara
 dalam
-kamu
+judi
 dengan
 dan
 oleh
@@ -2742,23 +2742,23 @@ bahwa
 anda
 sebagai
 tidak
-2
+pada
 mereka
--
-menjadi
+adalah
+sudah
 memiliki
 kita
-memiliki
+
 di
-dapat
+sebagai
 pada
-6
+waktu
 7
 dapat
 
 pemain
 ,
-1
+kami
 semua
 e
 maka
@@ -2769,18 +2769,18 @@ bisa
 :
 membuat
 bagi
-bermain
+telah
 mereka
 tidak
 karena
 e
-para
+salah
 bermain
 bisa
 bisa
 tidak
 juga
-dengan
+lain
 5
 
 tersebut
@@ -2795,7 +2795,7 @@ para
 
 pada
 .
-ke
+2
 e
 ?
 
@@ -2807,31 +2807,31 @@ jika
 n
 1
 bisa
-untuk
+dan
 banyak
 tidak
 2
 tahun
 e
-dari
+online
 
--
+8
 jika
 adalah
 situs
 di
-memiliki
+(
 dalam
 beberapa
 harus
 ,
 harus
 judi
-tidak
+itu
 anda
 menggunakan
 yang
-bagi
+kami
 harus
 ,
 di
@@ -2841,8 +2841,8 @@ e
 memiliki
 nya
 tidak
-hanya
-:
+hal
+.
 :
 untuk
 oleh
@@ -2850,11 +2850,11 @@ satu
 beberapa
 e
 dari
-2
+an
 
 kamu
 oleh
-8
+dari
 poker
 dari
 9
@@ -2866,7 +2866,7 @@ kamu
 5
 pada
 
-2
+bahwa
 saya
 orang
 sebagai
@@ -2875,7 +2875,7 @@ sudah
 saat
 karena
 orang
-itu
+kita
 s
 anda
 yang
@@ -2891,11 +2891,11 @@ d
 ,
 sudah
 juga
-permainan
+8
 online
-setiap
+ini
 itu
-9
+indonesia
 dalam
 besar
 mereka
@@ -2937,14 +2937,14 @@ sangat
 dan
 online
 saya
-lain
 poker
+poker
+banyak
 itu
-itu
-mungkin
+membuat
 nya
 atau
-atau
+orang
 saat
 9
 7
@@ -2955,7 +2955,7 @@ besar
 jika
 
 ke
-e
+sangat
 ke
 
 dapat
@@ -2966,7 +2966,7 @@ jadi
 sangat
 kamu
 dari
-jika
+9
 harus
 yang
 dari
@@ -2980,46 +2980,46 @@ banyak
 indonesia
 a
 anda
-
+permainan
 anda
 /
-ke
-7
+d
+ada
 d
 
 3
-,
+k
 aplikasi
 ada
 baik
 di
 ,
-oleh
+8
 s
 anda
 yang
 8
-sudah
+menjadi
 ini
-salah
+lagi
 menjadi
 poker
-saya
+hanya
 
 an
 juga
 situs
-8
+karena
 atau
 membuat
 untuk
 
-akan
+dan
 sangat
 yang
 dengan
-/
-indonesia
+mereka
+6
 ada
 nya
 4
@@ -3035,15 +3035,15 @@ n
 lebih
 -
 5
-d
+situs
 dalam
 nya
-juga
+0
 hal
 yang
-sudah
+untuk
 1
-beberapa
+a
 ,
 2
 sebagai
@@ -3057,27 +3057,27 @@ lain
 dengan
 4
 sudah
-k
+melakukan
 dapat
-situs
+e
 dengan
 sebagai
-telah
+ini
 bahwa
 an
-pada
+kita
 di
-adalah
+2
 i
 )
 pada
-cara
+tersebut
 online
 4
-yang
-cara
+tidak
 sudah
-s
+sudah
+memiliki
 dengan
 kita
 juga
@@ -3085,8 +3085,8 @@ anda
 cara
 untuk
 ini
-itu
-kamu
+harus
+an
 "
 judi
 ini
@@ -3096,8 +3096,8 @@ yang
 adalah
 tidak
 dapat
-bermain
-ke
+lebih
+permainan
 cara
 dapat
 dari
@@ -3131,7 +3131,7 @@ di
 ,
 satu
 judi
-sebagai
+an
 telah
 poker
 bisa
@@ -3155,8 +3155,8 @@ dan
 bahwa
 kamu
 karena
-mendapatkan
-9
+namun
+salah
 sangat
 online
 adalah
@@ -3182,8 +3182,8 @@ saja
 menjadi
 k
 seperti
-6
-menjadi
+telah
+7
 akan
 nya
 3
@@ -3191,7 +3191,7 @@ nya
 satu
 
 .
-a
+besar
 itu
 a
 cara
@@ -3209,52 +3209,52 @@ orang
 banyak
 kita
 .
-mereka
+i
 secara
 sebagai
-saat
+4
 ini
-ke
+karena
 banyak
 saja
 atau
-nya
+bermain
 adalah
 2
 menggunakan
 beberapa
-:
+yang
 kamu
 menjadi
 dan
 
 nya
-mereka
+lebih
 (
 online
 
-cara
+telah
 akan
 memiliki
 a
 hal
-judi
+situs
 4
 2
 memiliki
 :
-menjadi
+orang
 juga
 yang
 oleh
 akan
 lain
 ini
-membuat
-indonesia
-tidak
+kan
+bisnis
+g
 dalam
-/
+6
 u
 untuk
 memiliki
@@ -3263,13 +3263,13 @@ jika
 dengan
 yang
 ada
-1
+an
 saat
 dan
 itu
 
 poker
-dan
+0
 
 yang
 2
@@ -3279,9 +3279,9 @@ baik
 akan
 dengan
 orang
-n
-jadi
-1
+ada
+tahun
+satu
 0
 ke
 kita
@@ -3298,19 +3298,19 @@ dengan
 banyak
 nya
 orang
-permainan
-
+secara
+dengan
 "
 banyak
 an
 hanya
 
 jika
-dari
+an
 t
 tersebut
 adalah
-orang
+banyak
 beberapa
 0
 situs
@@ -3329,17 +3329,17 @@ mereka
 dan
 lebih
 ke
-banyak
+)
 memiliki
 saya
 4
 bisa
 kita
-bahwa
+permainan
 online
 cara
 2
-n
+m
 
 0
 e
@@ -3347,26 +3347,26 @@ bahwa
 
 d
 2
-5
+terbaik
 situs
 apa
-
+ke
 lebih
 untuk
 4
 baik
 0
 8
-uang
+pemain
 memiliki
 an
 hal
 judi
 5
-baik
+9
 secara
 4
-(
+)
 i
 uang
 ,
@@ -3383,8 +3383,8 @@ secara
 cara
 bisa
 sudah
-9
-dan
+5
+telah
 o
 bisa
 e
@@ -3396,15 +3396,15 @@ beberapa
 2
 -
 yang
-permainan
-banyak
+an
+i
 –
 tidak
-d
+e
 ,
 -
 an
-bermain
+d
 5
 dengan
 -
@@ -3412,14 +3412,14 @@ membuat
 9
 .
 anda
-tersebut
+situs
 9
 saya
 salah
 cara
 besar
 akan
-maka
+-
 cara
 menjadi
 5
@@ -3438,9 +3438,9 @@ atau
 di
 1
 dengan
-e
+memiliki
 /
-online
+(
 -
 banyak
 telah
@@ -3450,9 +3450,9 @@ jika
 online
 dengan
 0
-pada
+9
 semua
-untuk
+
 pada
 saya
 kita
@@ -3461,13 +3461,13 @@ bermain
 situs
 -
 banyak
-sangat
+mendapatkan
 sudah
 satu
 online
 bahwa
 saja
-:
+cara
 bisnis
 online
 6
@@ -3487,14 +3487,14 @@ permainan
 yang
 poker
 dari
-6
+indonesia
 oleh
 1
-besar
+memiliki
 untuk
 dan
 perlu
-8
+3
 satu
 dan
 dalam
@@ -3502,7 +3502,7 @@ dalam
 baik
 oleh
 
-beberapa
+kami
 dan
 bermain
 bisa
@@ -3522,20 +3522,20 @@ bisa
 permainan
 banyak
 a
-membuat
+t
 hanya
 oleh
 adalah
 ini
-dari
+adalah
 5
 mereka
 dan
 .
-kami
-dalam
+beberapa
+baik
 a
-sangat
+oleh
 hanya
 i
 i
@@ -3543,8 +3543,8 @@ untuk
 bisnis
 lebih
 atau
-merupakan
-apa
+berbagai
+poker
 pada
 di
 7
@@ -3557,13 +3557,13 @@ dari
 .
 kita
 akan
-u
+6
 dan
 poker
 
 waktu
-apa
-bermain
+game
+sebuah
 d
 k
 seperti
@@ -3580,7 +3580,7 @@ tidak
 untuk
 
 9
-"
+hanya
 :
 akan
 indonesia
@@ -3596,10 +3596,10 @@ sangat
 satu
 "
 )
-4
-e
+hal
+sangat
 ?
-secara
+anda
 5
 harus
 3
@@ -3614,9 +3614,9 @@ oleh
 1
 dari
 dengan
-u
+saja
 seperti
-satu
+situs
 (
 adalah
 banyak
@@ -3626,12 +3626,12 @@ maka
 itu
 ,
 1
-7
-harga
+kamu
+jika
 bisa
-r
+cara
 oleh
-kami
+4
 slot
 banyak
 ada
@@ -3640,22 +3640,22 @@ di
 s
 (
 3
-3
+5
 
 akan
 dapat
 sangat
 uang
-telah
+menggunakan
 "
-t
+
 seperti
 bahwa
 ke
 ,
-pada
+saja
 banyak
-ada
+pada
 bisa
 bahwa
 hanya
@@ -3669,22 +3669,22 @@ dari
 memiliki
 sangat
 hanya
-p
+dalam
 menggunakan
 memiliki
 saja
 karena
-7
-tidak
-jadi
+bermain
+pada
+
 i
 untuk
-s
+dalam
 online
 dari
 oleh
-oleh
-maka
+kita
+salah
 perlu
 6
 saat
@@ -3698,8 +3698,8 @@ slot
 cara
 i
 ke
-berbagai
 permainan
+membuat
 s
 cara
 menjadi
@@ -3707,18 +3707,18 @@ jika
 a
 dan
 dan
-jadi
+9
 
 banyak
-sangat
+tahun
 yang
 (
 dengan
-baru
+o
 slot
 bahwa
 i
-0
+s
 oleh
 namun
 sebagai

predict_results.json

@@ -1,12 +1,12 @@
 {
     "predict_gen_len": 1.0,
-    "predict_loss": 0.4885707199573517,
-    "predict_rouge1": 0.41,
+    "predict_loss": 0.4768540561199188,
+    "predict_rouge1": 0.4109,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4097,
-    "predict_rougeLsum": 0.4092,
-    "predict_runtime": 2754.6092,
+    "predict_rougeL": 0.4122,
+    "predict_rougeLsum": 0.4096,
+    "predict_runtime": 2349.5499,
     "predict_samples": 3737,
-    "predict_samples_per_second": 1.357,
-    "predict_steps_per_second": 0.042
+    "predict_samples_per_second": 1.591,
+    "predict_steps_per_second": 0.05
 }

train_results.json

@@ -1,9 +1,9 @@
 {
     "epoch": 5.0,
-    "total_flos": 4.9120107429888e+16,
-    "train_loss": 0.6270396870521358,
-    "train_runtime": 3918.4765,
+    "total_flos": 4.93143020273664e+16,
+    "train_loss": 0.5944349318809424,
+    "train_runtime": 3932.2853,
     "train_samples": 14290,
-    "train_samples_per_second": 18.234,
-    "train_steps_per_second": 1.141
+    "train_samples_per_second": 18.17,
+    "train_steps_per_second": 1.137
 }

trainer_state.json

@@ -10,112 +10,112 @@
   "log_history": [
     {
       "epoch": 1.0,
-      "grad_norm": 1.573519229888916,
+      "grad_norm": 1.5868409872055054,
       "learning_rate": 0.0008,
-      "loss": 0.827,
+      "loss": 0.7823,
       "step": 894
     },
     {
       "epoch": 1.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.517066240310669,
-      "eval_rouge1": 0.6517,
+      "eval_loss": 0.5091907978057861,
+      "eval_rouge1": 0.6551,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6531,
-      "eval_rougeLsum": 0.6496,
-      "eval_runtime": 37.7451,
-      "eval_samples_per_second": 19.791,
-      "eval_steps_per_second": 0.636,
+      "eval_rougeL": 0.6537,
+      "eval_rougeLsum": 0.6535,
+      "eval_runtime": 38.6735,
+      "eval_samples_per_second": 19.316,
+      "eval_steps_per_second": 0.621,
       "step": 894
     },
     {
       "epoch": 2.0,
-      "grad_norm": 0.5823910236358643,
+      "grad_norm": 0.5867279171943665,
       "learning_rate": 0.0006,
-      "loss": 0.6257,
+      "loss": 0.6005,
       "step": 1788
     },
     {
       "epoch": 2.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.4943862855434418,
-      "eval_rouge1": 0.6472,
+      "eval_loss": 0.47693932056427,
+      "eval_rouge1": 0.6706,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6472,
-      "eval_rougeLsum": 0.6469,
-      "eval_runtime": 37.6794,
-      "eval_samples_per_second": 19.825,
-      "eval_steps_per_second": 0.637,
+      "eval_rougeL": 0.6693,
+      "eval_rougeLsum": 0.6688,
+      "eval_runtime": 38.2912,
+      "eval_samples_per_second": 19.508,
+      "eval_steps_per_second": 0.627,
       "step": 1788
     },
     {
       "epoch": 3.0,
-      "grad_norm": 0.9307901859283447,
+      "grad_norm": 0.6152400970458984,
       "learning_rate": 0.0004,
-      "loss": 0.5832,
+      "loss": 0.5564,
       "step": 2682
     },
     {
       "epoch": 3.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.48476719856262207,
-      "eval_rouge1": 0.6329,
+      "eval_loss": 0.4768148362636566,
+      "eval_rouge1": 0.6725,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6335,
-      "eval_rougeLsum": 0.634,
-      "eval_runtime": 37.5561,
-      "eval_samples_per_second": 19.89,
-      "eval_steps_per_second": 0.639,
+      "eval_rougeL": 0.6709,
+      "eval_rougeLsum": 0.6731,
+      "eval_runtime": 38.223,
+      "eval_samples_per_second": 19.543,
+      "eval_steps_per_second": 0.628,
       "step": 2682
     },
     {
       "epoch": 4.0,
-      "grad_norm": 0.5210844874382019,
+      "grad_norm": 0.3360026776790619,
       "learning_rate": 0.0002,
-      "loss": 0.5581,
+      "loss": 0.5269,
       "step": 3576
     },
     {
       "epoch": 4.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.48243632912635803,
-      "eval_rouge1": 0.6575,
+      "eval_loss": 0.4666813910007477,
+      "eval_rouge1": 0.6722,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6562,
-      "eval_rougeLsum": 0.6576,
-      "eval_runtime": 37.1819,
-      "eval_samples_per_second": 20.09,
-      "eval_steps_per_second": 0.645,
+      "eval_rougeL": 0.6726,
+      "eval_rougeLsum": 0.6742,
+      "eval_runtime": 37.865,
+      "eval_samples_per_second": 19.728,
+      "eval_steps_per_second": 0.634,
       "step": 3576
     },
     {
       "epoch": 5.0,
-      "grad_norm": 0.741267740726471,
+      "grad_norm": 0.6582946181297302,
       "learning_rate": 0.0,
-      "loss": 0.5411,
+      "loss": 0.5061,
       "step": 4470
     },
     {
       "epoch": 5.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.47984424233436584,
-      "eval_rouge1": 0.6568,
+      "eval_loss": 0.4682966470718384,
+      "eval_rouge1": 0.6725,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.6564,
-      "eval_rougeLsum": 0.6586,
-      "eval_runtime": 37.5756,
-      "eval_samples_per_second": 19.88,
-      "eval_steps_per_second": 0.639,
+      "eval_rougeL": 0.6711,
+      "eval_rougeLsum": 0.6719,
+      "eval_runtime": 38.3475,
+      "eval_samples_per_second": 19.48,
+      "eval_steps_per_second": 0.626,
       "step": 4470
     },
     {
       "epoch": 5.0,
       "step": 4470,
-      "total_flos": 4.9120107429888e+16,
-      "train_loss": 0.6270396870521358,
-      "train_runtime": 3918.4765,
-      "train_samples_per_second": 18.234,
-      "train_steps_per_second": 1.141
+      "total_flos": 4.93143020273664e+16,
+      "train_loss": 0.5944349318809424,
+      "train_runtime": 3932.2853,
+      "train_samples_per_second": 18.17,
+      "train_steps_per_second": 1.137
     }
   ],
   "logging_steps": 500,
@@ -123,7 +123,7 @@
   "num_input_tokens_seen": 0,
   "num_train_epochs": 5,
   "save_steps": 500,
-  "total_flos": 4.9120107429888e+16,
+  "total_flos": 4.93143020273664e+16,
   "train_batch_size": 16,
   "trial_name": null,
   "trial_params": null