End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.4733
-- Rouge1: 0.7008
+- Rouge1: 0.3767
 - Rouge2: 0.0
-- Rougel: 0.7001
-- Rougelsum: 0.6968
+- Rougel: 0.3787
+- Rougelsum: 0.3802
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -1,29 +1,29 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5392429828643799,
-    "eval_rouge1": 0.4255,
+    "eval_loss": 0.4733169972896576,
+    "eval_rouge1": 0.3767,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.4247,
-    "eval_rougeLsum": 0.4257,
-    "eval_runtime": 112.4591,
+    "eval_rougeL": 0.3787,
+    "eval_rougeLsum": 0.3802,
+    "eval_runtime": 623.4734,
     "eval_samples": 747,
-    "eval_samples_per_second": 6.642,
-    "eval_steps_per_second": 0.213,
+    "eval_samples_per_second": 1.198,
+    "eval_steps_per_second": 0.038,
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5639165639877319,
-    "predict_rouge1": 0.3981,
+    "predict_loss": 0.4969109892845154,
+    "predict_rouge1": 0.3848,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.3961,
-    "predict_rougeLsum": 0.3978,
-    "predict_runtime": 560.7464,
+    "predict_rougeL": 0.3827,
+    "predict_rougeLsum": 0.3832,
+    "predict_runtime": 3042.8754,
     "predict_samples": 3761,
-    "predict_samples_per_second": 6.707,
-    "predict_steps_per_second": 0.21,
-    "total_flos": 7.526178534957466e+16,
-    "train_loss": 0.8352148081689672,
-    "train_runtime": 5166.7453,
+    "predict_samples_per_second": 1.236,
+    "predict_steps_per_second": 0.039,
+    "total_flos": 4.90376103985152e+16,
+    "train_loss": 0.6239253980696469,
+    "train_runtime": 3930.1136,
     "train_samples": 14266,
-    "train_samples_per_second": 13.806,
-    "train_steps_per_second": 1.726
+    "train_samples_per_second": 18.15,
+    "train_steps_per_second": 1.135
 }

eval_results.json

@@ -1,13 +1,13 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5392429828643799,
-    "eval_rouge1": 0.4255,
+    "eval_loss": 0.4733169972896576,
+    "eval_rouge1": 0.3767,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.4247,
-    "eval_rougeLsum": 0.4257,
-    "eval_runtime": 112.4591,
+    "eval_rougeL": 0.3787,
+    "eval_rougeLsum": 0.3802,
+    "eval_runtime": 623.4734,
     "eval_samples": 747,
-    "eval_samples_per_second": 6.642,
-    "eval_steps_per_second": 0.213
+    "eval_samples_per_second": 1.198,
+    "eval_steps_per_second": 0.038
 }

generated_predictions.txt

@@ -1,4 +1,4 @@
-dan
+permainan
 di
 
 untuk
@@ -13,53 +13,53 @@ dapat
 lebih
 1
 atau
-adalah
+kami
 pada
-jika
+d
 k
 
 2
 ,
-t
+a
 ke
 yang
 dalam
 
 7
-memiliki
+sudah
 dengan
 di
-kami
-,
+indonesia
+dengan
 .
-
--
-jika
+judi
+situs
+saat
 besar
-indonesia
+
 itu
 
 di
 lain
-6
+bahwa
 8
 1
-u
+"
 5
 tidak
 :
 .
-mereka
-hal
+semua
+e
 
 akan
 lebih
-sebagai
+itu
 seperti
 anda
 anda
-bisa
-lebih
+an
+atau
 3
 kan
 satu
@@ -68,10 +68,10 @@ dengan
 yang
 di
 -
-dengan
+k
 atau
-situs
-:
+e
+saja
 online
 jika
 0
@@ -80,86 +80,86 @@ untuk
 online
 8
 saja
-slot
+d
 /
-akan
+adalah
 untuk
 banyak
 orang
 memiliki
-telah
-mungkin
+n
+uang
 di
 dan
 dari
 atau
 dari
-0
-t
-kita
+dia
+secara
+/
 u
-situs
+)
 menjadi
-sebagai
+5
 0
-satu
-maka
-ada
-kita
+sebagai
+besar
+banyak
+slot
 9
-oleh
+s
 ,
-pada
+dari
 dapat
-6
-kamu
+4
+t
 ini
 lain
-dengan
-5
-salah
+di
+?
+jika
 e
 8
 kan
-telah
+bermain
 untuk
-9
+6
 untuk
 2
-t
+hanya
 :
 0
 dalam
 slot
 i
 adalah
-juga
+membuat
 beberapa
 
 dari
-.
+bermain
 
 kita
-karena
+5
 .
 para
-judi
+bisa
 ada
-akan
+pada
 
 saat
-d
-bisa
-anda
-/
+1
+s
+itu
+bahwa
 indonesia
-baik
+lain
 s
 dan
 
 tersebut
 
-untuk
+anda
 
 dan
 yang
@@ -168,84 +168,84 @@ oleh
 yang
 bisa
 besar
-kami
-dan
+hal
+an
 online
 sebagai
-3
+menjadi
 memiliki
 i
-hal
-0
+kita
+secara
 0
 bisnis
 yang
-harus
-pada
+o
+adalah
 
 dan
-saat
+k
 
-saja
+beberapa
 itu
-situs
+
 oleh
 pada
-memiliki
 0
-a
+0
+mereka
 pada
 baik
-dan
-4
+sebagai
+kamu
 pada
 ini
 -
-saja
+k
 
-2
-1
+atau
+tersebut
 ini
 orang
 dapat
 karena
 itu
-situs
+t
 i
 2
-0
+6
 lebih
 mereka
-kamu
+an
 dengan
-9
+sebagai
 salah
 
 .
-0
+1
 2
-anda
+p
 ini
 dengan
-menggunakan
+saja
 
 itu
 d
-itu
+salah
 .
 ini
 game
-lebih
-uang
+orang
+,
 d
 tahun
 
 ingin
-oleh
-9
-atau
+indonesia
+"
+para
 permainan
-d
+perlu
 ada
 .
 sudah
@@ -253,75 +253,75 @@ sudah
 untuk
 bahwa
 hanya
-salah
+besar
 5
 bahwa
-masih
-di
-
+sangat
+a
+bermain
 kan
 online
 slot
 atau
 anda
 3
-cara
+agar
 
 
-lebih
+orang
 saat
 anda
 tidak
 melakukan
-s
+8
 juga
 di
-saja
-dan
+dalam
+g
 sebagai
 an
 2
 .
 bisa
-kamu
+telah
 e
 0
 juga
 adalah
-tidak
-sangat
+5
+satu
 
 saat
-6
-ini
+secara
+pemain
 /
 anda
-besar
+menggunakan
 karena
 permainan
-jika
-?
+ke
+maka
 5
 mereka
-an
+pada
 untuk
 :
-sudah
+5
 dan
 membuat
-menjadi
+banyak
 juga
 "
 
 ini
 bisa
 /
-permainan
+satu
 banyak
-semua
-"
+8
+judi
 di
-dalam
+bagi
 ,
 bermain
 i
@@ -329,19 +329,19 @@ di
 kami
 sudah
 anda
-a
-an
-oleh
+judi
+ini
+yang
 ,
 saya
-s
-beberapa
+i
+tersebut
 online
 a
-waktu
+n
 8
 0
-situs
+e
 i
 oleh
 
@@ -351,46 +351,46 @@ itu
 besar
 i
 dalam
-
-terbaik
+saja
+/
 e
-3
-5
-(
+kita
+banyak
+?
 hanya
 tidak
 baru
 saat
 -
 an
-mereka
-mudah
+jika
+ke
 
 
 
 yang
 mereka
 )
-kita
--
+situs
+slot
 oleh
 
-u
+bermain
 bisa
 lain
 karena
-kita
+0
 sudah
 a
 .
 2
 di
-d
-pemain
-untuk
+mereka
+?
+untuk
 u
 ke
-dengan
+membuat
 cara
 yang
 untuk
@@ -400,139 +400,139 @@ untuk
 saya
 
 satu
-i
-)
+hal
+bagi
 pada
 2
 di
 saya
-9
+saya
 
-maka
+nya
 atau
 saja
 pada
 ini
-akan
+(
 oleh
 itu
 itu
 .
 jika
-hanya
+kamu
 itu
 )
 
-menggunakan
-memiliki
-baik
-harus
-jadi
+semua
+judi
+besar
+tahun
+o
 membuat
-)
-7
+akan
+sangat
 anda
 
 dengan
 ke
-untuk
+tidak
 "
 7
-di
+lebih
 s
-semua
+)
 yang
 oleh
 2
-3
-setiap
+kami
+lebih
 dari
-untuk
+hanya
 nya
 nya
-/
-game
+tersebut
+r
 itu
-permainan
+"
 i
 2
-kita
+karena
 :
 dalam
 )
 jika
-game
+r
 yang
-t
+melakukan
 mereka
-1
-kamu
-hal
-2
+semua
+a
+-
+:
 atau
 saat
 itu
 
-hal
-akan
+salah
+,
 s
 -
-karena
+)
 
 memiliki
-4
+hal
 
 saya
-ke
-7
+)
+sangat
 kami
-an
+sudah
 -
 hal
 permainan
 9
 dapat
 m
-2
+harus
 itu
 tersebut
 indonesia
 ini
 ada
-nya
+an
 yang
 untuk
-dalam
-mereka
+s
+namun
 jika
-
-atau
+dari
+tersebut
 e
 nya
 lebih
-menjadi
-anda
+apa
+dia
 -
 saja
 hanya
 seperti
 .
-bisa
+atau
 bisa
 2
 di
 melakukan
 dengan
-
-telah
+dan
+an
 tidak
 
-sangat
-cara
+memiliki
+harus
 nya
 bisa
-poker
-bisa
+bermain
+/
 1
 1
 -
@@ -542,13 +542,13 @@ s
 i
 dari
 lain
-5
-
+tahun
+u
 3
-dapat
+tetapi
 bisa
 7
-banyak
+menjadi
 )
 para
 e
@@ -556,17 +556,17 @@ i
 9
 atau
 indonesia
-k
-dari
+ini
+di
 online
 dan
 ,
 .
-poker
-"
-a
+membuat
+hal
+slot
 dengan
-pada
+d
 akan
 
 bahwa
@@ -574,54 +574,54 @@ bahwa
 uang
 anda
 di
-uang
-,
-baik
+pemain
+yang
+banyak
 untuk
-6
+sebagai
 saat
-n
+setelah
 anda
 itu
-dapat
-online
-kami
+pemain
+itu
+5
 0
 oleh
-bermain
+5
 seperti
 1
-:
+jika
 
 tidak
 dengan
 
 jika
-slot
-itu
-?
+u
+:
+bahwa
 tersebut
-hanya
+d
 itu
-sudah
-banyak
+para
+oleh
 menjadi
 saat
-7
+para
 dari
 di
 judi
-anda
+akan
 kan
 untuk
 "
 d
 s
-game
+bagi
 dari
-salah
+game
 juga
-akan
+d
 menjadi
 tidak
 s
@@ -630,26 +630,26 @@ dan
 0
 tersebut
 8
-bahwa
+a
 )
-bisa
+adalah
 saya
 yang
-tidak
+ini
 dengan
 dalam
-?
+semua
 cara
-seperti
+9
 
 dan
 baik
 dari
-orang
+3
 di
 beberapa
-,
-oleh
+untuk
+baik
 online
 ,
 "
@@ -657,27 +657,27 @@ online
 menjadi
 9
 tidak
-baik
-sangat
-kamu
+telah
+kami
+judi
 satu
 1
 
 pada
 )
 atau
-sangat
-juga
+/
+s
 orang
 adalah
-slot
-namun
+satu
+melakukan
 ada
 kami
 orang
 
-adalah
-jika
+slot
+membuat
 satu
 atau
 seperti
@@ -685,37 +685,37 @@ bisa
 menjadi
 
 dengan
-judi
+-
 tidak
 saya
-lain
+bermain
 dapat
 /
 7
 dan
-harus
-bisa
+juga
+-
 
-dalam
-/
-di
+ada
+4
+untuk
 e
-banyak
+s
 situs
-secara
+beberapa
 bisa
 seperti
 nya
-cara
+baik
 (
-judi
-/
+:
+:
 an
 memiliki
 di
 
 mereka
-menjadi
+.
 2
 dapat
 
@@ -723,137 +723,137 @@ dapat
 nya
 2
 ini
-?
-(
-maka
+kami
+permainan
+bermain
 k
 judi
 akan
-sudah
+slot
 ini
 bagi
 lebih
-pada
+hari
 bisa
-apa
+kan
 sangat
-tidak
+bermain
 1
 5
 ini
 juga
 menjadi
 .
-telah
+untuk
 i
 adalah
 ini
 :
-1
+adalah
 dan
-kan
-)
+/
+semua
 juga
 yang
-jika
+baik
 dengan
-saja
-9
+(
+orang
 
 :
-mereka
-4
-untuk
+ke
+p
+untuk
 0
 ,
 banyak
 dengan
 telah
-e
+menjadi
 s
-harus
+namun
 dalam
 i
 di
-
+bahwa
 bermain
-juga
+/
 sudah
 dan
 di
-juga
+atau
 
-salah
+kan
 orang
 hal
-slot
+?
 satu
 ,
 tersebut
-7
+slot
 dalam
 "
-online
+membuat
 ke
 pada
 8
 kamu
 
-9
+sebagai
 untuk
-hanya
+itu
 dari
 dalam
 ini
 ini
 orang
-bermain
+sebagai
 pada
-online
+judi
 situs
-0
+1
 
-jika
-tidak
+.
+nya
 dari
-k
-ada
+semua
+karena
 mereka
 akan
 di
-di
-cara
+)
+8
 anda
 6
-seperti
+judi
 orang
 :
-.
-0
-kan
+d
+itu
+baik
 .
 kami
-menggunakan
+9
 untuk
 lebih
 0
 
-k
+6
 adalah
+saja
 7
-mereka
-,
+menggunakan
 0
-
+bisa
 yang
-akan
-akan
+.
+tidak
 beberapa
 dari
-tentang
+ke
 1
 online
-dapat
+:
 untuk
 nya
 e
@@ -864,62 +864,62 @@ online
 harus
 kita
 besar
-itu
+membuat
 an
 
 dan
-dengan
+saat
 cara
 sudah
 karena
-saja
-9
+slot
+3
 
 (
 akan
-harus
-3
-4
-
-salah
+waktu
+ada
+tersebut
+tentang
+u
 
-s
-karena
+ada
+lain
 kamu
 seperti
 untuk
 oleh
-nya
-sangat
+/
+8
 memiliki
-:
+kan
 bisa
-1
+anda
 
-saja
+dari
 i
 o
 judi
 kan
-secara
+7
 
 0
 menjadi
 memiliki
-t
-kamu
-dari
-memiliki
+ada
+poker
+banyak
+d
 ,
-.
+karena
 adalah
 akan
-1
-lebih
-sebagai
-anda
+mudah
+ke
+d
+waktu
 ,
-saat
+mudah
 saya
 juga
 tersebut
@@ -931,20 +931,20 @@ kami
 
 itu
 mereka
-an
-(
+6
+permainan
 banyak
 4
 k
 adalah
 poker
-9
+tetapi
 pada
 dan
 akan
 (
 sangat
-baik
+dalam
 seperti
 tersebut
 2
@@ -954,34 +954,34 @@ ada
 oleh
 anda
 n
-i
+beberapa
 indonesia
 kita
 judi
 kamu
-/
+bahwa
 memiliki
 
 5
 dan
-4
+kita
 /
-sebagai
+4
 0
-baik
+6
 dan
 saat
 2
 3
 kan
 (
-"
+satu
 ke
-,
+maka
 banyak
-dalam
-
+akan
 
+kita
 0
 banyak
 yang
@@ -991,17 +991,17 @@ s
 banyak
 
 orang
-a
-baik
+4
+7
 kami
 menjadi
 dapat
-jika
+ini
 (
 k
 /
 online
-"
+4
 kita
 game
 ?
@@ -1011,23 +1011,23 @@ e
 menjadi
 sangat
 tidak
-atau
+jadi
 yang
-hanya
+saat
 4
-ini
+pun
 :
 0
 2
 akan
-seperti
+judi
 ini
 menjadi
 -
 jika
-sangat
+bisa
 mereka
-t
+0
 lebih
 dalam
 nya
@@ -1040,28 +1040,28 @@ ada
 dari
 bagi
 akan
-sangat
+bahwa
 membuat
 an
 (
 itu
-3
-bermain
+/
+:
 sudah
 -
-situs
+judi
 ,
-d
+baik
 tersebut
 anda
-di
+satu
 pada
 membuat
 bisa
 lebih
-yang
-1
-di
+kami
+tidak
+memiliki
 ingin
 1
 akan
@@ -1069,7 +1069,7 @@ kita
 harus
 sangat
 -
-9
+jadi
 dapat
 karena
 saya
@@ -1077,83 +1077,83 @@ di
 anda
 dalam
 dalam
-untuk
-(
+
+sudah
 dan
-9
+itu
 untuk
-jadi
-tersebut
+juga
+permainan
 lebih
-6
-hanya
-
+para
+memiliki
+salah
 
-bisa
+.
 untuk
-poker
+k
 
 nya
 dalam
 ?
 dan
 mereka
-bahwa
+/
 -
 menjadi
-dengan
+beberapa
 u
 a
-9
+situs
 
 menjadi
 adalah
-bisnis
+-
 indonesia
 dapat
-ke
+a
 bisa
 di
 8
 bahwa
-,
+slot
 harus
 untuk
 
 satu
 
-ke
-lebih
+u
+online
 
-tersebut
-juga
+saja
+adalah
 kita
 9
 sebagai
-t
+judi
 kita
 dapat
 akan
 kami
-untuk
+:
 permainan
-k
+salah
 bisa
 mendapatkan
-
+oleh
 :
 bahwa
 sudah
-kita
-3
+
+hal
 cara
 dan
-8
-dengan
+k
+–
 ,
 2
 
-semua
+u
 a
 di
 an
@@ -1161,15 +1161,15 @@ kamu
 
 
 mereka
-?
+beberapa
 online
 nya
-beberapa
+4
 cara
 .
 0
-indonesia
-a
+)
+jika
 akan
 ke
 1
@@ -1178,41 +1178,41 @@ ke
 ini
 bisa
 dan
-8
+i
 dengan
-cara
-k
-indonesia
+seperti
+/
+1
 -
 2
-9
+memiliki
 itu
-telah
-u
-kamu
+poker
+a
+6
 sebagai
-dengan
+7
 memiliki
 ada
+anda
+
 d
-i
-ke
 1
-bisa
+hal
 m
 
 menjadi
 dari
-semua
+para
 lebih
-sangat
+dengan
 kami
 d
-sudah
-s
+harus
+hanya
 adalah
 dengan
-mereka
+indonesia
 dalam
 yang
 semua
@@ -1225,35 +1225,35 @@ anda
 "
 dari
 dan
-hal
-cara
+akan
+ini
 membuat
 dengan
-/
+cara
 
-5
+banyak
 dan
 tidak
 saat
-(
+k
 i
-anda
-.
+
+hal
 karena
 banyak
-ingin
+,
 
 i
 lain
-bagi
+?
 4
 7
 
 untuk
-dapat
-tidak
-membuat
-itu
+indonesia
+nya
+situs
+
 .
 pada
 bisa
@@ -1264,98 +1264,98 @@ s
 dari
 anda
 ke
-9
+sebagai
 jika
 1
-oleh
+permainan
 sebagai
 pada
 salah
-menjadi
-baik
+satu
+m
 sangat
 1
 bagi
-pemain
+m
 lebih
 indonesia
 hanya
-juga
+saja
 untuk
 -
-judi
-juga
+"
+saja
 ,
-/
+seperti
 online
 s
 ini
 kami
-yang
-itu
+an
+9
 anda
 dengan
 1
 beberapa
-sebagai
-d
-karena
-.
--
+2
+cara
+9
+itu
+seperti
 .
 )
 kita
 kami
 untuk
-u
+situs
 tidak
 adalah
-sangat
+sebagai
 yang
-lebih
-anda
-sangat
-sudah
-poker
-i
+
+kamu
+harus
+mereka
+membuat
+s
 i
-dan
-telah
+secara
+baik
 melakukan
 ini
-4
+hanya
 7
 1
 baik
-sangat
+.
 9
-beberapa
-kan
-
+(
+/
+/
 2
 mereka
 dan
 1
-akan
+indonesia
 bagi
 u
 
 anda
-dalam
+saya
 ada
 .
-6
-7
+indonesia
+sudah
 juga
-bisa
+1
 untuk
 salah
-telah
-.
-d
-9
-e
-namun
+besar
+slot
+p
+judi
+hanya
+saya
 )
 kita
 e
@@ -1366,52 +1366,52 @@ sangat
 9
 dapat
 tersebut
-k
+oleh
 yang
 cara
 
 
-
+taruhan
 
 tersebut
 ?
 juga
-dengan
-yang
+saat
+permainan
 
 -
 .
 (
 mereka
 
-a
-saat
+indonesia
+online
 8
-dan
+uang
 akan
-?
-jadi
+tentang
+pemain
 banyak
 atau
 satu
+ke
 
-
-judi
-u
-menjadi
+orang
+k
+seperti
 dari
 permainan
 k
 hal
 oleh
-besar
-seperti
+kamu
+dengan
 cara
-juga
-secara
-mereka
+bisa
+kan
+maka
 )
-bermain
+slot
 secara
 judi
 yang
@@ -1426,52 +1426,52 @@ dengan
 di
 -
 itu
-tersebut
-kamu
-hanya
-menggunakan
-dapat
+u
+membuat
+mendapatkan
+(
+bisnis
 yang
 akan
 online
 memiliki
-untuk
+saat
 dengan
 i
 s
 "
-d
+ingin
 permainan
-sangat
-t
+saat
+dan
 dari
 
 8
-adalah
+ke
 banyak
 bisa
-u
-sebagai
+tersebut
+3
 untuk
-9
+game
 ada
 yang
-t
-e
-nya
+sebagai
+telah
+sebagai
 sebagai
 di
 melakukan
-m
+8
 :
-kita
+i
 i
 satu
 ?
 k
-harus
+permainan
 atau
-5
+memiliki
 oleh
 -
 tersebut
@@ -1479,22 +1479,22 @@ kami
 akan
 
 bisa
-
+,
 ada
-?
+kamu
 lebih
-atau
+salah
 a
 dalam
-dalam
+2
 tidak
-ada
+setiap
 )
-baik
+
 /
-baik
+game
 bisa
-sangat
+saja
 sebagai
 sangat
 an
@@ -1505,96 +1505,96 @@ di
 jika
 online
 t
-–
+dapat
 u
 baik
 di
 akan
-,
+ini
 akan
 ini
-?
-ada
+secara
+d
 
 3
 tersebut
 dan
 anda
-permainan
+harus
 dengan
 dapat
 saat
-sebagai
-9
+5
+kami
 :
 yang
-
+sendiri
 mereka
 yang
-memiliki
-yang
+hari
+”
 5
 t
 dan
 
 banyak
-perlu
-:
+cukup
+nya
 uang
 untuk
 an
 memiliki
 maka
-membuat
+
 ke
 dalam
-memiliki
+4
 mereka
 adalah
 pada
 -
-kita
+sudah
 /
 –
 juga
 hal
 dalam
-hanya
-karena
-t
+3
+s
+membuat
 ke
-dari
+judi
 ,
-game
+o
 situs
 menjadi
 waktu
 itu
 u
-menjadi
-4
+ada
+kita
 dan
 kamu
-
-
+seperti
+an
 juga
 sangat
 slot
 5
 semua
-atau
+tidak
 bahwa
 .
 :
 memiliki
 dengan
-8
-i
-?
+5
+.
+untuk
 k
 untuk
 atau
-online
+kan
 tidak
 oleh
 mereka
@@ -1620,68 +1620,68 @@ akan
 dengan
 juga
 mereka
-?
+hari
 adalah
 9
-secara
-
+maka
+taruhan
 bisa
 dan
-sebagai
-ke
+3
+mereka
 8
-e
+ke
 
 sudah
 )
-:
+dalam
 dan
-o
+n
 pada
 6
 satu
 sangat
 ,
-:
+t
 0
 anda
 dari
 kamu
-secara
-slot
-kita
-bahwa
+itu
+apa
+baru
+game
 kami
 oleh
 dapat
 beberapa
 tidak
-judi
-cara
+memiliki
+(
 banyak
 "
-kami
-
+harus
+yang
 .
 an
 dari
 memiliki
-1
-saja
 
+nya
+setelah
 dalam
 7
 dari
 dalam
 anda
 menggunakan
-indonesia
+
 beberapa
-kan
-:
+kami
+nya
 -
 /
-kamu
+lebih
 lebih
 beberapa
 .
@@ -1691,7 +1691,7 @@ dengan
 indonesia
 anda
 oleh
-bagi
+a
 bagi
 tidak
 saya
@@ -1699,51 +1699,51 @@ dari
 
 0
 di
-dan
-membuat
+saya
+beberapa
 2
 5
-uang
-u
-hanya
+lain
+6
+-
 ada
 1
-saya
+slot
 semua
 judi
-ada
+6
 menjadi
 
-para
 permainan
+bisa
 0
 sebagai
 itu
 hal
-0
-
+t
+8
 online
-melakukan
+permainan
 
 
 kami
 
 sangat
-sudah
-melakukan
+uang
+kan
 cara
-n
+ada
 lain
 pada
-oleh
+sangat
 karena
 tersebut
-saya
+k
 ,
 .
-ini
--
-0
+a
+jika
+sangat
 ke
 lebih
 atau
@@ -1756,20 +1756,20 @@ menjadi
 )
 ?
 adalah
-0
-orang
 
+orang
+sudah
 9
 saya
 permainan
-salah
-memiliki
+uang
+sudah
 anda
 orang
 oleh
-
+hari
 di
-u
+besar
 apa
 sudah
 
@@ -1777,37 +1777,37 @@ sudah
 2
 mereka
 maka
-juga
-situs
-akan
-karena
-apa
+lebih
+cara
+adalah
+5
+r
 .
 9
 bahwa
 oleh
-online
-dapat
+uang
+tahun
 .
 hanya
 yang
 pada
 di
-lebih
+secara
 
 judi
 4
 dengan
-sangat
+e
 
 )
 memiliki
 jika
 kami
-beberapa
+sudah
 yang
-bisa
-jika
+karena
+sudah
 tidak
 juga
 (
@@ -1815,37 +1815,37 @@ juga
 e
 kami
 permainan
-para
+menggunakan
 ini
-)
-saat
-banyak
+harga
+bisa
+itu
 bisa
 banyak
 yang
 d
-.
+membuat
 0
-6
+ke
+.
+menjadi
 .
-jika
-harus
 1
-t
+salah
 atau
-bisa
-judi
+-
+menjadi
 tidak
 kamu
 dan
 satu
-u
-1
+telah
+dari
 oleh
 itu
-bermain
-adalah
-4
+?
+sangat
+7
 
 1
 
@@ -1856,17 +1856,17 @@ tersebut
 s
 adalah
 7
-5
-karena
-.
+6
+online
+?
 
 (
 di
 lebih
 secara
 juga
-.
-an
+p
+kamu
 itu
 jika
 beberapa
@@ -1874,212 +1874,212 @@ di
 banyak
 dapat
 satu
-mereka
+kami
 oleh
 
 
-u
-kan
+a
+m
 (
 
-tersebut
+sangat
 untuk
 ,
 
 banyak
 permainan
 k
-harus
+cara
 s
 dalam
 harus
-secara
-(
-tahun
+:
+itu
+apa
 ke
-pada
-
+itu
+k
 ,
 itu
 dari
 judi
 online
-menggunakan
+besar
 i
-harus
+sangat
 karena
 menjadi
 ke
 memiliki
-oleh
+1
 pada
-bisa
-indonesia
+saya
+dari
 a
 untuk
 dalam
-i
+s
 "
-nya
-dengan
+kamu
+,
 pada
-?
+o
 apa
-bisnis
-lain
+merupakan
+d
 dari
 
-dalam
+
 
 jika
 
 dan
-anda
+9
 bisnis
 dengan
-bisnis
+8
 karena
-kita
-permainan
+)
+:
 3
 2
 dalam
 di
 saat
-s
+sudah
 itu
-o
-
+kami
+poker
 adalah
 
-hal
+untuk
 t
-6
+?
 3
 juga
-besar
-2
+tersebut
+lainnya
 uang
-t
-cara
-
-,
+"
+o
+satu
+kan
 9
 online
 online
 satu
 maka
 .
-4
-harus
+itu
+.
 tidak
 bisa
 i
 karena
 online
-permainan
+bahwa
 dengan
-jadi
-
-para
+k
+permainan
+pada
 tidak
 harga
-nya
-hal
+a
+hanya
 (
+bahwa
 hanya
-an
 dapat
-itu
 sangat
-online
-kami
+masih
+lebih
+yang
 dengan
 
 satu
 ,
-ada
+menjadi
 kan
 hal
 i
 jika
-anda
+2
 lebih
 yang
 saya
 saja
 .
-dalam
+)
 akan
 hal
 2
-9
+situs
 .
 e
 mereka
 salah
-dengan
+cara
 
 permainan
 harus
-bagi
+mudah
 -
 bahwa
 membuat
 sebagai
-6
+baik
 dari
 :
-memiliki
+"
 di
-
-r
+ingin
+terbaik
 2
-bermain
-saja
+slot
+jika
 
-karena
+5
 
 lain
 harus
 mereka
-permainan
+d
 namun
 anda
 poker
 
 "
-maka
+baik
 2
 dapat
-a
+anda
 ,
 anda
--
-7
+maka
+game
 2
 s
 0
 1
 8
-juga
-seperti
+)
+hal
 ke
 kan
 banyak
-maka
+slot
 lebih
 harus
-
-,
-pada
 -
-sudah
+,
+ini
+)
+orang
 seperti
 sudah
 m
-an
-yang
+9
+membuat
 jika
 3
 bisa
@@ -2102,28 +2102,28 @@ permainan
 "
 melakukan
 dapat
-akan
-
+itu
+setelah
 u
 nya
 menjadi
-banyak
+cara
 5
-u
-n
+ingin
+rumah
 bahwa
 harus
 tidak
 2
-membuat
-tahun
+tersebut
+i
 di
 lain
-5
+lebih
 /
 memiliki
-.
-an
+d
+beberapa
 online
 i
 kami
@@ -2133,7 +2133,7 @@ maka
 dari
 di
 bagi
-s
+saat
 banyak
 anda
 
@@ -2141,28 +2141,28 @@ pemain
 )
 dari
 "
-(
+ada
 ,
-oleh
-lain
+?
+salah
 situs
-judi
+hal
 4
 dapat
 .
-t
-t
-sudah
-atau
-i
+ke
+permainan
+hanya
+setiap
+bahwa
 saja
 untuk
 dengan
-tentang
+s
 1
 sebagai
 mudah
-banyak
+maka
 0
 tidak
 i
@@ -2170,33 +2170,33 @@ i
 2
 9
 bahwa
-9
-tidak
-8
+–
+?
+ini
 ada
 dalam
 untuk
-pemain
+tersebut
 hal
 menjadi
 satu
 yang
-anda
+8
 2
-saja
+secara
 ,
 )
-membuat
+e
 sudah
-lain
+saya
 itu
 jika
-dalam
-permainan
+besar
+pada
 beberapa
 yang
 ,
-saja
+kamu
 kami
 satu
 untuk
@@ -2205,111 +2205,111 @@ bisa
 hal
 dengan
 dalam
-poker
+dapat
 itu
 mereka
 
 yang
-indonesia
-bisa
+untuk
+
 saja
-adalah
+s
 beberapa
 (
-.
+namun
 anda
-untuk
+menggunakan
 jika
 kan
 seperti
-tidak
+atau
 saat
 anda
 memiliki
 e
 ,
 tahun
-juga
-1
+(
+adalah
 dalam
 bermain
 .
+1
+game
 0
-o
 0
-3
 anda
-karena
+(
 lebih
 1
 
-seperti
-kan
+k
+akan
 ,
 dengan
-online
-para
+lain
+telah
 an
 saya
-dapat
-dari
+e
+judi
 karena
 anda
-adalah
+.
 besar
-5
+banyak
+ke
+para
 
-melakukan
-yang
 akan
-bermain
+an
 bisa
 
 beberapa
-?
+o
 3
-maka
+uang
 adalah
-bahwa
+akan
 atau
 nya
 menjadi
-tersebut
+oleh
 7
 dan
-dan
-menjadi
+,
+mudah
 orang
 adalah
-pada
+untuk
 
-game
+namun
 
 ,
-orang
+sangat
 9
 a
 1
-:
-o
-atau
+(
+
+permainan
 adalah
-namun
-menggunakan
-dapat
-situs
+tersebut
+salah
+judi
+kamu
 indonesia
 akan
-harus
+sangat
 di
-k
+dari
 :
 e
 
 e
-9
+nya
 satu
-ini
+dengan
 bisa
 (
 s
@@ -2327,53 +2327,53 @@ ke
 
 seperti
 untuk
-t
+a
 adalah
 "
 satu
-?
-u
-anda
+bahwa
+
+2
 memiliki
-bermain
+slot
 dan
-dengan
-poker
-,
+oleh
+semua
 6
+telah
 kita
 untuk
 u
-:
+m
 memiliki
 ada
-harus
+memiliki
 )
-sudah
-sangat
+tersebut
+memiliki
 
 karena
 online
 oleh
-permainan
-baik
+maka
+lain
 bisa
 nya
-4
+memiliki
 mereka
 di
 yang
-lebih
-8
-melakukan
+secara
+satu
+mendapatkan
 
 -
 semua
 i
 jika
-anda
-telah
-itu
+hari
+indonesia
+hanya
 k
 
 d
@@ -2383,10 +2383,10 @@ yang
 
 
 
-jika
-lebih
-maka
-satu
+(
+banyak
+ini
+menjadi
 juga
 untuk
 dan
@@ -2396,38 +2396,38 @@ untuk
 dengan
 oleh
 jika
-3
-untuk
+dan
+situs
 memiliki
 dalam
-apa
-itu
+r
+4
 s
 menjadi
 cara
-sebagai
+kamu
 atau
 6
 ini
 9
-setiap
-salah
-pemain
-adalah
+akan
+d
+menggunakan
+mudah
 dalam
 )
 /
-namun
-lebih
+dan
+o
 maka
 0
-a
-e
+beberapa
+kami
 permainan
 3
 ,
-sangat
-?
+bisa
+sebagai
 online
 banyak
 game
@@ -2435,165 +2435,165 @@ s
 lebih
 2
 
--
+2
 yang
 8
 jika
 lebih
 banyak
-hal
-mereka
+situs
+(
 cara
 )
 uang
 kami
 -
-dengan
 yang
-4
+yang
+saya
 yang
 sudah
 adalah
 karena
 judi
-baik
-5
+indonesia
+permainan
 situs
-
+dan
 juga
 anda
 kamu
 .
-slot
+game
 oleh
 
 i
 /
-satu
+saat
 -
-a
+indonesia
 2
 ini
-karena
+i
 (
 
 
-online
+4
 yang
 saja
-akan
+m
 ini
-kan
+membuat
 anda
-3
+s
 slot
 ,
 online
-di
+6
 untuk
 atau
-"
+membuat
 hal
-saya
+nya
 yang
 :
 4
 4
-pada
+t
 hal
 ada
 8
-6
+membuat
 nya
 dengan
-d
+slot
 kita
 sudah
 situs
 untuk
 menjadi
-mereka
-)
+waktu
+p
 
 itu
-kami
+satu
 dan
 tidak
 ?
 i
 ada
 
-e
+i
 
 1
-5
+uang
 
 2
 e
 dalam
-)
+yang
 itu
 dari
 
 p
 4
-
-dengan
+t
+"
 
 :
 harus
-/
+"
 saja
 untuk
 uang
-lebih
+atau
 dalam
-?
-sangat
-(
+saja
+0
+satu
 s
 adalah
 nya
 d
 
-bahwa
+an
 nya
 kita
-mereka
+3
 yang
 an
 ada
 i
 
 dengan
-)
+melakukan
 saat
 yang
 ,
+bisnis
 t
-t
-namun
-6
-karena
+dengan
+membuat
+atau
 untuk
-tidak
 .
-online
+.
+kan
 4
 ke
 dengan
-?
-u
+baik
+6
 di
-
+saya
 itu
-mereka
-dapat
+baik
+anda
 pada
 dari
-nya
+akan
 dapat
-memiliki
+slot
 
 5
 :
@@ -2601,114 +2601,114 @@ e
 saja
 -
 i
-baik
+hanya
 para
-ke
-baik
+3
+mereka
 kita
 
-beberapa
-e
+/
+
 untuk
 bisa
 oleh
 karena
-harus
-.
-u
+saya
+,
+lain
 uang
 memiliki
 (
 
-an
-itu
-menjadi
+kami
+ada
+sebagai
 itu
 juga
-oleh
-e
+judi
+satu
 0
 nya
-yang
+anda
 9
-an
-s
+kami
+mereka
 yang
-dapat
+)
 yang
 "
-dengan
+
 5
 tersebut
 atau
 adalah
-7
-yang
--
-hanya
+kita
+
+tidak
+anda
 sudah
 :
-sangat
+beberapa
 tidak
 dengan
-memiliki
+yang
 6
-situs
+itu
 0
-di
-kamu
-bisa
+-
+saja
+dan
 beberapa
 .
 yang
-9
+namun
 u
-,
-tersebut
+jadi
+bisa
 karena
-2
-tersebut
+harus
+oleh
 0
-kami
-kamu
+judi
+1
 anda
 cara
-9
+judi
 permainan
-lebih
+memiliki
 juga
 di
-seperti
+k
 (
-menggunakan
-jika
-sangat
+kita
+/
+ada
 di
-adalah
-i
+an
+s
 2
 ,
 
-atau
+telah
 indonesia
-sangat
+6
 untuk
 atau
-lain
-ingin
+namun
+semua
+,
+dengan
+
 situs
-lebih
 
-waktu
-dengan
-jika
+satu
 adalah
-seperti
+)
 yang
 anda
 apa
-0
-melakukan
+2
+dan
 ini
 di
 9
@@ -2716,15 +2716,15 @@ pada
 1
 oleh
 .
-judi
+cara
 )
-secara
+o
 5
-9
+menjadi
 :
-hal
+bisa
 o
-2
+di
 2
 di
 adalah
@@ -2738,14 +2738,14 @@ menggunakan
 dari
 permainan
 i
-a
+kan
 akan
 yang
-lebih
+semua
 8
 ini
 akan
-situs
+salah
 online
 online
 ada
@@ -2753,21 +2753,21 @@ yang
 -
 ke
 dalam
-orang
+)
 ke
 ini
 5
 dan
-bisa
+ini
 dalam
 lebih
-anda
-4
+saja
+saat
 
-orang
-6
+saya
+akan
 -
-dapat
+cara
 beberapa
 anda
 2
@@ -2778,7 +2778,7 @@ u
 dan
 itu
 tersebut
-.
+indonesia
 tidak
 dan
 s
@@ -2787,75 +2787,75 @@ indonesia
 /
 oleh
 s
-i
+online
 9
-3
+mendapatkan
 hal
-kamu
+mereka
 0
-hanya
+a
 saja
 
 ini
 )
 .
 nya
-n
+t
 bahwa
-7
-sangat
-yang
 karena
+4
+yang
+cara
 i
 hanya
-k
+)
 saat
 i
 sudah
-kita
+saya
 dan
 untuk
-ini
-?
+-
+
 dapat
 e
-waktu
-harga
-anda
+akan
+,
+"
 di
 juga
 dalam
-slot
+saya
 0
 untuk
-ada
+satu
 jika
-ini
+/
 0
 (
 tersebut
--
+harga
 .
 anda
-satu
-online
+hanya
 ini
-bisa
-
-tersebut
 ini
-saja
-kami
+adalah
+baik
+8
+ini
+?
+saat
 apa
-2
 ada
-situs
+ada
+:
 ,
 saja
 dan
 anda
 satu
-kita
+tidak
 kamu
 untuk
 adalah
@@ -2863,33 +2863,33 @@ adalah
 sebagai
 
 untuk
-situs
+k
 s
-anda
+u
 tidak
 saat
 dengan
-oleh
+5
 banyak
 )
 "
-memiliki
+s
 dalam
-
-)
+kami
+kita
 oleh
 bermain
 dan
 sudah
 maka
-ada
+?
 dengan
 permainan
 tersebut
 .
-n
-harus
-itu
+bisa
+a
+e
 akan
 hanya
 ?
@@ -2898,18 +2898,18 @@ jika
 0
 3
 memiliki
-akan
+dengan
 itu
 sangat
 0
-nya
-d
+slot
+k
 mereka
 sudah
 pada
 untuk
 1
-(
+harus
 
 secara
 
@@ -2919,8 +2919,8 @@ kan
 s
 adalah
 dapat
-sudah
-yang
+memiliki
+-
 sudah
 dalam
 ke
@@ -2928,18 +2928,18 @@ adalah
 2
 tidak
 ini
-harus
-secara
+sebagai
+membuat
 2
-ingin
+indonesia
 slot
 untuk
 0
 t
-satu
+oleh
 memiliki
 pada
-yang
+kamu
 dan
 
 saja
@@ -2947,61 +2947,61 @@ situs
 banyak
 seperti
 saat
-akan
+pemain
 7
 akan
 lebih
 kami
 besar
-yang
+baik
 nya
-karena
+menjadi
 5
 uang
-dengan
-sebagai
+terbaik
+hal
 ,
 lain
 dalam
 dan
 akan
-menjadi
+saja
 2
 ini
-jadi
+u
 apa
 mereka
-untuk
+satu
 k
 s
 apa
 dan
 mendapatkan
-ini
+2
 3
 di
 -
 menjadi
-kan
+tersebut
 cara
 ke
 telah
 s
 situs
-mungkin
+o
 4
-bisnis
-membuat
-sangat
+salah
+seperti
+apa
 namun
-nya
-,
-semua
+baru
+t
+0
 hanya
 dengan
 menjadi
 /
-6
+yang
 harus
 .
 dengan
@@ -3011,42 +3011,42 @@ di
 lebih
 karena
 pada
-saat
+adalah
 
 sangat
-:
+saat
 9
 s
-jika
+0
 (
 hal
 akan
 sangat
 lebih
 
-bisa
+?
 nya
-besar
+d
 membuat
 pada
 adalah
 salah
-maka
+d
 banyak
 )
-online
+secara
 0
-
+"
 lebih
 situs
-slot
+8
 5
 menjadi
 5
 orang
-.
+uang
 hal
-?
+nya
 /
 0
 anda
@@ -3054,13 +3054,13 @@ adalah
 5
 beberapa
 online
-
+baik
 ini
 .
 pada
 jadi
-9
-yang
+s
+judi
 
 yang
 secara
@@ -3072,91 +3072,91 @@ lebih
 tidak
 dari
 orang
-3
-seperti
+telah
+4
 0
 nya
 kamu
 6
-membuat
-menjadi
+hal
+,
 mendapatkan
-kamu
-ada
+permainan
+dapat
 di
 permainan
 :
 :
 dengan
-dan
+apa
 5
 orang
 baik
 anda
-2
+kan
 .
 karena
 akan
-an
+membuat
 
 cara
-para
-kita
+kami
+p
 seperti
 
 .
-indonesia
+bisnis
 3
-)
+7
 dan
 melakukan
 0
 tidak
-dari
+dalam
 sebagai
 situs
-dari
-jika
--
+tersebut
+0
 -
-semua
+3
+pemain
 dengan
 saja
 online
-oleh
+,
 dengan
 
 
-)
+5
 dari
-juga
+s
 nya
 karena
-saya
+cara
 adalah
-secara
-saja
-slot
+satu
+membuat
+ini
 sudah
 dengan
-secara
-mendapatkan
+pada
+m
 dengan
 ,
 karena
-tidak
-banyak
+6
+)
 lebih
 i
 s
-ke
+2
 hal
 7
 ke
 baik
-ke
+yang
 beberapa
-lain
+indonesia
 
 ,
 
@@ -3164,77 +3164,77 @@ lain
 1
 0
 lebih
-banyak
-judi
-pada
+ke
+mendapatkan
+masih
 saya
 pada
 mereka
 cara
 pada
-ke
+hari
 /
 
-membuat
+u
 jika
 "
 memiliki
-"
+)
 jika
 untuk
 orang
 
 "
-yang
+saja
 
 
 lain
-lain
+bahwa
 
 satu
 ini
 secara
 karena
-oleh
+sangat
 harus
 
 besar
-kami
-i
+saya
+ini
 karena
-seperti
+orang
 -
 dengan
 
 bisa
-lain
-kita
+4
+bahwa
 2
 di
 e
 tidak
-dari
+beberapa
 8
 online
-/
+t
 karena
 ?
 hal
 3
+bahwa
 seperti
-seperti
-bisnis
-para
+uang
+membuat
 saat
-situs
+cara
 ,
 0
-adalah
+lebih
 dari
 atau
 sangat
 /
-hal
+kami
 ini
 memiliki
 .
@@ -3244,108 +3244,108 @@ satu
 dan
 indonesia
 hanya
-8
-sangat
-t
+)
+bahwa
+di
 atau
 slot
 untuk
-judi
+an
 ada
-pemain
-untuk
-adalah
-dan
+kamu
+yang
+pada
+saya
 cara
 ke
 ,
-?
+u
 yang
 s
-5
+2
 
 u
 yang
 lebih
-baik
-bisa
+,
 tidak
+situs
 7
-indonesia
+telah
 1
-7
+(
 saat
 ,
 secara
 an
-an
+hanya
 untuk
-dapat
-mereka
-mudah
+kami
+oleh
+n
 ,
 
-menjadi
+e
 3
 salah
-saja
+saya
 kita
-e
-online
-yang
-an
+4
+8
+7
+?
 5
-s
+judi
 tidak
 1
-kami
+5
 adalah
 9
 mereka
-5
+situs
+2
 2
-0
 adalah
-kan
 karena
-kamu
+karena
+an
 atau
 8
 saat
-d
-pada
+nya
+bisa
 saya
 oleh
-baik
-cara
+a
+"
 
 k
-hal
-kan
-kami
-bagi
+bahwa
+besar
+situs
+dan
 kan
 bagi
-ini
-online
+
+karena
 n
-banyak
+dapat
 5
-tidak
-e
-dalam
+kamu
+untuk
+itu
 jika
-oleh
+situs
 nya
 membuat
-sebagai
+anda
 di
 menjadi
-)
-beberapa
+jika
+
 beberapa
 
-s
+ke
 nya
 s
 jika
@@ -3356,58 +3356,58 @@ ke
 karena
 ke
 3
-pada
-dan
-nya
+hal
+indonesia
+5
 2
-1
-banyak
-k
+dapat
+telah
+situs
 
-harus
+saya
 saja
 4
 3
 dalam
 tidak
 anda
-permainan
+an
 jadi
 ini
 4
-menggunakan
-game
+bisa
+ini
 nya
 harus
 untuk
 i
-permainan
+o
 
 dapat
 tidak
 d
-p
-4
+melakukan
+sebagai
 akan
-karena
+sebagai
 orang
-bahwa
+satu
 juga
 satu
 
-kami
+dengan
 "
-sangat
-kami
 saya
-ini
+saya
+5
+,
 untuk
 kita
-namun
+kami
 
-lebih
-2
+para
 2
+baru
 dari
 nya
 an
@@ -3415,7 +3415,7 @@ dan
 dapat
 2
 s
-dapat
+menggunakan
 dalam
 itu
 di
@@ -3424,113 +3424,113 @@ harus
 di
 akan
 beberapa
-saat
+?
 sebagai
-yang
+terbaik
 
 sebagai
 s
 /
 adalah
-tidak
+5
 
 yang
-s
+ada
 lebih
-
+,
 tersebut
 situs
-telah
+situs
 s
-?
+anda
 anda
 o
 nya
-bahwa
-tidak
-/
+3
+)
+slot
 saja
 .
-secara
-salah
+r
+slot
 di
-3
+memiliki
 seperti
-beberapa
+di
 karena
 kami
 pada
-e
-t
-9
-8
-namun
+saya
+maka
+kamu
+saya
+
 ,
 kita
 ini
 
 satu
-mereka
+5
 indonesia
 6
-
-sangat
+apa
+beberapa
 online
 (
+mudah
 
-
-5
-situs
+menjadi
+adalah
 situs
 oleh
-orang
+satu
 ada
 bahwa
-kami
+k
 dari
-hal
-dengan
-memiliki
+juga
+karena
+indonesia
 
 memiliki
 
 k
-kita
+3
 e
-bahwa
+/
 4
 tersebut
 seperti
 situs
-1
+/
 bisa
 dan
-pemain
+1
 saja
 3
 ke
-cara
-
+agar
+slot
 )
 judi
 lain
 u
 akan
-di
+beberapa
 seperti
-saat
-akan
+o
+a
 kami
-harus
+untuk
 nya
 kita
 juga
-,
+baru
 tersebut
 
 hal
 juga
-(
+mereka
 dengan
 dari
 cara
@@ -3538,38 +3538,38 @@ anda
 lebih
 sebagai
 satu
-
+m
 9
 7
 dalam
 i
 saat
-jadi
+tahun
 bisa
 
 namun
 )
 sangat
 anda
-ini
+bisa
 4
-s
-jika
+/
+masih
 harus
 0
-saja
+d
 8
-pemain
-2
+anda
+dari
 ini
 menjadi
 secara
 banyak
-anda
-d
+dari
+bahwa
 indonesia
 ini
-ada
+3
 untuk
 online
 di
@@ -3577,15 +3577,15 @@ akan
 sudah
 satu
 k
-maka
+oleh
 baik
-indonesia
-an
+saya
+salah
 6
 poker
 sebagai
-kamu
-saya
+sebagai
+cara
 online
 8
 kita
@@ -3593,30 +3593,30 @@ pada
 oleh
 dengan
 kita
-(
+saja
 ini
 .
 s
 dari
 ini
-semua
+di
 di
 sangat
-harus
-7
+slot
+apa
 7
 harus
 0
-adalah
+tersebut
 ,
 bahwa
 nya
 seperti
 an
-judi
-orang
+saya
+mendapatkan
 sebagai
-a
+.
 bisa
 di
 memiliki
@@ -3627,135 +3627,135 @@ memiliki
 saja
 beberapa
 orang
-2
-slot
+waktu
+judi
 ada
 judi
 5
 untuk
 game
 pemain
-ada
+u
 .
-itu
+atau
 oleh
-ini
+
 situs
 saja
 :
 dan
 dan
-dalam
-oleh
+9
+permainan
 0
 dengan
-semua
+karena
 poker
-)
+ada
 2
 saya
 orang
-
+satu
 "
 dari
 anda
 )
-beberapa
-online
-kan
+seperti
+tidak
+lebih
 a
 yang
 .
 -
 orang
-atau
+salah
 yang
 satu
 mereka
-s
+baik
 -
 sudah
 "
 t
 e
 online
-baik
+e
 banyak
 0
 adalah
 lebih
 "
 2
-juga
+atau
 baik
 di
 itu
-kami
+karena
 dengan
 dan
+kami
 karena
-
 orang
 7
 hal
-
-tersebut
-setiap
-saya
+saja
+di
+)
+slot
 lebih
-/
+bahwa
 bisnis
 satu
 menggunakan
-5
-seperti
+harus
+"
 6
 0
 para
-beberapa
-baik
+menggunakan
+t
 ada
 an
 
 e
 baik
 akan
-5
+besar
 membuat
-slot
+mungkin
 akan
-atau
-pada
-sangat
+menjadi
+d
+mereka
 ini
-dan
+beberapa
 
 tidak
 online
-jika
-situs
+memiliki
+9
 dari
 yang
 :
-kami
+permainan
 9
-orang
+oleh
 menjadi
 akan
-telah
+saja
 dengan
 juga
-saja
+:
 harus
 dari
-bahwa
-satu
+a
+salah
 beberapa
 ,
 :
-bisnis
-slot
 salah
-k
-6
-dari
+dan
+cara
+secara
+
+kita

predict_results.json

@@ -1,12 +1,12 @@
 {
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5639165639877319,
-    "predict_rouge1": 0.3981,
+    "predict_loss": 0.4969109892845154,
+    "predict_rouge1": 0.3848,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.3961,
-    "predict_rougeLsum": 0.3978,
-    "predict_runtime": 560.7464,
+    "predict_rougeL": 0.3827,
+    "predict_rougeLsum": 0.3832,
+    "predict_runtime": 3042.8754,
     "predict_samples": 3761,
-    "predict_samples_per_second": 6.707,
-    "predict_steps_per_second": 0.21
+    "predict_samples_per_second": 1.236,
+    "predict_steps_per_second": 0.039
 }

train_results.json

@@ -1,9 +1,9 @@
 {
     "epoch": 5.0,
-    "total_flos": 7.526178534957466e+16,
-    "train_loss": 0.8352148081689672,
-    "train_runtime": 5166.7453,
+    "total_flos": 4.90376103985152e+16,
+    "train_loss": 0.6239253980696469,
+    "train_runtime": 3930.1136,
     "train_samples": 14266,
-    "train_samples_per_second": 13.806,
-    "train_steps_per_second": 1.726
+    "train_samples_per_second": 18.15,
+    "train_steps_per_second": 1.135
 }

trainer_state.json

@@ -3,128 +3,128 @@
   "best_model_checkpoint": null,
   "epoch": 5.0,
   "eval_steps": 500,
-  "global_step": 8920,
+  "global_step": 4460,
   "is_hyper_param_search": false,
   "is_local_process_zero": true,
   "is_world_process_zero": true,
   "log_history": [
     {
       "epoch": 1.0,
-      "grad_norm": 3.2753658294677734,
-      "learning_rate": 4e-05,
-      "loss": 1.233,
-      "step": 1784
+      "grad_norm": 0.5665454268455505,
+      "learning_rate": 0.0008,
+      "loss": 0.8225,
+      "step": 892
     },
     {
       "epoch": 1.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.6087062954902649,
-      "eval_rouge1": 0.4912,
+      "eval_loss": 0.5298126339912415,
+      "eval_rouge1": 0.7091,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4859,
-      "eval_rougeLsum": 0.4881,
-      "eval_runtime": 112.5011,
-      "eval_samples_per_second": 6.64,
-      "eval_steps_per_second": 0.213,
-      "step": 1784
+      "eval_rougeL": 0.7089,
+      "eval_rougeLsum": 0.7076,
+      "eval_runtime": 37.8957,
+      "eval_samples_per_second": 19.712,
+      "eval_steps_per_second": 0.633,
+      "step": 892
     },
     {
       "epoch": 2.0,
-      "grad_norm": 2.76861834526062,
-      "learning_rate": 3e-05,
-      "loss": 0.7935,
-      "step": 3568
+      "grad_norm": 0.6210952997207642,
+      "learning_rate": 0.0006,
+      "loss": 0.623,
+      "step": 1784
     },
     {
       "epoch": 2.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5581778883934021,
-      "eval_rouge1": 0.4176,
+      "eval_loss": 0.506367027759552,
+      "eval_rouge1": 0.7118,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4157,
-      "eval_rougeLsum": 0.4171,
-      "eval_runtime": 112.1842,
-      "eval_samples_per_second": 6.659,
-      "eval_steps_per_second": 0.214,
-      "step": 3568
+      "eval_rougeL": 0.71,
+      "eval_rougeLsum": 0.7093,
+      "eval_runtime": 38.3838,
+      "eval_samples_per_second": 19.461,
+      "eval_steps_per_second": 0.625,
+      "step": 1784
     },
     {
       "epoch": 3.0,
-      "grad_norm": 1.8127230405807495,
-      "learning_rate": 2e-05,
-      "loss": 0.7385,
-      "step": 5352
+      "grad_norm": 0.7850796580314636,
+      "learning_rate": 0.0004,
+      "loss": 0.5809,
+      "step": 2676
     },
     {
       "epoch": 3.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5451030731201172,
-      "eval_rouge1": 0.4227,
+      "eval_loss": 0.4812556803226471,
+      "eval_rouge1": 0.7155,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4192,
-      "eval_rougeLsum": 0.4214,
-      "eval_runtime": 112.2353,
-      "eval_samples_per_second": 6.656,
-      "eval_steps_per_second": 0.214,
-      "step": 5352
+      "eval_rougeL": 0.7147,
+      "eval_rougeLsum": 0.7119,
+      "eval_runtime": 37.6845,
+      "eval_samples_per_second": 19.822,
+      "eval_steps_per_second": 0.637,
+      "step": 2676
     },
     {
       "epoch": 4.0,
-      "grad_norm": 1.9295331239700317,
-      "learning_rate": 1e-05,
-      "loss": 0.7114,
-      "step": 7136
+      "grad_norm": 0.6170566082000732,
+      "learning_rate": 0.0002,
+      "loss": 0.5549,
+      "step": 3568
     },
     {
       "epoch": 4.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5406314730644226,
-      "eval_rouge1": 0.4115,
+      "eval_loss": 0.4799492061138153,
+      "eval_rouge1": 0.7058,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4115,
-      "eval_rougeLsum": 0.4106,
-      "eval_runtime": 112.3402,
-      "eval_samples_per_second": 6.649,
-      "eval_steps_per_second": 0.214,
-      "step": 7136
+      "eval_rougeL": 0.7057,
+      "eval_rougeLsum": 0.7028,
+      "eval_runtime": 38.6292,
+      "eval_samples_per_second": 19.338,
+      "eval_steps_per_second": 0.621,
+      "step": 3568
     },
     {
       "epoch": 5.0,
-      "grad_norm": 1.6341142654418945,
+      "grad_norm": 0.6198777556419373,
       "learning_rate": 0.0,
-      "loss": 0.6996,
-      "step": 8920
+      "loss": 0.5383,
+      "step": 4460
     },
     {
       "epoch": 5.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5392429828643799,
-      "eval_rouge1": 0.4255,
+      "eval_loss": 0.4733169972896576,
+      "eval_rouge1": 0.7008,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.4247,
-      "eval_rougeLsum": 0.4257,
-      "eval_runtime": 113.1717,
-      "eval_samples_per_second": 6.601,
-      "eval_steps_per_second": 0.212,
-      "step": 8920
+      "eval_rougeL": 0.7001,
+      "eval_rougeLsum": 0.6968,
+      "eval_runtime": 38.7242,
+      "eval_samples_per_second": 19.29,
+      "eval_steps_per_second": 0.62,
+      "step": 4460
     },
     {
       "epoch": 5.0,
-      "step": 8920,
-      "total_flos": 7.526178534957466e+16,
-      "train_loss": 0.8352148081689672,
-      "train_runtime": 5166.7453,
-      "train_samples_per_second": 13.806,
-      "train_steps_per_second": 1.726
+      "step": 4460,
+      "total_flos": 4.90376103985152e+16,
+      "train_loss": 0.6239253980696469,
+      "train_runtime": 3930.1136,
+      "train_samples_per_second": 18.15,
+      "train_steps_per_second": 1.135
     }
   ],
   "logging_steps": 500,
-  "max_steps": 8920,
+  "max_steps": 4460,
   "num_input_tokens_seen": 0,
   "num_train_epochs": 5,
   "save_steps": 500,
-  "total_flos": 7.526178534957466e+16,
-  "train_batch_size": 8,
+  "total_flos": 4.90376103985152e+16,
+  "train_batch_size": 16,
   "trial_name": null,
   "trial_params": null
 }