End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.4666
-- Rouge1: 0.6446
+- Rouge1: 0.4096
 - Rouge2: 0.0
-- Rougel: 0.6437
-- Rougelsum: 0.6455
+- Rougel: 0.4093
+- Rougelsum: 0.4102
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.4665641784667969,
+    "eval_rouge1": 0.4096,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4093,
+    "eval_rougeLsum": 0.4102,
+    "eval_runtime": 545.3439,
+    "eval_samples": 747,
+    "eval_samples_per_second": 1.37,
+    "eval_steps_per_second": 0.044,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.47881218791007996,
+    "predict_rouge1": 0.4179,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4189,
+    "predict_rougeLsum": 0.4177,
+    "predict_runtime": 2775.2777,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 1.347,
+    "predict_steps_per_second": 0.042,
+    "total_flos": 4.9318600605696e+16,
+    "train_loss": 0.5939977931762969,
+    "train_runtime": 3736.9827,
+    "train_samples": 14290,
+    "train_samples_per_second": 19.12,
+    "train_steps_per_second": 1.196
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.4665641784667969,
+    "eval_rouge1": 0.4096,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4093,
+    "eval_rougeLsum": 0.4102,
+    "eval_runtime": 545.3439,
+    "eval_samples": 747,
+    "eval_samples_per_second": 1.37,
+    "eval_steps_per_second": 0.044
+}

generated_predictions.txt

@@ -0,0 +1,3737 @@
+karena
+3
+sudah
+mungkin
+kami
+dengan
+para
+d
+)
+permainan
+?
+tidak
+yang
+4
+
+?
+menggunakan
+di
+satu
+
+kamu
+cara
+adalah
+a
+bisa
+6
+bisa
+uang
+pemain
+satu
+hal
+,
+hal
+bahwa
+ada
+membuat
+dengan
+k
+lain
+mendapatkan
+.
+bisa
+,
+dan
+orang
+bermain
+"
+cara
+yang
+tersebut
+yang
+,
+oleh
+juga
+9
+dapat
+sangat
+uang
+7
+t
+-
+,
+maka
+yang
+pada
+saya
+untuk
+dapat
+9
+tidak
+.
+di
+mereka
+bagi
+sebagai
+sudah
+
+6
+atau
+cara
+(
+telah
+ada
+"
+juga
+maka
+dari
+.
+4
+0
+baik
+2
+sudah
+2
+dalam
+situs
+lebih
+itu
+hal
+
+kami
+sebagai
+di
+oleh
+orang
+bermain
+hanya
+.
+.
+terbaik
+1
+dengan
+untuk
+sudah
+:
+tersebut
+ini
+adalah
+"
+situs
+i
+2
+dari
+kita
+)
+judi
+,
+
+"
+untuk
+banyak
+pada
+"
+"
+untuk
+yang
+sudah
+/
+5
+
+sebagai
+para
+.
+untuk
+saya
+baik
+bisa
+3
+kami
+dapat
+s
+cara
+baik
+)
+online
+bermain
+,
+0
+tersebut
+ke
+memiliki
+permainan
+
+tidak
+menjadi
+.
+8
+nya
+dengan
+9
+7
+itu
+,
+itu
+,
+hanya
+-
+1
+banyak
+s
+memiliki
+bisa
+dengan
+satu
+?
+kita
+cara
+untuk
+semua
+anda
+dan
+atau
+(
+nya
+dan
+saya
+adalah
+banyak
+satu
+ini
+
+anda
+"
+poker
+anda
+orang
+e
+kamu
+.
+,
+sebagai
+1
+bagi
+an
+
+anda
+tersebut
+orang
+para
+membuat
+p
+salah
+anda
+sudah
+slot
+itu
+juga
+ini
+baik
+lain
+i
+dalam
+adalah
+dalam
+anda
+,
+dan
+ke
+ini
+baik
+bisa
+oleh
+?
+sangat
+dapat
+kami
+semua
+saja
+lebih
+cara
+karena
+(
+/
+dan
+juga
+8
+atau
+secara
+nya
+anda
+cara
+untuk
+satu
+indonesia
+baik
+4
+an
+di
+6
+a
+atau
+dari
+2
+adalah
+untuk
+-
+0
+beberapa
+ada
+menggunakan
+beberapa
+untuk
+,
+7
+:
+besar
+sebagai
+oleh
+sangat
+
+
+u
+hanya
+permainan
+d
+maka
+ini
+d
+7
+nya
+dalam
+beberapa
+sudah
+ke
+:
+juga
+banyak
+maka
+
+banyak
+-
+bisa
+2
+3
+ini
+anda
+baik
+di
+3
+judi
+
+pemain
+cara
+jika
+orang
+di
+uang
+ada
+situs
+masih
+saja
+banyak
+)
+itu
+tersebut
+untuk
+
+ini
+sudah
+
+0
+i
+an
+.
+dan
+kami
+hanya
+membuat
+5
+
+
+4
+satu
+kami
+0
+sebagai
+di
+dari
+sebagai
+
+8
+para
+t
+situs
+2
+memiliki
+tidak
+di
+1
+i
+memiliki
+salah
+2
+,
+kita
+slot
+para
+secara
+.
+secara
+ada
+sebagai
+3
+u
+untuk
+bisa
+anda
+.
+7
+bisa
+jika
+tidak
+bisa
+
+4
+-
+hanya
+tersebut
+untuk
+maka
+para
+dari
+"
+tidak
+:
+saya
+beberapa
+untuk
+tersebut
+i
+menggunakan
+oleh
+sangat
+besar
+besar
+judi
+
+kan
+yang
+memiliki
+jadi
+d
+tidak
+game
+dari
+poker
+-
+online
+juga
+harus
+sangat
+dapat
+karena
+banyak
+8
+harus
+:
+
+permainan
+
+satu
+membuat
+online
+akan
+permainan
+juga
+seperti
+
+p
+(
+k
+seperti
+lain
+menjadi
+menjadi
+ini
+akan
+jadi
+ini
+semua
+dan
+e
+saya
+
+ini
+t
+1
+game
+)
+
+lebih
+dapat
+/
+1
+permainan
+dapat
+di
+0
+namun
+bahwa
+
+ingin
+8
+dan
+harus
+itu
+lebih
+yang
+sangat
+.
+untuk
+satu
+dengan
+bisa
+akan
+banyak
+online
+tersebut
+0
+judi
+i
+kita
+karena
+besar
+juga
+"
+0
+dan
+untuk
+yang
+hal
+untuk
+situs
+dengan
+5
+memiliki
+8
+
+dari
+nya
+karena
+game
+kami
+adalah
+nya
+bagi
+tidak
+dan
+3
+harus
+ini
+permainan
+e
+nya
+ke
+s
+s
+sudah
+kamu
+jika
+besar
+mereka
+.
+pada
+untuk
+jika
+anda
+sebagai
+dan
+kami
+secara
+ini
+seperti
+di
+harus
+akan
+u
+pada
+3
+menjadi
+judi
+?
+7
+online
+.
+salah
+itu
+mereka
+yang
+
+dari
+3
+m
+i
+anda
+tersebut
+.
+"
+mereka
+cara
+beberapa
+i
+t
+
+oleh
+bagi
+)
+ini
+
+a
+tidak
+banyak
+bermain
+tersebut
+salah
+saya
+yang
+
+secara
+online
+nya
+hanya
+baik
+dengan
+k
+mereka
+/
+(
+saya
+maka
+sudah
+.
+sudah
+akan
+0
+adalah
+1
+slot
+situs
+,
+7
+yang
+4
+:
+"
+e
+-
+tidak
+e
+1
+2
+telah
+dengan
+anda
+9
+orang
+5
+orang
+waktu
+permainan
+dan
+saja
+jika
+bahwa
+pada
+
+saja
+atau
+lebih
+2
+satu
+melakukan
+9
+?
+mereka
+kamu
+:
+bermain
+baik
+bagi
+nya
+hal
+sebagai
+bisa
+.
+kami
+tidak
+-
+:
+salah
+mereka
+-
+9
+mereka
+0
+jika
+,
+besar
+2
+sebagai
+adalah
+bermain
+s
+dalam
+adalah
+lebih
+memiliki
+dalam
+dalam
+4
+dari
+
+tidak
+dengan
+situs
+
+ada
+0
+uang
+kita
+0
+(
+sudah
+
+di
+ke
+yang
+bermain
+di
+membuat
+slot
+bahwa
+menjadi
+kan
+online
+nya
+juga
+beberapa
+k
+bahwa
+beberapa
+
+kita
+:
+
+?
+lebih
+slot
+ini
+judi
+u
+poker
+yang
+-
+i
+memiliki
+banyak
+itu
+juga
+5
+semua
+-
+-
+
+indonesia
+6
+
+mereka
+orang
+lain
+di
+di
+jika
+satu
+(
+i
+indonesia
+:
+judi
+kita
+u
+k
+"
+mereka
+namun
+t
+yang
+4
+
+hal
+yang
+ini
+s
+"
+permainan
+?
+lain
+lebih
+bisnis
+s
+2
+6
+
+1
+anda
+yang
+di
+3
+kami
+dalam
+salah
+indonesia
+lagi
+/
+-
+di
+itu
+/
+game
+
+untuk
+atau
+seperti
+2
+lebih
+di
+bisa
+itu
+.
+orang
+poker
+dengan
+judi
+k
+untuk
+1
+:
+k
+(
+yang
+an
+adalah
+namun
+u
+i
+judi
+pemain
+dari
+l
+i
+1
+sendiri
+di
+kami
+dalam
+(
+,
+e
+,
+o
+para
+2
+kita
+orang
+satu
+dari
+situs
+kami
+
+9
+hanya
+di
+e
+/
+cara
+1
+)
+nya
+membuat
+4
+lebih
+situs
+/
+dari
+an
+2
+9
+besar
+untuk
+untuk
+secara
+nya
+"
+dengan
+ini
+(
+,
+namun
+:
+memiliki
+jika
+banyak
+telah
+harus
+?
+lain
+e
+kami
+7
+
+dan
+game
+hal
+.
+e
+oleh
+indonesia
+/
+hal
+atau
+juga
+anda
+membuat
+online
+i
+atau
+u
+5
+oleh
+bisa
+dan
+anda
+bisa
+akan
+dalam
+,
+dapat
+untuk
+maka
+baik
+ke
+1
+dari
+1
+banyak
+itu
+an
+1
+"
+adalah
+membuat
+t
+nya
+seperti
+kan
+ini
+tidak
+menjadi
+:
+pada
+atau
+/
+tidak
+di
+
+di
+ini
+sudah
+k
+kan
+anda
+sudah
+1
+di
+atau
+satu
+apa
+besar
+orang
+harus
+cara
+ada
+akan
+3
+adalah
+dengan
+bagi
+m
+kan
+online
+poker
+pemain
+bermain
+t
+secara
+,
+bahwa
+9
+ini
+oleh
+dapat
+ingin
+
+"
+ini
+juga
+lebih
+
+a
+ke
+memiliki
+8
+beberapa
+orang
+8
+,
+lebih
+online
+salah
+secara
+tidak
+9
+dapat
+bisa
+dapat
+memiliki
+
+akan
+juga
+bagi
+o
+ini
+.
+:
+9
+0
+,
+ini
+t
+bermain
+k
+
+atau
+oleh
+.
+ini
+9
+jika
+ada
+t
+3
+e
+mungkin
+menjadi
+bahwa
+nya
+d
+untuk
+/
+e
+a
+ke
+3
+menggunakan
+sangat
+yang
+ingin
+)
+9
+0
+,
+sebagai
+ke
+juga
+dari
+dan
+–
+kami
+0
+i
+ada
+atau
+tidak
+salah
+9
+
+
+an
+di
+saat
+-
+melakukan
+kami
+
+adalah
+3
+ke
+s
+judi
+atau
+karena
+menggunakan
+jika
+pada
+judi
+di
+lebih
+membuat
+akan
+atau
+kamu
+
+karena
+dengan
+sebagai
+5
+sebagai
+satu
+6
+nya
+para
+dalam
+ini
+lebih
+/
+bisa
+terbaik
+?
+banyak
+ada
+d
+para
+untuk
+d
+"
+yang
+dalam
+adalah
+,
+kami
+jika
+saat
+sangat
+juga
+harga
+kita
+a
+-
+i
+
+e
+ini
+ke
+dengan
+kita
+bisa
+sangat
+t
+atau
+saat
+
+cara
+ke
+hanya
+sangat
+9
+menjadi
+kami
+9
+8
+bagi
+0
+menggunakan
+0
+a
+beberapa
+jika
+,
+para
+besar
+(
+hanya
+?
+ini
+(
+s
+banyak
+8
+m
+kami
+atau
+"
+atau
+:
+online
+oleh
+yang
+untuk
+
+,
+"
+hanya
+kita
+adalah
+hanya
+juga
+dari
+
+oleh
+u
+"
+di
+1
+mungkin
+judi
+dalam
+ada
+s
+,
+banyak
+
+pemain
+menjadi
+
+untuk
+u
+saat
+d
+m
+beberapa
+hal
+seperti
+tersebut
+saja
+anda
+2
+m
+online
+2
+akan
+1
+oleh
+bisnis
+atau
+adalah
+dengan
+anda
+kami
+.
+maka
+itu
+lebih
+ini
+atau
+
+untuk
+setiap
+s
+-
+atau
+
+6
+/
+harus
+di
+dapat
+yang
+"
+dalam
+adalah
+slot
+salah
+0
+i
+satu
+bagi
+online
+para
+akan
+(
+dengan
+satu
+1
+pada
+kita
+"
+indonesia
+nya
+karena
+an
+anda
+dan
+seperti
+)
+yang
+:
+uang
+satu
+4
+2
+telah
+1
+namun
+2
+slot
+di
+dari
+orang
+banyak
+orang
+memiliki
+,
+anda
+dalam
+)
+dalam
+lebih
+hal
+anda
+nya
+bisa
+permainan
+lain
+saya
+atau
+ada
+-
+
+harus
+tidak
+harus
+1
+?
+hanya
+orang
+(
+slot
+sangat
+.
+1
+bermain
+menggunakan
+d
+adalah
+bisa
+memiliki
+online
+juga
+o
+
+k
+harus
+4
+0
+sangat
+bermain
+itu
+saya
+s
+o
+yang
+sangat
+baik
+dengan
+s
+.
+:
+lebih
+kami
+saya
+ada
+pada
+.
+di
+r
+saya
+saya
+s
+,
+di
+di
+situs
+s
+.
+s
+maka
+yang
+menggunakan
+kamu
+jika
+juga
+nya
+a
+"
+"
+.
+0
+bisnis
+membuat
+2
+saya
+dengan
+bisa
+d
+dapat
+yang
+
+"
+ke
+saat
+menjadi
+saja
+cara
+cara
+untuk
+dengan
+di
+
+online
+atau
+nya
+tentang
+,
+.
+uang
+
+
+(
+yang
+dari
+para
+akan
+sudah
+oleh
+harus
+"
+d
+kamu
+s
+dari
+pada
+adalah
+sangat
+oleh
+karena
+mudah
+memiliki
+?
+i
+5
+tidak
+memiliki
+hal
+t
+adalah
+bisa
+cara
+telah
+baik
+
+m
+s
+dengan
+a
+6
+
+menjadi
+salah
+untuk
+.
+hal
+o
+satu
+dan
+juga
+,
+adalah
+2
+pada
+kami
+3
+secara
+satu
+-
+"
+yang
+hal
+pada
+sudah
+adalah
+dari
+game
+
+semua
+kan
+besar
+di
+"
+bisa
+permainan
+maka
+.
+untuk
+d
+0
+beberapa
+judi
+
+
+ini
+baik
+anda
+k
+itu
+s
+kami
+seperti
+bisnis
+
+adalah
+dengan
+permainan
+akan
+i
+harus
+bisa
+online
+cara
+2
+,
+harus
+bagi
+di
+
+
+dapat
+5
+baik
+kan
+indonesia
+
+:
+0
+)
+nya
+ke
+melakukan
+1
+di
+melakukan
+kita
+?
+salah
+harus
+salah
+tentang
+.
+nya
+akan
+2
+cara
+bermain
+
+sudah
+seperti
+dapat
+dan
+t
+
+sebagai
+kita
+mereka
+k
+dapat
+
+permainan
+-
+bisa
+melakukan
+4
+,
+a
+
+yang
+kamu
+juga
+dari
+situs
+.
+
+oleh
+t
+nya
+juga
+.
+dalam
+"
+,
+anda
+itu
+dari
+adalah
+n
+juga
+sangat
+ada
+.
+3
+adalah
+lebih
+,
+2
+0
+
+ini
+atau
+dari
+an
+hal
+k
+beberapa
+dengan
+telah
+secara
+1
+untuk
+oleh
+
+7
+oleh
+bisa
+
+saja
+k
+dan
+beberapa
+oleh
+uang
+adalah
+situs
+dan
+-
+membuat
+,
+slot
+hanya
+sudah
+1
+satu
+memiliki
+bisa
+nya
+u
+
+dan
+
+2
+di
+yang
+anda
+2
+/
+seperti
+kita
+online
+judi
+akan
+pada
+slot
+untuk
+dari
+3
+4
+s
+0
+situs
+dengan
+adalah
+
+5
+
+orang
+indonesia
+pada
+e
+hal
+oleh
+itu
+dan
+satu
+adalah
+nya
+slot
+poker
+lebih
+semua
+bisa
+judi
+sudah
+
+hal
+.
+juga
+seperti
+ingin
+anda
+lebih
+bahwa
+indonesia
+9
+i
+tidak
+dengan
+di
+semua
+an
+"
+hanya
+baik
+dari
+untuk
+atau
+i
+ada
+yang
+juga
+ke
+salah
+t
+dengan
+e
+oleh
+anda
+harus
+beberapa
+:
+dapat
+?
+tersebut
+bagi
+0
+memiliki
+game
+hal
+pada
+kami
+anda
+ini
+–
+bisa
+sebagai
+atau
+permainan
+online
+kan
+jika
+bermain
+sangat
+-
+jika
+satu
+saat
+k
+s
+dari
+t
+semua
+sebagai
+kita
+5
+2
+ada
+ada
+kami
+.
+.
+5
+secara
+yang
+nya
+d
+u
+"
+salah
+?
+hal
+untuk
+online
+sudah
+hal
+
+s
+itu
+
+1
+"
+online
+kamu
+.
+5
+sangat
+bermain
+online
+dari
+kita
+dan
+mungkin
+mereka
+pada
+menggunakan
+)
+dalam
+?
+an
+ke
+harus
+
+.
+u
+permainan
+4
+baik
+bisa
+slot
+e
+saja
+)
+lain
+t
+tersebut
+oleh
+namun
+kan
+kamu
+/
+bermain
+
+sebagai
+bahwa
+dengan
+kan
+dari
+beberapa
+dengan
+saat
+salah
+kamu
+dan
+situs
+an
+dengan
+2
+lain
+4
+harus
+6
+3
+hal
+ke
+karena
+sendiri
+saat
+bermain
+9
+tersebut
+mereka
+
+menggunakan
+yang
+saat
+menggunakan
+anda
+membuat
+9
+i
+adalah
+bagi
+
+lebih
+pada
+besar
+(
+k
+s
+tersebut
+itu
+ke
+?
+6
+kan
+anda
+ingin
+cara
+kamu
+pada
+dan
+maka
+harus
+,
+hanya
+dapat
+6
+dapat
+?
+mereka
+lebih
+permainan
+memiliki
+online
+saya
+anda
+bahwa
+saja
+0
+telah
+2
+oleh
+.
+
+t
+tersebut
+
+menggunakan
+1
+atau
+kamu
+yang
+.
+lebih
+ini
+maka
+judi
+4
+kami
+permainan
+di
+dengan
+pemain
+t
+tersebut
+memiliki
+,
+sebagai
+dalam
+a
+6
+hanya
+
+tersebut
+baik
+5
+i
+baik
+.
+"
+dengan
+sudah
+)
+hal
+ke
+membuat
+.
+mendapatkan
+menjadi
+melakukan
+indonesia
+pada
+/
+online
+saja
+harga
+
+0
+untuk
+hal
+memiliki
+(
+melakukan
+tidak
+mereka
+hanya
+kamu
+seperti
+itu
+
+semua
+sebagai
+tersebut
+lain
+4
+.
+tidak
+online
+hal
+,
+a
+
+/
+dapat
+kamu
+8
+n
+8
+nya
+
+dari
+6
+atau
+4
+tersebut
+ke
+ini
+menjadi
+lebih
+telah
+saja
+,
+lebih
+dari
+dengan
+nya
+ke
+membuat
+sebagai
+1
+bisa
+)
+para
+sangat
+anda
+0
+harus
+adalah
+hal
+kami
+1
+"
+orang
+
+-
+pemain
+akan
+kamu
+untuk
+bermain
+beberapa
+d
+kita
+nya
+saya
+besar
+7
+dengan
+
+pada
+saat
+d
+pada
+di
+
+juga
+hal
+6
+di
+judi
+s
+bahwa
+ada
+/
+i
+e
+.
+pada
+ke
+dengan
+dapat
+nya
+sangat
+cara
+membuat
+adalah
+tidak
+poker
+nya
+e
+4
+9
+)
+0
+ke
+adalah
+
+.
+yang
+k
+ke
+situs
+
+saya
+besar
+mungkin
+ini
+dapat
+salah
+i
+a
+k
+2
+oleh
+seperti
+1
+anda
+untuk
+saya
+yang
+mendapatkan
+dan
+cara
+kan
+seperti
+ada
+0
+itu
+dan
+e
+tidak
+itu
+mereka
+oleh
+jika
+salah
+d
+dari
+5
+orang
+menjadi
+5
+dengan
+online
+1
+dengan
+i
+)
+(
+
+untuk
+tentang
+situs
+-
+pada
+menggunakan
+3
+kita
+menjadi
+
+banyak
+u
+-
+atau
+game
+adalah
+,
+untuk
+oleh
+tersebut
+/
+bahwa
+online
+namun
+seperti
+slot
+kita
+5
+saya
+
+harus
+harus
+nya
+
+akan
+mereka
+game
+-
+"
+hal
+karena
+lebih
+kita
+saja
+maka
+untuk
+"
+
+0
+,
+menjadi
+d
+-
+anda
+online
+namun
+yang
+telah
+memiliki
+
+lebih
+mungkin
+untuk
+lebih
+ada
+hanya
+hanya
+mereka
+semua
+poker
+banyak
+ada
+dengan
+dan
+?
+juga
+,
+nya
+bisnis
+-
+di
+s
+kita
+judi
+orang
+mereka
+s
+bermain
+
+2
+baik
+tidak
+itu
+adalah
+5
+kami
+nya
+hal
+a
+a
+adalah
+0
+2
+untuk
+tahun
+saat
+mereka
+,
+pada
+ini
+dalam
+dan
+atau
+t
+ini
+mereka
+an
+:
+maka
+dalam
+para
+dari
+/
+akan
+dengan
+menjadi
+saya
+jadi
+0
+dalam
+bisnis
+saya
+7
+7
+cara
+,
+1
+dapat
+9
+a
+online
+an
+ke
+
+5
+dan
+0
+banyak
+saja
+0
+jadi
+mudah
+pada
+2
+menjadi
+dapat
+kamu
+di
+
+u
+dan
+anda
+n
+untuk
+sudah
+online
+dan
+
+orang
+maka
+adalah
+tersebut
+dapat
+u
+online
+8
+mudah
+ada
+
+s
+juga
+besar
+ini
+
+bisa
+tidak
+dari
+kamu
+mudah
+untuk
+sangat
+0
+
+akan
+
+jika
+an
+bahwa
+4
+orang
+bisa
+cara
+)
+dan
+oleh
+
+an
+anda
+
+dengan
+untuk
+-
+kan
+jika
+saya
+yang
+hanya
+k
+kamu
+)
+kita
+
+)
+online
+di
+sudah
+yang
+1
+)
+satu
+untuk
+untuk
+pada
+untuk
+5
+,
+atau
+bagi
+e
+saat
+
+judi
+k
+(
+dalam
+7
+)
+orang
+,
+
+dalam
+ada
+ini
+akan
+karena
+saya
+uang
+lain
+baik
+atau
+/
+salah
+.
+indonesia
+telah
+orang
+
+nya
+lebih
+2
+anda
+banyak
+juga
+seperti
+:
+kita
+memiliki
+adalah
+
+k
+dengan
+)
+anda
+i
+
+yang
+saya
+k
+adalah
+situs
+(
+dari
+baik
+dan
+judi
+dalam
+kami
+juga
+online
+para
+:
+ini
+orang
+4
+bisa
+d
+dengan
+dan
+?
+dapat
+lain
+(
+2
+memiliki
+yang
+saja
+oleh
+.
+atau
+seperti
+untuk
+,
+ada
+itu
+nya
+adalah
+2
+atau
+yang
+beberapa
+menjadi
+mereka
+?
+
+maka
+memiliki
+dalam
+oleh
+yang
+
+dan
+itu
+adalah
+bahwa
+-
+?
+dalam
+dapat
+
+apa
+memiliki
+cara
+ini
+di
+dapat
+a
+di
+
+dalam
+dengan
+9
+dapat
+lebih
+akan
+yang
+seperti
+untuk
+
+judi
+yang
+ke
+
+poker
+lebih
+karena
+menjadi
+para
+-
+ada
+indonesia
+s
+sangat
+untuk
+lebih
+0
+menjadi
+yang
+jika
+-
+5
+di
+.
+kan
+,
+?
+salah
+ini
+-
+mereka
+menjadi
+yang
+sebagai
+e
+(
+pemain
+yang
+
+cara
+,
+untuk
+pemain
+/
+yang
+an
+o
+sangat
+0
+sangat
+ke
+tersebut
+)
+melakukan
+anda
+memiliki
+hanya
+5
+k
+bahwa
+oleh
+hal
+8
+kami
+satu
+tersebut
+9
+
+-
+ada
+besar
+6
+s
+dalam
+
+anda
+karena
+akan
+semua
+hal
+akan
+sebagai
+hanya
+,
+di
+uang
+dan
+lebih
+
+.
+kamu
+bisa
+9
+untuk
+di
+/
+karena
+dari
+1
+ini
+/
+hal
+.
+yang
+tersebut
+indonesia
+banyak
+
+harus
+yang
+saja
+para
+dan
+oleh
+tahun
+s
+sebagai
+waktu
+3
+karena
+adalah
+harus
+akan
+permainan
+.
+.
+karena
+cara
+yang
+tidak
+beberapa
+s
+
+
+mereka
+
+7
+judi
+pada
+,
+dan
+i
+d
+perlu
+an
+yang
+ke
+di
+.
+
+sangat
+bermain
+yang
+menjadi
+anda
+satu
+atau
+atau
+dari
+ini
+hal
+1
+karena
+0
+7
+a
+)
+
+i
+itu
+atau
+1
+9
+bermain
+untuk
+juga
+8
+bisnis
+telah
+dengan
+saat
+ada
+bahwa
+karena
+sudah
+poker
+
+r
+"
+online
+2
+,
+ada
+u
+ini
+3
+.
+mereka
+bahwa
+kita
+apa
+ini
+sangat
+
+indonesia
+9
+9
+s
+menjadi
+ini
+
+saya
+di
+i
+i
+jika
+4
+ini
+untuk
+tidak
+:
+kami
+i
+
+yang
+
+kami
+satu
+
+untuk
+3
+dapat
+(
+
+i
+banyak
+adalah
+ini
+ini
+secara
+dalam
+judi
+dengan
+dan
+salah
+untuk
+kami
+bahwa
+anda
+sebagai
+tidak
+2
+mereka
+-
+menjadi
+memiliki
+kita
+memiliki
+di
+sebagai
+pada
+salah
+7
+dapat
+
+pemain
+,
+kami
+semua
+e
+maka
+i
+dengan
+bisa
+yang
+:
+slot
+bagi
+indonesia
+mereka
+tidak
+karena
+e
+salah
+bermain
+bisa
+bisa
+tidak
+juga
+lain
+5
+
+tersebut
+ke
+kami
+p
+
+beberapa
+memiliki
+para
+-
+
+pada
+.
+2
+orang
+?
+
+atau
+di
+jika
+beberapa
+pada
+n
+1
+bisa
+untuk
+banyak
+tidak
+2
+tahun
+e
+online
+
+-
+jika
+adalah
+situs
+di
+memiliki
+dalam
+beberapa
+harus
+,
+memiliki
+/
+itu
+0
+menggunakan
+yang
+?
+harus
+,
+di
+atau
+saja
+e
+memiliki
+nya
+tidak
+hal
+:
+:
+untuk
+oleh
+satu
+beberapa
+e
+membuat
+an
+
+kamu
+"
+bermain
+poker
+dari
+9
+banyak
+anda
+?
+k
+kamu
+membuat
+pada
+
+semua
+saya
+orang
+sebagai
+dalam
+memiliki
+saat
+karena
+orang
+dapat
+s
+anda
+yang
+dalam
+tahun
+
+ini
+menjadi
+s
+-
+baik
+d
+,
+sudah
+juga
+8
+online
+setiap
+itu
+indonesia
+atau
+besar
+tersebut
+:
+ke
+untuk
+akan
+dapat
+7
+ini
+,
+4
+)
+nya
+6
+online
+dari
+
+ke
+0
+d
+a
+,
+tahun
+apa
+atau
+untuk
+7
+,
+kamu
+/
+jika
+dengan
+saya
+memiliki
+saja
+permainan
+sangat
+dan
+online
+saya
+poker
+poker
+banyak
+itu
+membuat
+nya
+atau
+orang
+saat
+9
+7
+di
+sudah
+besar
+5
+jika
+
+ke
+e
+ke
+yang
+dapat
+
+anda
+m
+jadi
+jika
+sebagai
+dari
+
+mereka
+yang
+dari
+permainan
+
+ingin
+an
+pada
+banyak
+
+indonesia
+a
+anda
+permainan
+anda
+harus
+ke
+judi
+d
+
+3
+bahwa
+n
+ada
+baik
+7
+,
+8
+s
+anda
+yang
+8
+menjadi
+ini
+n
+menjadi
+poker
+4
+
+an
+juga
+situs
+karena
+atau
+membuat
+untuk
+
+
+sangat
+yang
+dengan
+situs
+6
+ada
+nya
+4
+,
+saja
+itu
+tidak
+cara
+s
+mudah
+)
+
+lebih
+-
+5
+cara
+hal
+nya
+juga
+hal
+yang
+u
+1
+an
+,
+2
+sebagai
+tidak
+s
+menggunakan
+juga
+hanya
+.
+9
+dengan
+4
+sudah
+melakukan
+dapat
+situs
+dengan
+sebagai
+telah
+bahwa
+an
+kita
+an
+adalah
+i
+)
+pada
+tersebut
+online
+4
+yang
+cara
+sudah
+untuk
+beberapa
+kita
+bisa
+anda
+cara
+untuk
+ini
+9
+kamu
+saat
+slot
+ini
+maka
+online
+yang
+poker
+tidak
+dapat
+lebih
+.
+cara
+mereka
+dari
+kamu
+atau
+:
+5
+yang
+menggunakan
+lain
+banyak
+a
+?
+oleh
+)
+permainan
+bisa
+)
+tidak
+untuk
+nya
+nya
+.
+/
+0
+di
+saya
+di
+saat
+di
+ada
+oleh
+judi
+an
+telah
+poker
+bisa
+beberapa
+situs
+adalah
+saya
+an
+
+-
+dengan
+
+atau
+para
+anda
+banyak
+itu
+lebih
+1
+dan
+sebagai
+an
+karena
+mendapatkan
+9
+hal
+online
+adalah
+untuk
+
+dalam
+dengan
+dengan
+cara
+membuat
+bisnis
+
+8
+dalam
+8
+ke
+mendapatkan
+di
+orang
+7
+paling
+saja
+menjadi
+k
+seperti
+telah
+uang
+akan
+nya
+3
+satu
+8
+
+.
+hal
+itu
+a
+cara
+.
+"
+sebuah
+s
+,
+tersebut
+karena
+permainan
+dengan
+ada
+orang
+banyak
+kita
+.
+d
+secara
+sebagai
+4
+ini
+karena
+banyak
+saja
+atau
+nya
+adalah
+2
+menggunakan
+beberapa
+situs
+kamu
+menjadi
+bahwa
+
+nya
+lebih
+(
+online
+
+salah
+akan
+memiliki
+a
+hal
+salah
+4
+2
+memiliki
+:
+orang
+juga
+yang
+oleh
+akan
+lain
+ini
+judi
+d
+tentang
+dalam
+/
+u
+untuk
+memiliki
+dengan
+ke
+dengan
+yang
+ada
+1
+saat
+dan
+untuk
+
+kita
+anda
+
+yang
+2
+,
+game
+baik
+akan
+dengan
+orang
+ada
+jadi
+satu
+0
+ke
+kita
+besar
+.
+-
+yang
+beberapa
+9
+permainan
+
+sudah
+dengan
+dapat
+nya
+orang
+permainan
+dengan
+"
+banyak
+an
+hanya
+
+jika
+kamu
+t
+tersebut
+a
+ke
+beberapa
+0
+situs
+banyak
+yang
+itu
+dari
+i
+jika
+ada
+.
+
+nya
+1
+anda
+dan
+lebih
+ke
+pada
+memiliki
+saya
+4
+bisa
+kita
+bahwa
+online
+cara
+2
+m
+
+0
+e
+bahwa
+
+d
+2
+terbaik
+situs
+apa
+dapat
+lebih
+untuk
+4
+baik
+0
+8
+tahun
+memiliki
+an
+hal
+judi
+5
+9
+membuat
+4
+slot
+i
+namun
+,
+dalam
+yang
+anda
+
+satu
+a
+pada
+dan
+m
+secara
+cara
+bisa
+sudah
+9
+dan
+o
+bisa
+8
+(
+(
+bisa
+salah
+beberapa
+2
+-
+yang
+4
+i
+–
+tidak
+maka
+,
+-
+kamu
+bermain
+5
+dengan
+-
+membuat
+9
+.
+anda
+situs
+9
+saya
+hanya
+cara
+besar
+akan
+-
+cara
+menjadi
+5
+7
+dan
+
+tersebut
+8
+indonesia
+besar
+bisa
+yang
+dalam
+atau
+
+di
+1
+dengan
+memiliki
+/
+(
+indonesia
+banyak
+telah
+apa
+uang
+jika
+(
+dengan
+0
+hal
+semua
+untuk
+pada
+saya
+kita
+karena
+bermain
+situs
+-
+banyak
+mendapatkan
+sudah
+satu
+online
+bahwa
+saja
+:
+di
+online
+6
+sangat
+harus
+t
+bermain
+3
+0
+tidak
+dari
+
+e
+permainan
+-
+0
+yang
+nya
+dari
+6
+oleh
+1
+memiliki
+untuk
+dan
+perlu
+8
+satu
+dan
+dalam
+/
+baik
+oleh
+
+8
+dan
+bermain
+bisa
+1
+dapat
+dengan
+e
+ke
+dari
+saat
+n
+nya
+untuk
+
+m
+bisa
+saya
+banyak
+a
+t
+hanya
+sangat
+adalah
+ini
+u
+5
+mereka
+dan
+.
+beberapa
+kan
+a
+sangat
+seperti
+i
+i
+untuk
+bisnis
+lebih
+atau
+slot
+9
+pada
+di
+7
+
+seperti
+online
+harus
+dari
+?
+.
+kita
+akan
+maka
+dan
+t
+
+waktu
+game
+bermain
+d
+k
+seperti
+banyak
+hanya
+di
+untuk
+
+/
+telah
+menjadi
+sangat
+tidak
+untuk
+
+9
+uang
+:
+akan
+indonesia
+seperti
+judi
+juga
+di
+untuk
+s
+lebih
+permainan
+sangat
+seperti
+"
+)
+saya
+e
+?
+secara
+5
+harus
+3
+k
+?
+secara
+oleh
+ada
+0
+s
+oleh
+untuk
+dari
+dengan
+memiliki
+seperti
+satu
+(
+adalah
+banyak
+dari
+yang
+o
+itu
+anda
+1
+kamu
+jika
+bisa
+cara
+oleh
+4
+slot
+banyak
+ke
+ke
+di
+s
+6
+3
+3
+
+akan
+dapat
+sangat
+d
+telah
+k
+4
+seperti
+bahwa
+ke
+,
+saja
+banyak
+pada
+bisa
+an
+)
+masih
+7
+situs
+
+kamu
+sebagai
+dari
+memiliki
+sangat
+hanya
+dalam
+menggunakan
+i
+baik
+karena
+bermain
+pada
+slot
+i
+untuk
+dalam
+online
+dari
+menjadi
+:
+salah
+a
+6
+dan
+0
+baik
+)
+kamu
+9
+orang
+slot
+cara
+i
+banyak
+permainan
+membuat
+s
+cara
+menjadi
+jika
+a
+dan
+dan
+9
+
+banyak
+"
+-
+(
+dengan
+o
+bagi
+/
+semua
+0
+oleh
+namun
+sebagai
+pada
+kita
+mereka
+bisa
+di
+"
+slot
+adalah
+
+kamu
+mereka
+anda
+dan

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.47881218791007996,
+    "predict_rouge1": 0.4179,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4189,
+    "predict_rougeLsum": 0.4177,
+    "predict_runtime": 2775.2777,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 1.347,
+    "predict_steps_per_second": 0.042
+}

runs/Jul06_13-57-59_a94680512e46/events.out.tfevents.1720278581.a94680512e46.1506005.1

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b58a7a4509e6de70dbe2b69a3191f994adff1b3b881495c0e39f615f8d6ca667
+size 613

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 4.9318600605696e+16,
+    "train_loss": 0.5939977931762969,
+    "train_runtime": 3736.9827,
+    "train_samples": 14290,
+    "train_samples_per_second": 19.12,
+    "train_steps_per_second": 1.196
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 4470,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 2.3870694637298584,
+      "learning_rate": 0.0008,
+      "loss": 0.781,
+      "step": 894
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5142351388931274,
+      "eval_rouge1": 0.6277,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6309,
+      "eval_rougeLsum": 0.628,
+      "eval_runtime": 35.7617,
+      "eval_samples_per_second": 20.888,
+      "eval_steps_per_second": 0.671,
+      "step": 894
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 0.8088672757148743,
+      "learning_rate": 0.0006,
+      "loss": 0.6103,
+      "step": 1788
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.48342767357826233,
+      "eval_rouge1": 0.6516,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6528,
+      "eval_rougeLsum": 0.6502,
+      "eval_runtime": 36.2393,
+      "eval_samples_per_second": 20.613,
+      "eval_steps_per_second": 0.662,
+      "step": 1788
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 1.094125747680664,
+      "learning_rate": 0.0004,
+      "loss": 0.5612,
+      "step": 2682
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.47685039043426514,
+      "eval_rouge1": 0.6537,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.654,
+      "eval_rougeLsum": 0.6571,
+      "eval_runtime": 35.8197,
+      "eval_samples_per_second": 20.854,
+      "eval_steps_per_second": 0.67,
+      "step": 2682
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 0.5754472613334656,
+      "learning_rate": 0.0002,
+      "loss": 0.5242,
+      "step": 3576
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4704252779483795,
+      "eval_rouge1": 0.6285,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6294,
+      "eval_rougeLsum": 0.6312,
+      "eval_runtime": 36.0416,
+      "eval_samples_per_second": 20.726,
+      "eval_steps_per_second": 0.666,
+      "step": 3576
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 0.8965361714363098,
+      "learning_rate": 0.0,
+      "loss": 0.4933,
+      "step": 4470
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4665641784667969,
+      "eval_rouge1": 0.6446,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6437,
+      "eval_rougeLsum": 0.6455,
+      "eval_runtime": 38.3287,
+      "eval_samples_per_second": 19.489,
+      "eval_steps_per_second": 0.626,
+      "step": 4470
+    },
+    {
+      "epoch": 5.0,
+      "step": 4470,
+      "total_flos": 4.9318600605696e+16,
+      "train_loss": 0.5939977931762969,
+      "train_runtime": 3736.9827,
+      "train_samples_per_second": 19.12,
+      "train_steps_per_second": 1.196
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 4470,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 4.9318600605696e+16,
+  "train_batch_size": 16,
+  "trial_name": null,
+  "trial_params": null
+}