TextModel commited on
Commit
70029a8
·
verified ·
1 Parent(s): 2fe3324

Add new SentenceTransformer model

Browse files
.gitattributes CHANGED
@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
33
  *.zip filter=lfs diff=lfs merge=lfs -text
34
  *.zst filter=lfs diff=lfs merge=lfs -text
35
  *tfevents* filter=lfs diff=lfs merge=lfs -text
 
 
33
  *.zip filter=lfs diff=lfs merge=lfs -text
34
  *.zst filter=lfs diff=lfs merge=lfs -text
35
  *tfevents* filter=lfs diff=lfs merge=lfs -text
36
+ tokenizer.json filter=lfs diff=lfs merge=lfs -text
1_Pooling/config.json ADDED
@@ -0,0 +1,10 @@
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "word_embedding_dimension": 768,
3
+ "pooling_mode_cls_token": false,
4
+ "pooling_mode_mean_tokens": true,
5
+ "pooling_mode_max_tokens": false,
6
+ "pooling_mode_mean_sqrt_len_tokens": false,
7
+ "pooling_mode_weightedmean_tokens": false,
8
+ "pooling_mode_lasttoken": false,
9
+ "include_prompt": true
10
+ }
README.md ADDED
@@ -0,0 +1,531 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ tags:
3
+ - sentence-transformers
4
+ - sentence-similarity
5
+ - feature-extraction
6
+ - dense
7
+ - generated_from_trainer
8
+ - dataset_size:2004
9
+ - loss:MultipleNegativesRankingLoss
10
+ base_model: intfloat/multilingual-e5-base
11
+ widget:
12
+ - source_sentence: 'query: Seorang pria bernama Eko Santoso di Kota Semarang pada
13
+ tahun 2024 secara terang-terangan di hadapan kerumunan massa di alun-alun kota
14
+ menyampaikan orasi yang berisi hasutan untuk melakukan diskriminasi terhadap penganut
15
+ agama tertentu yang ada di Indonesia, dengan menyatakan bahwa agama tersebut adalah
16
+ ancaman dan harus dilawan. Pernyataan tersebut disampaikan secara langsung di
17
+ muka umum dan direkam oleh banyak orang. Pasal apa yang tepat dikenakan kepada
18
+ Eko Santoso?'
19
+ sentences:
20
+ - 'passage: Ya, karena mantan pejabat yang tanpa izin dari pejabat berwenang menahan
21
+ atau tetap menyimpan surat dinas yang ada padanya setelah tidak lagi menjabat
22
+ dapat dipidana penjara paling lama 6 bulan atau denda paling banyak kategori II.
23
+ (Pasal 541 KUHP)'
24
+ - 'passage: Pasal 300: Setiap Orang Di Muka Umum yang: a. melakukan perbuatan yang
25
+ bersifat permusuhan; b. menyatakan kebencian atau permusuhan; atau c. menghasut
26
+ untuk melakukan Kekerasan, atau diskriminasi, terhadap agama, kepercayaan orang
27
+ lain, golongan, atau kelompok atas dasar agama atau kepercayaan di Indonesia,
28
+ dipidana dengan pidana penjara paling lama 3 (tiga) tahun atau pidana denda paling
29
+ banyak kategori IV.. Pasal ini berlaku karena Eko Santoso secara Di Muka Umum
30
+ menyatakan kebencian dan menghasut untuk melakukan diskriminasi terhadap penganut
31
+ agama tertentu di Indonesia berdasarkan agama mereka, yang secara langsung memenuhi
32
+ unsur tindak pidana dalam Pasal 300 KUHP 2023..'
33
+ - 'passage: Pasal 301: (1) Setiap Orang yang menyiarkan, mempertunjukkan, menempelkan
34
+ tulisan atau gambar, atau memperdengarkan suatu rekaman, termasuk menyebarluaskan
35
+ melalui sarana teknologi informasi yang berisi Tindak Pidana sebagaimana dimaksud
36
+ dalam Pasal 300, dengan maksud agar isi tulisan, gambar, atau rekaman tersebut
37
+ diketahui atau lebih diketahui oleh umum, dipidana dengan pidana penjara paling
38
+ lama 5 (lima) tahun atau pidana denda paling banyak kategori V. (2) Jika Setiap
39
+ Orang sebagaimana dimaksud pada ayat (1) melakukan perbuatan tersebut dalam menjalankan
40
+ profesinya dan pada waktu itu belum lewat 2 (dua) tahun sejak adanya putusan pemidanaan
41
+ yang telah memperoleh kekuatan hukum tetap karena melakukan Tindak Pidana yang
42
+ sama, dapat dijatuhi pidana tambahan berupa pencabutan hak sebagaimana dimaksud
43
+ dalam Pasal 86 huruf f.. Pasal ini mengatur penyebarluasan melalui media konten
44
+ yang memuat tindak pidana Pasal 300, merupakan pasal turunan dari Pasal 300 bukan
45
+ pasal induk kebencian berbasis agama itu sendiri..'
46
+ - source_sentence: 'query: Dimas Pratama, seorang mantan karyawan IT perusahaan swasta
47
+ di Jakarta, pada tahun 2023 secara diam-diam memasang perangkat lunak penyadap
48
+ pada server perusahaan PT Maju Sejahtera tanpa izin. Melalui perangkat tersebut,
49
+ Dimas berhasil merekam dan mengakses transmisi email internal serta dokumen elektronik
50
+ rahasia yang tidak bersifat publik milik direksi perusahaan. Ia kemudian menyebarluaskan
51
+ rekaman percakapan tersebut kepada kompetitor bisnis. Setelah dilaporkan, penyidik
52
+ menemukan bukti kegiatan penyadapan dan penyebaran informasi rahasia yang dilakukan
53
+ Dimas. Pasal apa yang dapat dikenakan kepada Dimas Pratama?'
54
+ sentences:
55
+ - 'passage: Pasal 258: (1) Setiap Orang yang secara melawan hukum mendengarkan,
56
+ merekam, membelokkan, mengubah, menghambat, dan/atau mencatat transmisi Informasi
57
+ Elektronik dan/atau Dokumen Elektronik yang tidak bersifat publik, baik menggunakan
58
+ jaringan kabel komunikasi maupun jaringan nirkabel, dipidana dengan pidana penjara
59
+ paling lama 10 (sepuluh) tahun atau pidana denda paling banyak kategori VI. (2)
60
+ Setiap Orang yang menyiarkan atau menyebarluaskan hasil pembicaraan atau perekaman
61
+ sebagaimana dimaksud pada ayat (1), dipidana dengan pidana penjara paling lama
62
+ 10 (sepuluh) tahun atau pidana denda paling banyak kategori VI.. Pasal ini berlaku
63
+ karena Dimas Pratama telah secara melawan hukum merekam dan mencatat transmisi
64
+ Informasi Elektronik dan Dokumen Elektronik yang tidak bersifat publik milik PT
65
+ Maju Sejahtera melalui jaringan komunikasi (ayat 1), dan kemudian menyebarluaskan
66
+ hasil perekaman tersebut kepada pihak lain (ayat 2), yang keduanya merupakan perbuatan
67
+ yang dilarang dalam Pasal 258 KUHP 2023..'
68
+ - 'passage: Membuat dan menyebarluaskan pornografi melalui media sosial dapat dipidana
69
+ penjara paling singkat 6 bulan dan paling lama 10 tahun atau denda kategori IV
70
+ sampai VI. (Pasal 407 ayat (1) KUHP)'
71
+ - 'passage: Pasal 407: (1) Setiap Orang yang memproduksi, membuat, memperbanyak,
72
+ menggandakan, menyebarluaskan, menyiarkan, mengimpor, mengekspor, menawarkan,
73
+ memperjualbelikan, menyewakan, atau menyediakan Pornografi, dipidana dengan pidana
74
+ penjara paling singkat 6 (enam) Bulan dan pidana penjara paling lama 10 (sepuluh)
75
+ tahun atau pidana denda paling sedikit kategori IV dan pidana denda paling banyak
76
+ kategori VI. (2) Perbuatan sebagaimana dimaksud pada ayat (1) tidak dipidana jika
77
+ merupakan karya seni, budaya, olahraga, kesehatan, dan/atau ilmu pengetahuan..
78
+ Pasal ini mengatur produksi dan distribusi konten pornografi, yang berbeda dengan
79
+ penyadapan dan penyebaran informasi elektronik yang tidak bersifat publik..'
80
+ - source_sentence: 'query: Apa artinya menimbulkan persangkaan palsu dalam KUHP?'
81
+ sentences:
82
+ - 'passage: Pengaduan fitnah adalah mengajukan pengaduan atau pemberitahuan palsu
83
+ secara tertulis kepada pejabat yang berwenang sehingga kehormatan orang lain diserang.
84
+ (Pasal 437 ayat (1) KUHP)'
85
+ - 'passage: Menimbulkan persangkaan palsu adalah melakukan suatu perbuatan yang
86
+ menyebabkan orang lain disangka telah melakukan suatu tindak pidana, padahal sebenarnya
87
+ tidak. (Pasal 438 KUHP)'
88
+ - 'passage: Ya, karena pejabat di lembaga pengangkutan surat atau barang yang menyerahkan
89
+ surat, kartu pos, barang, atau paket kepada orang yang tidak berhak menerimanya,
90
+ atau merusak, memusnahkan, mengubah isi, maupun mengambil barang di dalamnya untuk
91
+ diri sendiri, dapat dipidana penjara paling lama 5 tahun atau denda paling banyak
92
+ kategori IV. (Pasal 537 KUHP)'
93
+ - source_sentence: 'query: Kalau saya kasih hadiah ke pejabat karena berharap dia
94
+ gunakan wewenangnya untuk bantu urusan saya, apakah saya bisa kena Pasal 606?'
95
+ sentences:
96
+ - 'passage: Bisa, karena pasal ini melarang pemberian hadiah atau janji kepada pegawai
97
+ negeri atau penyelenggara negara yang dikaitkan dengan kekuasaan atau wewenang
98
+ yang melekat pada jabatan atau kedudukannya, meski tanpa permintaan eksplisit
99
+ dari pejabat tersebut. (Pasal 606 KUHP)'
100
+ - 'passage: Pasal 471: (1) Selain penganiayaan sebagaimana dimaksud dalam Pasal
101
+ 467 dan Pasal 470, penganiayaan yang tidak menimbulkan penyakit atau halangan
102
+ untuk menjalankan profesi jabatan atau mata pencaharian, dipidana karena penganiayaan
103
+ ringan, dengan pidana penjara paling lama 6 (enam) Bulan atau pidana denda paling
104
+ banyak kategori II. (2) Jika Tindak Pidana sebagaimana dimaksud pada ayat (1)
105
+ dilakukan terhadap orang yang bekerja padanya atau menjadi bawahannya, pidananya
106
+ dapat ditambah 1/3 (satu per tiga). (3) Percobaan melakukan Tindak Pidana sebagaimana
107
+ dimaksud pada ayat (1), tidak dipidana. Pasal ini berlaku karena pukulan Ronald
108
+ yang tidak menimbulkan penyakit atau halangan bekerja, serta dilakukan terhadap
109
+ bawahan, memenuhi unsur penganiayaan ringan dengan pemberatan pidana pada ayat
110
+ (1) dan ayat (2).'
111
+ - 'passage: Bisa, pasal ini melarang setiap orang yang secara melawan hukum melakukan
112
+ tindakan memperkaya dirinya, pihak lain, maupun korporasi sehingga mengakibatkan
113
+ kerugian pada keuangan negara. (Pasal 603 KUHP)'
114
+ - source_sentence: 'query: Di Bandung, seorang dokter bedah bernama Dr. Lestari melakukan
115
+ operasi pada pasien bernama Tn. Agus. Karena kurang teliti dalam memeriksa alat
116
+ operasi, Dr. Lestari menyebabkan komplikasi serius yang mengakibatkan Tn. Agus
117
+ mengalami cacat permanen dan tidak dapat bekerja lagi sebagai tukang bangunan.
118
+ Pasal apa yang dapat dikenakan kepada Dr. Lestari?'
119
+ sentences:
120
+ - 'passage: Pasal 459: Setiap Orang yang dengan rencana terlebih dahulu merampas
121
+ nyawa orang lain, dipidana karena pembunuhan berencana, dengan pidana mati atau
122
+ pidana penjara seumur hidup atau pidana penjara paling lama 20 (dua puluh) tahun.
123
+ Pasal ini mengatur pembunuhan dengan unsur perencanaan atau premeditasi.'
124
+ - 'passage: Pasal 475: (1) Jika Tindak Pidana sebagaimana dimaksud dalam Pasal 474
125
+ dilakukan dalam menjalankan jabatan, mata pencaharian, atau profesi, pidananya
126
+ dapat ditambah 1/3 (satu per tiga). (2) Setiap Orang sebagaimana dimaksud pada
127
+ ayat (1) dapat juga dijatuhi pidana tambahan berupa pengumuman putusan hakim sebagaimana
128
+ dimaksud dalam Pasal 66 ayat (1) huruf c dan pencabutan hak sebagaimana dimaksud
129
+ dalam Pasal 86 huruf f. Pasal ini berlaku karena kasus tersebut melibatkan kelalaian
130
+ dalam menjalankan profesi medis yang mengakibatkan Luka Berat, sehingga merupakan
131
+ aggravating circumstance dari Pasal 474 yang diatur dalam Pasal 475.'
132
+ - 'passage: Pasal 448: (1) Dipidana dengan pidana penjara paling lama 1 (satu) tahun
133
+ atau pidana denda paling banyak kategori II, Setiap Orang yang: a. secara melawan
134
+ hukum memaksa orang lain supaya melakukan, tidak melakukan, atau membiarkan sesuatu,
135
+ dengan Kekerasan atau Ancaman Kekerasan, baik terhadap orang itu sendiri maupun
136
+ orang lain; atau b. memaksa orang lain supaya melakukan, tidak melakukan, atau
137
+ membiarkan sesuatu dengan ancaman pencemaran atau pencemaran tertulis. (2) Tindak
138
+ Pidana sebagaimana dimaksud pada ayat (1) huruf b hanya dapat dituntut atas pengaduan
139
+ dari Korban Tindak Pidana. Pasal ini berlaku karena Bram Sulistyo memaksa Andi
140
+ Firmansyah untuk melakukan sesuatu (mencabut laporan ketenagakerjaan) dengan ancaman
141
+ pencemaran nama baik (ancaman membocorkan aib pribadi), yang memenuhi unsur tindak
142
+ pidana dalam Pasal 448 ayat (1) huruf b KUHP 2023. Karena menggunakan ancaman
143
+ pencemaran, tindak pidana ini merupakan delik aduan sebagaimana Pasal 448 ayat
144
+ (2)'
145
+ pipeline_tag: sentence-similarity
146
+ library_name: sentence-transformers
147
+ metrics:
148
+ - cosine_accuracy
149
+ model-index:
150
+ - name: SentenceTransformer based on intfloat/multilingual-e5-base
151
+ results:
152
+ - task:
153
+ type: triplet
154
+ name: Triplet
155
+ dataset:
156
+ name: val
157
+ type: val
158
+ metrics:
159
+ - type: cosine_accuracy
160
+ value: 0.9413203001022339
161
+ name: Cosine Accuracy
162
+ - task:
163
+ type: triplet
164
+ name: Triplet
165
+ dataset:
166
+ name: test
167
+ type: test
168
+ metrics:
169
+ - type: cosine_accuracy
170
+ value: 0.9341463446617126
171
+ name: Cosine Accuracy
172
+ ---
173
+
174
+ # SentenceTransformer based on intfloat/multilingual-e5-base
175
+
176
+ This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [intfloat/multilingual-e5-base](https://huggingface.co/intfloat/multilingual-e5-base). It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
177
+
178
+ ## Model Details
179
+
180
+ ### Model Description
181
+ - **Model Type:** Sentence Transformer
182
+ - **Base model:** [intfloat/multilingual-e5-base](https://huggingface.co/intfloat/multilingual-e5-base) <!-- at revision d128750597153bb5987e10b1c3493a34e5a4502a -->
183
+ - **Maximum Sequence Length:** 512 tokens
184
+ - **Output Dimensionality:** 768 dimensions
185
+ - **Similarity Function:** Cosine Similarity
186
+ <!-- - **Training Dataset:** Unknown -->
187
+ <!-- - **Language:** Unknown -->
188
+ <!-- - **License:** Unknown -->
189
+
190
+ ### Model Sources
191
+
192
+ - **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
193
+ - **Repository:** [Sentence Transformers on GitHub](https://github.com/huggingface/sentence-transformers)
194
+ - **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
195
+
196
+ ### Full Model Architecture
197
+
198
+ ```
199
+ SentenceTransformer(
200
+ (0): Transformer({'max_seq_length': 512, 'do_lower_case': False, 'architecture': 'XLMRobertaModel'})
201
+ (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
202
+ (2): Normalize()
203
+ )
204
+ ```
205
+
206
+ ## Usage
207
+
208
+ ### Direct Usage (Sentence Transformers)
209
+
210
+ First install the Sentence Transformers library:
211
+
212
+ ```bash
213
+ pip install -U sentence-transformers
214
+ ```
215
+
216
+ Then you can load this model and run inference.
217
+ ```python
218
+ from sentence_transformers import SentenceTransformer
219
+
220
+ # Download from the 🤗 Hub
221
+ model = SentenceTransformer("TextModel/E5_Law-v4-Indo")
222
+ # Run inference
223
+ sentences = [
224
+ 'query: Di Bandung, seorang dokter bedah bernama Dr. Lestari melakukan operasi pada pasien bernama Tn. Agus. Karena kurang teliti dalam memeriksa alat operasi, Dr. Lestari menyebabkan komplikasi serius yang mengakibatkan Tn. Agus mengalami cacat permanen dan tidak dapat bekerja lagi sebagai tukang bangunan. Pasal apa yang dapat dikenakan kepada Dr. Lestari?',
225
+ 'passage: Pasal 475: (1) Jika Tindak Pidana sebagaimana dimaksud dalam Pasal 474 dilakukan dalam menjalankan jabatan, mata pencaharian, atau profesi, pidananya dapat ditambah 1/3 (satu per tiga). (2) Setiap Orang sebagaimana dimaksud pada ayat (1) dapat juga dijatuhi pidana tambahan berupa pengumuman putusan hakim sebagaimana dimaksud dalam Pasal 66 ayat (1) huruf c dan pencabutan hak sebagaimana dimaksud dalam Pasal 86 huruf f. Pasal ini berlaku karena kasus tersebut melibatkan kelalaian dalam menjalankan profesi medis yang mengakibatkan Luka Berat, sehingga merupakan aggravating circumstance dari Pasal 474 yang diatur dalam Pasal 475.',
226
+ 'passage: Pasal 459: Setiap Orang yang dengan rencana terlebih dahulu merampas nyawa orang lain, dipidana karena pembunuhan berencana, dengan pidana mati atau pidana penjara seumur hidup atau pidana penjara paling lama 20 (dua puluh) tahun. Pasal ini mengatur pembunuhan dengan unsur perencanaan atau premeditasi.',
227
+ ]
228
+ embeddings = model.encode(sentences)
229
+ print(embeddings.shape)
230
+ # [3, 768]
231
+
232
+ # Get the similarity scores for the embeddings
233
+ similarities = model.similarity(embeddings, embeddings)
234
+ print(similarities)
235
+ # tensor([[ 1.0000, 0.4145, -0.0171],
236
+ # [ 0.4145, 1.0000, 0.0258],
237
+ # [-0.0171, 0.0258, 1.0000]])
238
+ ```
239
+
240
+ <!--
241
+ ### Direct Usage (Transformers)
242
+
243
+ <details><summary>Click to see the direct usage in Transformers</summary>
244
+
245
+ </details>
246
+ -->
247
+
248
+ <!--
249
+ ### Downstream Usage (Sentence Transformers)
250
+
251
+ You can finetune this model on your own dataset.
252
+
253
+ <details><summary>Click to expand</summary>
254
+
255
+ </details>
256
+ -->
257
+
258
+ <!--
259
+ ### Out-of-Scope Use
260
+
261
+ *List how the model may foreseeably be misused and address what users ought not to do with the model.*
262
+ -->
263
+
264
+ ## Evaluation
265
+
266
+ ### Metrics
267
+
268
+ #### Triplet
269
+
270
+ * Datasets: `val` and `test`
271
+ * Evaluated with [<code>TripletEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.TripletEvaluator)
272
+
273
+ | Metric | val | test |
274
+ |:--------------------|:-----------|:-----------|
275
+ | **cosine_accuracy** | **0.9413** | **0.9341** |
276
+
277
+ <!--
278
+ ## Bias, Risks and Limitations
279
+
280
+ *What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
281
+ -->
282
+
283
+ <!--
284
+ ### Recommendations
285
+
286
+ *What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
287
+ -->
288
+
289
+ ## Training Details
290
+
291
+ ### Training Dataset
292
+
293
+ #### Unnamed Dataset
294
+
295
+ * Size: 2,004 training samples
296
+ * Columns: <code>anchor</code>, <code>positive</code>, and <code>negative</code>
297
+ * Approximate statistics based on the first 1000 samples:
298
+ | | anchor | positive | negative |
299
+ |:--------|:-----------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------|
300
+ | type | string | string | string |
301
+ | details | <ul><li>min: 16 tokens</li><li>mean: 27.05 tokens</li><li>max: 57 tokens</li></ul> | <ul><li>min: 19 tokens</li><li>mean: 51.74 tokens</li><li>max: 103 tokens</li></ul> | <ul><li>min: 16 tokens</li><li>mean: 42.66 tokens</li><li>max: 83 tokens</li></ul> |
302
+ * Samples:
303
+ | anchor | positive | negative |
304
+ |:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
305
+ | <code>query: Kalo mau lapor ke polisi soal pencemaran nama baik, apa emang harus nunggu korban datang lapor sendiri atau polisi bisa langsung tangkap pelakunya?</code> | <code>passage: Pasal 24: Dalam hal tertentu, pelaku Tindak Pidana hanya dapat dituntut atas dasar pengaduan. Tindak Pidana aduan harus ditentukan secara tegas dalam Undang-Undang.</code> | <code>passage: Pasal 28: Pengaduan dilakukan dengan cara menyampaikan pemberitahuan dan permohonan untuk dituntut. Pengaduan sebagaimana dimaksud diajukan secara lisan atau tertulis kepada Pejabat yang berwenang.</code> |
306
+ | <code>query: Anak saya yang masih 14 tahun kena aniaya sama tetangga, saya sebagai bapaknya yang lapor polisi. Tapi ternyata Anak saya yang masih 14 tahun kena aniaya, saya sebagai bapaknya yang mau lapor polisi. Apakah saya berhak melapor mewakili anak saya??</code> | <code>passage: Pasal 25: Dalam hal Korban Tindak Pidana aduan belum berumur 16 tahun, yang berhak mengadu merupakan Orang Tua atau walinya. Dalam hal Orang Tua atau wali tidak ada atau Orang Tua/wali itu sendiri yang harus diadukan, pengaduan dilakukan oleh keluarga sedarah dalam garis lurus.</code> | <code>passage: Pasal 26: Dalam hal Korban Tindak Pidana aduan berada di bawah pengampuan, yang berhak mengadu merupakan pengampunya, kecuali bagi Korban yang berada dalam pengampuan karena boros. Jika pengampu tidak ada atau pengampu itu sendiri yang harus diadukan, pengaduan dilakukan oleh suami/istri atau keluarga sedarah.</code> |
307
+ | <code>query: Saya kemarin udah lapor polisi soal kejadian yang menimpa saya, tapi sekarang saya udah maafin pelakunya dan mau cabut laporan. Apa yang bakal terjadi sama perkara ini?</code> | <code>passage: Pasal 30: Pengaduan dapat ditarik kembali oleh pengadu dalam waktu 3 Bulan terhitung sejak tanggal pengaduan diajukan. Pengaduan yang ditarik kembali tidak dapat diajukan lagi.</code> | <code>passage: Pasal 29: Pengaduan harus diajukan dalam tenggang waktu 6 Bulan terhitung sejak tanggal orang yang berhak mengadu mengetahui adanya Tindak Pidana jika bertempat tinggal di wilayah NKRI. Jika yang berhak mengadu lebih dari 1 orang, tenggang waktu dihitung sejak tanggal masing-masing pengadu mengetahui adanya Tindak Pidana.</code> |
308
+ * Loss: [<code>MultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#multiplenegativesrankingloss) with these parameters:
309
+ ```json
310
+ {
311
+ "scale": 20.0,
312
+ "similarity_fct": "cos_sim",
313
+ "gather_across_devices": false
314
+ }
315
+ ```
316
+
317
+ ### Evaluation Dataset
318
+
319
+ #### Unnamed Dataset
320
+
321
+ * Size: 409 evaluation samples
322
+ * Columns: <code>anchor</code>, <code>positive</code>, and <code>negative</code>
323
+ * Approximate statistics based on the first 409 samples:
324
+ | | anchor | positive | negative |
325
+ |:--------|:------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|
326
+ | type | string | string | string |
327
+ | details | <ul><li>min: 13 tokens</li><li>mean: 48.55 tokens</li><li>max: 124 tokens</li></ul> | <ul><li>min: 22 tokens</li><li>mean: 92.34 tokens</li><li>max: 512 tokens</li></ul> | <ul><li>min: 19 tokens</li><li>mean: 73.33 tokens</li><li>max: 508 tokens</li></ul> |
328
+ * Samples:
329
+ | anchor | positive | negative |
330
+ |:-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
331
+ | <code>query: Berapa hukuman untuk menyatakan kebencian terhadap suku tertentu di depan orang banyak?</code> | <code>passage: Orang yang menyatakan kebencian terhadap suatu suku atau golongan penduduk di depan umum dapat dihukum penjara paling lama 3 tahun atau denda paling banyak kategori IV. (Pasal 242 KUHP)</code> | <code>passage: Orang yang menyatakan kebencian terhadap suatu golongan agama atau kepercayaan tertentu di depan umum dapat dihukum penjara paling lama 3 tahun atau denda paling banyak kategori IV. (Pasal 300 KUHP)</code> |
332
+ | <code>query: Arief Budiman, warga Kota Semarang, pada bulan Maret 2024 secara lisan menyampaikan tuduhan kepada sejumlah tetangganya bahwa DR. Santi Rahayu, seorang dokter terhormat di lingkungan mereka, terlibat dalam praktik penipuan pasien. Pernyataan tersebut diucapkan di depan warga dalam rapat RT dengan tujuan agar tuduhan tersebut diketahui umum. Pernyataan Arief tidak disertai bukti apapun dan terbukti tidak benar. DR. Santi merasa nama baiknya sangat dirugikan. Pasal apa yang dapat dikenakan kepada Arief Budiman?</code> | <code>passage: Pasal 433: (1) Setiap Orang yang dengan lisan menyerang kehormatan atau nama baik orang lain dengan cara menuduhkan suatu hal, dengan maksud supaya hal tersebut diketahui umum, dipidana karena pencemaran, dengan pidana penjara paling lama 9 (sembilan) Bulan atau pidana denda paling banyak kategori II. (2) Jika perbuatan sebagaimana dimaksud pada ayat (1) dilakukan dengan tulisan atau gambar yang disiarkan, dipertunjukkan, atau ditempelkan di tempat umum, dipidana karena pencemaran tertulis, dengan pidana penjara paling lama 1 (satu) tahun 6 (enam) Bulan atau pidana denda paling banyak kategori III.. Pasal ini berlaku karena Arief Budiman secara lisan menyerang kehormatan dan nama baik DR. Santi Rahayu dengan cara menuduhkan suatu hal (keterlibatan dalam penipuan pasien) dengan maksud agar hal tersebut diketahui umum, yang tepat masuk dalam kualifikasi pencemaran sebagaimana diatur dalam Pasal 433 ayat (1) KUHP 2023..</code> | <code>passage: Pasal 434: (1) Jika Setiap Orang sebagaimana dimaksud dalam Pasal 433 diberi kesempatan membuktikan kebenaran hal yang dituduhkan tetapi tidak dapat membuktikannya, dan tuduhan tersebut bertentangan dengan yang diketahuinya, dipidana karena fitnah, dengan pidana penjara paling lama 3 (tiga) tahun atau pidana denda paling banyak kategori IV. (2) Pembuktian kebenaran tuduhan sebagaimana dimaksud pada ayat (1), hanya dapat dilakukan dalam hal: a. hakim memandang perlu untuk memeriksa kebenaran tuduhan tersebut guna mempertimbangkan keterangan terdakwa bahwa terdakwa melakukan perbuatan tersebut untuk kepentingan umum atau karena terpaksa untuk membela diri; atau b. Pejabat dituduh melakukan suatu hal dalam menjalankan tugas jabatannya.. Pasal ini mengatur fitnah, yaitu pencemaran di mana pelaku diberikan kesempatan membuktikan kebenaran tuduhan tetapi tidak dapat membuktikannya dan tuduhan bertentangan dengan yang diketahuinya, merupakan kualifikasi lebih berat dari pencemaran bi...</code> |
333
+ | <code>query: Kalau orang yang saya tuduh dibebaskan pengadilan, apakah itu otomatis jadi bukti kalau tuduhan saya salah?</code> | <code>passage: Ya, jika putusan pengadilan yang telah berkekuatan hukum tetap menyatakan orang yang dihina dibebaskan dari hal yang dituduhkan, putusan tersebut dianggap sebagai bukti sempurna bahwa hal yang dituduhkan tidak benar. (Pasal 435 ayat (2) KUHP)</code> | <code>passage: Jika tuduhan tersebut hanya dapat dituntut atas pengaduan dan pengaduan tidak diajukan, maka pembuktian kebenaran tuduhan tidak dapat dilakukan meskipun ada bukti lain. (Pasal 434 ayat (3) KUHP)</code> |
334
+ * Loss: [<code>MultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#multiplenegativesrankingloss) with these parameters:
335
+ ```json
336
+ {
337
+ "scale": 20.0,
338
+ "similarity_fct": "cos_sim",
339
+ "gather_across_devices": false
340
+ }
341
+ ```
342
+
343
+ ### Training Hyperparameters
344
+ #### Non-Default Hyperparameters
345
+
346
+ - `eval_strategy`: epoch
347
+ - `per_device_train_batch_size`: 4
348
+ - `per_device_eval_batch_size`: 4
349
+ - `gradient_accumulation_steps`: 4
350
+ - `learning_rate`: 1e-05
351
+ - `weight_decay`: 0.01
352
+ - `num_train_epochs`: 5
353
+ - `warmup_ratio`: 0.3
354
+ - `warmup_steps`: 0.3
355
+ - `fp16`: True
356
+ - `load_best_model_at_end`: True
357
+ - `dataloader_pin_memory`: False
358
+ - `gradient_checkpointing`: True
359
+ - `batch_sampler`: no_duplicates
360
+
361
+ #### All Hyperparameters
362
+ <details><summary>Click to expand</summary>
363
+
364
+ - `do_predict`: False
365
+ - `eval_strategy`: epoch
366
+ - `prediction_loss_only`: True
367
+ - `per_device_train_batch_size`: 4
368
+ - `per_device_eval_batch_size`: 4
369
+ - `gradient_accumulation_steps`: 4
370
+ - `eval_accumulation_steps`: None
371
+ - `torch_empty_cache_steps`: None
372
+ - `learning_rate`: 1e-05
373
+ - `weight_decay`: 0.01
374
+ - `adam_beta1`: 0.9
375
+ - `adam_beta2`: 0.999
376
+ - `adam_epsilon`: 1e-08
377
+ - `max_grad_norm`: 1.0
378
+ - `num_train_epochs`: 5
379
+ - `max_steps`: -1
380
+ - `lr_scheduler_type`: linear
381
+ - `lr_scheduler_kwargs`: None
382
+ - `warmup_ratio`: 0.3
383
+ - `warmup_steps`: 0.3
384
+ - `log_level`: passive
385
+ - `log_level_replica`: warning
386
+ - `log_on_each_node`: True
387
+ - `logging_nan_inf_filter`: True
388
+ - `enable_jit_checkpoint`: False
389
+ - `save_on_each_node`: False
390
+ - `save_only_model`: False
391
+ - `restore_callback_states_from_checkpoint`: False
392
+ - `use_cpu`: False
393
+ - `seed`: 42
394
+ - `data_seed`: None
395
+ - `bf16`: False
396
+ - `fp16`: True
397
+ - `bf16_full_eval`: False
398
+ - `fp16_full_eval`: False
399
+ - `tf32`: None
400
+ - `local_rank`: -1
401
+ - `ddp_backend`: None
402
+ - `debug`: []
403
+ - `dataloader_drop_last`: False
404
+ - `dataloader_num_workers`: 0
405
+ - `dataloader_prefetch_factor`: None
406
+ - `disable_tqdm`: False
407
+ - `remove_unused_columns`: True
408
+ - `label_names`: None
409
+ - `load_best_model_at_end`: True
410
+ - `ignore_data_skip`: False
411
+ - `fsdp`: []
412
+ - `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
413
+ - `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
414
+ - `parallelism_config`: None
415
+ - `deepspeed`: None
416
+ - `label_smoothing_factor`: 0.0
417
+ - `optim`: adamw_torch_fused
418
+ - `optim_args`: None
419
+ - `group_by_length`: False
420
+ - `length_column_name`: length
421
+ - `project`: huggingface
422
+ - `trackio_space_id`: trackio
423
+ - `ddp_find_unused_parameters`: None
424
+ - `ddp_bucket_cap_mb`: None
425
+ - `ddp_broadcast_buffers`: False
426
+ - `dataloader_pin_memory`: False
427
+ - `dataloader_persistent_workers`: False
428
+ - `skip_memory_metrics`: True
429
+ - `push_to_hub`: False
430
+ - `resume_from_checkpoint`: None
431
+ - `hub_model_id`: None
432
+ - `hub_strategy`: every_save
433
+ - `hub_private_repo`: None
434
+ - `hub_always_push`: False
435
+ - `hub_revision`: None
436
+ - `gradient_checkpointing`: True
437
+ - `gradient_checkpointing_kwargs`: None
438
+ - `include_for_metrics`: []
439
+ - `eval_do_concat_batches`: True
440
+ - `auto_find_batch_size`: False
441
+ - `full_determinism`: False
442
+ - `ddp_timeout`: 1800
443
+ - `torch_compile`: False
444
+ - `torch_compile_backend`: None
445
+ - `torch_compile_mode`: None
446
+ - `include_num_input_tokens_seen`: no
447
+ - `neftune_noise_alpha`: None
448
+ - `optim_target_modules`: None
449
+ - `batch_eval_metrics`: False
450
+ - `eval_on_start`: False
451
+ - `use_liger_kernel`: False
452
+ - `liger_kernel_config`: None
453
+ - `eval_use_gather_object`: False
454
+ - `average_tokens_across_devices`: True
455
+ - `use_cache`: False
456
+ - `prompts`: None
457
+ - `batch_sampler`: no_duplicates
458
+ - `multi_dataset_batch_sampler`: proportional
459
+ - `router_mapping`: {}
460
+ - `learning_rate_mapping`: {}
461
+
462
+ </details>
463
+
464
+ ### Training Logs
465
+ | Epoch | Step | Training Loss | Validation Loss | val_cosine_accuracy | test_cosine_accuracy |
466
+ |:-------:|:-------:|:-------------:|:---------------:|:-------------------:|:--------------------:|
467
+ | -1 | -1 | - | - | 0.8949 | 0.8732 |
468
+ | 1.0 | 63 | 1.5265 | 0.4622 | 0.9315 | - |
469
+ | 2.0 | 126 | 0.4451 | 0.2844 | 0.9389 | - |
470
+ | 3.0 | 189 | 0.2151 | 0.2508 | 0.9315 | - |
471
+ | **4.0** | **252** | **0.1429** | **0.242** | **0.9413** | **-** |
472
+ | 5.0 | 315 | 0.1171 | 0.2386 | 0.9413 | - |
473
+ | -1 | -1 | - | - | 0.9413 | 0.9341 |
474
+
475
+ * The bold row denotes the saved checkpoint.
476
+
477
+ ### Framework Versions
478
+ - Python: 3.12.12
479
+ - Sentence Transformers: 5.2.3
480
+ - Transformers: 5.0.0
481
+ - PyTorch: 2.10.0+cu128
482
+ - Accelerate: 1.12.0
483
+ - Datasets: 4.8.3
484
+ - Tokenizers: 0.22.2
485
+
486
+ ## Citation
487
+
488
+ ### BibTeX
489
+
490
+ #### Sentence Transformers
491
+ ```bibtex
492
+ @inproceedings{reimers-2019-sentence-bert,
493
+ title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
494
+ author = "Reimers, Nils and Gurevych, Iryna",
495
+ booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
496
+ month = "11",
497
+ year = "2019",
498
+ publisher = "Association for Computational Linguistics",
499
+ url = "https://arxiv.org/abs/1908.10084",
500
+ }
501
+ ```
502
+
503
+ #### MultipleNegativesRankingLoss
504
+ ```bibtex
505
+ @misc{henderson2017efficient,
506
+ title={Efficient Natural Language Response Suggestion for Smart Reply},
507
+ author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
508
+ year={2017},
509
+ eprint={1705.00652},
510
+ archivePrefix={arXiv},
511
+ primaryClass={cs.CL}
512
+ }
513
+ ```
514
+
515
+ <!--
516
+ ## Glossary
517
+
518
+ *Clearly define terms in order to be accessible across audiences.*
519
+ -->
520
+
521
+ <!--
522
+ ## Model Card Authors
523
+
524
+ *Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
525
+ -->
526
+
527
+ <!--
528
+ ## Model Card Contact
529
+
530
+ *Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
531
+ -->
config.json ADDED
@@ -0,0 +1,30 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "add_cross_attention": false,
3
+ "architectures": [
4
+ "XLMRobertaModel"
5
+ ],
6
+ "attention_probs_dropout_prob": 0.1,
7
+ "bos_token_id": 0,
8
+ "classifier_dropout": null,
9
+ "dtype": "float32",
10
+ "eos_token_id": 2,
11
+ "hidden_act": "gelu",
12
+ "hidden_dropout_prob": 0.1,
13
+ "hidden_size": 768,
14
+ "initializer_range": 0.02,
15
+ "intermediate_size": 3072,
16
+ "is_decoder": false,
17
+ "layer_norm_eps": 1e-05,
18
+ "max_position_embeddings": 514,
19
+ "model_type": "xlm-roberta",
20
+ "num_attention_heads": 12,
21
+ "num_hidden_layers": 12,
22
+ "output_past": true,
23
+ "pad_token_id": 1,
24
+ "position_embedding_type": "absolute",
25
+ "tie_word_embeddings": true,
26
+ "transformers_version": "5.0.0",
27
+ "type_vocab_size": 1,
28
+ "use_cache": true,
29
+ "vocab_size": 250002
30
+ }
config_sentence_transformers.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "model_type": "SentenceTransformer",
3
+ "__version__": {
4
+ "sentence_transformers": "5.2.3",
5
+ "transformers": "5.0.0",
6
+ "pytorch": "2.10.0+cu128"
7
+ },
8
+ "prompts": {
9
+ "query": "",
10
+ "document": ""
11
+ },
12
+ "default_prompt_name": null,
13
+ "similarity_fn_name": "cosine"
14
+ }
model.safetensors ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cd837881ffdfc026f41dfde63f8719ad5a04098bbea83adae14e60c22df38a52
3
+ size 1112197064
modules.json ADDED
@@ -0,0 +1,20 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ [
2
+ {
3
+ "idx": 0,
4
+ "name": "0",
5
+ "path": "",
6
+ "type": "sentence_transformers.models.Transformer"
7
+ },
8
+ {
9
+ "idx": 1,
10
+ "name": "1",
11
+ "path": "1_Pooling",
12
+ "type": "sentence_transformers.models.Pooling"
13
+ },
14
+ {
15
+ "idx": 2,
16
+ "name": "2",
17
+ "path": "2_Normalize",
18
+ "type": "sentence_transformers.models.Normalize"
19
+ }
20
+ ]
sentence_bert_config.json ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {
2
+ "max_seq_length": 512,
3
+ "do_lower_case": false
4
+ }
tokenizer.json ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3fe715a86a37cd2b20e5eaeee8b22815bce65de676d1e0cd856114b59dab67fc
3
+ size 16766387
tokenizer_config.json ADDED
@@ -0,0 +1,15 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "add_prefix_space": true,
3
+ "backend": "tokenizers",
4
+ "bos_token": "<s>",
5
+ "clean_up_tokenization_spaces": true,
6
+ "cls_token": "<s>",
7
+ "eos_token": "</s>",
8
+ "is_local": false,
9
+ "mask_token": "<mask>",
10
+ "model_max_length": 512,
11
+ "pad_token": "<pad>",
12
+ "sep_token": "</s>",
13
+ "tokenizer_class": "XLMRobertaTokenizer",
14
+ "unk_token": "<unk>"
15
+ }