yosriku/exp_data_scale_1files

SentenceTransformer based on LazarusNLP/congen-indobert-lite-base

This is a sentence-transformers model finetuned from LazarusNLP/congen-indobert-lite-base. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: LazarusNLP/congen-indobert-lite-base
• Maximum Sequence Length: 32 tokens
• Output Dimensionality: 768 dimensions
• Similarity Function: Cosine Similarity

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 32, 'do_lower_case': False}) with Transformer model: AlbertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Dense({'in_features': 768, 'out_features': 768, 'bias': True, 'activation_function': 'torch.nn.modules.activation.Tanh'})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("yosriku/exp_data_scale_1files")
# Run inference
sentences = [
    'Masukkan I KETENTUAN UMUM BAB I?',
    'UNDANG-UNDANG TENTANG PENGELOLAAN SAM PAH. BAB I KETENTUAN UMUM Bagian Kesatu Definisi Pasal 1 Dalam Undang-Undang ini yang dimaksud dengan: 1. Sampah adalah sisa kegiatan sehari-hari manusia dan/atau proses alam yang berbentuk padat. 2.',
    'Penelitian ini dilakukan dengan mengambil sampel dari satu populasi penduduk dan menggunakan kuisioner sebagai alat pengumpul data. Penelitian difokuskan di lapangan yang dimaksudkan untuk mengetahui',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Triplet

• Datasets: retrieval-validation and test
• Evaluated with TripletEvaluator

Metric	retrieval-validation	test
cosine_accuracy	0.9888	0.9944

Training Details

Training Dataset

Unnamed Dataset

• Size: 1,242 training samples
• Columns: anchor, positive, and negative
• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 3 tokens mean: 8.99 tokens max: 32 tokens	min: 11 tokens mean: 29.92 tokens max: 32 tokens	min: 5 tokens mean: 27.4 tokens max: 32 tokens

• Samples:

  anchor	positive	negative
  Pasal 21 Ayat 2	Ayat (1) Cukup jelas. Ayat (2) Cukup jelas	The number of tourists visiting during the 2018 holiday reached 9,870 people in one day. Every activity of tourists will produce waste in the tourist area, especially organic wast e. Organic waste has good energy potential
  Penjelasan Pasal 43 Ayat 1 Huruf b	moneter. Huruf b Yang dimaksud dengan “produk domestik bruto” adalah nilai semua barang dan jasa yang diproduksi oleh suatu negara pada periode tertentu.	Manufaktur. Pendidikan S2 diselesaikan di Magister Teknik Mesin Teknik Mesin Universitas Gadjah Mada diselesaikan pada Tahun 2011 dengan riset Optimasi Industri.
  Landasan hukum PP 81 Tahun 2012	8. Peraturan Pem erintah Nomor 81 Tahun 2012 tentang Pengelolaan Samp ah Rum ah Tangga dan Sampah Sejenis Sampah Rum ah Tangga (Lemb aran Nega ra Republik Indonesia Tahun 2012 Nomor 188, Tamb ahan Lembaran Negara Republik Indon esia Nom or 5347); 9. Peraturan Presiden Nomor 2 Tahun 2015 tentang Rencana Pembangunan Jangk a Menengah Nasional Tahun 2015- 2019 (Lembaran Negara Republik Indonesia Ta hun 2015 Nomor 3);	Sampah orga nik yang akan diproses sebanyak 1.400,36 kg per hari. Kemudian diproses menjadi arang, sehingga didapatkan arang sampah organik sebanyak 205,91 kg per hari. Berdasarkan perhitungan didapatkan potensi energi listrik yang dihasilkan adalah 1.392,38 kWh

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

Evaluation Dataset

Unnamed Dataset

• Size: 356 evaluation samples
• Columns: anchor, positive, and negative
• Approximate statistics based on the first 356 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 3 tokens mean: 8.74 tokens max: 22 tokens	min: 12 tokens mean: 29.99 tokens max: 32 tokens	min: 6 tokens mean: 27.12 tokens max: 32 tokens

• Samples:

  anchor	positive	negative
  Bagaimana sistem informasi lingkungan hidup	(1) Pemerintah dan pemerintah daerah mengembangkan sistem informasi lingkungan hidup untuk mendukung pelaksanaan dan pengembangan kebijakan perlindungan dan pengelolaan lingkungan hidup. (2) Sistem informasi lingkungan hidup dilakukan secara terpadu dan terkoordinasi dan wajib dipublikasikan kepada masyarakat.	Bagaimana jika B3 telah kedaluwarsa?
  Masukkan I KETENTUAN UMUM BAB I?	UNDANG-UNDANG TENTANG PENGELOLAAN SAM PAH. BAB I KETENTUAN UMUM Bagian Kesatu Definisi Pasal 1 Dalam Undang-Undang ini yang dimaksud dengan: 1. Sampah adalah sisa kegiatan sehari-hari manusia dan/atau proses alam yang berbentuk padat. 2.	Penelitian ini dilakukan dengan mengambil sampel dari satu populasi penduduk dan menggunakan kuisioner sebagai alat pengumpul data. Penelitian difokuskan di lapangan yang dimaksudkan untuk mengetahui
  Sebutkan contoh	kondisi lingkungan dengan berbagai cara. Dampak positif kepariwisataan yaitu konservasi kawasan lindung, konservasi situs arkeologi dan sejarah, perbaikan kualitas lingkugan, peningkatan lingkungan, perbaikan infrastruktur, dan	terletak pada area yang posisi geografisnya berada diantara 705833`` LS sampai dengan 80226 LS dan diantara 110025`15 BT sampai dengan 110028`15`` BT. Luas keseluruhan wilayah Kecamatan Kretek adalah 2.677 Ha (5,28 % dari luas

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: steps
• per_device_train_batch_size: 128
• per_device_eval_batch_size: 128
• learning_rate: 2e-05
• warmup_ratio: 0.1
• fp16: True
• load_best_model_at_end: True
• push_to_hub: True
• hub_model_id: yosriku/exp_data_scale_1files
• hub_private_repo: True

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: steps
• prediction_loss_only: True
• per_device_train_batch_size: 128
• per_device_eval_batch_size: 128
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 2e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1.0
• num_train_epochs: 3
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.1
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: False
• fp16: True
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: True
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: True
• resume_from_checkpoint: None
• hub_model_id: yosriku/exp_data_scale_1files
• hub_strategy: every_save
• hub_private_repo: True
• hub_always_push: False
• hub_revision: None
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• liger_kernel_config: None
• eval_use_gather_object: False
• average_tokens_across_devices: False
• prompts: None
• batch_sampler: batch_sampler
• multi_dataset_batch_sampler: proportional

Training Logs

Epoch	Step	Validation Loss	retrieval-validation_cosine_accuracy	test_cosine_accuracy
1.0	5	3.6622	0.9888	-
2.0	10	3.4266	0.9888	-
3.0	15	3.3585	0.9888	-
-1	-1	-	-	0.9944

• The bold row denotes the saved checkpoint.

Framework Versions

• Python: 3.11.13
• Sentence Transformers: 4.1.0
• Transformers: 4.53.3
• PyTorch: 2.6.0+cu124
• Accelerate: 1.9.0
• Datasets: 4.1.1
• Tokenizers: 0.21.2

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}