Upload model

658091f verified 3 months ago

41.8 kB

tags:
  - unsloth
  - sentence-transformers
  - sentence-similarity
  - feature-extraction
  - dense
  - generated_from_trainer
  - dataset_size:3281
  - loss:MultipleNegativesRankingLoss
base_model: unsloth/embeddinggemma-300m
widget:
  - source_sentence: CT Scan Tulang Belakang Bawah dan Ekor (Non Kontras) itu buat ngecek apa?
    sentences:
      - >-
        Paket: CT Scan Tulang Belakang Bawah Dan Ekor/Lumbosacral (Non Kontras),
        Deskripsi: CT Scan Tulang Belakang Bawah dan Ekor/Lumbosacral (Non
        Kontras) adalah pemeriksaan pada tulang belakang bagian lumbal hingga
        sakral serta tulang ekor untuk melihat struktur tulang, sendi, dan
        jaringan sekitarnya.


        Jika Anda ragu akan pemeriksaan yang hendak dijalani, konsultasikan
        kondisi Anda kepada dokter terkait untuk mendapatkan rujukan/saran
        pemeriksaan yang tepat.


        Manfaat Pemeriksaan:


        \- Mendeteksi kelainan pada tulang belakang bagian bawah dan ekor
        seperti fraktur, degenerasi, atau tumor.  

        \- Mendiagnosis penyebab nyeri punggung bawah dan tulang ekor seperti
        HNP (hernia nucleus pulposus) atau stenosis spinal.  

        \- Menilai tingkat keparahan cedera atau kelainan struktural pada tulang
        belakang dan ekor.  

        \- Mengevaluasi efektivitas terapi atau tindakan medis sebelumnya.  

        \- Memantau perkembangan penyakit degeneratif pada tulang belakang dan
        ekor... Paket ini tersedia di MRCCC SILOAM HOSPITALS SEMANGGI, RUMAH
        SAKIT PUTERA BAHAGIA, RUMAH SAKIT SILOAM BANGKA, SILOAM HEART HOSPITAL,
        SILOAM HOSPITALS AGORA CEMPAKA PUTIH, SILOAM HOSPITALS AMBON, SILOAM
        HOSPITALS ASRI, SILOAM HOSPITALS BALIKPAPAN, SILOAM HOSPITALS
        BANJARMASIN, SILOAM HOSPITALS BEKASI SEPANJANG JAYA, SILOAM HOSPITALS
        BEKASI TIMUR, SILOAM HOSPITALS BOGOR, SILOAM HOSPITALS BUTON, SILOAM
        HOSPITALS DENPASAR, SILOAM HOSPITALS DHIRGA SURYA MEDAN, SILOAM
        HOSPITALS JAMBI, SILOAM HOSPITALS JEMBER, SILOAM HOSPITALS KEBON JERUK,
        SILOAM HOSPITALS KELAPA DUA, SILOAM HOSPITALS KUPANG, SILOAM HOSPITALS
        LABUAN BAJO, SILOAM HOSPITALS LIPPO CIKARANG, SILOAM HOSPITALS LIPPO
        VILLAGE, SILOAM HOSPITALS LUBUK LINGGAU, SILOAM HOSPITALS MAKASSAR,
        Siloam Hospitals Mampang, SILOAM HOSPITALS MANADO, SILOAM HOSPITALS
        MATARAM, SILOAM HOSPITALS PAAL DUA, SILOAM HOSPITALS PALANGKARAYA,
        SILOAM HOSPITALS PURWAKARTA, SILOAM HOSPITALS SEMARANG, SILOAM HOSPITALS
        SENTOSA, SILOAM HOSPITALS SURABAYA, SILOAM HOSPITALS TB SIMATUPANG,
        SILOAM HOSPITALS YOGYAKARTA, SILOAM SRIWIJAYA.
      - >-
        Pemeriksaan albumin ( albumin blood test ) atau pemeriksaan kadar
        albumin darah/serum digunakan untuk mengukur jumlah albumin dalam darah.
      - >-
        Metoksi Polietilen Glikol-Epoetin Beta adalah Metoksi polietilen
        glikol-epoetin beta atau methoxy polyethylene glycol-epoetin beta adalah
        obat golongan agen perangsang eritropoiesis ( erythropoiesis stimulating
        agent /ESA) yang digunakan untuk mengobati anemia akibat penyakit ginjal
        kronis. Metoksi polietilen glikol-epoetin beta termasuk obat keras yang
        penggunaannya harus dengan resep dokter.. Metoksi polietilen
        glikol-epoetin beta digunakan untuk mengobati anemia (kekurangan sel
        darah merah dalam tubuh) yang disebabkan oleh penyakit ginjal kronis.
        Metoksi polietilen glikol-epoetin beta bekerja dengan merangsang sumsum
        tulang untuk memproduksi lebih banyak sel darah merah, sehingga membantu
        memulihkan kondisi anemia dan mengurangi kebutuhan transfusi darah.
        Metoksi polietilen glikol-epoetin beta juga dapat digunakan untuk
        kondisi medis lain sesuai rekomendasi dokter.. Metoksi polietilen
        glikol-epoetin beta tersedia dalam bentuk sediaan cairan injeksi yang
        hanya dapat diberikan oleh dokter atau tenaga medis profesional lainnya.
        Selalu ikuti panduan dokter atau perawat Anda sebelum menjalani tindakan
        dengan metoksi polietilen glikol-epoetin beta. Jika Anda memiliki
        pertanyaan lebih lanjut seputar tindakan injeksi, segera konsultasikan
        dengan dokter atau perawat Anda.. Sebelum menggunakan metoksi polietilen
        glikol-epoetin beta, informasikan kepada dokter jika Anda memiliki
        kondisi berikut. Memiliki riwayat alergi terhadap metoksi polietilen
        glikol-epoetin beta atau golongan obat sejenis, seperti epoetin alfa
        atau darbepoetin alfa. Memiliki riwayat aplasia sel darah merah murni (
        pure red cell aplasia /PRCA), yaitu kelainan darah langka dimana sumsum
        tulang gagal memproduksi jumlah sel darah merah yang normal.. Metoksi
        polietilen glikol-epoetin beta dapat menimbulkan risiko efek samping.
        Konsultasikan dengan dokter jika Anda mengalami efek samping akibat
        metoksi polietilen glikol-epoetin beta seperti berikut. Gangguan sistem
        saraf: Sakit kepala ringan. Gangguan sistem pencernaan: Muntah dan
        diare. Gangguan otot, sendi, dan tulang: Nyeri punggung atau otot.
        Beberapa efek samping yang ditimbulkan metoksi polietilen glikol-epoetin
        beta mungkin memerlukan pertolongan medis yang segera. Jika Anda
        mengalami gejala di bawah ini, segera hubungi dokter. Reaksi alergi:
        Ruam atau gatal, dada sesak, kesulitan bernapas, dan pembengkakan pada
        wajah, tangan, mulut, atau tenggorokan. Gangguan kulit: Sindrom
        Stevens-Johnson dengan gejala berupa ruam dengan kulit yang mengelupas,
        melepuh, atau merah. Gangguan kardiovaskular: Nyeri dada yang dapat
        menjalar dan gejala edema, seperti pembengkakan pada tangan, kaki, atau
        pergelangan kaki. Gangguan sistem saraf: Pusing, rasa ringan pada
        kepala, sakit kepala yang mendadak atau parah, gangguan melihat,
        berbicara, atau berjalan, dan kejang. Gangguan lain: Pembengkakan pada
        tungkai bawah. Jika terdapat efek samping lain yang tidak kunjung
        membaik selama menggunakan metoksi polietilen glikol-epoetin beta,
        segera hubungi dokter.. Belum diketahui adanya interaksi antara metoksi
        polietilen glikol-epoetin beta dengan obat atau suplemen lain yang dapat
        memperburuk kondisi kesehatan jika dikonsumsi secara bersamaan. Namun,
        selalu beri tahu dokter dan apoteker jika Anda mengonsumsi obat lain
        yang dibeli dengan atau tanpa resep dokter, termasuk obat herbal,
        vitamin, atau suplemen lainnya. Selain obat-obatan, beberapa makanan
        atau minuman juga dapat memengaruhi cara kerja metoksi polietilen
        glikol-epoetin beta. Hindari mengonsumsi alkohol selama pengobatan
        dengan metoksi polietilen glikol-epoetin beta.. Kategori Kehamilan C
        Kelas Terapi Obat Hematopoietik. Merek Dagang* Mircera. *Merek
        obat-obatan yang disebutkan mungkin tidak tersedia di Indonesia.
        Diskusikan dengan dokter atau apoteker terkait alternatif obat yang
        tersedia dan sesuai dengan kebutuhan medis Anda.
  - source_sentence: Vaksin influenza itu buat cegah flu ya?
    sentences:
      - >-
        Penyebab Aritmia Jenis Aritmia Gejala dan Komplikasi Aritmia Manajemen
        Terapi Aritmia 1. Obat-Obatan 2. Ablasi 3. Alat Pacu Jantung 4. ICD
        (Implantable Cardioverter-Defribilator) Pencegahan Aritmia Aritmia
        adalah sebuah kondisi gangguan pada irama detak jantung, dapat teratur
        maupun tidak teratur, bisa terlalu cepat atau bahkan lebih lambat.
        Kondisi ini akan menganggu apabila terjadi secara terus menerus.
        Kelainan ini bisa terjadi pada kondisi jantung sehat maupun dengan latar
        belakang kelainan
      - >-
        Vaksin Influenza adalah Vaksin influenza atau influenza vaccine adalah
        vaksin yang digunakan untuk melindungi seseorang dari penyakit flu
        akibat virus influenza. Vaksin influenza juga dikenal sebagai vaksin
        flu. Vaksin influenza adalah imunisasi sebagai upaya kesehatan preventif
        untuk menekan penyebaran atau keparahan penyakit infeksi. Pemberian
        vaksin hanya dapat dilakukan oleh dokter atau tenaga medis lainnya di
        fasilitas pelayanan kesehatan.. Vaksin influenza digunakan untuk
        mencegah virus influenza sebagai langkah pencegahan penyakit flu dan
        komplikasinya. Antibodi yang dibentuk vaksin influenza akan memberikan
        perlindungan terhadap virus influenza. Vaksin influenza diberikan dapat
        diberikan mulai anak saat berusia 6 sampai 23 bulan, dilanjutkan dengan
        pemberian vaksin tiap tahun ketika memasuki usia 18 bulan hingga 18
        tahun. Setelah itu, vaksin influenza diulang setiap tahunnya untuk
        menjaga daya proteksi vaksin terhadap virus. Perhatikan jadwal vaksinasi
        yang dianjurkan oleh Ikatan Dokter Anak Indonesia (untuk anak) dan
        Perhimpunan Dokter Spesialis Penyakit Dalam Indonesia (untuk dewasa)..
        Vaksin influenza tersedia dalam bentuk injeksi dan hanya dapat diberikan
        oleh dokter atau tenaga medis profesional lainnya di fasilitas pelayanan
        kesehatan. Pastikan Anda memperoleh vaksinasi sesuai jadwal vaksin agar
        Anda tidak melewatkan vaksinasi apapun. Jika Anda melewatkan jadwal
        vaksinasi, beri tahu dokter atau perawat Anda, agar Anda mendapatkan
        jadwal pengganti sesegera mungkin.. Sebelum memperoleh vaksin influenza,
        informasikan pada dokter atau tenaga medis lainnya jika Anda memiliki
        riwayat alergi terhadap vaksin influenza dan golongan obat atau vaksin
        sejenis.. Vaksin Influenza dapat menimbulkan risiko efek samping.
        Konsultasikan kepada dokter bila Anda mengalami efek samping akibat
        vaksin influenza seperti berikut. Gangguan sistem pencernaan: Diare atau
        hilangnya nafsu makan. Gangguan pada area suntik: Kemerahan, nyeri,
        pembengkakan, atau sebuah benjolan pada tempat obat disuntikkan.
        Beberapa efek samping yang ditimbulkan vaksin influenza mungkin
        membutuhkan pertolongan medis yang segera. Jika Anda mengalami gejala di
        bawah ini, segera hubungi dokter. Reaksi alergi: Gatal atau ruam, dada
        sesak, kesulitan bernapas, dan pembengkakan pada wajah, tangan, mulut,
        atau tenggorokan. Gangguan sistem saraf: Sakit kepala, pusing, dan
        kejang. Gangguan otot, sendi, dan tulang: Nyeri otot atau sendi dan
        kelemahan pada otot. Jika terdapat efek samping lain yang tak kunjung
        membaik selama menerima vaksin influenza, segera hubungi dokter..
        Beberapa obat-obatan dapat mempengaruhi cara kerja vaksin influenza.
        Beri tahu dokter Anda bila Anda menggunakan obat-obatan di bawah ini
        sebelum menerima vaksin influenza. Imunosupresan: Azatioprin,
        adalimumab, tocilizumab, ocrelizumab, dan golimumab. Daftar obat ini
        belum mencakup semua obat yang mungkin berinteraksi dengan vaksin
        influenza. Beri tahu dokter atau apoteker Anda, jika Anda mengonsumsi
        obat lain, termasuk obat herbal seperti obat tradisional Tiongkok (
        traditional Chinese medicine ), suplemen, dan obat yang Anda beli tanpa
        resep dokter lainnya.. Kategori Kehamilan B Kelas Terapi Vaksin,
        Antisera, dan Imunologikal. Merek Dagang* Flubio, Influvac, Fluarix,
        Vaxigrip, Fluquadri, dll. *Merek obat-obatan yang disebutkan mungkin
        tidak tersedia di Indonesia. Diskusikan dengan dokter atau apoteker
        terkait alternatif obat yang tersedia dan sesuai dengan kebutuhan medis
        Anda.
      - >-
        Berikut informasi terkait ambulans dan transportasi khusus dari Siloam
        Hospitals Sentosa: Siloam Hospitals menyediakan layanan ambulans darat
        maupun udara pada pasien.

        Kami berkomitmen tinggi dalam memberikan perawatan secepat mungkin.
        Begitu kami menerima telepon anda, Layanan Ambulans Siloam kami akan
        segera dikirim ke lokasi anda dengan tim dokter dan suster yang sangat
        terlatih. Staf kami akan selalu berusaha untuk memberikan pelayanan
        sebaik mungkin.

        Telepon Ambulans:

        1500911

        Layanan ambulans kami meliputi:

        Transportasi Darurat

        Panggilan ambulans lokal

        Evakuasi Medis

        Transportasi Antar Rumah Sakit

        Transfer dari satu Rumah Sakit ke Rumah Sakit lain

        Janji Temu Dokter/ Servis Rawat Jalan

        Penjadwalan kunjungan ke dokter/ klinik

        Penjadwalan Terapi (Contoh: dialisis, kemoterapi, rehabilitasi)

        Rawat Inap dan Pemulangan Pasien

        Transportasi dari Rumah ke Rumah Sakit saat masuk

        Transportasi dari Rumah Sakit ke Rumah saat pulang
  - source_sentence: Dr. Joice Sondakh itu dokter kandungan di Siloam Paal Dua kan?
    sentences:
      - >-
        Perbedaan Kanker Serviks dan Kanker Ovarium Pengertian Kanker Serviks
        dan Kanker Ovarium Penyebab Kanker Serviks dan Kanker Ovarium Gejala
        Kanker Serviks dan Kanker Ovarium Pemeriksaan dini Kanker Serviks dan
        Kanker Ovarium Kanker serviks sering kali disalahartikan sebagai kanker
        ovarium. Padahal, kedua kanker tersebut merupakan penyakit yang berbeda.
        Meski sama-sama terjadi di sistem reproduksi wanita, perbedaan kanker
        serviks dan kanker ovarium terletak pada lokasi kankernya. Kanker
        ovarium ad
      - >-
        Berikut informasi profil dokter Dr. dr. M.M. Joice Sondakh, SpOG(K)
        dengan spesialisasi Obstetri dan Ginekologi (Kandungan):
        Sub-spesialisasi: Subspesialis Obstetri dan Ginekologi Sosial, Rumah
        Sakit: Siloam Hospitals Paal Dua, Treatment: , Gejala/Penyakit: ,
        Pendidikan: Universitas Padjadjaran, Universitas Merdeka Malang,
        Universitas Sam Ratulangi, Universitas Sam Ratulangi
      - >-
        Berikut informasi profil dokter dr. Rinaldi Agustinus Ulaan, SpJP dengan
        spesialisasi Kardiologi (Jantung): Sub-spesialisasi: Spesialis Jantung
        dan Pembuluh Darah, Rumah Sakit: Siloam Hospitals Lippo Village, Siloam
        Hospitals Kelapa Dua, Treatment: Elektrokardiogram EKG, Ekokardiogram,
        Angioplasti Transluminal Perkutan, Stent Arteri Karotis,
        Gejala/Penyakit: Penyakit Jantung Koroner PJK, Hipertensi, Stroke, Gagal
        Jantung Akut, Aritmia, Penyakit Katup Jantung, Kardiomiopati, Penyakit
        Vaskular, Pendidikan: Universitas Sam Ratulangi, Universitas Katolik
        Atma Jaya
  - source_sentence: Gusi turun itu apa sih?
    sentences:
      - >-
        Resesi gusi ( gum recession ), atau disebut juga gusi turun atau resesi
        gingiva, adalah kondisi ketika jaringan gusi mengalami penyusutan dari
        posisi normalnya sehingga menyebabkan bagian akar gigi terbuka dan tidak
        terlindungi oleh gusi
      - >-
        Asfiksia adalah kondisi medis serius yang terjadi ketika tubuh tidak
        mendapatkan oksigen yang cukup untuk mempertahankan fungsi tubuh
      - >-
        Apa itu Ablutophobia? Penyebab Ablutophobia Gejala Ablutophobia
        Diagnosis Ablutophobia Cara Mengatasi Ablutophobia 1. Terapi Perilaku
        Kognitif (Cognitive Behavioral Therapy) 2. Terapi Paparan (Exposure
        Therapy) 3. Pemberian Obat-obatan 4. Perubahan Gaya Hidup Komplikasi
        Ablutophobia Ablutophobia adalah kondisi yang ditandai dengan cemas dan
        ketakutan berlebih terhadap aktivitas mandi atau membersihkan tubuh.
        Pada dasarnya, ablutophobia adalah kondisi yang cenderung jarang
        terjadi. Kondisi ini um
  - source_sentence: >-
      Mau tes buta warna, bisa ke dr. Devi Azri Wahyuni di Siloam Sriwijaya
      Palembang?
    sentences:
      - >-
        Berikut informasi profil dokter Adventia Emilia Krysna Sipi Seda, M.M.,
        M.Psi., Psikolog dengan spesialisasi Psikologi: Sub-spesialisasi:
        Psikolog, Rumah Sakit: Siloam Hospitals Yogyakarta, Treatment: Manajemen
        Stres dan Kesehatan Emosional, Gejala/Penyakit: Gangguan Kecemasan,
        Pendidikan: Universitas Katolik Atma Jaya, Universitas Sanata Dharma
      - >-
        Berikut informasi profil dokter dr. Devi Azri Wahyuni, SpM (K) dengan
        spesialisasi Oftalmologi (Mata): Sub-spesialisasi: Subspesialis
        Neurooftalmologi, Rumah Sakit: Siloam Sriwijaya Palembang, Treatment:
        Pemeriksaan Mata, Pemeriksaan Slit Lamp, Tes Visus Mata, Pemeriksaan
        Lapang Pandang, Tonometri, Tes Buta Warna, Gejala/Penyakit: Neuritis
        Optik, Papilledema, Penyakit Graves, Penyakit Tiroid Mata, Buta Warna,
        Neuropati Diabetik, Penyakit Mata dan Masalah Penglihatan, Pendidikan:
        Universitas Respati Indonesia, Kolegium Oftalmologi Indonesia,
        Universitas Gadjah Mada, Universitas Sriwijaya, Universitas Sriwijaya
      - >-
        Apa itu Arteriosklerosis? Perbedaan Arteriosklerosis dan Aterosklerosis
        Penyebab Arteriosklerosis Gejala Arteriosklerosis Diagnosis
        Arteriosklerosis Pengobatan Arteriosklerosis Komplikasi Arteriosklerosis
        Pencegahan Arteriosklerosis Arteriosklerosis adalah kondisi medis yang
        terjadi ketika pembuluh darah arteri mengeras, menebal, dan kehilangan
        elastisitas karena adanya penumpukan plak lemak pada dinding pembuluh
        darah. Kondisi ini perlu diwaspadai karena dapat menghambat aliran darah
        menuju ber
pipeline_tag: sentence-similarity
library_name: sentence-transformers
metrics:
  - cosine_accuracy@1
  - cosine_accuracy@3
  - cosine_accuracy@5
  - cosine_accuracy@10
  - cosine_precision@1
  - cosine_precision@3
  - cosine_precision@5
  - cosine_precision@10
  - cosine_recall@1
  - cosine_recall@3
  - cosine_recall@5
  - cosine_recall@10
  - cosine_ndcg@10
  - cosine_mrr@10
  - cosine_map@100
model-index:
  - name: SentenceTransformer based on unsloth/embeddinggemma-300m
    results:
      - task:
          type: information-retrieval
          name: Information Retrieval
        dataset:
          name: Unknown
          type: unknown
        metrics:
          - type: cosine_accuracy@1
            value: 0.80931744312026
            name: Cosine Accuracy@1
          - type: cosine_accuracy@3
            value: 0.914409534127844
            name: Cosine Accuracy@3
          - type: cosine_accuracy@5
            value: 0.9404117009750813
            name: Cosine Accuracy@5
          - type: cosine_accuracy@10
            value: 0.9599133261105092
            name: Cosine Accuracy@10
          - type: cosine_precision@1
            value: 0.80931744312026
            name: Cosine Precision@1
          - type: cosine_precision@3
            value: 0.30480317804261464
            name: Cosine Precision@3
          - type: cosine_precision@5
            value: 0.18808234019501627
            name: Cosine Precision@5
          - type: cosine_precision@10
            value: 0.09599133261105092
            name: Cosine Precision@10
          - type: cosine_recall@1
            value: 0.80931744312026
            name: Cosine Recall@1
          - type: cosine_recall@3
            value: 0.914409534127844
            name: Cosine Recall@3
          - type: cosine_recall@5
            value: 0.9404117009750813
            name: Cosine Recall@5
          - type: cosine_recall@10
            value: 0.9599133261105092
            name: Cosine Recall@10
          - type: cosine_ndcg@10
            value: 0.888008150677861
            name: Cosine Ndcg@10
          - type: cosine_mrr@10
            value: 0.8644933704792864
            name: Cosine Mrr@10
          - type: cosine_map@100
            value: 0.8662393407764438
            name: Cosine Map@100
          - type: cosine_accuracy@1
            value: 0.7995666305525461
            name: Cosine Accuracy@1
          - type: cosine_accuracy@3
            value: 0.9122426868905742
            name: Cosine Accuracy@3
          - type: cosine_accuracy@5
            value: 0.9360780065005417
            name: Cosine Accuracy@5
          - type: cosine_accuracy@10
            value: 0.962080173347779
            name: Cosine Accuracy@10
          - type: cosine_precision@1
            value: 0.7995666305525461
            name: Cosine Precision@1
          - type: cosine_precision@3
            value: 0.30408089563019136
            name: Cosine Precision@3
          - type: cosine_precision@5
            value: 0.18721560130010836
            name: Cosine Precision@5
          - type: cosine_precision@10
            value: 0.09620801733477789
            name: Cosine Precision@10
          - type: cosine_recall@1
            value: 0.7995666305525461
            name: Cosine Recall@1
          - type: cosine_recall@3
            value: 0.9122426868905742
            name: Cosine Recall@3
          - type: cosine_recall@5
            value: 0.9360780065005417
            name: Cosine Recall@5
          - type: cosine_recall@10
            value: 0.962080173347779
            name: Cosine Recall@10
          - type: cosine_ndcg@10
            value: 0.8843122958801785
            name: Cosine Ndcg@10
          - type: cosine_mrr@10
            value: 0.8590139125350398
            name: Cosine Mrr@10
          - type: cosine_map@100
            value: 0.8605134348537652
            name: Cosine Map@100

SentenceTransformer

This model was finetuned with Unsloth.

based on unsloth/embeddinggemma-300m

This is a sentence-transformers model finetuned from unsloth/embeddinggemma-300m. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: unsloth/embeddinggemma-300m
Maximum Sequence Length: 1024 tokens
Output Dimensionality: 768 dimensions
Similarity Function: Cosine Similarity

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 1024, 'do_lower_case': False, 'architecture': 'PeftModelForFeatureExtraction'})
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Dense({'in_features': 768, 'out_features': 3072, 'bias': False, 'activation_function': 'torch.nn.modules.linear.Identity'})
  (3): Dense({'in_features': 3072, 'out_features': 768, 'bias': False, 'activation_function': 'torch.nn.modules.linear.Identity'})
  (4): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
queries = [
    "Mau tes buta warna, bisa ke dr. Devi Azri Wahyuni di Siloam Sriwijaya Palembang?",
]
documents = [
    'Berikut informasi profil dokter dr. Devi Azri Wahyuni, SpM (K) dengan spesialisasi Oftalmologi (Mata): Sub-spesialisasi: Subspesialis Neurooftalmologi, Rumah Sakit: Siloam Sriwijaya Palembang, Treatment: Pemeriksaan Mata, Pemeriksaan Slit Lamp, Tes Visus Mata, Pemeriksaan Lapang Pandang, Tonometri, Tes Buta Warna, Gejala/Penyakit: Neuritis Optik, Papilledema, Penyakit Graves, Penyakit Tiroid Mata, Buta Warna, Neuropati Diabetik, Penyakit Mata dan Masalah Penglihatan, Pendidikan: Universitas Respati Indonesia, Kolegium Oftalmologi Indonesia, Universitas Gadjah Mada, Universitas Sriwijaya, Universitas Sriwijaya',
    'Berikut informasi profil dokter Adventia Emilia Krysna Sipi Seda, M.M., M.Psi., Psikolog dengan spesialisasi Psikologi: Sub-spesialisasi: Psikolog, Rumah Sakit: Siloam Hospitals Yogyakarta, Treatment: Manajemen Stres dan Kesehatan Emosional, Gejala/Penyakit: Gangguan Kecemasan, Pendidikan: Universitas Katolik Atma Jaya, Universitas Sanata Dharma',
    'Apa itu Arteriosklerosis? Perbedaan Arteriosklerosis dan Aterosklerosis Penyebab Arteriosklerosis Gejala Arteriosklerosis Diagnosis Arteriosklerosis Pengobatan Arteriosklerosis Komplikasi Arteriosklerosis Pencegahan Arteriosklerosis Arteriosklerosis adalah kondisi medis yang terjadi ketika pembuluh darah arteri mengeras, menebal, dan kehilangan elastisitas karena adanya penumpukan plak lemak pada dinding pembuluh darah. Kondisi ini perlu diwaspadai karena dapat menghambat aliran darah menuju ber',
]
query_embeddings = model.encode_query(queries)
document_embeddings = model.encode_document(documents)
print(query_embeddings.shape, document_embeddings.shape)
# [1, 768] [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(query_embeddings, document_embeddings)
print(similarities)
# tensor([[0.4944, 0.0387, 0.0981]], dtype=torch.float16)

Evaluation

Metrics

Information Retrieval

Evaluated with InformationRetrievalEvaluator

Metric	Value
cosine_accuracy@1	0.8093
cosine_accuracy@3	0.9144
cosine_accuracy@5	0.9404
cosine_accuracy@10	0.9599
cosine_precision@1	0.8093
cosine_precision@3	0.3048
cosine_precision@5	0.1881
cosine_precision@10	0.096
cosine_recall@1	0.8093
cosine_recall@3	0.9144
cosine_recall@5	0.9404
cosine_recall@10	0.9599
cosine_ndcg@10	0.888
cosine_mrr@10	0.8645
cosine_map@100	0.8662

Information Retrieval

Evaluated with InformationRetrievalEvaluator

Metric	Value
cosine_accuracy@1	0.7996
cosine_accuracy@3	0.9122
cosine_accuracy@5	0.9361
cosine_accuracy@10	0.9621
cosine_precision@1	0.7996
cosine_precision@3	0.3041
cosine_precision@5	0.1872
cosine_precision@10	0.0962
cosine_recall@1	0.7996
cosine_recall@3	0.9122
cosine_recall@5	0.9361
cosine_recall@10	0.9621
cosine_ndcg@10	0.8843
cosine_mrr@10	0.859
cosine_map@100	0.8605

Training Details

Training Dataset

Unnamed Dataset

Size: 3,281 training samples
Columns: question and passage_text
Approximate statistics based on the first 1000 samples:
question passage_text
type string string
details
min: 7 tokens
mean: 16.85 tokens
max: 39 tokens

min: 16 tokens
mean: 223.11 tokens
max: 1024 tokens

	question	passage_text
type	string	string
details	min: 7 tokens mean: 16.85 tokens max: 39 tokens	min: 16 tokens mean: 223.11 tokens max: 1024 tokens

Samples:

question	passage_text
`dr A. A. Ayu Nancy Karang itu spesialis apa?`	`Berikut informasi profil dokter dr. A. A. Ayu Nancy Karang, SpTHT-KL dengan spesialisasi Otorinolaringologi (THTBKL): Sub-spesialisasi: Spesialis Telinga Hidung Tenggorok Bedah Kepala dan Leher, Rumah Sakit: Siloam Hospitals Denpasar, Treatment: Irigasi Nasal, Nasal Endoskopi, Esofagektomi, Tiroidektomi, Gejala/Penyakit: Radang Amandel, Sinusitis, Vertigo, Suara Serak, Rhinitis, Kanker Laring, Polip Hidung, Otitis Media Akut, Pendidikan: Universitas Udayana, Universitas Udayana`
`dr. Karina Anindita Sp.PD itu dokter penyakit dalam di Siloam Mataram ya? bisa obatin diabetes?`	Berikut informasi profil dokter dr. Karina Anindita, M.Biomed, Sp.PD dengan spesialisasi Penyakit Dalam: Sub-spesialisasi: Spesialis Penyakit Dalam, Rumah Sakit: Siloam Hospitals Mataram, Treatment: Ultrasonografi USG, Computed Tomography CT Scan, Elektrokardiogram EKG, Gejala/Penyakit: Gastritis, Infeksi Saluran Pencernaan, Hipertensi, Hiperkolesterolemia, Diabetes Melitus Tipe 2, Penyakit Autoimun, Asam Urat, Infeksi Saluran Kemih ISK, Infeksi Virus, Pendidikan: Universitas Udayana, Universitas Katolik Atma Jaya
`isk sama mens itu ada hubungannya ga sih? trus biar ga kena isk pas mens gimana?`	`Apakah Infeksi Saluran Kemih Bisa Menghambat Menstruasi? Apakah Antibiotik Memengaruhi Siklus Menstruasi? Apakah Menstruasi Bisa Meningkatkan Risiko Infeksi Saluran Kemih? Cara Mengurangi Risiko Infeksi Saluran Kemih saat Menstruasi Infeksi saluran kemih (ISK) dikenal sebagai salah satu masalah kesehatan yang cukup umum terjadi, terutama pada wanita. Kondisi ini ditandai dengan adanya gejala seperti nyeri saat buang air kecil, sering buang air kecil, hingga rasa tidak nyaman di bagian perut bawa`

Loss: MultipleNegativesRankingLoss with these parameters:

{
    "scale": 20.0,
    "similarity_fct": "cos_sim",
    "gather_across_devices": false
}

Evaluation Dataset

Unnamed Dataset

Size: 411 evaluation samples
Columns: question and passage_text
Approximate statistics based on the first 411 samples:
question passage_text
type string string
details
min: 7 tokens
mean: 16.8 tokens
max: 34 tokens

min: 18 tokens
mean: 214.26 tokens
max: 1024 tokens

	question	passage_text
type	string	string
details	min: 7 tokens mean: 16.8 tokens max: 34 tokens	min: 18 tokens mean: 214.26 tokens max: 1024 tokens

Samples:

question	passage_text
`gerd bisa gara2 stres ga sih?`	`GERD karena Stres, Bisakah Terjadi? Pengaruh Stres Terhadap Sistem Pencernaan Cara Mengatasi GERD Karena Stres Lambung merupakan organ pencernaan yang memiliki lingkungan relatif asam dengan tingkat keasaman (pH) kurang dari 4.0. Produksi asam lambung memiliki peran penting dalam pencernaan dan pemecahan komponen nutrisi yang dapat diserap oleh tubuh, seperti karbohidrat, asam amino, dan lemak. Ketika mengalami GERD, isi lambung dapat naik kembali ke kerongkongan sehingga menyebabkan gejala yang`
`Sosmed itu ngaruh gak sih ke mental remaja? Ada tips biar gak kecanduan?`	`Pengaruh Media Sosial terhadap Kesehatan Mental Remaja A. Dampak Positif Media Sosial B. Dampak Negatif Media Sosial Tips Mencegah Kecanduan Sosial Media pada Remaja Penggunaan media sosial telah menjadi bagian tak terpisahkan dari kehidupan remaja. Namun, di balik keterhubungannya yang luas, terdapat dampak yang signifikan terhadap kesehatan mental mereka. Bila tidak menggunakannya secara bijak, media sosial dapat meningkatkan risiko cemas dan rendah diri. Mari simak ulasan selengkapnya tentang`
`bundle branch block itu apa ya?`	`Apa itu Bundle Branch Block? Penyebab Bundle Branch Block Penyebab Right Bundle Branch Block Penyebab Left Bundle Branch Block Gejala Bundle Branch Block Diagnosis Bundle Branch Block Pengobatan Bundle Branch Block Bundle branch block (BBB) adalah salah satu gangguan pada impuls atau sinyal listrik yang bertugas untuk membuat bilik jantung (ventrikel) berkontraksi. Kondisi ini dapat menyebabkan detak jantung menjadi tidak teratur dan terkadang bisa menyulitkan kerja jantung dalam memompa darah k`

Loss: MultipleNegativesRankingLoss with these parameters:

{
    "scale": 20.0,
    "similarity_fct": "cos_sim",
    "gather_across_devices": false
}

Training Hyperparameters

Non-Default Hyperparameters

eval_strategy: steps
per_device_train_batch_size: 64
per_device_eval_batch_size: 64
gradient_accumulation_steps: 2
learning_rate: 2e-05
max_steps: 30
warmup_ratio: 0.03
prompts: {'question': '', 'passage_text': ''}
batch_sampler: no_duplicates

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
eval_strategy: steps
prediction_loss_only: True
per_device_train_batch_size: 64
per_device_eval_batch_size: 64
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 2
eval_accumulation_steps: None
torch_empty_cache_steps: None
learning_rate: 2e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1.0
num_train_epochs: 3.0
max_steps: 30
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.03
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: False
restore_callback_states_from_checkpoint: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
use_ipex: False
bf16: False
fp16: False
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: False
fp16_full_eval: False
tf32: None
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: False
dataloader_num_workers: 0
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: False
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
parallelism_config: None
deepspeed: None
label_smoothing_factor: 0.0
optim: adamw_torch_fused
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: False
resume_from_checkpoint: None
hub_model_id: None
hub_strategy: every_save
hub_private_repo: None
hub_always_push: False
hub_revision: None
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
include_for_metrics: []
eval_do_concat_batches: True
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
include_tokens_per_second: False
include_num_input_tokens_seen: False
neftune_noise_alpha: None
optim_target_modules: None
batch_eval_metrics: False
eval_on_start: False
use_liger_kernel: False
liger_kernel_config: None
eval_use_gather_object: False
average_tokens_across_devices: False
prompts: {'question': '', 'passage_text': ''}
batch_sampler: no_duplicates
multi_dataset_batch_sampler: proportional
router_mapping: {}
learning_rate_mapping: {}

Training Logs

Epoch	Step	Training Loss	Validation Loss	cosine_ndcg@10
-1	-1	-	-	0.0248
0.1923	5	3.2435	1.4189	0.5411
0.3846	10	1.0292	0.6577	0.7005
0.1923	5	0.529	0.4114	0.7501
0.3846	10	0.2951	0.3059	0.8290
0.5769	15	0.28	0.2372	0.8661
0.7692	20	0.242	0.2025	0.8796
0.9615	25	0.187	0.1807	0.8831
1.1538	30	0.1384	0.1731	0.8843
-1	-1	-	-	0.8880

Framework Versions

Python: 3.12.12
Sentence Transformers: 5.2.1
Transformers: 4.56.2
PyTorch: 2.9.0+cu126
Accelerate: 1.12.0
Datasets: 4.3.0
Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}