SentenceTransformer

This is a sentence-transformers model trained. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

  • Model Type: Sentence Transformer
  • Maximum Sequence Length: 400 tokens
  • Output Dimensionality: 768 dimensions
  • Similarity Function: Cosine Similarity

Model Sources

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 400, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("meet5568/bhash_finetune_phaseB")
# Run inference
sentences = [
    'Le Chal Mujhe, Le Chal Mujhe\nKahin Door Yahan Se Door\nYahan Se Door\nKho Jaayenge Phir Kahin\nRou Aayenge Phir Wahin\nAakhein Tujhe Dhoondhe Kahin\nAb Aaja Sata Na, Tu Aaja Sata Na\nTeri Chaahaton Mein Phiroon Baawri\nAye Humnava Tu Khoya Kahan\nAankhein Tujhe Dhoondhe Kahin\nKho Jaayenge Phir Kahin Ro Aayenge Phir Wahin\nLo Chal Pade, Lo Hum Chal Pade\nTere Sang, Tere Sang, Tere Sang\nBhaag Jaayenge Phir Kahin\nLaut Aayenge Phir Wahin.',
    'Woh jab meri rahat ke\nKadam the maaz bhoot\nMere anda yeh samandar\nMeri dhukhoon ka mar hoon\nBarson guzare hai aap\nDil pe nahin aetbaar\nKal joothi meri jawani\nAaj hai kahani\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nAise pighal jaate hai\nMere dil mein samaate hai\nSapne saja jaate hai\nAur jakar paate hai\nZindagi ka yeh safar\nKoi samjhe to nahin\nYehi rasta hai mera\nKoi aata hi nahin\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nKya meri zindagi, ek khwaab hai\nKitni lambe, yeh raat hai\nBikhre sapne, bichre apne\nYaad chupke se rulati hai\nEnglish tanslation\nThere was a season when my steps were unwavering\nWithin me was this ocean\nThat would repair and cure me of all my pains\nBut at the passing of time\nI am no longer certain of my hearts integrity\nThe days of my youth\nNow only an abstract memory\nIs my essence just a delusion?\nHow long do I submit to such a night\nWhere dreams are shattered\nAnd mine forsake me\nMy silent cries reveal the stains of my memory\nEverything is fragmented its falling apart\nYet perfectly connected, attached, aligned in my heart\nA collage of hopes I had commissioned from within\nWere denied me and blotted out\nThey cannot understand my lifes journey\nSo I alone must complete it',
    "ਤੇਰੇ ਰੰਗ ਵਿਚ ਰੰਗ ਜਾਵਾਂ मैं अब अभी\nਤੇਰੇ ਸੰਗ ਸੰਗ ਬਹਿ ਜਾਵਾਂ में अब अभी\nसुनूं मैं तू जो फ़रमाए जैसी तेरी मर्ज़ी\nਜਿਸ ਪਾਸੇ ਲੈ ਜਾਏ जैसी तेरी मर्ज़ी\nसपने वही दिखाए जैसी तेरी मर्ज़ी\nमन से जो तू चाहे जैसी तेरी मर्ज़ी\nइश्क वाली अर्जियां मंज़ूर कर ਦੀਆਂ\nਕਰ ਲੇ ਗ਼ੁਸਤਾਖ਼ੀਆਂ, ਕਰ ਲੇ ਮਨਮਰਜ਼ੀਆਂ, ਹਾਏ ਮਨਮਰਜ਼ੀਆਂ\nओहो हाय, मेरे ध्यान में, मेरे ध्यान में\nਹਰ ਵੇਲੇ मेरे ध्यान मे\nਅਹਿਸਾਨ ਵੇ, ਅਹਿਸਾਨ ਵੇ, कैसे भूलूँ एहसान\nक़ुरबान ਵੇ, क़ुरबान ਵੇ, तेरी हस्ती पे क़ुरबान ਵੇ\nअरमान ਵੇ, अरमान ਵੇ, तुझसे ही जुड़े अरमान\nतुझसे ही जुड़े अरमान\nतुझसे ही जुड़े अरमान\nनाज़ तेरे मैं ਉਠਾਵਾਂ जैसी तेरी मर्ज़ी\nਜਦ ਕੇਹ ਦੇ ਮੁਸਕਾਵਾਂ जैसी तेरी मर्ज़ी\nਇਸ਼ਕ 'ਚ ਮੈਂ ਇਤਰਾਵਾਂ जैसी तेरी मर्ज़ी\nਸਜਦਾ ਕਰਦਾ ਜਾਵਾਂ जैसी तेरी मर्ज़ी\nइश्क वाली अर्जियां मंज़ूर कर ਦੀਆਂ\nਕਰ ਲੇ ਗ਼ੁਸਤਾਖ਼ੀਆਂ, ਕਰ ਲੇ ਮਨਮਰਜ਼ੀਆਂ\nਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ\nਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ\nਮਨਮਰਜ਼ੀਆਂ ਹਾਏ, ਮਨਮਰਜ਼ੀਆਂ, ਮਨਮਰਜ਼ੀਆਂ",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Training Details

Training Dataset

Unnamed Dataset

  • Size: 3,200 training samples
  • Columns: sentence_0, sentence_1, and sentence_2
  • Approximate statistics based on the first 1000 samples:
    sentence_0 sentence_1 sentence_2
    type string string string
    details
    • min: 22 tokens
    • mean: 303.12 tokens
    • max: 400 tokens
    • min: 42 tokens
    • mean: 310.03 tokens
    • max: 400 tokens
    • min: 30 tokens
    • mean: 307.95 tokens
    • max: 400 tokens
  • Samples:
    sentence_0 sentence_1 sentence_2
    मेहँदी लगी थी, दुल्हन सजी थी
    मेहँदी लगेगी, दुल्हन सजेगी
    आँसू छुपा के तेरा भाई हँसेगा
    डोली को काँधा देगा और ये कहेगा
    "तेरे साथ हूँ मैं, तेरे साथ हूँ मैं
    तेरे साथ हूँ मैं, तेरे साथ हूँ मैं"
    वो भोले-भाले से खिलौने बुलाएँ
    आ, गुड़िया की फिर शादी रचाएँ
    बचपन की बातें यादों में आएँ
    बेफ़िक्रियों के मौसम बताएँ
    बचपन की बातें यादों में आएँ
    बेफ़िक्रियों के मौसम बताएँ
    मेहँदी लगी थी, दुल्हन सजी थी
    मेहँदी लगेगी, दुल्हन सजेगी
    आँसू छुपा के तेरा भाई हँसेगा
    डोली को काँधा देगा और ये कहेगा
    "तेरे साथ हूँ मैं, तेरे साथ हूँ मैं
    तेरे साथ हूँ मैं, तेरे साथ हूँ मैं"
    सर्दियों की वो छत देगी गवाही
    ज़्यादा थीं मस्तियाँ, थोड़ी पढ़ाई
    रूठना, रूठ के फिर मान जाना
    प्यार था, प्यार में मीठी लड़ाई
    ऐसा लगे है जैसे बातें हैं ये तो कल की
    सीखी क्यूँ जाने हमने इतनी बातें अकल की
    नासमझियों को आजा फिर से बुलाएँ
    बचपन के बीते दिन वो आ ढूँढ लाएँ
    तेरे साथ हूँ मैं, तेरे साथ हूँ मैं
    तेरे साथ हूँ मैं, तेरे साथ हूँ मैं
    होश था ना कोई, ना था ठिकाना
    खेल थे सच सभी, झूठ था ज़माना
    फ़र्क़ था ना कोई, ना कोई दूरी
    रोने का, हँसने का एक था बहाना
    काग़ज़ पे चेहरा मेर...
    हो उमड़-घुमड़ कर आई रे घटा
    कारे-कारे बदरा की छाई-छाई रे घटा
    जब सनन पवन को लगा तीर
    बादल को चीर निकला रे नीर
    झर-झर झर-झर अब धार झरे
    ओ धरती जल से माँग भरे
    ओ उमड़-घुमड़ कर
    नन्हीं-नन्हीं बूँदनियों की खनन-खनन खन खन्जरी
    बजाती आई बजाती आई देखो भाई बरखा दुल्हनिया
    छुक-छुक छुक-छुक सैंया
    आज डारूँ तोरे गलवा में बैंया
    मैं तो नाचूँ तेरे संग-संग सैंया हो सैंया हो सैंया
    हो सावन का सन्देसा लेकर निकली जोगन घर से
    जो कोई इसके प्यार को तरसे वहीं नवेली बरसे
    कारे-कारे बादरवा की झनन-झनन झन झाँझरी
    बजाती आई है देखो भाई बरखा दुल्हनिया
    हो उमड़-घुमड़ कर
    मीठी-मीठी मस्त पवन की सनन-सनन सन बाँसुरी
    बजाती आई देखो भाई बरखा दुल्हनिया
    हरी-हरी चुनरी साजे कलियों का कँगना बाजे
    देख के अपनी बरखा रानी की मीठी मुस्कान रे
    सावन के दूल्हे की चमक उठी शान रे
    गोरी-गोरी बिजुरिया की चमक-चमक चम पंखड़ी
    चमकाती आई देखो भाई बरखा दुल्हनिया
    हो उमड़-घुमड़ कर
    रंग-बिरंगी झोली भरके भरन-भरन भण्डार रे
    लुटाती आई देखो भाई बरखा दुल्हनिया
    धरती ने गठरी खोली
    भरी-भरी अपनी झोली अनमोली भैया
    खेलो-खेलो ख़ुशियों की होली हो होली हो होली
    धन-धन हमरी धरती
    सबके जीवन के ये अधूरे...
    आज हमने सबक़ वो पढ़ डाला
    जिसको दुनिया "किताब" कहती है
    और एक ऐसा काम कर डाला
    जिसको दुनिया "हिसाब" कहती है
    कभी कुछ खोया, कभी कुछ पाया
    कभी कुछ खोया, कभी कुछ पाया
    कभी कुछ खोया, कभी कुछ पाया
    जब पा लिया, ख़ुश हो गए
    जब खो दिया, दिल रो दिया
    इसी खोने-पाने का नाम "ज़िंदगी" है
    बिना खोए-पाए नाकाम ज़िंदगी है
    कभी कुछ खोया, कभी कुछ पाया
    कभी कुछ खोया, कभी कुछ पाया
    जब पा लिया, ख़ुश हो गए
    जब खो दिया, दिल रो दिया
    इसी खोने-पाने का नाम "ज़िंदगी" है
    बिना खोए-पाए नाकाम ज़िंदगी है
    कभी कुछ खोया, कभी कुछ पाया
    ज़माने ने जो कुछ भी हमको दिया
    सर आँखों पे हमने उसे रख लिया
    कभी ये ना सोचा, बुरा कि भला
    सदा ख़ुश रहें सब, यही है दुआ
    वही हमने काटा, जो हमने था बोया
    जब पा लिया, ख़ुश हो गए
    जब खो दिया, दिल रो दिया
    इसी खोने-पाने का नाम "ज़िंदगी" है
    बिना खोए-पाए नाकाम ज़िंदगी है
    कभी कुछ खोया, कभी कुछ पाया
    मेरा हमसफ़र भी कहीं खो गया
    बताओ, भला हम करें भी तो क्या?
    कोई हमसे आके ज़रा सीख ले
    है मर-मर के जीने में कैसा मज़ा
    वही हमने काटा, जो हमने था बोया
    जब पा लिया, ख़ुश हो गए
    जब खो दिया, दिल रो दिया
    इसी खोने-पाने का नाम "ज़िंदगी" है
    ब...
    Ye din kyun nikalataa hai?
    Ye raat kyun hotee hai?
    Ye peed kahaan se uthati hai?
    Ye aankh kyun roti hai?
    Mohabbat hai kya chiz
    Mohabbat hai kya chiz, hamko batao
    Mohabbat hai kya chiz, hamko batao
    Mohabbat hai kya chiz, hamko batao
    Ye kisne shuru kee, hamein bhee sunaao
    Mohabbat hai kya chiz
    Mohabbat hai kya chiz
    Shaam tak tha ek bhanvaraa phool par mandla raha
    Raat hone par kamal kee pankhadi mein band tha
    Qaid se chhootaa subah, to hamne poocha kya hua
    Kuch naa bola, apanee dhun mein bas yahi gaata raha
    Mohabbat hai kya chiz, hamko batao
    Ye kisne shuru kee, hamein bhee sunaao
    Mohabbat hai kya chiz
    Mohabbat hai kya chiz
    Dahakta hai badan kaise, sulagati hain ye saansein kyun?
    Ye kaisee aag hotee hai, pighlatee hai ye shammaa kyun?
    Dahakta hai badan kaise, sulagati hain ye saansein kyun?
    Ye kaisee aag hotee hai, pighlatee hai ye shammaa kyun?
    Jal uthi shammaa to machal kar, parvaanaa aa gaya
    Aag ke daaman mein apanae-aapako lipataa diya
    Hamne poocha duusare kee aag mein rakhaa hai kya
    ...
    Jise zindagi dhoondh rahi hai
    Kya yeh woh maqaam mera hai?
    Yahaan chain se bas ruk jaaun
    Kyun dil yeh mujhe kehta hai?
    Jazbaat naye se mile hain
    Jaane kya asar yeh hua hai
    Ik aas mili phir mujhko
    Jo qubool kisi ne kiya hai
    Haan, kisi shayar ki ghazal jo de rooh ko sukoon ke pal
    Koi mujhko yoon mila hai jaise banjaare ko ghar
    Naye mausam ki seher, ya sard mein dopeher
    Koi mujhko yoon mila hai jaise banjaare ko ghar

    Jaise koi kinaara deta ho sahara
    Mujhe woh mila kisi mod par
    Koi raat ka taara karta ho ujaala
    Waise hi roshan kare woh sheher
    Dard mere woh bhula hi gaya, kuch aisa asar hua
    Jeena mujhe phir se woh sikha raha
    Hmm, jaise baarish kar de tar, ya marham dard par
    Koi mujhko yoon mila hai jaise banjaare ko ghar
    Naye mausam ki seher, ya sard mein dopeher
    Koi mujhko yoon mila hai jaise banjaare ko ghar

    Muskaata yeh chehra deta hai jo pehra
    Jaane chhupaata kya dil ka samundar
    Auron ko toh har-dum saaya deta hai
    Woh dhoop mein hai khada khud magar
    Chot lagi hai usey, phir kyun meh...
    तुम बिन मुझे मैं जीने ना दूँ
    होना मेरा मैं होने ना दूँ
    इस पल तू अभी मिल जाए
    या कल की सुबह ना आए
    चली आ, चली आ
    चली आ, चली आ
    चली आ, चली आ
    चली आ, चली आ
    तुम बिन मुझे मैं जीने ना दूँ
    होना मेरा मैं होने ना दूँ
    रूठा-रूठा प्यार मेरा है
    दिल में घना सा अँधेरा है
    अरे, आ, चली आ, चली आ
    किया ज़िंदगी ने इशारा है
    तू ही जीने का सहारा है
    अरे, आ, चली आ, चली आ
    इस आँसू को मैं चुप होने ना दूँ
    दिल के दर्द को कम होने ना दूँ
    तू यहीं बस अभी लौट आए
    या जान ये मेरी मर जाए
    चली आ, चली आ
    चली आ, चली आ
    चली आ, चली आ
    चली आ, चली आ
    तेरे होंठों से अच्छा लगता है मुझे कहलाना
    ओ, ज़ालिमा, ओ, ज़ालिमा
    फ़रमाइश मेरी मान लेना, फिर ज़रा दोहराना
    ओ, ज़ालिमा, हो, ज़ालिमा
    हाँ, तेरे होंठों से अच्छा लगता है मुझे कहलाना
    ओ, ज़ालिमा, हो, ज़ालिमा
    फ़रमाइश मेरी मान लेना, फिर ज़रा दोहराना
    ओ, ज़ालिमा, ओ, ज़ालिमा
    दो दिन की नहीं थी ये दिल्लगी
    अपना सिलसिला पुराना हुआ
    कोई दूसरा मुझ पे ना हुआ
    एक तू जिस तरह दीवाना हुआ
    मैं सबकुछ तेरे नाम कर दूँ, एक बार बुलाना
    ओ, ज़ालिमा, ओ, ज़ालिमा (ज़ालिमा)
    साँसों में तेरी नज़दीकियों का इत्र तू घोल दे, घोल दे
    मैं ही क्यूँ इश्क़ ज़ाहिर करूँ? तू भी कभी बोल दे, बोल दे
    बाँहों से रहे दो पल दूर तो
    मुझ को यूँ लगे, ज़माना हुआ
    सीने से मेरे लग भी जा ज़रा
    काफ़ी रूठना-मनाना हुआ
    मेरे गालों पे उँगलियों से आ ज़रा लिख जाना
    ओ, ज़ालिमा, ओ, ज़ालिमा
    हाँ, तेरे होंठों से अच्छा लगता है मुझे कहलाना
    ओ, ज़ालिमा, ओ, ज़ालिमा
    ओ, ज़ालिमा (ज़ालिमा, ज़ालिमा)
    Chahat ki barish itni
    Saanson ki khushboo ghuli
    Mehki fizaayein, bheegi palak
    Thehar, thehar.
    Itna na dil tu dhadak
    Itna na dil tu dhadak
    O. Itna na dil tu dhadak
    Mmm. Itna na dil tu dhadak
    Mmm.
    Honthon se behki hain
    Seene mein bhadki
    Soyi chahat jo meri
    Thehre haa bahon mein
    Utre ho dil se
    Jaise raahot ho meri
    Neeche samandar, upar falak
    Thehar, thehar.
    Itna na dil tu dhadak
    Mmm. Itna na dil tu dhadak
    O. Itna na dil tu dhadak
    Mmm. Itna dil tu dhadak
    Mmm.
    ख़ुद ही दिल का रोग लगाये
    ख़ुद ही बैठा रोये
    नैना रे नैना, तुझसे बुरा ना कोय
    नैना रे, तू ही बुरा तू ही बुरा
    तुझसे बुरा ना कोय
    ख़ुद ही दिल का रोग लगाये
    ख़ुद ही बैठा रोये
    नैना रे तुझसे बुरा ना कोय
    नैना रे, तू ही बुरा तू ही बुरा
    तुझसे बुरा ना कोय
    नैना रे
    सबकी प्रेम कहानियाँ दिल की बेचैनियाँ
    तू ही शुरू करवाये
    ख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोये
    नैना रे नैना तुझसे बुरा न कोय
    नैना रे नैना तुझसे बुरा न कोय
    ख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोये
    नैना रे नैना
    आँसू बन के छलका जाए, दिल का पैमाना
    इश्क़ में है इतने सदमें, दिल ने ना जाना
    अब इक पल की भी दूरियाँ, मुझसे सही जाए ना
    दर्द भरी तन्हाईयाँ, मुझसे सही जाए ना
    नैना रे तू ही बुरा तू ही बुरा
    तुझसे बुरा ना कोय
    ख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोये
    नैना रे नैना
    टूटे सपनें बिखरा अरमाँ, क्या हुआ हासिल
    बेबसी का छाया आलम, क्या करे ये दिल
    काटे कटे ना रतियाँ, मुश्किल जुदाई भरी
    याद आये बीती बतियाँ, लागे युगों सी घड़ी
    नैना रे तू ही बुरा तू ही बुरा
    तुझसे बुरा ना कोय
    ख़ुद ही दिल का रोग लगाये ख़ुद ही बैठा रोये
    नैना रे नैना
  • Loss: TripletLoss with these parameters:
    {
        "distance_metric": "TripletDistanceMetric.EUCLIDEAN",
        "triplet_margin": 0.5
    }
    

Training Hyperparameters

Non-Default Hyperparameters

  • per_device_train_batch_size: 4
  • per_device_eval_batch_size: 4
  • num_train_epochs: 5
  • fp16: True
  • multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand
  • overwrite_output_dir: False
  • do_predict: False
  • eval_strategy: no
  • prediction_loss_only: True
  • per_device_train_batch_size: 4
  • per_device_eval_batch_size: 4
  • per_gpu_train_batch_size: None
  • per_gpu_eval_batch_size: None
  • gradient_accumulation_steps: 1
  • eval_accumulation_steps: None
  • torch_empty_cache_steps: None
  • learning_rate: 5e-05
  • weight_decay: 0.0
  • adam_beta1: 0.9
  • adam_beta2: 0.999
  • adam_epsilon: 1e-08
  • max_grad_norm: 1
  • num_train_epochs: 5
  • max_steps: -1
  • lr_scheduler_type: linear
  • lr_scheduler_kwargs: {}
  • warmup_ratio: 0.0
  • warmup_steps: 0
  • log_level: passive
  • log_level_replica: warning
  • log_on_each_node: True
  • logging_nan_inf_filter: True
  • save_safetensors: True
  • save_on_each_node: False
  • save_only_model: False
  • restore_callback_states_from_checkpoint: False
  • no_cuda: False
  • use_cpu: False
  • use_mps_device: False
  • seed: 42
  • data_seed: None
  • jit_mode_eval: False
  • use_ipex: False
  • bf16: False
  • fp16: True
  • fp16_opt_level: O1
  • half_precision_backend: auto
  • bf16_full_eval: False
  • fp16_full_eval: False
  • tf32: None
  • local_rank: 0
  • ddp_backend: None
  • tpu_num_cores: None
  • tpu_metrics_debug: False
  • debug: []
  • dataloader_drop_last: False
  • dataloader_num_workers: 0
  • dataloader_prefetch_factor: None
  • past_index: -1
  • disable_tqdm: False
  • remove_unused_columns: True
  • label_names: None
  • load_best_model_at_end: False
  • ignore_data_skip: False
  • fsdp: []
  • fsdp_min_num_params: 0
  • fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
  • fsdp_transformer_layer_cls_to_wrap: None
  • accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
  • deepspeed: None
  • label_smoothing_factor: 0.0
  • optim: adamw_torch
  • optim_args: None
  • adafactor: False
  • group_by_length: False
  • length_column_name: length
  • ddp_find_unused_parameters: None
  • ddp_bucket_cap_mb: None
  • ddp_broadcast_buffers: False
  • dataloader_pin_memory: True
  • dataloader_persistent_workers: False
  • skip_memory_metrics: True
  • use_legacy_prediction_loop: False
  • push_to_hub: False
  • resume_from_checkpoint: None
  • hub_model_id: None
  • hub_strategy: every_save
  • hub_private_repo: False
  • hub_always_push: False
  • gradient_checkpointing: False
  • gradient_checkpointing_kwargs: None
  • include_inputs_for_metrics: False
  • eval_do_concat_batches: True
  • fp16_backend: auto
  • push_to_hub_model_id: None
  • push_to_hub_organization: None
  • mp_parameters:
  • auto_find_batch_size: False
  • full_determinism: False
  • torchdynamo: None
  • ray_scope: last
  • ddp_timeout: 1800
  • torch_compile: False
  • torch_compile_backend: None
  • torch_compile_mode: None
  • dispatch_batches: None
  • split_batches: None
  • include_tokens_per_second: False
  • include_num_input_tokens_seen: False
  • neftune_noise_alpha: None
  • optim_target_modules: None
  • batch_eval_metrics: False
  • eval_on_start: False
  • use_liger_kernel: False
  • eval_use_gather_object: False
  • prompts: None
  • batch_sampler: batch_sampler
  • multi_dataset_batch_sampler: round_robin

Training Logs

Epoch Step Training Loss
0.625 500 0.4831
1.25 1000 0.4388
1.875 1500 0.372
2.5 2000 0.2571
3.125 2500 0.2126
3.75 3000 0.1386
4.375 3500 0.1184
5.0 4000 0.0845

Framework Versions

  • Python: 3.10.12
  • Sentence Transformers: 3.3.1
  • Transformers: 4.45.2
  • PyTorch: 2.11.0+cu128
  • Accelerate: 1.14.0
  • Datasets: 5.0.1
  • Tokenizers: 0.20.3

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

TripletLoss

@misc{hermans2017defense,
    title={In Defense of the Triplet Loss for Person Re-Identification},
    author={Alexander Hermans and Lucas Beyer and Bastian Leibe},
    year={2017},
    eprint={1703.07737},
    archivePrefix={arXiv},
    primaryClass={cs.CV}
}
Downloads last month
50
Safetensors
Model size
0.2B params
Tensor type
F32
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Papers for meet5568/bhash_finetune_phaseB