Initial release: v3-windows

.gitattributes

@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+tokenizer.json filter=lfs diff=lfs merge=lfs -text

1_Pooling/config.json

@@ -0,0 +1,10 @@
+{
+    "word_embedding_dimension": 1024,
+    "pooling_mode_cls_token": true,
+    "pooling_mode_mean_tokens": false,
+    "pooling_mode_max_tokens": false,
+    "pooling_mode_mean_sqrt_len_tokens": false,
+    "pooling_mode_weightedmean_tokens": false,
+    "pooling_mode_lasttoken": false,
+    "include_prompt": true
+}

README.md

@@ -0,0 +1,624 @@
+---
+tags:
+- sentence-transformers
+- sentence-similarity
+- feature-extraction
+- dense
+- generated_from_trainer
+- dataset_size:70036
+- loss:MultipleNegativesRankingLoss
+- loss:OnlineContrastiveLoss
+widget:
+- source_sentence: ΣΩ. καλεῖς γὰρ δήπου φρονίμους τε καὶ ἄφρονας; ΑΛ. ἔγωγε. ΣΩ.
+  sentences:
+  - Du ämnar försvara de där galningarne som man kallar vederdöpare? OLOF djärvt.
+    Ja! GUSTAV Lugn! Du har gift dig helt hastigt?
+  - Men han var aldrig högdragen. Han saknade inte humor. Men den var av det billigare
+    slaget. Han var inte kvick. Men han förstod sig på skämt.
+  - Såhå, det var bra det. Du begynnar tala oanständigt, tror jag, så vacker du än
+    är. Men hvad säger du? – hvad yppar du? detta kallar jag välvilja i sista stund.
+- source_sentence: οὐκ οἰκῶ. μηδʼ ἐν Ἀθήναις. οὐδʼ ἐν Ἀθήναις. μηδʼ ἐν Ῥώμῃ. οὐδʼ
+    ἐν Ῥώμῃ.
+  sentences:
+  - VIGGO. Så nämn ett medel då! – – ERNA. Hvarför inte ställa henne under förmyndare?
+  - Gå till Athen, där är din plats! – Till Athen? Aldrig! Jag litar icke på dem.
+    – Och de icke på dig, det passar!
+  - ”Hvad drägt bär han?” ”Det vet jag – ” ”Hvad tecken?” ”Jag klappar honom på axeln.”
+    ”Hvem har vapnet?”
+- source_sentence: οὐ πιστεύεις ὅτι ἐγὼ ἐν τῷ πατρὶ καὶ ὁ πατὴρ ἐν ἐμοί ἐστιν; τὰ
+    ῥήματα ἃ ἐγὼ λέγω ὑμῖν ἀπʼ ἐμαυτοῦ οὐ λαλῶ· ὁ δὲ πατὴρ ἐν ἐμοὶ μένων ποιεῖ τὰ
+    ἔργα αὐτοῦ. πιστεύετέ μοι ὅτι ἐγὼ ἐν τῷ πατρὶ καὶ ὁ πατὴρ ἐν ἐμοί· εἰ δὲ μή, διὰ
+    τὰ ἔργα αὐτὰ πιστεύετε.
+  sentences:
+  - »Matthan, som härstammade från Salomo födde Jakob. Sedan Matthan hade dött, så
+    födde Melchi som härstammade från Nathan, med samma kvinna Eli. Eli och Jakob
+    voro således bröder av en och samma moder. Sedan Eli hade dött barnlös, så uppväckte
+    åt honom Jakob säd, i det han födde Josef, som väl efter naturen var hans son,
+    men efter lagen Elis son. På detta sätt var alltså Josef bådas son.»
+  - '23 Den som förnekar Sonen har heller inte Fadern. Den som erkänner Sonen har
+    också Fadern. 24 Bevara det ni har hört från början. Om det ni har hört från början
+    finns i er förblir också ni för alltid bevarade i Sonen och i Fadern. 25 Och detta
+    är vad han själv lovade oss: det eviga livet.'
+  - 'Tror du icke att jag är i Fadern, och att Fadern är i mig? De ord jag talar till
+    eder talar jag icke av mig själv. Och gärningarna, dem gör Fadern, som bor i mig;
+    de äro hans verk. Tron mig: jag är i Fadern, och Fadern i mig. Varom icke, så
+    tron för själva gärningarnas skull”» (Joh. 14: 8–11).'
+- source_sentence: ἦλθον οὖν οἱ στρατιῶται, καὶ τοῦ μὲν πρώτου κατέαξαν τὰ σκέλη καὶ
+    τοῦ ἄλλου τοῦ συνσταυρωθέντος αὐτῷ· ἐπὶ δὲ τὸν Ἰησοῦν ἐλθόντες, ὡς εἶδον ἤδη αὐτὸν
+    τεθνηκότα, οὐ κατέαξαν αὐτοῦ τὰ σκέλη, ἀλλʼ εἷς τῶν στρατιωτῶν λόγχῃ αὐτοῦ τὴν
+    πλευρὰν ἔνυξεν, καὶ ἐξῆλθεν εὐθὺς αἷμα καὶ ὕδωρ. καὶ ὁ ἑωρακὼς μεμαρτύρηκεν, καὶ
+    ἀληθινὴ αὐτοῦ ἐστὶν ἡ μαρτυρία, καὶ ἐκεῖνος οἶδεν ὅτι ἀληθῆ λέγει, ἵνα καὶ ὑμεῖς
+    πιστεύητε. ἐγένετο γὰρ ταῦτα ἵνα ἡ γραφὴ πληρωθῇ Ὀστοῦν οὐ συντριβήσεται αὐτοῦ.
+    καὶ πάλιν ἑτέρα γραφὴ λέγει Ὄψονται εἰς ὃν ἐξεκέντησαν.
+  sentences:
+  - 'Så kommo då krigsmännen och slogo sönder den förstes ben och sedan den andres,
+    som var korsfäst med honom. När de därefter kommo till Jesus och sågo honom redan
+    vara död, slogo de icke sönder hans ben; men en av krigsmännen stack upp hans
+    sida med ett spjut, och strax kom därifrån ut blod och vatten. Och den som har
+    sett detta, han har vittnat därom, för att ock I skolen tro; och hans vittnesbörd
+    är sant, och han vet att han talar sanning. Ty detta skedde, för att skriftens
+    ord skulle fullbordas: »Intet ben skall sönderslås på honom.»'
+  - 'Och de som gingo före och de som följde efter ropade: ”Hosianna! Välsignad vare
+    han som kommer, i Herrens namn. Välsignat vare vår fader Davids rike, som nu kommer.
+    Hosianna i höjden.” Så drog han in i Jerusalem och kom in i helgedomen» (Mark.
+    11: 1–11).'
+  - 'De svarade: ”Vi har inte ens hört att det finns någon helig ande.” — 3 ”Vilket
+    dop blev ni då döpta med?” frågade Paulus, och de svarade: ”Johannesdopet.” 4
+    Paulus sade: ”Johannes dop var ett omvändelsedop, och han uppmanade folket att
+    tro på den som skulle komma efter honom, det vill säga Jesus.” 5 Då lät de döpa
+    sig i herren Jesu namn. 6 Och när Paulus lade sina händer på dem kom den heliga
+    anden över dem, och de talade med tungor och profeterade.'
+- source_sentence: καὶ προσκαλεσάμενος αὐτοὺς ὁ Ἰησοῦς λέγει αὐτοῖς Οἴδατε ὅτι οἱ
+    δοκοῦντες ἄρχειν τῶν ἐθνῶν κατακυριεύουσιν αὐτῶν καὶ οἱ μεγάλοι αὐτῶν κατεξουσιάζουσιν
+    αὐτῶν. οὐχ οὕτως δέ ἐστιν ἐν ὑμῖν· ἀλλʼ ὃς ἂν θέλῃ μέγας γενέσθαι ἐν ὑμῖν, ἔσται
+    ὑμῶν διάκονος, καὶ ὃς ἂν θέλῃ ἐν ὑμῖν εἶναι πρῶτος, ἔσται πάντων δοῦλος· καὶ γὰρ
+    ὁ υἱὸς τοῦ ἀνθρώπου οὐκ ἦλθεν διακονηθῆναι ἀλλὰ διακονῆσαι καὶ δοῦναι τὴν ψυχὴν
+    αὐτοῦ λύτρον ἀντὶ πολλῶν. Καὶ ἔρχονται εἰς Ἰερειχώ. Καὶ ἐκπορευομένου αὐτοῦ ἀπὸ
+    Ἰερειχὼ καὶ τῶν μαθητῶν αὐτοῦ καὶ ὄχλου ἱκανοῦ ὁ υἱὸς Τιμαίου Βαρτίμαιος τυφλὸς
+    προσαίτης ἐκάθητο παρὰ τὴν ὁδόν.
+  sentences:
+  - 'Då kallade Jesus dem till sig och sade till dem: ’I veten att de som räknas för
+    folkens furstar uppträda mot dem såsom herrar, och att deras mäktige låta dem
+    känna sin myndighet. Men så är det icke bland eder; utan den som vill bliva störst
+    bland eder, han vare de andras tjänare, och den som vill vara främst bland eder,
+    han vare allas dräng. Också Människosonen har ju kommit icke för att låta tjäna
+    sig, utan för att tjäna och för att giva sitt liv till lösen för många.’» I den
+    ordknappa Markustexten verkar den förmätna begäran Sebedei söner framställde som
+    ett slag för ansiktet. Den kommer oförmedlad, direkt efter Jesu undervisning om
+    lidandet.'
+  - Den stora framgångens människor äro realister och fatalister. Människoförbättrarens
+    uppgift är icke att predika moral, men att förändra människans inre genom att
+    omgestalta de yttre betingelserna för mänsklighetens moraliska hälsa. Moralen
+    har börjat där, var hon skulle sluta, d.v.s. med att giva den efter förfullkomning
+    längtande en ledtråd. Hittills har allting skett för enskilda, religionerna ha
+    i djupare mening endast kommit till enskilda, nu kan man skönja den tid då massan
+    skall bearbetas. De små människorna äro rätt sinnliga på sitt sätt, på ett förnöjsamt
+    sätt som ett stort temperament icke kan uthärda.
+  - 'Vart icke Abraham vår fader, rättfärdiggjord genom gärningar, då han bar sin
+    son Isak upp på altaret? Du ser, att tron medverkade med hans gärningar, och att
+    genom gärningarna vart tron fullkomnad och skriften uppfylld, som säjer: Men Abraham
+    trodde Gud, och det vart honom räknat till rättfärdighet, och han vart kallad
+    Guds vän. I sen att en människa bliver rättfärdigad av gärningar och icke av tro
+    allenast. Och vart icke på samma sätt skökan Rahab rättfärdigad av gärningar,
+    då hon mottog sändebuden och släppte ut dem en annan väg?'
+pipeline_tag: sentence-similarity
+library_name: sentence-transformers
+metrics:
+- cosine_accuracy@1
+- cosine_accuracy@5
+- cosine_accuracy@10
+- cosine_accuracy@25
+- cosine_precision@1
+- cosine_precision@5
+- cosine_precision@10
+- cosine_precision@25
+- cosine_precision@100
+- cosine_recall@1
+- cosine_recall@5
+- cosine_recall@10
+- cosine_recall@25
+- cosine_recall@100
+- cosine_ndcg@10
+- cosine_mrr@10
+- cosine_map@100
+model-index:
+- name: SentenceTransformer
+  results:
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: labeled window src to swe
+      type: labeled_window_src_to_swe
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.6348773841961853
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@5
+      value: 0.997275204359673
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 1.0
+      name: Cosine Accuracy@10
+    - type: cosine_accuracy@25
+      value: 1.0
+      name: Cosine Accuracy@25
+    - type: cosine_precision@1
+      value: 0.6348773841961853
+      name: Cosine Precision@1
+    - type: cosine_precision@5
+      value: 0.19945504087193458
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.09999999999999996
+      name: Cosine Precision@10
+    - type: cosine_precision@25
+      value: 0.039999999999999994
+      name: Cosine Precision@25
+    - type: cosine_precision@100
+      value: 0.009999999999999998
+      name: Cosine Precision@100
+    - type: cosine_recall@1
+      value: 0.6348773841961853
+      name: Cosine Recall@1
+    - type: cosine_recall@5
+      value: 0.997275204359673
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 1.0
+      name: Cosine Recall@10
+    - type: cosine_recall@25
+      value: 1.0
+      name: Cosine Recall@25
+    - type: cosine_recall@100
+      value: 1.0
+      name: Cosine Recall@100
+    - type: cosine_ndcg@10
+      value: 0.8422597425051636
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.7886315470784138
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.7886315470784137
+      name: Cosine Map@100
+---
+
+# SentenceTransformer
+
+This is a [sentence-transformers](https://www.SBERT.net) model trained on the triplets and pairs datasets. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
+
+## Model Details
+
+### Model Description
+- **Model Type:** Sentence Transformer
+<!-- - **Base model:** [Unknown](https://huggingface.co/unknown) -->
+- **Maximum Sequence Length:** 320 tokens
+- **Output Dimensionality:** 1024 dimensions
+- **Similarity Function:** Cosine Similarity
+- **Training Datasets:**
+    - triplets
+    - pairs
+<!-- - **Language:** Unknown -->
+<!-- - **License:** Unknown -->
+
+### Model Sources
+
+- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
+- **Repository:** [Sentence Transformers on GitHub](https://github.com/huggingface/sentence-transformers)
+- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
+
+### Full Model Architecture
+
+```
+SentenceTransformer(
+  (0): Transformer({'max_seq_length': 320, 'do_lower_case': False, 'architecture': 'XLMRobertaModel'})
+  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
+  (2): Normalize()
+)
+```
+
+## Usage
+
+### Direct Usage (Sentence Transformers)
+
+First install the Sentence Transformers library:
+
+```bash
+pip install -U sentence-transformers
+```
+
+Then you can load this model and run inference.
+```python
+from sentence_transformers import SentenceTransformer
+
+# Download from the 🤗 Hub
+model = SentenceTransformer("sentence_transformers_model_id")
+# Run inference
+sentences = [
+    'καὶ προσκαλεσάμενος αὐτοὺς ὁ Ἰησοῦς λέγει αὐτοῖς Οἴδατε ὅτι οἱ δοκοῦντες ἄρχειν τῶν ἐθνῶν κατακυριεύουσιν αὐτῶν καὶ οἱ μεγάλοι αὐτῶν κατεξουσιάζουσιν αὐτῶν. οὐχ οὕτως δέ ἐστιν ἐν ὑμῖν· ἀλλʼ ὃς ἂν θέλῃ μέγας γενέσθαι ἐν ὑμῖν, ἔσται ὑμῶν διάκονος, καὶ ὃς ἂν θέλῃ ἐν ὑμῖν εἶναι πρῶτος, ἔσται πάντων δοῦλος· καὶ γὰρ ὁ υἱὸς τοῦ ἀνθρώπου οὐκ ἦλθεν διακονηθῆναι ἀλλὰ διακονῆσαι καὶ δοῦναι τὴν ψυχὴν αὐτοῦ λύτρον ἀντὶ πολλῶν. Καὶ ἔρχονται εἰς Ἰερειχώ. Καὶ ἐκπορευομένου αὐτοῦ ἀπὸ Ἰερειχὼ καὶ τῶν μαθητῶν αὐτοῦ καὶ ὄχλου ἱκανοῦ ὁ υἱὸς Τιμαίου Βαρτίμαιος τυφλὸς προσαίτης ἐκάθητο παρὰ τὴν ὁδόν.',
+    'Då kallade Jesus dem till sig och sade till dem: ’I veten att de som räknas för folkens furstar uppträda mot dem såsom herrar, och att deras mäktige låta dem känna sin myndighet. Men så är det icke bland eder; utan den som vill bliva störst bland eder, han vare de andras tjänare, och den som vill vara främst bland eder, han vare allas dräng. Också Människosonen har ju kommit icke för att låta tjäna sig, utan för att tjäna och för att giva sitt liv till lösen för många.’» I den ordknappa Markustexten verkar den förmätna begäran Sebedei söner framställde som ett slag för ansiktet. Den kommer oförmedlad, direkt efter Jesu undervisning om lidandet.',
+    'Den stora framgångens människor äro realister och fatalister. Människoförbättrarens uppgift är icke att predika moral, men att förändra människans inre genom att omgestalta de yttre betingelserna för mänsklighetens moraliska hälsa. Moralen har börjat där, var hon skulle sluta, d.v.s. med att giva den efter förfullkomning längtande en ledtråd. Hittills har allting skett för enskilda, religionerna ha i djupare mening endast kommit till enskilda, nu kan man skönja den tid då massan skall bearbetas. De små människorna äro rätt sinnliga på sitt sätt, på ett förnöjsamt sätt som ett stort temperament icke kan uthärda.',
+]
+embeddings = model.encode(sentences)
+print(embeddings.shape)
+# [3, 1024]
+
+# Get the similarity scores for the embeddings
+similarities = model.similarity(embeddings, embeddings)
+print(similarities)
+# tensor([[1.0000, 0.6757, 0.3392],
+#         [0.6757, 1.0000, 0.2150],
+#         [0.3392, 0.2150, 1.0000]])
+```
+
+<!--
+### Direct Usage (Transformers)
+
+<details><summary>Click to see the direct usage in Transformers</summary>
+
+</details>
+-->
+
+<!--
+### Downstream Usage (Sentence Transformers)
+
+You can finetune this model on your own dataset.
+
+<details><summary>Click to expand</summary>
+
+</details>
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+## Evaluation
+
+### Metrics
+
+#### Information Retrieval
+
+* Dataset: `labeled_window_src_to_swe`
+* Evaluated with [<code>InformationRetrievalEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.InformationRetrievalEvaluator)
+
+| Metric               | Value      |
+|:---------------------|:-----------|
+| cosine_accuracy@1    | 0.6349     |
+| cosine_accuracy@5    | 0.9973     |
+| cosine_accuracy@10   | 1.0        |
+| cosine_accuracy@25   | 1.0        |
+| cosine_precision@1   | 0.6349     |
+| cosine_precision@5   | 0.1995     |
+| cosine_precision@10  | 0.1        |
+| cosine_precision@25  | 0.04       |
+| cosine_precision@100 | 0.01       |
+| cosine_recall@1      | 0.6349     |
+| cosine_recall@5      | 0.9973     |
+| cosine_recall@10     | 1.0        |
+| cosine_recall@25     | 1.0        |
+| cosine_recall@100    | 1.0        |
+| **cosine_ndcg@10**   | **0.8423** |
+| cosine_mrr@10        | 0.7886     |
+| cosine_map@100       | 0.7886     |
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Datasets
+
+#### triplets
+
+* Dataset: triplets
+* Size: 22,275 training samples
+* Columns: <code>anchor</code>, <code>positive</code>, and <code>negative</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | anchor                                                                               | positive                                                                            | negative                                                                             |
+  |:--------|:-------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|
+  | type    | string                                                                               | string                                                                              | string                                                                               |
+  | details | <ul><li>min: 45 tokens</li><li>mean: 217.72 tokens</li><li>max: 320 tokens</li></ul> | <ul><li>min: 33 tokens</li><li>mean: 115.9 tokens</li><li>max: 247 tokens</li></ul> | <ul><li>min: 19 tokens</li><li>mean: 139.85 tokens</li><li>max: 320 tokens</li></ul> |
+* Samples:
+  | anchor                                                                                                                                                                                                                                                                                                                                                                                                                        | positive                                                                                                                                                                                                                                                                                                                                                                                                                                                      | negative                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               |
+  |:------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+  | <code>ὁ οὖν ἐπιχορηγῶν ὑμῖν τὸ πνεῦμα καὶ ἐνεργῶν δυνάμεις ἐν ὑμῖν ἐξ ἔργων νόμου ἢ ἐξ ἀκοῆς πίστεως; καθὼς Ἀβραὰμ ἐπίστευσεν τῷ θεῷ, καὶ ἐλογίσθη αὐτῷ εἰς δικαιοσύνην. Γινώσκετε ἄρα ὅτι οἱ ἐκ πίστεως, οὗτοι υἱοί εἰσιν Ἀβραάμ. προϊδοῦσα δὲ ἡ γραφὴ ὅτι ἐκ πίστεως δικαιοῖ τὰ ἔθνη ὁ θεὸς προευηγγελίσατο τῷ Ἀβραὰμ ὅτι Ἐνευλογηθήσονται ἐν σοὶ πάντα τὰ ἔθνη. ὥστε οἱ ἐκ πίστεως εὐλογοῦνται σὺν τῷ πιστῷ Ἀβραάμ.</code> | <code>Den som giver eder anden och verkar kraften bland eder, gör han det genom lagens gärningar, eller genom trons predikan? – – – Abraham trodde Gud, och det vart honom räknat till rättfärdighet. Veten därför, att de som äro av tron, de äro Abrahams barn. Och emedan skriften förutsåg, att det är genom tron som Gud gör hedningarne rättfärdiga, så gav han i förväg åt Abraham detta glada budskap: I dig skola alla folk varda välsignade.</code> | <code>23. I. Trones rättferdighet bewises af Abrahams exempel/ rc. H Wad säije wij tå/ wår fader 14704 Abraham efter kötet hafwa funnet? 2. Thet säije wij: Är Abraham rättferdig worden af gierningarna/ så hafwer han thet han må beröma sigh af; men icke för Gudi. 3. Men hwad säger Skriften?</code>                                                                                                                                                                                                                              |
+  | <code>ὁ οὖν ἐπιχορηγῶν ὑμῖν τὸ πνεῦμα καὶ ἐνεργῶν δυνάμεις ἐν ὑμῖν ἐξ ἔργων νόμου ἢ ἐξ ἀκοῆς πίστεως; καθὼς Ἀβραὰμ ἐπίστευσεν τῷ θεῷ, καὶ ἐλογίσθη αὐτῷ εἰς δικαιοσύνην. Γινώσκετε ἄρα ὅτι οἱ ἐκ πίστεως, οὗτοι υἱοί εἰσιν Ἀβραάμ. προϊδοῦσα δὲ ἡ γραφὴ ὅτι ἐκ πίστεως δικαιοῖ τὰ ἔθνη ὁ θεὸς προευηγγελίσατο τῷ Ἀβραὰμ ὅτι Ἐνευλογηθήσονται ἐν σοὶ πάντα τὰ ἔθνη. ὥστε οἱ ἐκ πίστεως εὐλογοῦνται σὺν τῷ πιστῷ Ἀβραάμ.</code> | <code>Den som giver eder anden och verkar kraften bland eder, gör han det genom lagens gärningar, eller genom trons predikan? – – – Abraham trodde Gud, och det vart honom räknat till rättfärdighet. Veten därför, att de som äro av tron, de äro Abrahams barn. Och emedan skriften förutsåg, att det är genom tron som Gud gör hedningarne rättfärdiga, så gav han i förväg åt Abraham detta glada budskap: I dig skola alla folk varda välsignade.</code> | <code>20 Men inser du inte, tanklösa människa, att tro utan gärningar är utan verkan? 21 Blev inte vår fader Abraham rättfärdig genom gärningar när han lade sin son Isak som offer på altaret? 22 Du ser att hans tro samverkade med hans gärningar och att det var genom gärningarna som hans tro blev fullkomlig. 23 Så uppfylldes skriftens ord: Abraham trodde på Gud och därför räknades han som rättfärdig , och han kallades Guds vän. 24 Ni ser att människan blir rättfärdig genom gärningar och inte bara genom tro.</code> |
+  | <code>ὁ οὖν ἐπιχορηγῶν ὑμῖν τὸ πνεῦμα κα��� ἐνεργῶν δυνάμεις ἐν ὑμῖν ἐξ ἔργων νόμου ἢ ἐξ ἀκοῆς πίστεως; καθὼς Ἀβραὰμ ἐπίστευσεν τῷ θεῷ, καὶ ἐλογίσθη αὐτῷ εἰς δικαιοσύνην. Γινώσκετε ἄρα ὅτι οἱ ἐκ πίστεως, οὗτοι υἱοί εἰσιν Ἀβραάμ. προϊδοῦσα δὲ ἡ γραφὴ ὅτι ἐκ πίστεως δικαιοῖ τὰ ἔθνη ὁ θεὸς προευηγγελίσατο τῷ Ἀβραὰμ ὅτι Ἐνευλογηθήσονται ἐν σοὶ πάντα τὰ ἔθνη. ὥστε οἱ ἐκ πίστεως εὐλογοῦνται σὺν τῷ πιστῷ Ἀβραάμ.</code> | <code>Den som giver eder anden och verkar kraften bland eder, gör han det genom lagens gärningar, eller genom trons predikan? – – – Abraham trodde Gud, och det vart honom räknat till rättfärdighet. Veten därför, att de som äro av tron, de äro Abrahams barn. Och emedan skriften förutsåg, att det är genom tron som Gud gör hedningarne rättfärdiga, så gav han i förväg åt Abraham detta glada budskap: I dig skola alla folk varda välsignade.</code> | <code>26 Alla är ni nämligen genom tron Guds söner, i Kristus Jesus. 27 Är ni döpta in i Kristus har ni också iklätt er Kristus. 28 Nu är ingen längre jude eller grek, slav eller fri, man eller kvinna. Alla är ni ett i Kristus Jesus. 29 Men om ni tillhör Kristus är ni också avkomlingar till Abraham och arvtagare enligt löftet.</code>                                                                                                                                                                                        |
+* Loss: [<code>MultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#multiplenegativesrankingloss) with these parameters:
+  ```json
+  {
+      "scale": 20.0,
+      "similarity_fct": "cos_sim",
+      "gather_across_devices": false,
+      "directions": [
+          "query_to_doc"
+      ],
+      "partition_mode": "joint",
+      "hardness_mode": null,
+      "hardness_strength": 0.0
+  }
+  ```
+
+#### pairs
+
+* Dataset: pairs
+* Size: 47,761 training samples
+* Columns: <code>sentence1</code>, <code>sentence2</code>, and <code>label</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | sentence1                                                                           | sentence2                                                                           | label                        |
+  |:--------|:------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|:-----------------------------|
+  | type    | string                                                                              | string                                                                              | int                          |
+  | details | <ul><li>min: 22 tokens</li><li>mean: 92.94 tokens</li><li>max: 320 tokens</li></ul> | <ul><li>min: 17 tokens</li><li>mean: 56.98 tokens</li><li>max: 320 tokens</li></ul> | <ul><li>0: 100.00%</li></ul> |
+* Samples:
+  | sentence1                                                                      | sentence2                                                                                                                          | label          |
+  |:-------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------------------------------------------------------|:---------------|
+  | <code>τίνος; ἆρά γε ἵππου; — οὔ. — ἀλλὰ βοός; — οὔ.</code>                     | <code>Har han häst? Tora. Han nej! Neej. Vad skulle han med häst?</code>                                                           | <code>0</code> |
+  | <code>ἀλλʼ ἀδύνατον, εἰπεῖν. ἀλλὰ τινός; ναί. ὄντος ἢ οὐκ ὄντος; ὄντος.</code> | <code>Det är omöjligt. — Men om det ändå är möjligt? — Nej. — Men om det är möjligt trots allt? — Nej, det är inte möjligt.</code> | <code>0</code> |
+  | <code>τίνος; ἆρά γε ἵππου; — οὔ. — ἀλλὰ βοός; — οὔ.</code>                     | <code>Magnus. Har han häst? Tora. Han nej! Neej.</code>                                                                            | <code>0</code> |
+* Loss: [<code>OnlineContrastiveLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#onlinecontrastiveloss)
+
+### Training Hyperparameters
+#### Non-Default Hyperparameters
+
+- `per_device_train_batch_size`: 16
+- `num_train_epochs`: 1.0
+- `learning_rate`: 2e-06
+- `warmup_steps`: 0.05
+- `bf16`: True
+- `eval_strategy`: steps
+- `per_device_eval_batch_size`: 64
+- `load_best_model_at_end`: True
+- `dataloader_drop_last`: True
+- `dataloader_num_workers`: 4
+- `ddp_find_unused_parameters`: True
+- `batch_sampler`: no_duplicates
+- `multi_dataset_batch_sampler`: round_robin
+
+#### All Hyperparameters
+<details><summary>Click to expand</summary>
+
+- `per_device_train_batch_size`: 16
+- `num_train_epochs`: 1.0
+- `max_steps`: -1
+- `learning_rate`: 2e-06
+- `lr_scheduler_type`: linear
+- `lr_scheduler_kwargs`: None
+- `warmup_steps`: 0.05
+- `optim`: adamw_torch_fused
+- `optim_args`: None
+- `weight_decay`: 0.0
+- `adam_beta1`: 0.9
+- `adam_beta2`: 0.999
+- `adam_epsilon`: 1e-08
+- `optim_target_modules`: None
+- `gradient_accumulation_steps`: 1
+- `average_tokens_across_devices`: True
+- `max_grad_norm`: 1.0
+- `label_smoothing_factor`: 0.0
+- `bf16`: True
+- `fp16`: False
+- `bf16_full_eval`: False
+- `fp16_full_eval`: False
+- `tf32`: None
+- `gradient_checkpointing`: False
+- `gradient_checkpointing_kwargs`: None
+- `torch_compile`: False
+- `torch_compile_backend`: None
+- `torch_compile_mode`: None
+- `use_liger_kernel`: False
+- `liger_kernel_config`: None
+- `use_cache`: False
+- `neftune_noise_alpha`: None
+- `torch_empty_cache_steps`: None
+- `auto_find_batch_size`: False
+- `log_on_each_node`: True
+- `logging_nan_inf_filter`: True
+- `include_num_input_tokens_seen`: no
+- `log_level`: passive
+- `log_level_replica`: warning
+- `disable_tqdm`: False
+- `project`: huggingface
+- `trackio_space_id`: trackio
+- `eval_strategy`: steps
+- `per_device_eval_batch_size`: 64
+- `prediction_loss_only`: True
+- `eval_on_start`: False
+- `eval_do_concat_batches`: True
+- `eval_use_gather_object`: False
+- `eval_accumulation_steps`: None
+- `include_for_metrics`: []
+- `batch_eval_metrics`: False
+- `save_only_model`: False
+- `save_on_each_node`: False
+- `enable_jit_checkpoint`: False
+- `push_to_hub`: False
+- `hub_private_repo`: None
+- `hub_model_id`: None
+- `hub_strategy`: every_save
+- `hub_always_push`: False
+- `hub_revision`: None
+- `load_best_model_at_end`: True
+- `ignore_data_skip`: False
+- `restore_callback_states_from_checkpoint`: False
+- `full_determinism`: False
+- `seed`: 42
+- `data_seed`: None
+- `use_cpu`: False
+- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
+- `parallelism_config`: None
+- `dataloader_drop_last`: True
+- `dataloader_num_workers`: 4
+- `dataloader_pin_memory`: True
+- `dataloader_persistent_workers`: False
+- `dataloader_prefetch_factor`: None
+- `remove_unused_columns`: True
+- `label_names`: None
+- `train_sampling_strategy`: random
+- `length_column_name`: length
+- `ddp_find_unused_parameters`: True
+- `ddp_bucket_cap_mb`: None
+- `ddp_broadcast_buffers`: False
+- `ddp_backend`: None
+- `ddp_timeout`: 1800
+- `fsdp`: []
+- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
+- `deepspeed`: None
+- `debug`: []
+- `skip_memory_metrics`: True
+- `do_predict`: False
+- `resume_from_checkpoint`: None
+- `warmup_ratio`: None
+- `local_rank`: -1
+- `prompts`: None
+- `batch_sampler`: no_duplicates
+- `multi_dataset_batch_sampler`: round_robin
+- `router_mapping`: {}
+- `learning_rate_mapping`: {}
+
+</details>
+
+### Training Logs
+| Epoch      | Step    | Training Loss | labeled_window_src_to_swe_cosine_ndcg@10 |
+|:----------:|:-------:|:-------------:|:----------------------------------------:|
+| -1         | -1      | -             | 0.8389                                   |
+| 0.0144     | 10      | 0.1641        | -                                        |
+| 0.0287     | 20      | 0.1596        | -                                        |
+| 0.0431     | 30      | 0.1378        | -                                        |
+| 0.0575     | 40      | 0.1260        | -                                        |
+| 0.0718     | 50      | 0.1097        | 0.8458                                   |
+| 0.0862     | 60      | 0.0911        | -                                        |
+| 0.1006     | 70      | 0.0719        | -                                        |
+| 0.1149     | 80      | 0.0650        | -                                        |
+| 0.1293     | 90      | 0.0637        | -                                        |
+| **0.1437** | **100** | **0.0527**    | **0.8528**                               |
+| 0.1580     | 110     | 0.0641        | -                                        |
+| 0.1724     | 120     | 0.0708        | -                                        |
+| 0.1868     | 130     | 0.0572        | -                                        |
+| 0.2011     | 140     | 0.0578        | -                                        |
+| 0.2155     | 150     | 0.0685        | 0.8451                                   |
+| 0.2299     | 160     | 0.0544        | -                                        |
+| 0.2443     | 170     | 0.0443        | -                                        |
+| 0.2586     | 180     | 0.0626        | -                                        |
+| 0.2730     | 190     | 0.0403        | -                                        |
+| 0.2874     | 200     | 0.0505        | 0.8490                                   |
+| 0.3017     | 210     | 0.0440        | -                                        |
+| 0.3161     | 220     | 0.0422        | -                                        |
+| 0.3305     | 230     | 0.0476        | -                                        |
+| 0.3448     | 240     | 0.0409        | -                                        |
+| 0.3592     | 250     | 0.0334        | 0.8460                                   |
+| 0.3736     | 260     | 0.0456        | -                                        |
+| 0.3879     | 270     | 0.0513        | -                                        |
+| 0.4023     | 280     | 0.0345        | -                                        |
+| 0.4167     | 290     | 0.0410        | -                                        |
+| 0.4310     | 300     | 0.0476        | 0.8467                                   |
+| 0.4454     | 310     | 0.0335        | -                                        |
+| 0.4598     | 320     | 0.0375        | -                                        |
+| 0.4741     | 330     | 0.0346        | -                                        |
+| 0.4885     | 340     | 0.0364        | -                                        |
+| 0.5029     | 350     | 0.0334        | 0.8466                                   |
+| 0.5172     | 360     | 0.0406        | -                                        |
+| 0.5316     | 370     | 0.0229        | -                                        |
+| 0.5460     | 380     | 0.0340        | -                                        |
+| 0.5603     | 390     | 0.0246        | -                                        |
+| 0.5747     | 400     | 0.0275        | 0.8451                                   |
+| 0.5891     | 410     | 0.0322        | -                                        |
+| 0.6034     | 420     | 0.0366        | -                                        |
+| 0.6178     | 430     | 0.0294        | -                                        |
+| 0.6322     | 440     | 0.0301        | -                                        |
+| 0.6466     | 450     | 0.0251        | 0.8462                                   |
+| 0.6609     | 460     | 0.0219        | -                                        |
+| 0.6753     | 470     | 0.0248        | -                                        |
+| 0.6897     | 480     | 0.0213        | -                                        |
+| 0.7040     | 490     | 0.0284        | -                                        |
+| 0.7184     | 500     | 0.0219        | 0.8451                                   |
+| 0.7328     | 510     | 0.0294        | -                                        |
+| 0.7471     | 520     | 0.0302        | -                                        |
+| 0.7615     | 530     | 0.0296        | -                                        |
+| 0.7759     | 540     | 0.0263        | -                                        |
+| 0.7902     | 550     | 0.0259        | 0.8447                                   |
+| 0.8046     | 560     | 0.0301        | -                                        |
+| 0.8190     | 570     | 0.0423        | -                                        |
+| 0.8333     | 580     | 0.0282        | -                                        |
+| 0.8477     | 590     | 0.0259        | -                                        |
+| 0.8621     | 600     | 0.0141        | 0.8435                                   |
+| 0.8764     | 610     | 0.0248        | -                                        |
+| 0.8908     | 620     | 0.0291        | -                                        |
+| 0.9052     | 630     | 0.0381        | -                                        |
+| 0.9195     | 640     | 0.0328        | -                                        |
+| 0.9339     | 650     | 0.0269        | 0.8423                                   |
+| 0.9483     | 660     | 0.0302        | -                                        |
+| 0.9626     | 670     | 0.0239        | -                                        |
+| 0.9770     | 680     | 0.0221        | -                                        |
+| 0.9914     | 690     | 0.0376        | -                                        |
+
+* The bold row denotes the saved checkpoint.
+
+### Framework Versions
+- Python: 3.12.3
+- Sentence Transformers: 5.3.0
+- Transformers: 5.3.0
+- PyTorch: 2.9.0+cu128
+- Accelerate: 1.13.0
+- Datasets: 4.8.5
+- Tokenizers: 0.22.2
+
+## Citation
+
+### BibTeX
+
+#### Sentence Transformers
+```bibtex
+@inproceedings{reimers-2019-sentence-bert,
+    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
+    author = "Reimers, Nils and Gurevych, Iryna",
+    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
+    month = "11",
+    year = "2019",
+    publisher = "Association for Computational Linguistics",
+    url = "https://arxiv.org/abs/1908.10084",
+}
+```
+
+#### MultipleNegativesRankingLoss
+```bibtex
+@misc{oord2019representationlearningcontrastivepredictive,
+      title={Representation Learning with Contrastive Predictive Coding},
+      author={Aaron van den Oord and Yazhe Li and Oriol Vinyals},
+      year={2019},
+      eprint={1807.03748},
+      archivePrefix={arXiv},
+      primaryClass={cs.LG},
+      url={https://arxiv.org/abs/1807.03748},
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->

config.json

@@ -0,0 +1,30 @@
+{
+  "add_cross_attention": false,
+  "architectures": [
+    "XLMRobertaModel"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "bos_token_id": 0,
+  "classifier_dropout": null,
+  "dtype": "float32",
+  "eos_token_id": 2,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 1024,
+  "initializer_range": 0.02,
+  "intermediate_size": 4096,
+  "is_decoder": false,
+  "layer_norm_eps": 1e-05,
+  "max_position_embeddings": 8194,
+  "model_type": "xlm-roberta",
+  "num_attention_heads": 16,
+  "num_hidden_layers": 24,
+  "output_past": true,
+  "pad_token_id": 1,
+  "position_embedding_type": "absolute",
+  "tie_word_embeddings": true,
+  "transformers_version": "5.3.0",
+  "type_vocab_size": 1,
+  "use_cache": true,
+  "vocab_size": 250002
+}

config_sentence_transformers.json

@@ -0,0 +1,14 @@
+{
+  "__version__": {
+    "sentence_transformers": "5.3.0",
+    "transformers": "5.3.0",
+    "pytorch": "2.9.0+cu128"
+  },
+  "model_type": "SentenceTransformer",
+  "prompts": {
+    "query": "",
+    "document": ""
+  },
+  "default_prompt_name": null,
+  "similarity_fn_name": "cosine"
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d45e613db7eeb9b37cd22772e8197b51b6e32190cea27ed95f87c86d8d35252e
+size 2271064408

modules.json

@@ -0,0 +1,20 @@
+[
+  {
+    "idx": 0,
+    "name": "0",
+    "path": "",
+    "type": "sentence_transformers.models.Transformer"
+  },
+  {
+    "idx": 1,
+    "name": "1",
+    "path": "1_Pooling",
+    "type": "sentence_transformers.models.Pooling"
+  },
+  {
+    "idx": 2,
+    "name": "2",
+    "path": "2_Normalize",
+    "type": "sentence_transformers.models.Normalize"
+  }
+]

sentence_bert_config.json

@@ -0,0 +1,4 @@
+{
+    "max_seq_length": 320,
+    "do_lower_case": false
+}

tokenizer.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1beec8a56e32e8117bf92cfdb326d8a1ce19c10b8bf72f89404ae30a33805af7
+size 17098338

tokenizer_config.json

@@ -0,0 +1,23 @@
+{
+  "add_prefix_space": true,
+  "backend": "tokenizers",
+  "bos_token": "<s>",
+  "clean_up_tokenization_spaces": true,
+  "cls_token": "<s>",
+  "eos_token": "</s>",
+  "is_local": true,
+  "mask_token": "<mask>",
+  "max_length": 256,
+  "model_max_length": 192,
+  "pad_to_multiple_of": null,
+  "pad_token": "<pad>",
+  "pad_token_type_id": 0,
+  "padding_side": "right",
+  "sep_token": "</s>",
+  "sp_model_kwargs": {},
+  "stride": 0,
+  "tokenizer_class": "XLMRobertaTokenizer",
+  "truncation_side": "right",
+  "truncation_strategy": "longest_first",
+  "unk_token": "<unk>"
+}