Add new SentenceTransformer model

.gitattributes

@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+tokenizer.json filter=lfs diff=lfs merge=lfs -text

1_Pooling/config.json

@@ -0,0 +1,10 @@
+{
+    "word_embedding_dimension": 768,
+    "pooling_mode_cls_token": false,
+    "pooling_mode_mean_tokens": true,
+    "pooling_mode_max_tokens": false,
+    "pooling_mode_mean_sqrt_len_tokens": false,
+    "pooling_mode_weightedmean_tokens": false,
+    "pooling_mode_lasttoken": false,
+    "include_prompt": true
+}

2_Dense/config.json

@@ -0,0 +1,6 @@
+{
+    "in_features": 768,
+    "out_features": 3072,
+    "bias": false,
+    "activation_function": "torch.nn.modules.linear.Identity"
+}

2_Dense/model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:98ed1f659c9baefbf32fb9a0397363dc26ee290ecf1f8f6f28a28668bfb52b60
+size 9437272

3_Dense/config.json

@@ -0,0 +1,6 @@
+{
+    "in_features": 3072,
+    "out_features": 768,
+    "bias": false,
+    "activation_function": "torch.nn.modules.linear.Identity"
+}

3_Dense/model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:090e58e0f22cd17a732dbea86f0b9f0c826a8a69b82d8580654d57b017624d2f
+size 9437272

README.md

@@ -0,0 +1,584 @@
+---
+tags:
+- sentence-transformers
+- sentence-similarity
+- feature-extraction
+- dense
+- generated_from_trainer
+- dataset_size:74864
+- loss:CachedMultipleNegativesRankingLoss
+base_model: google/embeddinggemma-300m
+widget:
+- source_sentence: Was ist aus der früheren Division "Passive Sicherheitstechnik"
+    geworden?
+  sentences:
+  - Adania Shiblis Roman "Eine Nebensache" erschien im Original vor sieben Jahren
+    und auf Deutsch vor zwei Jahren.
+  - Der Bundesvorsitzende des Fahrgastverbandes Pro Bahn, Detlef Neuß, rät Reisenden,
+    ausreichend Getränke, Obst und Verpflegung mitzuführen, da Bordrestaurants nicht
+    immer garantiert geöffnet sein werden. Es wird auch empfohlen, Bücher oder Unterhaltungselektronik
+    sowie Spiele für Kinder mitzunehmen, um die Reisezeit angenehmer zu gestalten.
+    Die Bahn empfiehlt zudem dringend, Sitzplätze zu reservieren, da die Züge stark
+    gebucht sind, und rät, auf weniger ausgelastete Fahrten auszuweichen, falls möglich.
+  - Die frühere Division "Passive Sicherheitstechnik", die Airbags und Sicherheitsgurte
+    herstellt, wurde aus den Konzernstrukturen herausgelöst und firmiert eigenständig
+    als Tochter unter dem Namen ZF Lifetec. Für diesen Bereich sucht ZF einen Partner,
+    erwägt aber auch einen Börsengang.
+- source_sentence: Wo befindet sich die Zentrale Anlaufstelle für Asylsuchende in
+    Sachsen-Anhalt?
+  sentences:
+  - Die klassische Exilopposition im Iran versucht, politische und gesellschaftliche
+    Relevanz zu beweisen, indem sie mediale Reichweite und Präsenz in sozialen Medien
+    nutzt. Einige Vertreter bemühen sich gezielt um Kontakte zu westlichen Staaten,
+    in der Hoffnung, durch außenpolitische Legitimation zu einer politischen Alternative
+    aufzusteigen.
+  - Die Zentrale Anlaufstelle für Asylsuchende in Sachsen-Anhalt befindet sich in
+    Halberstadt.
+  - Obwohl die Hauptgeschichte der Gereon-Rath-Reihe abgeschlossen ist, wird demnächst
+    noch ein Kurzgeschichtenband aus diesem Universum sowie ein dritter Band einer
+    illustrierten Reihe mit der Zeichnerin Kat Menschik erscheinen. Kutscher selbst
+    plant, sich in zwei bis drei Jahren einem völlig neuen Romanstoff zu widmen, dessen
+    Thema er noch nicht kennt.
+- source_sentence: Wie bewerten Experten die aktuelle Regierungsumbildung in der Ukraine?
+  sentences:
+  - Beobachter wie der Investmentbanker Serhij Fursa und der Politikwissenschaftler
+    Wolodymyr Fesenko sehen die Umbildung positiv oder neutral. Fursa hebt die wirtschaftliche
+    Kompetenz der neuen Ministerpräsidentin Swyrydenko und die Beförderung von Soboljew
+    und Katschka hervor. Fesenko bezeichnet die Änderungen als taktische Neukonfiguration
+    zur Optimierung der Regierungsarbeit und Sicherung des Überlebens des Landes,
+    wobei er auf die Erfahrung des eingesetzten Personals verweist und von keinen
+    Wundern, aber von kompetentem Handeln ausgeht.
+  - Volkswagen führt die Rangliste bei den Gesamtausgaben für Aufsichtsräte an. Der
+    Konzern zahlte seinen 20 Aufsichtsräten insgesamt rund 7,5 Millionen Euro, was
+    einer Steigerung von 42 Prozent gegenüber 2022 entspricht und die erste Anhebung
+    seit sechs Jahren war. Dahinter folgen die Deutsche Bank mit rund 7,4 Millionen
+    Euro und Mercedes-Benz mit rund 5,9 Millionen Euro.
+  - Nach dem Schlusspfiff kam es zu einem Platzsturm der Dresdner Fans, bei dem Böller
+    und Bengalos gezündet wurden. Die Situation eskalierte kurzzeitig, wurde aber
+    von Sicherheitskräften unter Kontrolle gebracht. Später feierten die Spieler friedlich
+    mit Aufstiegsshirts und Getränken.
+- source_sentence: Welche Rolle spielt der Volksbund deutsche Kriegsgräberfürsorge
+    in Hessen?
+  sentences:
+  - Berichten zufolge gab es Fortschritte bei Gesprächen zwischen Vertretern der USA,
+    Israels und Katars im Weißen Haus. Es ging um eine 60-tägige Waffenruhe, den teilweisen
+    Rückzug israelischer Truppen und die Vorlage einer Lagekarte mit einem weitergehenden
+    Truppenrückzug, was die Chancen auf einen Deal erhöht haben soll.
+  - Der Volksbund deutsche Kriegsgräberfürsorge in Hessen trägt dazu bei, dass die
+    Toten des Zweiten Weltkrieges nicht vergessen werden. Seine Aufgabe ist der Erhalt
+    von Kriegsgräberstätten im In- und Ausland, um als Mahnung zum Frieden zu dienen.
+    Das internationale Völkerrecht schützt das dauernde Ruherecht der Kriegstoten,
+    und die Kriegsgräberfürsorge kümmert sich um die Pflege ihrer Gräber in Deutschland.
+  - Das verdichtende Augenbrauengel von Typology Paris wird als Entdeckung des Jahres
+    bezeichnet. Es ist silikonfrei, vegan und in drei Farben erhältlich. Die Formel
+    mit Erbsenpeptid und pflanzlichem Keratin soll die Augenbrauen stärken und das
+    Wachstum anregen, was zu volleren Brauen führt.
+- source_sentence: Was ist das Rückhaltebecken Siefenwang und wann wurde es geplant?
+  sentences:
+  - Das Rückhaltebecken Siefenwang ist ein Projekt zum Hochwasserschutz, benannt nach
+    einem Ortsteil von Dinkelscherben. Die Pläne dafür stammen aus den Jahren 2000
+    und 2005. Es soll bis zu 1,25 Millionen Kubikmeter Wasser fassen und eine Überflutungsfläche
+    von bis zu 136 Hektar haben. Die Gesamtkosten belaufen sich auf 9,5 Millionen
+    Euro.
+  - Der Kakaopreis hat sich innerhalb eines Jahres mehr als verdoppelt, von rund 4000
+    auf über 9200 Euro pro Tonne. Hauptursachen sind Missernten in Westafrika, insbesondere
+    an der Elfenbeinküste, die für über ein Drittel der weltweiten Kakaoproduktion
+    verantwortlich ist. Schlechte Wetterbedingungen und kranke Bäume haben dort im
+    zweiten Jahr in Folge zu erheblichen Ernteausfällen geführt, was die weltweiten
+    Kakaobestände auf ein 20-Jahres-Tief sinken ließ.
+  - Der parteilose Ex-Minister Volker Wissing warnt vor einem Scheitern der schwarz-roten
+    Koalition aufgrund innerer Spannungen, die sich auch in der Gesellschaft widerspiegeln.
+    Er verweist auf die gescheiterte Wahl von Frauke Brosius-Gersdorf zur Verfassungsrichterin
+    und die verfehlte Mehrheit für Friedrich Merz als Zeichen mangelnder Disziplin.
+datasets:
+- ktcapraz/german-qna-full
+pipeline_tag: sentence-similarity
+library_name: sentence-transformers
+metrics:
+- cosine_accuracy@1
+- cosine_accuracy@3
+- cosine_accuracy@5
+- cosine_accuracy@10
+- cosine_precision@1
+- cosine_precision@3
+- cosine_precision@5
+- cosine_precision@10
+- cosine_recall@1
+- cosine_recall@3
+- cosine_recall@5
+- cosine_recall@10
+- cosine_ndcg@10
+- cosine_mrr@10
+- cosine_map@100
+model-index:
+- name: SentenceTransformer based on google/embeddinggemma-300m
+  results:
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: germanqna eval
+      type: germanqna-eval
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.7826888399118413
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@3
+      value: 0.9020236425566018
+      name: Cosine Accuracy@3
+    - type: cosine_accuracy@5
+      value: 0.9311961530755359
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 0.9562813063514326
+      name: Cosine Accuracy@10
+    - type: cosine_precision@1
+      value: 0.7826888399118413
+      name: Cosine Precision@1
+    - type: cosine_precision@3
+      value: 0.3006745475188672
+      name: Cosine Precision@3
+    - type: cosine_precision@5
+      value: 0.18623923061510722
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.09562813063514328
+      name: Cosine Precision@10
+    - type: cosine_recall@1
+      value: 0.7826888399118413
+      name: Cosine Recall@1
+    - type: cosine_recall@3
+      value: 0.9020236425566018
+      name: Cosine Recall@3
+    - type: cosine_recall@5
+      value: 0.9311961530755359
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 0.9562813063514326
+      name: Cosine Recall@10
+    - type: cosine_ndcg@10
+      value: 0.8740587256774777
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.8471928996002355
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.8489725949192556
+      name: Cosine Map@100
+---
+
+# SentenceTransformer based on google/embeddinggemma-300m
+
+This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [google/embeddinggemma-300m](https://huggingface.co/google/embeddinggemma-300m) on the [german-qna-full](https://huggingface.co/datasets/ktcapraz/german-qna-full) dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
+
+## Model Details
+
+### Model Description
+- **Model Type:** Sentence Transformer
+- **Base model:** [google/embeddinggemma-300m](https://huggingface.co/google/embeddinggemma-300m) <!-- at revision c5cfa06e5e282a820e85d57f7fb053207494f41d -->
+- **Maximum Sequence Length:** 2048 tokens
+- **Output Dimensionality:** 768 dimensions
+- **Similarity Function:** Cosine Similarity
+- **Training Dataset:**
+    - [german-qna-full](https://huggingface.co/datasets/ktcapraz/german-qna-full)
+<!-- - **Language:** Unknown -->
+<!-- - **License:** Unknown -->
+
+### Model Sources
+
+- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
+- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
+- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
+
+### Full Model Architecture
+
+```
+SentenceTransformer(
+  (0): Transformer({'max_seq_length': 2048, 'do_lower_case': False, 'architecture': 'Gemma3TextModel'})
+  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
+  (2): Dense({'in_features': 768, 'out_features': 3072, 'bias': False, 'activation_function': 'torch.nn.modules.linear.Identity'})
+  (3): Dense({'in_features': 3072, 'out_features': 768, 'bias': False, 'activation_function': 'torch.nn.modules.linear.Identity'})
+  (4): Normalize()
+)
+```
+
+## Usage
+
+### Direct Usage (Sentence Transformers)
+
+First install the Sentence Transformers library:
+
+```bash
+pip install -U sentence-transformers
+```
+
+Then you can load this model and run inference.
+```python
+from sentence_transformers import SentenceTransformer
+
+# Download from the 🤗 Hub
+model = SentenceTransformer("ktcapraz/embeddinggemma-german_qna-checkpoint-500")
+# Run inference
+queries = [
+    "Was ist das R\u00fcckhaltebecken Siefenwang und wann wurde es geplant?",
+]
+documents = [
+    'Das Rückhaltebecken Siefenwang ist ein Projekt zum Hochwasserschutz, benannt nach einem Ortsteil von Dinkelscherben. Die Pläne dafür stammen aus den Jahren 2000 und 2005. Es soll bis zu 1,25 Millionen Kubikmeter Wasser fassen und eine Überflutungsfläche von bis zu 136 Hektar haben. Die Gesamtkosten belaufen sich auf 9,5 Millionen Euro.',
+    'Der parteilose Ex-Minister Volker Wissing warnt vor einem Scheitern der schwarz-roten Koalition aufgrund innerer Spannungen, die sich auch in der Gesellschaft widerspiegeln. Er verweist auf die gescheiterte Wahl von Frauke Brosius-Gersdorf zur Verfassungsrichterin und die verfehlte Mehrheit für Friedrich Merz als Zeichen mangelnder Disziplin.',
+    'Der Kakaopreis hat sich innerhalb eines Jahres mehr als verdoppelt, von rund 4000 auf über 9200 Euro pro Tonne. Hauptursachen sind Missernten in Westafrika, insbesondere an der Elfenbeinküste, die für über ein Drittel der weltweiten Kakaoproduktion verantwortlich ist. Schlechte Wetterbedingungen und kranke Bäume haben dort im zweiten Jahr in Folge zu erheblichen Ernteausfällen geführt, was die weltweiten Kakaobestände auf ein 20-Jahres-Tief sinken ließ.',
+]
+query_embeddings = model.encode_query(queries)
+document_embeddings = model.encode_document(documents)
+print(query_embeddings.shape, document_embeddings.shape)
+# [1, 768] [3, 768]
+
+# Get the similarity scores for the embeddings
+similarities = model.similarity(query_embeddings, document_embeddings)
+print(similarities)
+# tensor([[ 0.6243,  0.0075, -0.1137]])
+```
+
+<!--
+### Direct Usage (Transformers)
+
+<details><summary>Click to see the direct usage in Transformers</summary>
+
+</details>
+-->
+
+<!--
+### Downstream Usage (Sentence Transformers)
+
+You can finetune this model on your own dataset.
+
+<details><summary>Click to expand</summary>
+
+</details>
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+## Evaluation
+
+### Metrics
+
+#### Information Retrieval
+
+* Dataset: `germanqna-eval`
+* Evaluated with [<code>InformationRetrievalEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.InformationRetrievalEvaluator)
+
+| Metric              | Value      |
+|:--------------------|:-----------|
+| cosine_accuracy@1   | 0.7827     |
+| cosine_accuracy@3   | 0.902      |
+| cosine_accuracy@5   | 0.9312     |
+| cosine_accuracy@10  | 0.9563     |
+| cosine_precision@1  | 0.7827     |
+| cosine_precision@3  | 0.3007     |
+| cosine_precision@5  | 0.1862     |
+| cosine_precision@10 | 0.0956     |
+| cosine_recall@1     | 0.7827     |
+| cosine_recall@3     | 0.902      |
+| cosine_recall@5     | 0.9312     |
+| cosine_recall@10    | 0.9563     |
+| **cosine_ndcg@10**  | **0.8741** |
+| cosine_mrr@10       | 0.8472     |
+| cosine_map@100      | 0.849      |
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Dataset
+
+#### german-qna-full
+
+* Dataset: [german-qna-full](https://huggingface.co/datasets/ktcapraz/german-qna-full) at [24161ff](https://huggingface.co/datasets/ktcapraz/german-qna-full/tree/24161ff65fff43c329f27f4533da0dd776a3cda7)
+* Size: 74,864 training samples
+* Columns: <code>frage</code> and <code>antwort</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | frage                                                                             | antwort                                                                             |
+  |:--------|:----------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|
+  | type    | string                                                                            | string                                                                              |
+  | details | <ul><li>min: 8 tokens</li><li>mean: 18.54 tokens</li><li>max: 42 tokens</li></ul> | <ul><li>min: 18 tokens</li><li>mean: 71.88 tokens</li><li>max: 165 tokens</li></ul> |
+* Samples:
+  | frage                                                                                                    | antwort                                                                                                                                                                                                                                                                                                                                                                   |
+  |:---------------------------------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+  | <code>Welche konkreten Maßnahmen für E-Autos sind im Koalitionsvertrag von Union und SPD geplant?</code> | <code>Geplant sind eine steuerliche Begünstigung für Dienstwagen als E-Autos, eine Sonderabschreibung für E-Fahrzeuge und eine Verlängerung der Kfz-Steuerbefreiung für Elektroautos bis 2035. Zudem soll der Ausbau des Ladenetzes beschleunigt werden.</code>                                                                                                           |
+  | <code>Welche Kritik übte Bundeskanzler Olaf Scholz an der CDU und Friedrich Merz?</code>                 | <code>Bundeskanzler Olaf Scholz warf der CDU unter ihrem Kanzlerkandidaten Friedrich Merz vor, sich sehr weit von der Linie der ehemaligen Bundeskanzlerin Angela Merkel entfernt zu haben. Er sagte, die CDU habe sich von ihren sozialen Werten abgewandt und warnte vor ihrer konservativen Politik, insbesondere in der Rentenpolitik.</code>                         |
+  | <code>Welche Koalitionspräferenz äußerte Aiwanger?</code>                                                | <code>Aiwanger äußerte die Hoffnung auf eine "bürgerliche Koalition der Mitte" im Bundestag, idealerweise mit seiner Partei. Er zeigte sich besorgt über eine mögliche Koalition aus Schwarz-Rot-Grün, da diese die Probleme des Landes seiner Meinung nach nicht lösen würde. Sollte seine Partei nicht in Berlin vertreten sein, plane er, in Bayern zu bleiben.</code> |
+* Loss: [<code>CachedMultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cachedmultiplenegativesrankingloss) with these parameters:
+  ```json
+  {
+      "scale": 20.0,
+      "similarity_fct": "cos_sim",
+      "mini_batch_size": 8,
+      "gather_across_devices": false
+  }
+  ```
+
+### Evaluation Dataset
+
+#### german-qna-full
+
+* Dataset: [german-qna-full](https://huggingface.co/datasets/ktcapraz/german-qna-full) at [24161ff](https://huggingface.co/datasets/ktcapraz/german-qna-full/tree/24161ff65fff43c329f27f4533da0dd776a3cda7)
+* Size: 24,955 evaluation samples
+* Columns: <code>frage</code> and <code>antwort</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | frage                                                                             | antwort                                                                             |
+  |:--------|:----------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|
+  | type    | string                                                                            | string                                                                              |
+  | details | <ul><li>min: 8 tokens</li><li>mean: 18.44 tokens</li><li>max: 40 tokens</li></ul> | <ul><li>min: 18 tokens</li><li>mean: 71.59 tokens</li><li>max: 168 tokens</li></ul> |
+* Samples:
+  | frage                                                                                                           | antwort                                                                                                                                                                                                                                                                                                                                                                                        |
+  |:----------------------------------------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+  | <code>Warum haben Griechenland und Italien viele Lobbyisten für fossile Brennstoffe zur COP29 entsandt?</code>  | <code>Griechenland und Italien sind die größten Abnehmer von aserbaidschanischem Gas. Beide Länder sind auf die südeuropäische Erdgaspipeline angewiesen, die Aserbaidschan über die Türkei mit Europa verbindet und eine Kapazität von mindestens 10 Milliarden Kubikmetern Gas pro Jahr hat. Dies erklärt die hohe Präsenz von Lobbyisten für fossile Brennstoffe aus diesen Ländern.</code> |
+  | <code>Welche Strafe erhielt der Angeklagte und warum?</code>                                                    | <code>Der 29-jährige Angeklagte wurde zu fünfeinhalb Jahren Haft verurteilt. Die Strafkammer berücksichtigte sein Geständnis, kritisierte jedoch, dass er seinen Tatbeitrag herunterspielen wollte. Strafverschärfend wirkte, dass die Seniorin gefesselt zurückgelassen wurde und unter Todesangst litt.</code>                                                                               |
+  | <code>Wann werden die neuen Direktverbindungen zwischen Deutschland und Italien voraussichtlich starten?</code> | <code>Die Direktverbindungen im Hochgeschwindigkeitszug von München nach Mailand und Rom sollen voraussichtlich ab Dezember 2026 starten. Zunächst wird es je eine Verbindung pro Tag geben, mit italienischen Frecciarossa-Zügen, die auch in Deutschland verkehren.</code>                                                                                                                   |
+* Loss: [<code>CachedMultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cachedmultiplenegativesrankingloss) with these parameters:
+  ```json
+  {
+      "scale": 20.0,
+      "similarity_fct": "cos_sim",
+      "mini_batch_size": 8,
+      "gather_across_devices": false
+  }
+  ```
+
+### Training Hyperparameters
+#### Non-Default Hyperparameters
+
+- `eval_strategy`: steps
+- `per_device_train_batch_size`: 128
+- `per_device_eval_batch_size`: 128
+- `learning_rate`: 2e-05
+- `num_train_epochs`: 1
+- `warmup_ratio`: 0.1
+- `fp16`: True
+- `prompts`: {'frage': 'task: search result | query: ', 'antwort': 'title: none | text: '}
+- `batch_sampler`: no_duplicates
+
+#### All Hyperparameters
+<details><summary>Click to expand</summary>
+
+- `overwrite_output_dir`: False
+- `do_predict`: False
+- `eval_strategy`: steps
+- `prediction_loss_only`: True
+- `per_device_train_batch_size`: 128
+- `per_device_eval_batch_size`: 128
+- `per_gpu_train_batch_size`: None
+- `per_gpu_eval_batch_size`: None
+- `gradient_accumulation_steps`: 1
+- `eval_accumulation_steps`: None
+- `torch_empty_cache_steps`: None
+- `learning_rate`: 2e-05
+- `weight_decay`: 0.0
+- `adam_beta1`: 0.9
+- `adam_beta2`: 0.999
+- `adam_epsilon`: 1e-08
+- `max_grad_norm`: 1.0
+- `num_train_epochs`: 1
+- `max_steps`: -1
+- `lr_scheduler_type`: linear
+- `lr_scheduler_kwargs`: {}
+- `warmup_ratio`: 0.1
+- `warmup_steps`: 0
+- `log_level`: passive
+- `log_level_replica`: warning
+- `log_on_each_node`: True
+- `logging_nan_inf_filter`: True
+- `save_safetensors`: True
+- `save_on_each_node`: False
+- `save_only_model`: False
+- `restore_callback_states_from_checkpoint`: False
+- `no_cuda`: False
+- `use_cpu`: False
+- `use_mps_device`: False
+- `seed`: 42
+- `data_seed`: None
+- `jit_mode_eval`: False
+- `use_ipex`: False
+- `bf16`: False
+- `fp16`: True
+- `fp16_opt_level`: O1
+- `half_precision_backend`: auto
+- `bf16_full_eval`: False
+- `fp16_full_eval`: False
+- `tf32`: None
+- `local_rank`: 0
+- `ddp_backend`: None
+- `tpu_num_cores`: None
+- `tpu_metrics_debug`: False
+- `debug`: []
+- `dataloader_drop_last`: False
+- `dataloader_num_workers`: 0
+- `dataloader_prefetch_factor`: None
+- `past_index`: -1
+- `disable_tqdm`: False
+- `remove_unused_columns`: True
+- `label_names`: None
+- `load_best_model_at_end`: False
+- `ignore_data_skip`: False
+- `fsdp`: []
+- `fsdp_min_num_params`: 0
+- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
+- `fsdp_transformer_layer_cls_to_wrap`: None
+- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
+- `parallelism_config`: None
+- `deepspeed`: None
+- `label_smoothing_factor`: 0.0
+- `optim`: adamw_torch_fused
+- `optim_args`: None
+- `adafactor`: False
+- `group_by_length`: False
+- `length_column_name`: length
+- `ddp_find_unused_parameters`: None
+- `ddp_bucket_cap_mb`: None
+- `ddp_broadcast_buffers`: False
+- `dataloader_pin_memory`: True
+- `dataloader_persistent_workers`: False
+- `skip_memory_metrics`: True
+- `use_legacy_prediction_loop`: False
+- `push_to_hub`: False
+- `resume_from_checkpoint`: None
+- `hub_model_id`: None
+- `hub_strategy`: every_save
+- `hub_private_repo`: None
+- `hub_always_push`: False
+- `hub_revision`: None
+- `gradient_checkpointing`: False
+- `gradient_checkpointing_kwargs`: None
+- `include_inputs_for_metrics`: False
+- `include_for_metrics`: []
+- `eval_do_concat_batches`: True
+- `fp16_backend`: auto
+- `push_to_hub_model_id`: None
+- `push_to_hub_organization`: None
+- `mp_parameters`: 
+- `auto_find_batch_size`: False
+- `full_determinism`: False
+- `torchdynamo`: None
+- `ray_scope`: last
+- `ddp_timeout`: 1800
+- `torch_compile`: False
+- `torch_compile_backend`: None
+- `torch_compile_mode`: None
+- `include_tokens_per_second`: False
+- `include_num_input_tokens_seen`: False
+- `neftune_noise_alpha`: None
+- `optim_target_modules`: None
+- `batch_eval_metrics`: False
+- `eval_on_start`: False
+- `use_liger_kernel`: False
+- `liger_kernel_config`: None
+- `eval_use_gather_object`: False
+- `average_tokens_across_devices`: False
+- `prompts`: {'frage': 'task: search result | query: ', 'antwort': 'title: none | text: '}
+- `batch_sampler`: no_duplicates
+- `multi_dataset_batch_sampler`: proportional
+- `router_mapping`: {}
+- `learning_rate_mapping`: {}
+
+</details>
+
+### Training Logs
+| Epoch  | Step | Training Loss | Validation Loss | germanqna-eval_cosine_ndcg@10 |
+|:------:|:----:|:-------------:|:---------------:|:-----------------------------:|
+| -1     | -1   | -             | -               | 0.6554                        |
+| 0.0342 | 20   | 0.4638        | -               | -                             |
+| 0.0684 | 40   | 0.125         | -               | -                             |
+| 0.1026 | 60   | 0.1045        | -               | -                             |
+| 0.1368 | 80   | 0.1135        | -               | -                             |
+| 0.1709 | 100  | 0.1174        | 0.1014          | 0.8230                        |
+| 0.2051 | 120  | 0.1047        | -               | -                             |
+| 0.2393 | 140  | 0.1092        | -               | -                             |
+| 0.2735 | 160  | 0.1067        | -               | -                             |
+| 0.3077 | 180  | 0.0822        | -               | -                             |
+| 0.3419 | 200  | 0.0809        | 0.0840          | 0.8315                        |
+| 0.3761 | 220  | 0.0767        | -               | -                             |
+| 0.4103 | 240  | 0.0841        | -               | -                             |
+| 0.4444 | 260  | 0.0654        | -               | -                             |
+| 0.4786 | 280  | 0.0771        | -               | -                             |
+| 0.5128 | 300  | 0.0843        | 0.0699          | 0.8462                        |
+| 0.5470 | 320  | 0.076         | -               | -                             |
+| 0.5812 | 340  | 0.0543        | -               | -                             |
+| 0.6154 | 360  | 0.0563        | -               | -                             |
+| 0.6496 | 380  | 0.0584        | -               | -                             |
+| 0.6838 | 400  | 0.053         | 0.0593          | 0.8596                        |
+| 0.7179 | 420  | 0.0525        | -               | -                             |
+| 0.7521 | 440  | 0.0625        | -               | -                             |
+| 0.7863 | 460  | 0.0544        | -               | -                             |
+| 0.8205 | 480  | 0.0537        | -               | -                             |
+| 0.8547 | 500  | 0.0651        | 0.0505          | 0.8741                        |
+
+
+### Framework Versions
+- Python: 3.12.11
+- Sentence Transformers: 5.1.0
+- Transformers: 4.56.1
+- PyTorch: 2.8.0+cu126
+- Accelerate: 1.10.1
+- Datasets: 4.0.0
+- Tokenizers: 0.22.0
+
+## Citation
+
+### BibTeX
+
+#### Sentence Transformers
+```bibtex
+@inproceedings{reimers-2019-sentence-bert,
+    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
+    author = "Reimers, Nils and Gurevych, Iryna",
+    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
+    month = "11",
+    year = "2019",
+    publisher = "Association for Computational Linguistics",
+    url = "https://arxiv.org/abs/1908.10084",
+}
+```
+
+#### CachedMultipleNegativesRankingLoss
+```bibtex
+@misc{gao2021scaling,
+    title={Scaling Deep Contrastive Learning Batch Size under Memory Limited Setup},
+    author={Luyu Gao and Yunyi Zhang and Jiawei Han and Jamie Callan},
+    year={2021},
+    eprint={2101.06983},
+    archivePrefix={arXiv},
+    primaryClass={cs.LG}
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->

added_tokens.json

@@ -0,0 +1,3 @@
+{
+  "<image_soft_token>": 262144
+}

config.json

@@ -0,0 +1,60 @@
+{
+  "_sliding_window_pattern": 6,
+  "architectures": [
+    "Gemma3TextModel"
+  ],
+  "attention_bias": false,
+  "attention_dropout": 0.0,
+  "attn_logit_softcapping": null,
+  "bos_token_id": 2,
+  "dtype": "float32",
+  "eos_token_id": 1,
+  "final_logit_softcapping": null,
+  "head_dim": 256,
+  "hidden_activation": "gelu_pytorch_tanh",
+  "hidden_size": 768,
+  "initializer_range": 0.02,
+  "intermediate_size": 1152,
+  "layer_types": [
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "sliding_attention",
+    "full_attention"
+  ],
+  "max_position_embeddings": 2048,
+  "model_type": "gemma3_text",
+  "num_attention_heads": 3,
+  "num_hidden_layers": 24,
+  "num_key_value_heads": 1,
+  "pad_token_id": 0,
+  "query_pre_attn_scalar": 256,
+  "rms_norm_eps": 1e-06,
+  "rope_local_base_freq": 10000.0,
+  "rope_scaling": null,
+  "rope_theta": 1000000.0,
+  "sliding_window": 512,
+  "transformers_version": "4.56.1",
+  "use_bidirectional_attention": true,
+  "use_cache": true,
+  "vocab_size": 262144
+}

config_sentence_transformers.json

@@ -0,0 +1,26 @@
+{
+  "model_type": "SentenceTransformer",
+  "__version__": {
+    "sentence_transformers": "5.1.0",
+    "transformers": "4.56.1",
+    "pytorch": "2.8.0+cu126"
+  },
+  "prompts": {
+    "query": "task: search result | query: ",
+    "document": "title: none | text: ",
+    "BitextMining": "task: search result | query: ",
+    "Clustering": "task: clustering | query: ",
+    "Classification": "task: classification | query: ",
+    "InstructionRetrieval": "task: code retrieval | query: ",
+    "MultilabelClassification": "task: classification | query: ",
+    "PairClassification": "task: sentence similarity | query: ",
+    "Reranking": "task: search result | query: ",
+    "Retrieval": "task: search result | query: ",
+    "Retrieval-query": "task: search result | query: ",
+    "Retrieval-document": "title: none | text: ",
+    "STS": "task: sentence similarity | query: ",
+    "Summarization": "task: summarization | query: "
+  },
+  "default_prompt_name": null,
+  "similarity_fn_name": "cosine"
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:afec63305067be59ef27c04b230efcf6fe716fb39a02a20298aac751c0972c79
+size 1211486072

modules.json

@@ -0,0 +1,32 @@
+[
+  {
+    "idx": 0,
+    "name": "0",
+    "path": "",
+    "type": "sentence_transformers.models.Transformer"
+  },
+  {
+    "idx": 1,
+    "name": "1",
+    "path": "1_Pooling",
+    "type": "sentence_transformers.models.Pooling"
+  },
+  {
+    "idx": 2,
+    "name": "2",
+    "path": "2_Dense",
+    "type": "sentence_transformers.models.Dense"
+  },
+  {
+    "idx": 3,
+    "name": "3",
+    "path": "3_Dense",
+    "type": "sentence_transformers.models.Dense"
+  },
+  {
+    "idx": 4,
+    "name": "4",
+    "path": "4_Normalize",
+    "type": "sentence_transformers.models.Normalize"
+  }
+]

sentence_bert_config.json

@@ -0,0 +1,4 @@
+{
+    "max_seq_length": 2048,
+    "do_lower_case": false
+}

special_tokens_map.json

@@ -0,0 +1,33 @@
+{
+  "boi_token": "<start_of_image>",
+  "bos_token": {
+    "content": "<bos>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "eoi_token": "<end_of_image>",
+  "eos_token": {
+    "content": "<eos>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "image_token": "<image_soft_token>",
+  "pad_token": {
+    "content": "<pad>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "unk_token": {
+    "content": "<unk>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  }
+}

tokenizer.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:216e2a79606fe879c9f17c529c71cd241338407fd5646b595ffd3c4b9ea1d503
+size 33385262

tokenizer.model

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1299c11d7cf632ef3b4e11937501358ada021bbdf7c47638d13c0ee982f2e79c
+size 4689074