README.md

metadata

dataset_info:
  features:
    - name: input
      dtype: string
    - name: output
      dtype: string
    - name: score_sts
      dtype: float64
  splits:
    - name: train
      num_bytes: 9126105
      num_examples: 9843
    - name: validation
      num_bytes: 467836
      num_examples: 517
  download_size: 5740699
  dataset_size: 9593941
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: validation
        path: data/validation-*
license: apache-2.0
language:
  - de
task_categories:
  - feature-extraction
  - sentence-similarity
size_categories:
  - 1K<n<10K

Modifications

This is the original and unchanged german translated dataset (train and validation splits) in original order from AgentWaller/german-oasst1-qa-format with added cosine-similarity scores. The scores have been calculated using the best static multilingual embedding model (for my needs): sentence-transformers/static-similarity-mrl-multilingual-v1 for faster distinction if an answer corresponds to a query upon the content.

Why?

To build an experimental static embedding model based upon more 'spoken' german contexts, I need to filter out mainly answers that are more 'feedback' than answers and have no string-based context (check the german examples). As all scores already have been calculated, why not re-upload it to HF?

Usage

You can use the Dataset.filter function upon import.

german_oasst1 = load_dataset("MarcGrumpyOlejak/german-oasst1-qa-format-scored").filter(lambda example: _['score_sts'] >= 0.15 and _['score_sts'] < 0.99)

Three examples

Example entry #900

• input: Wie können wir dem Klimawandel begegnen?
• Output: Während wir unsere Zähne waschen, mit unseren eigenen Wassersäcken aus Plastik und ähnlichem Gebrauch, sagen einige, dass wir uns mit einer begrenzten und begrenzten Nutzung von Flugzeugen und Autos erholen werden, und mit ein paar kleinen Entscheidungen von individuellen Graden. Und ich werde nicht leugnen, dass diese Schritte in die richtige Richtung sind. Aber der Kern des Problems, unser Konsum in der Gesellschaft (Macht, Ressource,...), die von den Profiten der Enpresen über jeden anderen Zweck, durch die Flüsse, Meer, Land und Atmosphäre, und viele Tiere in der Natur, und durch die direkten Schäden vieler Lebewesen zugibt.
• score_sts: 0.058272745460271835

Example entry #1000

• input: Wie würden Sie die geometrische Interpretation des Gradienten einer Vektorfunktion beschreiben?
• output: Ich liebe herausfordernde Fragen wie diese. Die geometrische Interpretation des Gradienten einer Vektorfunktion ist, dass sie die Richtung und Größe der maximalen Veränderung der Funktion an einem bestimmten Punkt darstellt. Mit anderen Worten, der Gradient zeigt auf die Richtung, in der die Funktion an diesem Punkt schneller ansteigt, und die Veränderungsrate in dieser Richtung. Geometrisch kann der Gradient als Vektor betrachtet werden, der in die Richtung des maximalen Wachstums der Funktion zeigt und dessen Größe proportional zur Veränderungsrate in dieser Richtung ist. Der Gradient einer Vektorfunktion ist daher ein Vektor der Dimension gleich der Dimension des Raumes, in dem die Funktion definiert ist. Zum Beispiel, wenn wir eine Vektorfunktion f (x,y,z) haben, die ein skalares Feld im dreidimensionalen Raum beschreibt, der Gradient von f an einem Punkt (x0, y0, z0) wird es in die Richtung zeigen, in der das Feld an diesem Punkt schneller wächst, und seine Größe wird proportional zur Geschwindigkeit der f-Änderung in dieser Richtung sein. Diese geometrische Interpretation des Gradienten ist sehr nützlich in vielen Bereichen der Physik, der Technik und Mathematik hat mehr angewandt.
• score_sts: 0.6131247282028198

Example entry #5000

• input: Schreiben Sie ein Lied über das Leben einer Fliege in den Chinesen des 5. Jahrhunderts
• output: Was für ein Vers wollen Sie? Oder haben Sie schon eine Idee? Ich brauche mehr Informationen.
• score_sts: 0.021149951964616776