Upload 106 files

sts.py

@@ -0,0 +1,92 @@
+import json
+import datasets
+import os
+
+_CITATION = """\
+"""
+
+_LICENSE = """\
+"""
+
+_DESCRIPTION = """\
+SemEval 2022 Task 8: Multilingual News Article Similarity
+"""
+
+_LANGUAGES ={'ar-de': 'ar-de', 'ar-en': 'ar-en', 'ar-es': 'ar-es', 'ar-fa': 'ar-fa', 'ar-fi': 'ar-fi', 'ar-fr': 'ar-fr', 'ar-hi': 'ar-hi', 'ar-it': 'ar-it', 'ar-iw': 'ar-iw', 'ar-ja': 'ar-ja', 'ar-kk': 'ar-kk', 'ar-ko': 'ar-ko', 'ar-la': 'ar-la', 'ar-nl': 'ar-nl', 'ar-pl': 'ar-pl', 'ar-pt': 'ar-pt', 'ar-ru': 'ar-ru', 'ar-tr': 'ar-tr', 'ar-uk': 'ar-uk', 'ar-uz': 'ar-uz', 'ar-zh': 'ar-zh', 'de-ar': 'de-ar', 'de-en': 'de-en', 'de-es': 'de-es', 'de-fa': 'de-fa', 'de-fi': 'de-fi', 'de-fr': 'de-fr', 'de-hi': 'de-hi', 'de-it': 'de-it', 'de-iw': 'de-iw', 'de-ja': 'de-ja', 'de-kk': 'de-kk', 'de-ko': 'de-ko', 'de-la': 'de-la', 'de-nl': 'de-nl', 'de-pl': 'de-pl', 'de-pt': 'de-pt', 'de-ru': 'de-ru', 'de-tr': 'de-tr', 'de-uk': 'de-uk', 'de-uz': 'de-uz', 'de-zh': 'de-zh', 'en-ar': 'en-ar', 'en-de': 'en-de', 'en-es': 'en-es', 'en-fa': 'en-fa', 'en-fi': 'en-fi', 'en-fr': 'en-fr', 'en-hi': 'en-hi', 'en-it': 'en-it', 'en-iw': 'en-iw', 'en-ja': 'en-ja', 'en-kk': 'en-kk', 'en-ko': 'en-ko', 'en-la': 'en-la', 'en-nl': 'en-nl', 'en-pl': 'en-pl', 'en-pt': 'en-pt', 'en-ru': 'en-ru', 'en-tr': 'en-tr', 'en-uk': 'en-uk', 'en-uz': 'en-uz', 'en-zh': 'en-zh', 'es-ar': 'es-ar', 'es-de': 'es-de', 'es-en': 'es-en', 'es-fa': 'es-fa', 'es-fi': 'es-fi', 'es-fr': 'es-fr', 'es-hi': 'es-hi', 'es-it': 'es-it', 'es-iw': 'es-iw', 'es-ja': 'es-ja', 'es-kk': 'es-kk', 'es-ko': 'es-ko', 'es-la': 'es-la', 'es-nl': 'es-nl', 'es-pl': 'es-pl', 'es-pt': 'es-pt', 'es-ru': 'es-ru', 'es-tr': 'es-tr', 'es-uk': 'es-uk', 'es-uz': 'es-uz', 'es-zh': 'es-zh', 'fa-ar': 'fa-ar', 'fa-de': 'fa-de', 'fa-en': 'fa-en', 'fa-es': 'fa-es', 'fa-fi': 'fa-fi', 'fa-fr': 'fa-fr', 'fa-hi': 'fa-hi', 'fa-it': 'fa-it', 'fa-iw': 'fa-iw', 'fa-ja': 'fa-ja', 'fa-kk': 'fa-kk', 'fa-ko': 'fa-ko', 'fa-la': 'fa-la', 'fa-nl': 'fa-nl', 'fa-pl': 'fa-pl', 'fa-pt': 'fa-pt', 'fa-ru': 'fa-ru', 'fa-tr': 'fa-tr', 'fa-uk': 'fa-uk', 'fa-uz': 'fa-uz', 'fa-zh': 'fa-zh', 'fi-ar': 'fi-ar', 'fi-de': 'fi-de', 'fi-en': 'fi-en', 'fi-es': 'fi-es', 'fi-fa': 'fi-fa', 'fi-fr': 'fi-fr', 'fi-hi': 'fi-hi', 'fi-it': 'fi-it', 'fi-iw': 'fi-iw', 'fi-ja': 'fi-ja', 'fi-kk': 'fi-kk', 'fi-ko': 'fi-ko', 'fi-la': 'fi-la', 'fi-nl': 'fi-nl', 'fi-pl': 'fi-pl', 'fi-pt': 'fi-pt', 'fi-ru': 'fi-ru', 'fi-tr': 'fi-tr', 'fi-uk': 'fi-uk', 'fi-uz': 'fi-uz', 'fi-zh': 'fi-zh', 'fr-ar': 'fr-ar', 'fr-de': 'fr-de', 'fr-en': 'fr-en', 'fr-es': 'fr-es', 'fr-fa': 'fr-fa', 'fr-fi': 'fr-fi', 'fr-hi': 'fr-hi', 'fr-it': 'fr-it', 'fr-iw': 'fr-iw', 'fr-ja': 'fr-ja', 'fr-kk': 'fr-kk', 'fr-ko': 'fr-ko', 'fr-la': 'fr-la', 'fr-nl': 'fr-nl', 'fr-pl': 'fr-pl', 'fr-pt': 'fr-pt', 'fr-ru': 'fr-ru', 'fr-tr': 'fr-tr', 'fr-uk': 'fr-uk', 'fr-uz': 'fr-uz', 'fr-zh': 'fr-zh', 'hi-ar': 'hi-ar', 'hi-de': 'hi-de', 'hi-en': 'hi-en', 'hi-es': 'hi-es', 'hi-fa': 'hi-fa', 'hi-fi': 'hi-fi', 'hi-fr': 'hi-fr', 'hi-it': 'hi-it', 'hi-iw': 'hi-iw', 'hi-ja': 'hi-ja', 'hi-kk': 'hi-kk', 'hi-ko': 'hi-ko', 'hi-la': 'hi-la', 'hi-nl': 'hi-nl', 'hi-pl': 'hi-pl', 'hi-pt': 'hi-pt', 'hi-ru': 'hi-ru', 'hi-tr': 'hi-tr', 'hi-uk': 'hi-uk', 'hi-uz': 'hi-uz', 'hi-zh': 'hi-zh', 'it-ar': 'it-ar', 'it-de': 'it-de', 'it-en': 'it-en', 'it-es': 'it-es', 'it-fa': 'it-fa', 'it-fi': 'it-fi', 'it-fr': 'it-fr', 'it-hi': 'it-hi', 'it-iw': 'it-iw', 'it-ja': 'it-ja', 'it-kk': 'it-kk', 'it-ko': 'it-ko', 'it-la': 'it-la', 'it-nl': 'it-nl', 'it-pl': 'it-pl', 'it-pt': 'it-pt', 'it-ru': 'it-ru', 'it-tr': 'it-tr', 'it-uk': 'it-uk', 'it-uz': 'it-uz', 'it-zh': 'it-zh', 'iw-ar': 'iw-ar', 'iw-de': 'iw-de', 'iw-en': 'iw-en', 'iw-es': 'iw-es', 'iw-fa': 'iw-fa', 'iw-fi': 'iw-fi', 'iw-fr': 'iw-fr', 'iw-hi': 'iw-hi', 'iw-it': 'iw-it', 'iw-ja': 'iw-ja', 'iw-kk': 'iw-kk', 'iw-ko': 'iw-ko', 'iw-la': 'iw-la', 'iw-nl': 'iw-nl', 'iw-pl': 'iw-pl', 'iw-pt': 'iw-pt', 'iw-ru': 'iw-ru', 'iw-tr': 'iw-tr', 'iw-uk': 'iw-uk', 'iw-uz': 'iw-uz', 'iw-zh': 'iw-zh', 'ja-ar': 'ja-ar', 'ja-de': 'ja-de', 'ja-en': 'ja-en', 'ja-es': 'ja-es', 'ja-fa': 'ja-fa', 'ja-fi': 'ja-fi', 'ja-fr': 'ja-fr', 'ja-hi': 'ja-hi', 'ja-it': 'ja-it', 'ja-iw': 'ja-iw', 'ja-kk': 'ja-kk', 'ja-ko': 'ja-ko', 'ja-la': 'ja-la', 'ja-nl': 'ja-nl', 'ja-pl': 'ja-pl', 'ja-pt': 'ja-pt', 'ja-ru': 'ja-ru', 'ja-tr': 'ja-tr', 'ja-uk': 'ja-uk', 'ja-uz': 'ja-uz', 'ja-zh': 'ja-zh', 'kk-ar': 'kk-ar', 'kk-de': 'kk-de', 'kk-en': 'kk-en', 'kk-es': 'kk-es', 'kk-fa': 'kk-fa', 'kk-fi': 'kk-fi', 'kk-fr': 'kk-fr', 'kk-hi': 'kk-hi', 'kk-it': 'kk-it', 'kk-iw': 'kk-iw', 'kk-ja': 'kk-ja', 'kk-ko': 'kk-ko', 'kk-la': 'kk-la', 'kk-nl': 'kk-nl', 'kk-pl': 'kk-pl', 'kk-pt': 'kk-pt', 'kk-ru': 'kk-ru', 'kk-tr': 'kk-tr', 'kk-uk': 'kk-uk', 'kk-uz': 'kk-uz', 'kk-zh': 'kk-zh', 'ko-ar': 'ko-ar', 'ko-de': 'ko-de', 'ko-en': 'ko-en', 'ko-es': 'ko-es', 'ko-fa': 'ko-fa', 'ko-fi': 'ko-fi', 'ko-fr': 'ko-fr', 'ko-hi': 'ko-hi', 'ko-it': 'ko-it', 'ko-iw': 'ko-iw', 'ko-ja': 'ko-ja', 'ko-kk': 'ko-kk', 'ko-la': 'ko-la', 'ko-nl': 'ko-nl', 'ko-pl': 'ko-pl', 'ko-pt': 'ko-pt', 'ko-ru': 'ko-ru', 'ko-tr': 'ko-tr', 'ko-uk': 'ko-uk', 'ko-uz': 'ko-uz', 'ko-zh': 'ko-zh', 'la-ar': 'la-ar', 'la-de': 'la-de', 'la-en': 'la-en', 'la-es': 'la-es', 'la-fa': 'la-fa', 'la-fi': 'la-fi', 'la-fr': 'la-fr', 'la-hi': 'la-hi', 'la-it': 'la-it', 'la-iw': 'la-iw', 'la-ja': 'la-ja', 'la-kk': 'la-kk', 'la-ko': 'la-ko', 'la-nl': 'la-nl', 'la-pl': 'la-pl', 'la-pt': 'la-pt', 'la-ru': 'la-ru', 'la-tr': 'la-tr', 'la-uk': 'la-uk', 'la-uz': 'la-uz', 'la-zh': 'la-zh', 'nl-ar': 'nl-ar', 'nl-de': 'nl-de', 'nl-en': 'nl-en', 'nl-es': 'nl-es', 'nl-fa': 'nl-fa', 'nl-fi': 'nl-fi', 'nl-fr': 'nl-fr', 'nl-hi': 'nl-hi', 'nl-it': 'nl-it', 'nl-iw': 'nl-iw', 'nl-ja': 'nl-ja', 'nl-kk': 'nl-kk', 'nl-ko': 'nl-ko', 'nl-la': 'nl-la', 'nl-pl': 'nl-pl', 'nl-pt': 'nl-pt', 'nl-ru': 'nl-ru', 'nl-tr': 'nl-tr', 'nl-uk': 'nl-uk', 'nl-uz': 'nl-uz', 'nl-zh': 'nl-zh', 'pl-ar': 'pl-ar', 'pl-de': 'pl-de', 'pl-en': 'pl-en', 'pl-es': 'pl-es', 'pl-fa': 'pl-fa', 'pl-fi': 'pl-fi', 'pl-fr': 'pl-fr', 'pl-hi': 'pl-hi', 'pl-it': 'pl-it', 'pl-iw': 'pl-iw', 'pl-ja': 'pl-ja', 'pl-kk': 'pl-kk', 'pl-ko': 'pl-ko', 'pl-la': 'pl-la', 'pl-nl': 'pl-nl', 'pl-pt': 'pl-pt', 'pl-ru': 'pl-ru', 'pl-tr': 'pl-tr', 'pl-uk': 'pl-uk', 'pl-uz': 'pl-uz', 'pl-zh': 'pl-zh', 'pt-ar': 'pt-ar', 'pt-de': 'pt-de', 'pt-en': 'pt-en', 'pt-es': 'pt-es', 'pt-fa': 'pt-fa', 'pt-fi': 'pt-fi', 'pt-fr': 'pt-fr', 'pt-hi': 'pt-hi', 'pt-it': 'pt-it', 'pt-iw': 'pt-iw', 'pt-ja': 'pt-ja', 'pt-kk': 'pt-kk', 'pt-ko': 'pt-ko', 'pt-la': 'pt-la', 'pt-nl': 'pt-nl', 'pt-pl': 'pt-pl', 'pt-ru': 'pt-ru', 'pt-tr': 'pt-tr', 'pt-uk': 'pt-uk', 'pt-uz': 'pt-uz', 'pt-zh': 'pt-zh', 'ru-ar': 'ru-ar', 'ru-de': 'ru-de', 'ru-en': 'ru-en', 'ru-es': 'ru-es', 'ru-fa': 'ru-fa', 'ru-fi': 'ru-fi', 'ru-fr': 'ru-fr', 'ru-hi': 'ru-hi', 'ru-it': 'ru-it', 'ru-iw': 'ru-iw', 'ru-ja': 'ru-ja', 'ru-kk': 'ru-kk', 'ru-ko': 'ru-ko', 'ru-la': 'ru-la', 'ru-nl': 'ru-nl', 'ru-pl': 'ru-pl', 'ru-pt': 'ru-pt', 'ru-tr': 'ru-tr', 'ru-uk': 'ru-uk', 'ru-uz': 'ru-uz', 'ru-zh': 'ru-zh', 'tr-ar': 'tr-ar', 'tr-de': 'tr-de', 'tr-en': 'tr-en', 'tr-es': 'tr-es', 'tr-fa': 'tr-fa', 'tr-fi': 'tr-fi', 'tr-fr': 'tr-fr', 'tr-hi': 'tr-hi', 'tr-it': 'tr-it', 'tr-iw': 'tr-iw', 'tr-ja': 'tr-ja', 'tr-kk': 'tr-kk', 'tr-ko': 'tr-ko', 'tr-la': 'tr-la', 'tr-nl': 'tr-nl', 'tr-pl': 'tr-pl', 'tr-pt': 'tr-pt', 'tr-ru': 'tr-ru', 'tr-uk': 'tr-uk', 'tr-uz': 'tr-uz', 'tr-zh': 'tr-zh', 'uk-ar': 'uk-ar', 'uk-de': 'uk-de', 'uk-en': 'uk-en', 'uk-es': 'uk-es', 'uk-fa': 'uk-fa', 'uk-fi': 'uk-fi', 'uk-fr': 'uk-fr', 'uk-hi': 'uk-hi', 'uk-it': 'uk-it', 'uk-iw': 'uk-iw', 'uk-ja': 'uk-ja', 'uk-kk': 'uk-kk', 'uk-ko': 'uk-ko', 'uk-la': 'uk-la', 'uk-nl': 'uk-nl', 'uk-pl': 'uk-pl', 'uk-pt': 'uk-pt', 'uk-ru': 'uk-ru', 'uk-tr': 'uk-tr', 'uk-uz': 'uk-uz', 'uk-zh': 'uk-zh', 'uz-ar': 'uz-ar', 'uz-de': 'uz-de', 'uz-en': 'uz-en', 'uz-es': 'uz-es', 'uz-fa': 'uz-fa', 'uz-fi': 'uz-fi', 'uz-fr': 'uz-fr', 'uz-hi': 'uz-hi', 'uz-it': 'uz-it', 'uz-iw': 'uz-iw', 'uz-ja': 'uz-ja', 'uz-kk': 'uz-kk', 'uz-ko': 'uz-ko', 'uz-la': 'uz-la', 'uz-nl': 'uz-nl', 'uz-pl': 'uz-pl', 'uz-pt': 'uz-pt', 'uz-ru': 'uz-ru', 'uz-tr': 'uz-tr', 'uz-uk': 'uz-uk', 'uz-zh': 'uz-zh', 'zh-ar': 'zh-ar', 'zh-de': 'zh-de', 'zh-en': 'zh-en', 'zh-es': 'zh-es', 'zh-fa': 'zh-fa', 'zh-fi': 'zh-fi', 'zh-fr': 'zh-fr', 'zh-hi': 'zh-hi', 'zh-it': 'zh-it', 'zh-iw': 'zh-iw', 'zh-ja': 'zh-ja', 'zh-kk': 'zh-kk', 'zh-ko': 'zh-ko', 'zh-la': 'zh-la', 'zh-nl': 'zh-nl', 'zh-pl': 'zh-pl', 'zh-pt': 'zh-pt', 'zh-ru': 'zh-ru', 'zh-tr': 'zh-tr', 'zh-uk': 'zh-uk', 'zh-uz': 'zh-uz'}
+
+_ALL_LANGUAGES = "all_languages"
+_HOMEPAGE_URL = "https://huggingface.co/datasets/Romzzeess/custom_sts/tree/main"
+_DOWNLOAD_URL = "{lang}/{split}.jsonl"
+_VERSION = "1.0.0"
+
+
+class STS22Task8Config(datasets.BuilderConfig):
+    """BuilderConfig for STS22Task8Config."""
+
+    def __init__(self, languages=None, **kwargs):
+        super(STS22Task8Config, self).__init__(version=datasets.Version(_VERSION, ""), **kwargs),
+        self.languages = languages
+
+
+class STS22Task8(datasets.GeneratorBasedBuilder):
+
+    """Multilingual News Article Similarity"""
+
+    BUILDER_CONFIGS = [
+        STS22Task8Config(
+            name=_ALL_LANGUAGES,
+            languages=_LANGUAGES,
+            description="Multilingual News Article Similarity",
+        )
+    ] + [
+        STS22Task8Config(
+            name=lang,
+            languages=[lang],
+            description=f"{_LANGUAGES[lang]} examples from a collection of multilingual news articles",
+        )
+        for lang in _LANGUAGES
+    ]
+    BUILDER_CONFIG_CLASS = STS22Task8Config
+    DEFAULT_CONFIG_NAME = _ALL_LANGUAGES
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features(
+                {
+                    "id": datasets.Value("string"),
+                    "sentence1": datasets.Value("string"),
+                    "sentence2": datasets.Value("string"),
+                    "score": datasets.Value("float32"),
+                },
+            ),
+            supervised_keys=None,
+            license=_LICENSE,
+            homepage=_HOMEPAGE_URL,
+            citation=_CITATION,
+        )
+
+    def _split_generators(self, dl_manager):
+        # train_urls = [_DOWNLOAD_URL.format(split="train", lang=lang) for lang in self.config.languages if lang in _LANGUAGES_TRAIN]
+        test_urls = [
+            _DOWNLOAD_URL.format(split="test", lang=lang) for lang in self.config.languages if lang in _LANGUAGES
+        ]
+
+        # train_paths = dl_manager.download_and_extract(train_urls)
+        test_paths = dl_manager.download_and_extract(test_urls)
+
+        return [
+            # datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"file_paths": train_paths}),
+            datasets.SplitGenerator(name=datasets.Split.TEST, gen_kwargs={"file_paths": test_paths}),
+        ]
+
+    def _generate_examples(self, file_paths):
+        row_count = 0
+        for file_path in file_paths:
+            with open(file_path, "r", encoding="utf-8") as f:
+                for line in f:
+                    yield row_count, json.loads(line)
+                    row_count += 1
+
+
+