Add a dataset loading script

README.md

@@ -0,0 +1,64 @@
+---
+language:
+- ja
+size_categories:
+- 10K<n<100K
+dataset_info:
+  features:
+  - name: qid
+    dtype: string
+  - name: competition
+    dtype: string
+  - name: timestamp
+    dtype: string
+  - name: section
+    dtype: string
+  - name: number
+    dtype: string
+  - name: original_question
+    dtype: string
+  - name: original_answer
+    dtype: string
+  - name: original_additional_info
+    dtype: string
+  - name: question
+    dtype: string
+  - name: answers
+    list: string
+  - name: passages
+    list:
+    - name: passage_id
+      dtype: int32
+    - name: title
+      dtype: string
+    - name: text
+      dtype: string
+  - name: positive_passage_indices
+    list: int32
+  - name: negative_passage_indices
+    list: int32
+  splits:
+  - name: train
+    num_bytes: 1742881639
+    num_examples: 22335
+  - name: validation
+    num_bytes: 78671502
+    num_examples: 1000
+  download_size: 665253451
+  dataset_size: 1821553141
+---
+
+# Dataset Card for llm-book/aio-retriever
+
+書籍『大規模言語モデル入門』で使用する、「AI王」コンペティションのQAデータセット（文書検索モデル訓練用）です。
+GitHub リポジトリ [cl-tohoku/quiz-datasets](https://github.com/cl-tohoku/quiz-datasets) で公開されているデータセットを利用しています。
+
+## Licence
+
+本データセットに含まれる一部のクイズ問題の著作権は [abc/EQIDEN 実行委員会](https://abc-dive.com/portal/)に帰属するものであり、これらのクイズ問題は本書における使用許諾を得ているものです。
+
+本データセットに含まれる一部のクイズ問題は[株式会社キュービック](http://www.qbik.co.jp/)および[株式会社カプリティオ](https://capriccio.tokyo/)に依頼し作成したものであり、これらのクイズ問題は[クリエイティブ・コモンズ表示・継承ライセンス 4.0 (CC BY-SA 4.0)](https://creativecommons.org/licenses/by-sa/4.0/deed.ja) ライセンスの下に提供されています。
+
+本データセットにパッセージとして付与されている Wikipedia のコンテンツは、[クリエイティブ・コモンズ表示・継承ライセンス 3.0 (CC BY-SA 3.0)](https://creativecommons.org/licenses/by-sa/3.0/deed.ja) および [GNU 自由文書ライセンス (GFDL)](https://www.gnu.org/licenses/fdl.html) の下に配布されているものです。
+
+クイズ問題のライセンスについて、詳細は [cl-tohoku/quiz-datasets](https://github.com/cl-tohoku/quiz-datasets) を参照してください。

aio-retriever.py

@@ -0,0 +1,75 @@
+import json
+from typing import Any, Dict, Iterator, List, Tuple
+
+import datasets
+from datasets import Value
+
+
+_DESCRIPTION = (
+    "書籍『大規模言語モデル入門』で使用する、「AI王」コンペティションのQAデータセットです。"
+    "GitHub リポジトリ cl-tohoku/quiz-datasets で公開されているデータセットを利用しています。"
+)
+_HOMEPAGE = "https://github.com/cl-tohoku/quiz-datasets"
+_LICENSE = (
+    "本データセットに含まれる一部のクイズ問題の著作権は abc/EQIDEN 実行委員会に帰属するものであり、"
+    "これらのクイズ問題は本書における使用許諾を得ているものです。"
+    "本データセットに含まれる一部のクイズ問題は株式会社キュービックおよび株式会社カプリティオに依頼し作成したものであり、"
+    "これらのクイズ問題は クリエイティブ・コモンズ表示・継承ライセンス 4.0 (CC BY-SA 4.0) ライセンスの下に提供されています。"
+    "本データセットにパッセージとして付与されている Wikipedia のコンテンツは、"
+    "クリエイティブ・コモンズ表示・継承ライセンス 3.0 (CC BY-SA 3.0) および GNU 自由文書ライセンス (GFDL) の下に配布されているものです。"
+    f"クイズ問題のライセンスについて、詳細は {_HOMEPAGE} を参照してください。"
+)
+
+_URL_BASE = "https://github.com/cl-tohoku/quiz-datasets/releases/download"
+_URLS = {
+    "train": f"{_URL_BASE}/v1.0.0/datasets.jawiki-20220404-c400-large.aio_02_train.jsonl.gz",
+    "dev": f"{_URL_BASE}/v1.0.0/datasets.jawiki-20220404-c400-large.aio_02_dev.jsonl.gz",
+}
+
+
+class AioRetriever(datasets.GeneratorBasedBuilder):
+    VERSION = datasets.Version("1.0.0")
+
+    def _info(self) -> datasets.DatasetInfo:
+        features = datasets.Features({
+            "qid": Value("string"),
+            "competition": Value("string"),
+            "timestamp": Value("string"),
+            "section": Value("string"),
+            "number": Value("string"),
+            "original_question": Value("string"),
+            "original_answer": Value("string"),
+            "original_additional_info": Value("string"),
+            "question": Value("string"),
+            "answers": [Value("string")],
+            "passages": [
+                {
+                    "passage_id": Value("int32"),
+                    "title": Value("string"),
+                    "text": Value("string"),
+                }
+            ],
+            "positive_passage_indices": [Value("int32")],
+            "negative_passage_indices": [Value("int32")],
+        })
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            homepage=_HOMEPAGE,
+            license=_LICENSE,
+            features=features,
+        )
+
+    def _split_generators(self, dl_manager: datasets.DownloadManager) -> List[datasets.SplitGenerator]:
+        filepaths = dl_manager.download_and_extract(_URLS)
+
+        split_generators = [
+            datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"filepath": filepaths["train"]}),
+            datasets.SplitGenerator(name=datasets.Split.VALIDATION, gen_kwargs={"filepath": filepaths["dev"]}),
+        ]
+        return split_generators
+
+    def _generate_examples(self, filepath: str) -> Iterator[Tuple[int, Dict[str, Any]]]:
+        with open(filepath) as f:
+            for i, line in enumerate(f):
+                item = json.loads(line)
+                yield i, item