license cc0-1.0 (MQA), force text modality, drop usage/stale naming, fix nonexistent subset refs

README.md

@@ -1,7 +1,7 @@
 ---
 language:
 - ja
-license: cc-by-sa-4.0
+license: cc0-1.0
 size_categories:
 - 1M<n<10M
 task_categories:
@@ -9,10 +9,11 @@ task_categories:
 - text-retrieval
 task_ids:
 - document-retrieval
-pretty_name: MQA-JP v3 (Pairs / Triplets / N-tuples + distillation top-K)
+pretty_name: MQA-JP (Pairs / Triplets / N-tuples + distillation top-K)
 source_datasets:
 - hpprc/mqa-ja
 tags:
+- text
 - japanese
 - question-answering
 - retrieval
@@ -55,11 +56,11 @@ configs:
 default_config: triplets
 ---
 
-# mqa-jp-v3
+# mqa-ja
 
 日本語 QA データセット hpprc/mqa-ja を元に、Hard Negative Mining と Cross-Encoder 蒸留スコア付与を施した日本語 retrieval 学習用データセットです。
 
-pairs / triplets / n-tuples の 3 形式と、n-tuples に蒸留スコアを付けて学習価値でソートした top-K サブセット (100k / 250k / 500k / 1m / 2.5m / 5m) を提供します。
+pairs / triplets / n-tuples の 3 形式と、n-tuples に蒸留スコアを付けて学習価値でソートした top-K サブセット (100k / 250k / 500k / 1m) を提供します。
 Dense Retriever / Cross-Encoder / SPLADE などの日本語検索モデル学習および KL Divergence 蒸留に利用できます。
 
 ## Configs
@@ -80,42 +81,6 @@ Dense Retriever / Cross-Encoder / SPLADE などの日本語検索モデル学習
 
 List[float] x 6 で [score(query, positive), score(query, neg_1), ..., score(query, neg_5)]。label[0] が positive、label[1:] が negative_1〜negative_5 に 1:1 で順序通り対応します。スコアは Cross-Encoder の生 logit (sigmoid 適用前)。
 
-## 使い方
-
-### pairs (最もシンプルな (query, answer) 形式)
-
-```python
-from datasets import load_dataset
-
-pairs = load_dataset("mahiyama/mqa-jp-v3", "pairs", split="train")
-print(pairs[0])
-```
-
-### triplets (1 hard negative / query)
-
-```python
-triplets = load_dataset("mahiyama/mqa-jp-v3", "triplets", split="train")
-print(triplets[0])
-```
-
-### n-tuples (5 hard negatives / query + 蒸留 logit)
-
-```python
-ntuples = load_dataset("mahiyama/mqa-jp-v3", "n-tuples", split="train")
-print(ntuples[0])
-```
-
-### top-K 高品質サブセット (KL 蒸留学習向け)
-
-```python
-ds = load_dataset("mahiyama/mqa-jp-v3", "n-tuples-100k", split="train")
-ds = load_dataset("mahiyama/mqa-jp-v3", "n-tuples-250k", split="train")
-ds = load_dataset("mahiyama/mqa-jp-v3", "n-tuples-500k", split="train")
-ds = load_dataset("mahiyama/mqa-jp-v3", "n-tuples-1m", split="train")
-ds = load_dataset("mahiyama/mqa-jp-v3", "n-tuples-2.5m", split="train")
-ds = load_dataset("mahiyama/mqa-jp-v3", "n-tuples-5m", split="train")
-```
-
 ## Hard Negative Mining の方法
 
 各クエリに対して以下を実施しました。
@@ -175,7 +140,7 @@ logit のスケール感:
 
 ### quality_score: top-K サブセットのソート指標
 
-n-tuples-100k / -250k / -500k / -1m / -2.5m / -5m は、label から計算した学習価値ランキング quality_score の降順で上位 K 行を抽出したものです。
+n-tuples-100k / -250k / -500k / -1m は、label から計算した学習価値ランキング quality_score の降順で上位 K 行を抽出したものです。
 
 学習価値が高い行を以下の 3 軸で定義しています。
 
@@ -223,8 +188,11 @@ def kl_distill_loss(student_logits, teacher_label, T=2.0):
 
 ## License
 
-- Passage 本文および query は hpprc/mqa-ja 由来。利用・再配布時は元データセットのライセンスと利用条件にも従ってください。
-- 当データセット (mqa-jp-v3) の追加部分 (HNM 結果と蒸留スコア) は元データセットと同じライセンス条件で配布します。
+CC0-1.0
+
+- query / answer 本文は hpprc/mqa-ja 由来で、その元データ clips/mqa (Common Crawl から収集した FAQ / CQA) は CC0-1.0 (パブリックドメイン) で公開されている。本データセットもこれを継承し CC0-1.0 とする。
+- HNM 結果と蒸留スコアは本リポで cl-nagoya/ruri-v3-reranker-310m を用いて算出した派生物。
+- 利用・再配布時は元データセット (hpprc/mqa-ja / clips/mqa) の条件にも従うこと。
 
 ## Citation