mqa-jp-v2

hpprc/mqa-ja (multi-domain Japanese QA dataset) を元に、Hard Negative Mining と Cross-Encoder 蒸留スコア付与を施した 日本語 retrieval 学習用データセット。

pairs / triplets / n-tuples の 3 形式と、n-tuples に蒸留スコアを付けて 学習価値で並べた top-K サブセット (100k / 250k) を提供する。 Dense Retriever / Cross-Encoder / SPLADE などの日本語検索モデル学習および KL Divergence 蒸留に利用できる。

Configs

config	rows	columns	説明
pairs	599,923	query, positive	元の (query, positive) ペア。
triplets	599,923	query, positive, negative	クエリごとに 1 件の hard negative を付けた triplet (HNM 結果に関わらず全行)。
n-tuples	257,729	query, positive, negative_1..negative_5, label	クエリごとに 5 件の hard negative + Cross-Encoder の生 logit を label に付与 (HNM 通過行)。
n-tuples-100k	100,000	同上	n-tuples を quality_score で並べた上位 10 万行。
n-tuples-250k	250,000	同上	quality_score 上位 25 万行。

label カラムは長さ 6 の List[float] で [score(query, positive), score(query, neg_1), ..., score(query, neg_5)]。 スコアは Cross-Encoder の生 logit (sigmoid 適用前)。

使い方

from datasets import load_dataset

# pairs (query, positive)
pairs = load_dataset("mahiyama/mqa-jp-v2", "pairs", split="train")

# triplets (1 hard negative / query)
triplets = load_dataset("mahiyama/mqa-jp-v2", "triplets", split="train")

# n-tuples (5 hard negatives / query + 蒸留 logit)
ntuples = load_dataset("mahiyama/mqa-jp-v2", "n-tuples", split="train")

# 高品質 top-K サブセット (KL 蒸留向け)
ds100k = load_dataset("mahiyama/mqa-jp-v2", "n-tuples-100k", split="train")
ds250k = load_dataset("mahiyama/mqa-jp-v2", "n-tuples-250k", split="train")

構築パイプライン

1. サンプリング

• hpprc/mqa-ja の dataset から 600,000 行ランダムサンプリング (pos_ids が 1〜20 件の範囲に限定)。
  • 異常に多い pos_ids (例: 80,000 件超) を持つ行は事前に除外。
• anc を query、pos_ids[0] を primary positive として使用。
  • primary が空テキストだった場合は他の pos_ids に切り替え、それも全て空ならその行を DROP。
• dataset の pos_ids が参照する corpus + ランダム corpus を合わせて 1,200,000 件抽出。
  • 空テキスト行は除外。
• 最終 query 数: 599,923

2. Dense Retriever 埋め込み

• モデル: cl-nagoya/ruri-v3-310m
• 次元: 768
• query 側プレフィックス: "検索クエリ: "
• document 側プレフィックス: "検索文書: "
• 推論精度: FP16 / max_length=256
• 全埋め込みを L2 正規化して保存 (cosine = inner product)

3. kNN 検索 (GPU matmul)

• query 埋め込みと corpus 埋め込みを GPU 上で直接行列積し、torch.topk で top-K を取得。
• chunk size: q_chunk=4096, d_chunk=1.2M (= 全 corpus を一気にメモリへ)。
• top-K = 32 を保存し、後段で gold pos_ids を除外して top-8 を負例候補に。

4. リランカーで蒸留スコア付与

• 教師モデル: cl-nagoya/ruri-v3-reranker-310m
• 各 query について (query, positive) + (query, neg_1..neg_8) の 9 ペアを推論。
• 出力は生 logit (sigmoid 適用前)。観測 logit レンジは概ね ±15。
• 推論精度: FP16 / max_length=512 / batch_size=256

5. Hard Negative 選定 (v3 — single MIN_DIFF filter)

POS_MIN           = 2.0   # positive 信頼閾値 (σ(2.0) ≈ 0.88)
MIN_DIFF_FROM_POS = 4.0   # pos - neg の最小マージン (σ(4.0) ≈ 0.98 分離)
N_NEG             = 5

1) pos_score < POS_MIN の行は DROP
2) 各候補について pos_score - neg_score >= MIN_DIFF_FROM_POS を要求
3) 通過候補をスコア降順で並べ、上位 5 件を negative_1..5
4) 通過候補が 5 件未満の行は kNN を top-64 に拡張して採点 → 再選定 (rescue)
5) rescue 後も 5 件揃わない行は n-tuples から DROP (triplets には残す)

設計意図とコーパス特性に基づくフィルタ選択の理由は mahiyama/auto-wiki-qa-v2 のモデルカード 「Hard Negative Mining 方式 (v3)」と同じ。

6. quality_score (n-tuples-100k / -250k のソート指標)

POS_MIN        = 2.0
MARGIN_MIN     = 0.5
MARGIN_PENALTY = 0.1

quality_score = mean(neg_logits) - 0.1 * (pos - max(neg_logits))

valid_mask は以下の 3 条件を全て満たす行:

1. margin > 0 (偽 negative なし)
2. pos >= POS_MIN (positive 信頼度十分)
3. margin >= MARGIN_MIN (境界雑音でない)

v3 HNM が pos >= 2.0 と全 neg について pos - neg >= 4.0 を保証するため、 n-tuples の valid 通過率は実質 100%。

統計

指標	値
サンプリング後 queries	599,923
corpus size	1,200,000
HNM ok (5 件揃った行)	257,729 (43.0%)
HNM short (rescue 後も <5)	8,743
HNM drop_weak_pos (pos < 2.0)	255,102
HNM drop_short (通過 negative 0 件)	78,349
pos_score 平均	3.36
pos_score 中央値	3.18

学習側での使い方 (KL 蒸留)

label カラムをそのまま教師スコアとして使い、softmax(label / T) を KL の target distribution にする。

import torch.nn.functional as F

def kl_distill_loss(student_logits, teacher_label, T=2.0):
    log_p = F.log_softmax(student_logits / T, dim=-1)
    p_t = F.softmax(teacher_label / T, dim=-1)
    return F.kl_div(log_p, p_t, reduction="batchmean") * (T * T)

教師の生 logit レンジが ±15 程度なので、T = 2.0〜3.0 が扱いやすい。

ライセンス

• 元データセット hpprc/mqa-ja のライセンスを継承する。
• corpus 部分は各原典 (multi-domain 日本語 QA) のライセンスに従う。

引用

@misc{hpprc_mqa_ja,
  author = {Hayato Tsukagoshi},
  title  = {hpprc/mqa-ja: Multi-domain Japanese QA dataset},
  year   = {2024},
  url    = {https://huggingface.co/datasets/hpprc/mqa-ja},
}

Acknowledgements

• 元データ: hpprc/mqa-ja
• 埋め込みモデル: cl-nagoya/ruri-v3-310m
• 蒸留教師: cl-nagoya/ruri-v3-reranker-310m