mqa-ja

hpprc/mqa-ja (Common Crawl の FAQ/CQA ページから抽出された日本語 (query, passage) ペア、NFKC 正規化済み) を元に、 Hard Negative Mining と Cross-Encoder 蒸留スコア付与を施した 日本語 retrieval 学習用データセット。

pairs / triplets / n-tuples の 3 形式と、n-tuples に蒸留スコアを付けて学習価値で ソートした top-K サブセット (100k / 250k / 500k / 1m) を提供する。 Dense Retriever / Cross-Encoder / SPLADE などの日本語検索モデル学習および KL Divergence 蒸留に使える。

Configs

config	rows	columns	説明
pairs	12,941,472	query, positive	元の (query, positive) ペア。hpprc/mqa-ja をそのまま結合した形。
triplets	12,941,472	query, positive, negative	クエリごとに 1 件の hard negative を付けた triplet。蒸留スコアで positive 以下かつ最高スコアの negative を選択。
n-tuples	12,941,472	query, positive, negative_1〜negative_5, label	クエリごとに 5 件の hard negative + Cross-Encoder の生 logit を label に付与。
n-tuples-100k	100,000	query, positive, negative_1〜negative_5, label	n-tuples を quality_score で並べた 上位 10 万行 (デバッグ・早期実験向けの最高品質)。
n-tuples-250k	250,000	query, positive, negative_1〜negative_5, label	quality_score 上位 25 万行 (品質と量のバランス重視)。
n-tuples-500k	500,000	query, positive, negative_1〜negative_5, label	quality_score 上位 50 万行。
n-tuples-1m	1,000,000	query, positive, negative_1〜negative_5, label	quality_score 上位 100 万行。
n-tuples-2.5m	2,500,000	query, positive, negative_1〜negative_5, label	quality_score 上位 250 万行。
n-tuples-5m	valid 全量	query, positive, negative_1〜negative_5, label	quality_score 上位 500 万行を要求するが、valid 行数が 500 万未満の場合は valid 全量で収束する。

すべての config の split は train。n-tuples-* の top-K サブセットは quality_score 降順 で並んでいるため、行順序は元の n-tuples と一致しない。

注記: 本データセットの triplets / n-tuples / n-tuples-100k 〜 n-tuples-5m は、 元の 12,941,472 行のうち、クエリと文書の合計文字数の昇順上位 10,200,000 行を 蒸留スコア付けの対象として処理している (計算予算による絞り込み)。 残りの長文部分は pairs 配下 (全 12,941,472 行) には含まれるが、 学習用配下 (triplets / n-tuples 系) には含まれない。 pairs のみが全件、それ以外は短文寄りのサブセットという構成。

label カラムの形式 (n-tuples / n-tuples-* 共通)

List[float] × 6 で [score(query, positive), score(query, neg_1), …, score(query, neg_5)]。 label[0] が positive、label[1:] が negative_1〜negative_5 に 1:1 で順序通り 対応する。 スコアは Cross-Encoder の 生 logit (sigmoid 適用前)。

使い方

pairs (最もシンプルな (query, positive) 形式)

from datasets import load_dataset

pairs = load_dataset("mahiyama/mqa-ja", "pairs", split="train")
print(pairs)
# Dataset({
#     features: ['query', 'positive'],
#     num_rows: 12941472
# })
print(pairs[0])
# {"query": "...", "positive": "..."}

triplets (1 hard negative / query)

triplets = load_dataset("mahiyama/mqa-ja", "triplets", split="train")
print(triplets[0])
# {"query": "...", "positive": "...", "negative": "..."}

n-tuples (5 hard negatives / query + 蒸留 logit)

ntuples = load_dataset("mahiyama/mqa-ja", "n-tuples", split="train")
print(ntuples[0])
# {
#   "query": "...",
#   "positive": "...",
#   "negative_1": "...", "negative_2": "...", ..., "negative_5": "...",
#   "label": [12.34, 1.05, -4.21, -2.85, -5.13, -6.02],   # 生 logit
# }

top-K 高品質サブセット (KL 蒸留学習向け)

# 最高品質 10 万行 (デバッグ・早期実験に十分強い)
ds = load_dataset("mahiyama/mqa-ja", "n-tuples-100k", split="train")

# バランス重視 25 万 / 50 万行
ds = load_dataset("mahiyama/mqa-ja", "n-tuples-250k", split="train")
ds = load_dataset("mahiyama/mqa-ja", "n-tuples-500k", split="train")

# 上位 100 万 / 250 万行
ds = load_dataset("mahiyama/mqa-ja", "n-tuples-1m", split="train")
ds = load_dataset("mahiyama/mqa-ja", "n-tuples-2.5m", split="train")

# 上位 500 万行 (valid 行数が 500 万未満の場合は valid 全量で収束)
ds = load_dataset("mahiyama/mqa-ja", "n-tuples-5m", split="train")

Hard Negative Mining の方法

各クエリ q_i (元データ行 i) に対して以下を実施:

1. クエリ埋め込み — cl-nagoya/ruri-v3-310m (768 dim, prefix 検索クエリ: ) で L2 正規化付きエンコード。
2. kNN 検索 — positive を unique 化したコーパス (重複排除後 約 11.81M 行) を同モデル (prefix 検索文書: ) で埋め込み、 FAISS GPU IndexFlatIP (cosine, useFloat16=True) に対し k=50 で kNN 検索。
3. Positive 同定 — kNN 結果の中で corpus_id が元行の positive の corpus_id と一致した rank と score を pos_rank / pos_score として取得。 見つからない場合は top-1 のスコアを pos_score のフォールバックとする。
4. Hard Negative 選択 (NV-Retriever / SFR レシピ準拠)
   • top-5 を除外 (false positive 回避)
   • candidate_score < pos_score × 0.95 (positive-aware filter, NV-Retriever TopK-PercPos)
   • 上記条件を満たす候補のうち上位 5 件を n-tuples の negative とする
   • 該当候補が不足する場合は rank 5+ から最高スコアの doc をフォールバック (filter NG でも採用)

統計 (n-tuples 構築時)

指標	値
入力ペア数	12,941,472
Unique positive コーパスサイズ	11,811,372
Positive が top-50 にヒット	7,551,624 (58.4%)
Positive が rank=0	3,099,513 (24.0%)
5 件すべて positive-aware filter 通過	4,626,697 (35.8%)
一部フォールバック使用	8,314,775 (64.2%)
Negative 不足で詰まった (drop)	0

triplets の negative 選択ロジック

n-tuples の negative_1〜negative_5 の中から、以下の優先順位で 1 件を選択:

1. label[k+1] ≦ label[0] (positive を上回らない) かつ最大 score の negative を採用 (= 最も hard だが偽 negative ではない)。
2. 全ての negative が positive を上回る場合は、最も score が低い negative を採用 (偽 negative リスクを最小化)。

蒸留スコア付けの方法

n-tuples の label カラムおよび n-tuples-* の top-K サブセットは、 教師モデル cl-nagoya/ruri-reranker-large (Japanese BERT-Large Cross-Encoder) の 生 logit を Cross-Encoder スコアとして 各 (query, doc) ペア (positive 1 件 + negative 5 件) に付与したもの。

スコア付けの設定

項目	値
Teacher	cl-nagoya/ruri-reranker-large
Max length	512
推論精度	FP16
Batch size	128
入力フォーマット	単一文ペア (query, document)
出力	生 logit (sigmoid 適用前)

KL 蒸留損失 (SparseDistillKLDivLoss / DistillKLDivLoss 等) は softmax(label / T) を target distribution として使うため、 sigmoid 後の [0, 1] 値だと softmax target が一様分布に潰れて ranking 情報が失われる。 これを防ぐため、教師の最終活性化を明示的に Identity に置き換えてスコアを出力した:

import torch.nn as nn
from sentence_transformers import CrossEncoder

teacher = CrossEncoder(
    "cl-nagoya/ruri-reranker-large",
    max_length=512,
    device="cuda",
)
teacher.model.eval()
teacher.model.half()
teacher.default_activation_function = nn.Identity()  # sigmoid を外す

scores = teacher.predict(
    [("query A", "passage A"), ("query A", "passage B")],
    batch_size=128,
    convert_to_numpy=True,
    activation_fct=nn.Identity(),
)
# scores: array([12.34, -3.56], dtype=float32)
assert abs(scores).max() > 1.0  # |score|max > 1 で sigmoid 混入チェック

logit のスケール感:

logit	sigmoid(logit)	解釈
+8	0.9997	確信度高く relevant
+5	0.993	強く relevant
+2	0.881	relevant 寄り
0	0.5	不確か
-2	0.119	irrelevant 寄り
-5	0.007	強く irrelevant
-8	0.0003	確信度高く irrelevant

quality_score: top-K サブセットのソート指標

n-tuples-100k / -250k / -500k / -1m は、label から計算した 学習価値ランキング quality_score の 降順 で上位 K 行を抽出したもの。 学習価値が高い行を以下の 3 軸で定義した:

1. positive が信頼できる — 教師が positive を高 logit に置く
2. 偽 negative がない — max(neg) が positive を超えない
3. negative が硬い — negative の logit がそこそこ高く、margin が中程度

定義 (実装通り)

import numpy as np

POS_MIN        = 2.0   # σ(2.0) ≈ 0.88: 確信のある positive のみ採用
MARGIN_MIN     = 0.5   # 誤差レベルの分離は雑音と見なす
MARGIN_PENALTY = 0.1   # 易しすぎる行を弱く後回しにする係数

def quality_score_vec(labels: np.ndarray) -> np.ndarray:
    """
    Args:
        labels: (N, 6) float32. 生 logit。 [p, n1, n2, n3, n4, n5].
    Returns:
        (N,) float. フィルタ落ちした行は -inf。
    """
    p      = labels[:, 0]
    neg    = labels[:, 1:]
    max_n  = neg.max(axis=1)
    mean_n = neg.mean(axis=1)
    margin = p - max_n

    fn_mask     = margin <= 0                                       # 偽 negative リーク
    weak_mask   = (~fn_mask) & (p < POS_MIN)                        # positive 自体が弱い
    border_mask = (~fn_mask) & (~weak_mask) & (margin < MARGIN_MIN) # 雑音疑い (境界)
    valid_mask  = (~fn_mask) & (~weak_mask) & (~border_mask)

    raw = mean_n - MARGIN_PENALTY * margin
    return np.where(valid_mask, raw, -np.inf)

各フィルタの意味

フィルタ	条件	意味
偽 negative	max(neg) >= positive	negative 群に実は relevant な passage が混入。KL 学習で逆効果になる。
weak positive	positive < 2.0	教師が positive を「弱く relevant」としか見ていない → positive ラベル自体の信頼度が低い。
borderline	0 < margin < 0.5	positive と最強 negative の差が誤差程度。雑音の疑い。

ランキング (quality_score 本体)

mean(neg) - 0.1 * margin の 降順。

統計 (quality_score 計算後)

指標	値	比率
入力行数	12,941,472	100.0%
偽 negative リーク (max(neg) >= p)	5,866,204	57.5%
weak positive (p < 2.0)	750,245	7.4%
borderline (0 < margin < 0.5)	357,427	3.50%
valid (上記すべてクリア)	3,226,124	31.6%

KL 蒸留損失への組み込み (PyTorch 例)

import torch.nn.functional as F

def kl_distill_loss(student_logits, teacher_label, T=2.0):
    """
    Args:
        student_logits: (B, 6) student の (query, doc_i) スコア (生 logit)
        teacher_label:  (B, 6) label カラムをそのまま (生 logit)
        T: distillation temperature (推奨 1.0〜4.0)
    """
    log_p_student = F.log_softmax(student_logits / T, dim=-1)
    p_teacher     = F.softmax(teacher_label   / T, dim=-1)
    return F.kl_div(log_p_student, p_teacher, reduction="batchmean") * (T * T)

sentence-transformers の SparseDistillKLDivLoss / DistillKLDivLoss を使う場合は、 label カラムをそのまま teacher score として渡せばよい。

License

• Passage 本文は 元データ hpprc/mqa-ja の Common Crawl からの抽出に由来し、CC0-1.0 を継承する。
• 詳細は元データセットのライセンスと Common Crawl の利用条件にも従うこと。

データソース

データセット	役割	ライセンス
hpprc/mqa-ja	直接の上流。NFKC 済み日本語 (query, passage)	CC0-1.0
cl-nagoya/ruri-v3-310m	HNM 用 retriever	Apache 2.0
cl-nagoya/ruri-reranker-large	蒸留教師	Apache 2.0

Acknowledgements

• 元データ: hpprc/mqa-ja
• HNM 用 retriever: cl-nagoya/ruri-v3-310m
• 蒸留教師: cl-nagoya/ruri-reranker-large