auto-wiki-qa

日本語 Wikipedia ベースの自動生成 QA データセット (hpprc/emb の auto-wiki-qa-dataset / auto-wiki-qa-collection) を元に、Hard Negative Mining と Cross-Encoder 蒸留スコア付与を施した日本語 retrieval 学習用データセット。

pairs / triplets / n-tuples の 3 形式と、n-tuples に蒸留スコアを付けて学習価値で ソートした top-K サブセット (100k / 250k / 500k / 1m) を提供する。 Dense Retriever / Cross-Encoder / SPLADE などの日本語検索モデル学習および KL Divergence 蒸留に使える。

Configs

config	rows	columns	総トークン数 (cl100k_base)	説明
pairs	2,376,503	query, answer	562,891,158 (0.56B)	元の (query, answer) ペア。hpprc/emb をそのまま結合した形。
triplets	2,376,503	query, positive, negative	1,096,060,344 (1.10B)	クエリごとに 1 件の hard negative を付けた triplet。
n-tuples	2,376,503	query, positive, negative_1〜negative_5, label	3,233,276,410 (3.23B)	クエリごとに 5 件の hard negative + Cross-Encoder の生 logit を label に付与。
n-tuples-100k	100,000	query, positive, negative_1〜negative_5, label	142,522,703 (0.14B)	n-tuples を quality_score で並べた 上位 10 万行 (デバッグ・早期実験向けの最高品質)。
n-tuples-250k	250,000	query, positive, negative_1〜negative_5, label	352,245,957 (0.35B)	quality_score 上位 25 万行 (品質と量のバランス重視)。
n-tuples-500k	500,000	query, positive, negative_1〜negative_5, label	692,343,510 (0.69B)	quality_score 上位 50 万行。
n-tuples-1m	1,000,000	query, positive, negative_1〜negative_5, label	1,368,966,030 (1.37B)	quality_score 上位 100 万行 (有効行のほぼ全量)。

トークン数は OpenAI の tiktoken cl100k_base (GPT-4 系) で計測。label カラムはトークン数集計の対象外 (浮動小数の数値ベクトル)。

すべての config の split は train。n-tuples-* の top-K サブセットは quality_score 降順 で並んでいるため、行順序は元の n-tuples と一致しない。

label カラムの形式 (n-tuples / n-tuples-* 共通)

List[float] × 6 で [score(query, positive), score(query, neg_1), …, score(query, neg_5)]。 label[0] が positive、label[1:] が negative_1〜negative_5 に 1:1 で順序通り 対応する。 スコアは Cross-Encoder の 生 logit (sigmoid 適用前)。

使い方

pairs (最もシンプルな (query, answer) 形式)

from datasets import load_dataset

pairs = load_dataset("mahiyama/auto-wiki-qa", "pairs", split="train")
print(pairs)
# Dataset({
#     features: ['query', 'answer'],
#     num_rows: 2376503
# })
print(pairs[0])
# {"query": "...", "answer": "..."}

triplets (1 hard negative / query)

triplets = load_dataset("mahiyama/auto-wiki-qa", "triplets", split="train")
print(triplets[0])
# {"query": "...", "positive": "...", "negative": "..."}

n-tuples (5 hard negatives / query + 蒸留 logit)

ntuples = load_dataset("mahiyama/auto-wiki-qa", "n-tuples", split="train")
print(ntuples[0])
# {
#   "query": "...",
#   "positive": "...",
#   "negative_1": "...", "negative_2": "...", ..., "negative_5": "...",
#   "label": [12.34, 1.05, -4.21, -2.85, -5.13, -6.02],   # 生 logit
# }

top-K 高品質サブセット (KL 蒸留学習向け)

# 最高品質 10 万行 (デバッグ・早期実験に十分強い)
ds = load_dataset("mahiyama/auto-wiki-qa", "n-tuples-100k", split="train")

# バランス重視 25 万 / 50 万行
ds = load_dataset("mahiyama/auto-wiki-qa", "n-tuples-250k", split="train")
ds = load_dataset("mahiyama/auto-wiki-qa", "n-tuples-500k", split="train")

# 有効行のほぼ全量 (約 240 万行のうち valid_mask を通過した上位 100 万行)
ds = load_dataset("mahiyama/auto-wiki-qa", "n-tuples-1m", split="train")

Hard Negative Mining の方法

各クエリ q_i (元データ行 i) に対して以下を実施:

1. クエリ埋め込み — jinaai/jina-embeddings-v5-text-small (task=retrieval, prompt=query) で 1024 次元にエンコード。
2. kNN 検索 — 全 answer を同モデルで埋め込んで構築した Elasticsearch HNSW インデックス (cosine, m=32, ef_construction=128) に対し、k=50, num_candidates=100 で kNN 検索。
3. Positive 同定 — 元データの行番号 i がそのままインデックスの doc id に対応するため、 top-50 結果中の doc_id == i の rank と score を pos_rank / pos_score として取得。 見つからない場合は top-1 のスコアを pos_score のフォールバックとする。
4. Hard Negative 選択 (NV-Retriever / SFR レシピ準拠)
   • top-5 を除外 (false positive 回避)
   • candidate_score < pos_score × 0.95 (positive-aware filter, NV-Retriever TopK-PercPos)
   • 上記条件を満たす候補のうち最高スコアの 1 件を triplets、上位 5 件を n-tuples の negative とする
   • 該当候補が不足する場合は rank 5+ から最高スコアの doc をフォールバック (filter NG でも採用)

統計 (triplets 構築時)

指標	値
入力ペア数	2,376,503
Positive が top-50 にヒット	2,060,663 (86.7%)
Positive が rank=0	1,279,628 (53.8%)
Positive-aware filter 通過	1,965,810 (82.7%)
フォールバック (filter NG)	410,693 (17.3%)
出力 triplet 数	2,376,503

統計 (n-tuples 構築時)

指標	値
入力ペア数	2,376,503
5 件すべて filter 通過	1,944,702 (81.8%)
一部フォールバック使用	431,801 (18.2%)
累計 negative (filter 通過)	9,776,667
累計 negative (フォールバック)	2,105,848

設計の参考

このデータセットの HNM 設計は、現代の SOTA 埋め込みモデル (NV-Embed-v2, SFR-Embedding-Mistral, Linq-Embed-Mistral, Qwen3-Embedding 等) の 事実上の標準レシピを踏襲している:

• Dense retriever ベース top-50 検索
• top-5 除外で false positive 回避
• positive-aware score margin filter (NV-Retriever の TopK-PercPos, neg < pos × 0.95)
• 1 hard negative / query (Linq-Embed-Mistral 流) の triplet と、 5 hard negatives / query (SFR/E5 系の標準レンジ) の n-tuples を併設

蒸留スコア付けの方法

n-tuples 配下の label カラムおよび n-tuples-* の top-K サブセットは、 教師モデル cl-nagoya/ruri-reranker-large (Japanese BERT-Large Cross-Encoder) の 生 logit を Cross-Encoder スコアとして 各 (query, doc) ペア (positive 1 件 + negative 5 件) に付与したもの。

スコア付けの設定

項目	値
Teacher	cl-nagoya/ruri-reranker-large
Max length	512
推論精度	FP16
Batch size	128
入力フォーマット	単一文ペア (query, document)
出力	生 logit (sigmoid 適用前)。観測 logit レンジ おおむね ±15 (

KL 蒸留損失 (SparseDistillKLDivLoss / DistillKLDivLoss 等) は softmax(label / T) を target distribution として使うため、 sigmoid 後の [0, 1] 値だと softmax target が一様分布に潰れて ranking 情報が失われる。 これを防ぐため、教師の最終活性化を明示的に Identity に置き換えてスコアを出力した:

import torch.nn as nn
from sentence_transformers import CrossEncoder

teacher = CrossEncoder(
    "cl-nagoya/ruri-reranker-large",
    max_length=512,
    device="cuda",
)
teacher.model.eval()
teacher.default_activation_function = nn.Identity()  # sigmoid を外す

scores = teacher.predict(
    [("query A", "passage A"), ("query A", "passage B")],
    batch_size=128,
    convert_to_numpy=True,
    activation_fct=nn.Identity(),  # 念のため predict() でも明示
)
# scores: array([12.34, -3.56], dtype=float32)
assert abs(scores).max() > 1.0  # |score|max > 1 で sigmoid 混入チェック

logit のスケール感:

logit	sigmoid(logit)	解釈
+8	0.9997	確信度高く relevant
+5	0.993	強く relevant
+2	0.881	relevant 寄り
0	0.5	不確か
-2	0.119	irrelevant 寄り
-5	0.007	強く irrelevant
-8	0.0003	確信度高く irrelevant

quality_score: top-K サブセットのソート指標

n-tuples-100k / -250k / -500k / -1m は、label から計算した 学習価値ランキング quality_score の 降順 で上位 K 行を抽出したもの。 学習価値が高い行を以下の 3 軸で定義した:

1. positive が信頼できる — 教師が positive を高 logit に置く
2. 偽 negative がない — max(neg) が positive を超えない
3. negative が硬い — negative の logit がそこそこ高く、margin が中程度

定義 (実装通り)

import numpy as np

POS_MIN        = 2.0   # σ(2.0) ≈ 0.88: 確信のある positive のみ採用
MARGIN_MIN     = 0.5   # 誤差レベルの分離は雑音と見なす
MARGIN_PENALTY = 0.1   # 易しすぎる行を弱く後回しにする係数

def quality_score_vec(labels: np.ndarray) -> np.ndarray:
    """
    Args:
        labels: (N, 6) float32. 生 logit。 [p, n1, n2, n3, n4, n5].
    Returns:
        (N,) float. フィルタ落ちした行は -inf。
    """
    p      = labels[:, 0]
    neg    = labels[:, 1:]
    max_n  = neg.max(axis=1)
    mean_n = neg.mean(axis=1)
    margin = p - max_n

    fn_mask     = margin <= 0                                       # 偽 negative リーク
    weak_mask   = (~fn_mask) & (p < POS_MIN)                        # positive 自体が弱い
    border_mask = (~fn_mask) & (~weak_mask) & (margin < MARGIN_MIN) # 雑音疑い (境界)
    valid_mask  = (~fn_mask) & (~weak_mask) & (~border_mask)

    raw = mean_n - MARGIN_PENALTY * margin
    return np.where(valid_mask, raw, -np.inf)


def select_top_k(ds, k: int):
    """quality_score 上位 k 行の Dataset を返す。k > 有効行数なら全有効行を返す。"""
    labels = np.asarray(ds["label"], dtype=np.float32)
    scores = quality_score_vec(labels)
    n_valid = int(np.isfinite(scores).sum())
    take = min(k, n_valid)
    order = np.argsort(-scores, kind="stable")[:take]
    return ds.select(order.tolist())

各フィルタの意味

フィルタ	条件	意味
偽 negative	max(neg) >= positive	negative 群に実は relevant な passage が混入。KL 学習で逆効果になる。
weak positive	positive < 2.0	教師が positive を「弱く relevant」としか見ていない → positive ラベル自体の信頼度が低い。
borderline	0 < margin < 0.5	positive と最強 negative の差が誤差程度。雑音 (近義 passage / アノテーション揺れ) の疑い。

ランキング (quality_score 本体)

mean(neg) - 0.1 * margin の 降順。

• mean(neg) を主軸にする理由 — KL 蒸留は softmax(label / T) を target にするため、 negative 全体の logit 分布が target 形状を決める。1 個だけ硬くて他がスッカスカだと target がほぼ one-hot になり、rank 情報を student に伝えられない。mean(neg) が 高い行ほど target が滑らかな分布になり、ranking 学習が効く。
• margin に弱い負ペナルティを掛ける理由 — margin が極端に大きい「楽勝行」を タイブレークで後回しにするため。係数 0.1 と弱めなのは、強くしすぎると逆に 「ぎりぎり判別」の雑音行を引きやすくなるから (主フィルタは margin < 0.5 で 既に切ってある)。

Hard Negative の Goldilocks ゾーン (本教師モデル基準)

項目	推奨レンジ
positive logit	+8 〜 +13
max(neg) logit	−3 〜 +3
margin_top	+3 〜 +8

このゾーン外は学習信号が弱まる (margin が大きすぎ → 自明) か、 雑音が増える (margin が小さすぎ → 偽 negative 接近)。 n-tuples-100k ほど狭く絞ると、上記領域に密集する傾向がある。

KL 蒸留損失への組み込み (PyTorch 例)

import torch.nn.functional as F

def kl_distill_loss(student_logits, teacher_label, T=2.0):
    """
    Args:
        student_logits: (B, 6) student の (query, doc_i) スコア (生 logit)
        teacher_label:  (B, 6) label カラムをそのまま (生 logit)
        T: distillation temperature (推奨 1.0〜4.0、生 logit レンジ広めなので 2.0 前後が扱いやすい)
    """
    log_p_student = F.log_softmax(student_logits / T, dim=-1)
    p_teacher     = F.softmax(teacher_label   / T, dim=-1)
    return F.kl_div(log_p_student, p_teacher, reduction="batchmean") * (T * T)

sentence-transformers の SparseDistillKLDivLoss / DistillKLDivLoss を使う場合は、 label カラムをそのまま teacher score として渡せばよい。

License

• Passage 本文は 日本語版 Wikipedia 由来であり、 CC BY-SA 4.0 (Wikipedia コンテンツの表示・継承ライセンス) を継承する。
• クエリは hpprc/emb の auto-wiki-qa 由来。利用・再配布時は元データセットの ライセンスと利用条件にも従うこと。

Citation

元データセットを引用してください:

@misc{hpprc_emb,
  author = {Hayato Tsukagoshi},
  title  = {hpprc/emb: Japanese text embedding training datasets},
  year   = {2024},
  url    = {https://huggingface.co/datasets/hpprc/emb},
}

Acknowledgements

• 元データ: hpprc/emb — auto-wiki-qa
• ベース passage コーパス: Japanese Wikipedia
• HNM 用 retriever: jinaai/jina-embeddings-v5-text-small
• 蒸留教師: cl-nagoya/ruri-reranker-large