JMTEB-train

sbintuitions/JMTEB の train split だけを使い、JMTEB の各タスクごとの (query, corpus) を結合して pair 化した上で、Hard Negative Mining と Cross-Encoder 蒸留スコア付与を施した日本語 retrieval 学習用データセット。

各タスクごとに pairs / triplets / n-tuples の 3 形式を用意している。 n-tuples の label カラムには cl-nagoya/ruri-reranker-large の生 logit を positive 1 件 + negative 5 件分付与しており、SparseDistillKLDivLoss 等の 蒸留損失にそのまま渡せる。

元データセット

ベースは sbintuitions/JMTEB で、本データセットは Retrieval 系タスクの train split のみを使用する。 validation / test split は本リポジトリには含めず、評価には元データセットを 直接利用することを想定している。

含めている JMTEB タスク:

• JaGovFaqs-22k (jagovfaqs_22k-query, jagovfaqs_22k-corpus)
• JAQKET (jaqket-query, jaqket-corpus)

Mr.TyDi-ja と MLDR-Retrieval は計算コストやデータ構造の都合で本リポジトリには 含めていない。

Configs

config	rows	columns	説明
jagovfaq_22k-pairs	15,955	query, positive	JaGovFaqs-22k train から作った (query, positive) ペア
jagovfaq_22k-triplets	15,955	query, positive, negative	クエリごとに 1 件の hard negative を付けた triplet
jagovfaq_22k-n-tuples	15,955	query, positive, negative_1〜negative_5, label	クエリごとに 5 件の hard negative + Cross-Encoder の生 logit を label に付与
jaqket-pairs	13,061	query, positive	JAQKET train から作った (query, positive) ペア
jaqket-triplets	13,061	query, positive, negative	クエリごとに 1 件の hard negative を付けた triplet
jaqket-n-tuples	13,061	query, positive, negative_1〜negative_5, label	クエリごとに 5 件の hard negative + Cross-Encoder の生 logit を label に付与

すべての config の split は train。

label カラムの形式 (n-tuples 共通)

List[float] × 6 で [score(query, positive), score(query, neg_1), …, score(query, neg_5)]。 label[0] が positive、label[1:] が negative_1〜negative_5 に 1:1 で順序通り対応する。 スコアは Cross-Encoder の生 logit (sigmoid 適用前)。

使い方

pairs (最もシンプルな (query, positive) 形式)

from datasets import load_dataset

pairs = load_dataset("mahiyama/JMTEB-train", "jagovfaq_22k-pairs", split="train")
print(pairs[0])
# {"query": "...", "positive": "..."}

triplets (1 hard negative / query)

triplets = load_dataset("mahiyama/JMTEB-train", "jaqket-triplets", split="train")
print(triplets[0])
# {"query": "...", "positive": "...", "negative": "..."}

n-tuples (5 hard negatives / query + 蒸留 logit)

ntuples = load_dataset("mahiyama/JMTEB-train", "jagovfaq_22k-n-tuples", split="train")
print(ntuples[0])
# {
#   "query": "...",
#   "positive": "...",
#   "negative_1": "...", "negative_2": "...", ..., "negative_5": "...",
#   "label": [12.34, 1.05, -4.21, -2.85, -5.13, -6.02],
# }

構築手順

各タスクごとに以下の手順を実施した。

1. ペア生成

JMTEB の query split (train) と corpus を結合し、各クエリの relevant_docs を そのまま positive として (query, positive) ペアを生成する。 relevant_docs が 0 件のクエリ、corpus に存在しない docid を参照しているクエリは スキップする。

JAQKET の corpus は (title, text) を改行で連結したテキストを passage 本文として 使用する (title は eval files の corpus.jsonl にも同じ規則で連結している)。

2. Hard Negative Mining

各クエリ q_i に対して以下を実施:

1. クエリ埋め込み — cl-nagoya/ruri-v3-310m で 768 次元にエンコード。クエリには「クエリ: 」、passage には「文章: 」の prefix を付与し、normalize_embeddings=True で L2 正規化する。
2. kNN 検索 — 全 passage を同モデルで埋め込み、faiss-cpu の IndexFlatIP を 構築する (cosine 類似度 = 正規化済み内積)。各クエリで top-50 を取得。
3. Positive 同定 — relevant_docs から得た positive の corpus 上の行 index を top-50 結果と照合して pos_rank / pos_score を取得。 見つからない場合は top-1 のスコアを pos_score のフォールバックとする。
4. Hard Negative 選択 (NV-Retriever / SFR レシピ準拠)
   • top-5 を除外 (false positive 回避)
   • candidate_score < pos_score × 0.95 (positive-aware filter, NV-Retriever TopK-PercPos)
   • 上記条件を満たす候補のうち最高スコアの 1 件を triplets、上位 5 件を n-tuples の negative とする
   • 該当候補が不足する場合は rank 5+ から最高スコアの doc をフォールバック (filter NG でも採用)

quality_score によるフィルタリングは本データセットでは適用していないため、 n-tuples のすべての行が候補に残る。

3. 蒸留スコア付与

n-tuples の label カラムは、教師モデル cl-nagoya/ruri-reranker-large (Japanese BERT-Large Cross-Encoder) の生 logit を Cross-Encoder スコアとして 各 (query, doc) ペア (positive 1 件 + negative 5 件) に付与したもの。

項目	値
Teacher	cl-nagoya/ruri-reranker-large
Max length	512
推論精度	FP16
Batch size	128
入力フォーマット	単一文ペア (query, document)
出力	生 logit (sigmoid 適用前)

KL 蒸留損失 (SparseDistillKLDivLoss / DistillKLDivLoss 等) は softmax(label / T) を target distribution として使うため、sigmoid 後の [0, 1] 値だと softmax target が一様分布に潰れて ranking 情報が失われる。 これを避けるため、教師モデルの最終層出力 (生 logit) をそのまま label に 書き出している (sigmoid を通していない)。

設計の参考

このデータセットの HNM 設計は、現代の SOTA 埋め込みモデル (NV-Embed-v2, SFR-Embedding-Mistral, Linq-Embed-Mistral, Qwen3-Embedding 等) の 事実上の標準レシピを踏襲している:

• Dense retriever ベース top-50 検索
• top-5 除外で false positive 回避
• positive-aware score margin filter (NV-Retriever の TopK-PercPos, neg < pos × 0.95)
• 1 hard negative / query の triplet と、5 hard negatives / query の n-tuples を併設

KL 蒸留損失への組み込み (PyTorch 例)

import torch.nn.functional as F

def kl_distill_loss(student_logits, teacher_label, T=2.0):
    """
    Args:
        student_logits: (B, 6) student の (query, doc_i) スコア (生 logit)
        teacher_label:  (B, 6) label カラムをそのまま (生 logit)
        T: distillation temperature
    """
    log_p_student = F.log_softmax(student_logits / T, dim=-1)
    p_teacher     = F.softmax(teacher_label   / T, dim=-1)
    return F.kl_div(log_p_student, p_teacher, reduction="batchmean") * (T * T)

sentence-transformers の SparseDistillKLDivLoss / DistillKLDivLoss を使う場合は、 label カラムをそのまま teacher score として渡せばよい。

License

元データセット sbintuitions/JMTEB のライセンスおよび利用条件を継承する。 配布元の各タスク (JaGovFaqs-22k, JAQKET) のライセンスにも従うこと。

Citation

元データセットを引用してください:

@misc{sbintuitions_jmteb,
  author = {SB Intuitions},
  title  = {JMTEB: Japanese Massive Text Embedding Benchmark},
  year   = {2024},
  url    = {https://huggingface.co/datasets/sbintuitions/JMTEB},
}

Acknowledgements

• 元データ: sbintuitions/JMTEB
• HNM 用 retriever: cl-nagoya/ruri-v3-310m
• 蒸留教師: cl-nagoya/ruri-reranker-large
• kNN: faiss-cpu