JaGovFaqs-22k (Pairs / Triplets / N-tuples + distillation labels)

日本語の行政 FAQ を題材に、Hard Negative Mining と Cross-Encoder 蒸留スコア付与を施した日本語 retrieval 学習用データセットです。

ベースは sbintuitions/JMTEB の Retrieval タスク jagovfaqs_22k の train split で、(query, positive) ペアを作った上で、cl-nagoya/ruri-v3-310m による Dense Retriever ベースの kNN 検索でハードネガティブを採掘し、cl-nagoya/ruri-v3-reranker-310m によるリランキング (蒸留スコア付与) を施しています。

pairs / triplets / n-tuples の 3 形式と、n-tuples を quality_score で validated にフィルタしたサブセット (n-tuples-filtered) を提供します。Dense Retriever や Cross-Encoder の学習、KL Divergence による蒸留学習に利用できます。

元データセット

データ構造のベースは sbintuitions/JMTEB の Retrieval タスク jagovfaqs_22k で、本データセットは train split のみを使用します。validation / test split は本リポジトリには含めず、評価には元データセットを直接利用することを想定しています。

jagovfaqs_22k のテキストそのものは、政府機関の FAQ ページから収集されたものを matsuxr 氏が CC BY 4.0 で公開している matsuxr/JaGovFaqs-22k に由来します。

• 元データ (テキストの起源): matsuxr/JaGovFaqs-22k
• ベンチマーク構成 (query / corpus / train split): sbintuitions/JMTEB

Configs

config	rows	columns	説明
pairs	15,955	query, positive	jagovfaqs_22k train から作った (query, positive) ペア
triplets	15,955	query, positive, negative	クエリごとに 1 件の hardest negative を付けた triplet
n-tuples	11,107	query, positive, negative_1〜negative_5, label	クエリごとに hardest 5 件の negative + リランカーの蒸留スコアを label に付与
n-tuples-filtered	11,107	query, positive, negative_1〜negative_5, label	n-tuples のうち quality_score の valid 行のみを quality_score 降順で並べたサブセット

すべての config の split は train です。n-tuples-filtered は quality_score 降順で並んでいるため、行順序は元の n-tuples と一致しません。

label カラムの形式 (n-tuples / n-tuples-filtered 共通)

List[float] 長さ 6 で [score(query, positive), score(query, negative_1), …, score(query, negative_5)]。label[0] が positive、label[1:] が negative_1〜negative_5 に 1:1 で順序通り対応します。スコアは Cross-Encoder の生 logit (sigmoid 適用前) で、SparseDistillKLDivLoss 等の蒸留損失にそのまま渡せます。

データセットの構築手順

1. ペア生成

jagovfaqs_22k の query (train) と corpus を結合し、各クエリの relevant_docs をそのまま positive として (query, positive) ペアを生成します。relevant_docs が 0 件のクエリ、corpus に存在しない docid を参照しているクエリはスキップします。これにより 15,955 件の (query, positive) ペアが得られます。

2. Hard Negative Mining

各クエリ q_i に対して以下を実施します。

1. クエリ・コーパス埋め込み — cl-nagoya/ruri-v3-310m で "検索クエリ: " + query と "検索文書: " + positive をそれぞれ 768 次元にエンコードし L2 正規化します。

2. kNN 検索 — 全 unique positive を埋め込んだコーパスに対して GPU matmul で top-30 を取得し、自身の positive を除外した上位 29 件を negative 候補とします。

3. リランキング — cl-nagoya/ruri-v3-reranker-310m で (query, positive) と (query, negative 候補) の生 logit (sigmoid 適用前) を採点します。

4. Hard Negative 選定 (single MIN_DIFF filter)

   • POS_MIN = 2.0 (sigmoid(2.0) ≈ 0.88)
   • MIN_DIFF_FROM_POS = 4.0 (sigmoid 空間で 0.98 以上の確実な分離)
   • N_NEG = 5

   手順:

   1. positive のリランカースコアが POS_MIN 未満の行は DROP
   2. 各候補に対し pos_score - neg_score >= MIN_DIFF_FROM_POS を要求
   3. 通過候補数 < N_NEG の行は top-100 kNN に拡張して再採点 (rescue)
   4. それでも通過候補数 < N_NEG の場合は n-tuples からは除外
   5. 通過候補をリランカースコア降順で並べ、上位 5 件を negative_1〜negative_5 とする

triplets の negative は negative_1 と同じものを採用します。HNM 通過しなかった行については、リランカースコアが最も高い候補を fallback として採用します。

3. 蒸留スコア付与 (n-tuples / n-tuples-filtered の label カラム)

label カラムは教師モデル cl-nagoya/ruri-v3-reranker-310m の生 logit を Cross-Encoder スコアとして各 (query, doc) ペア (positive 1 件 + negative 5 件) に付与したものです。

項目	値
Teacher	cl-nagoya/ruri-v3-reranker-310m
Max length	512
推論精度	FP16
Batch size	256
入力フォーマット	単一文ペア (query, document)
出力	生 logit (sigmoid 適用前)

KL 蒸留損失 (SparseDistillKLDivLoss / DistillKLDivLoss 等) は softmax(label / T) を target distribution として使うため、sigmoid 後の [0, 1] 値だと softmax target が一様分布に潰れて ranking 情報が失われます。これを防ぐため、教師の最終活性化を Identity に置き換えてスコアを出力しています。

logit のスケール感:

logit	sigmoid(logit)	解釈
+8	0.9997	確信度高く relevant
+5	0.993	強く relevant
+2	0.881	relevant 寄り
0	0.5	不確か
-2	0.119	irrelevant 寄り
-5	0.007	強く irrelevant

4. quality_score: n-tuples-filtered の抽出指標

n-tuples-filtered は label から計算した quality_score の valid 行のみを quality_score 降順で並べたものです。学習価値が高い行を 3 軸で定義しています。

1. positive が信頼できる (pos >= 2.0)
2. 偽 negative がない (max(neg) < positive)
3. negative が硬すぎず緩すぎない (margin が中程度)

定義:

POS_MIN        = 2.0
MARGIN_MIN     = 0.5
MARGIN_PENALTY = 0.1

quality_score = mean(neg_logits) - MARGIN_PENALTY * (pos - max(neg_logits))

各フィルタ:

フィルタ	条件	意味
偽 negative	max(neg) >= positive	negative 群に実は relevant な passage が混入
weak positive	positive < POS_MIN	教師が positive を弱く relevant としか見ていない
borderline	0 < margin < MARGIN_MIN	positive と最強 negative の差が誤差程度

HNM が pos >= POS_MIN と全 neg について pos - neg >= MIN_DIFF_FROM_POS を保証するため、valid マスクの 3 条件 (pos>=2.0, margin>0, margin>=0.5) は構造的に成立し、valid 通過率は実質 100% です。

KL 蒸留損失への組み込み (PyTorch 例)

import torch.nn.functional as F

def kl_distill_loss(student_logits, teacher_label, T=2.0):
    """
    Args:
        student_logits: (B, 6) student の (query, doc_i) スコア (生 logit)
        teacher_label:  (B, 6) label カラムをそのまま (生 logit)
        T: distillation temperature
    """
    log_p = F.log_softmax(student_logits / T, dim=-1)
    p_t = F.softmax(teacher_label / T, dim=-1)
    return F.kl_div(log_p, p_t, reduction="batchmean") * (T * T)

教師の生 logit レンジが ±10 程度なので、T = 2.0〜3.0 が扱いやすい範囲です。sentence-transformers の SparseDistillKLDivLoss / DistillKLDivLoss を使う場合は、label カラムをそのまま teacher score として渡せます。

統計情報

指標	値
入力ペア数	15,955
HNM 通過行 (n-tuples 採用)	11,107 (69.6%)
pos_score < POS_MIN の DROP 行	4,732 (29.7%)
triplets fallback 使用行	4,848 (30.4%)
n-tuples-filtered (validated) 行	11,107

License

CC BY-SA 4.0

Citation

ベンチマーク構成および元データを引用してください:

@misc{sbintuitions_jmteb,
  author = {SB Intuitions},
  title  = {JMTEB: Japanese Massive Text Embedding Benchmark},
  year   = {2024},
  url    = {https://huggingface.co/datasets/sbintuitions/JMTEB},
}

@misc{matsuxr_jagovfaqs22k,
  author = {matsuxr},
  title  = {JaGovFaqs-22k},
  url    = {https://huggingface.co/datasets/matsuxr/JaGovFaqs-22k},
}