--- language: - ja license: cc-by-sa-4.0 size_categories: - 1M v2 (2026-05) の主な変更点 > - HNM の retriever を [cl-nagoya/ruri-v3-310m](https://huggingface.co/cl-nagoya/ruri-v3-310m) (Apache 2.0、商用可)、 > 蒸留教師を [cl-nagoya/ruri-v3-reranker-310m](https://huggingface.co/cl-nagoya/ruri-v3-reranker-310m) (Apache 2.0、商用可) に刷新。 > - Hard Negative 選定を 単一 margin filter (pos − neg ≥ 4.0、σ で 0.98 相当の分離) に変更。 > 同テーマ別エントリ・同回答別記事などの false negative リーク を構造的に排除した。 > - dense retriever のスコアは hard negative 選定に使わず、教師リランカーの生 logit のみで判定する。 ## Configs | config | rows | columns | 総トークン数 (cl100k_base) | 説明 | |---|---:|---|---:|---| | pairs | 2,376,503 | query, answer | 562,891,158 (562.89M) | 元の (query, answer) ペア。mahiyama/auto-wiki-qa (v1) からそのままミラー。 | | triplets | 2,149,821 | query, positive, negative | 1,017,027,276 (1.02B) | Hard Negative Mining (v3) を通過した全行。クエリごとに 1 件の hard negative を付けた triplet。 | | n-tuples | 2,149,821 | query, positive, negative_1〜negative_5, label | 3,055,829,114 (3.06B) | 同じ採用行に対しクエリごとに 5 件の hard negative + Cross-Encoder の生 logit を label に付与。 | | n-tuples-100k | 100,000 | query, positive, negative_1〜negative_5, label | 138,618,253 (138.62M) | n-tuples のうち quality_score の valid を通過した行を降順で並べ、上位 10 万行を抽出 (デバッグ・早期実験向け)。 | | n-tuples-250k | 250,000 | query, positive, negative_1〜negative_5, label | 349,362,397 (349.36M) | 同じ valid 行から quality_score 上位 25 万行 (バランス重視)。 | | n-tuples-500k | 500,000 | query, positive, negative_1〜negative_5, label | 701,461,481 (701.46M) | 同じ valid 行から quality_score 上位 50 万行。 | | n-tuples-1m | 1,000,000 | query, positive, negative_1〜negative_5, label | 1,410,424,585 (1.41B) | 同じ valid 行から quality_score 上位 100 万行 (採用行数が 1M に満たない場合は全採用行)。 | > トークン数は OpenAI の tiktoken cl100k_base (GPT-4 系) で計測。label カラムはトークン数集計の対象外 (浮動小数の数値ベクトル)。 すべての config の split は train。n-tuples-* の top-K サブセットは quality_score 降順で並んでいるため、行順序は元の n-tuples と一致しない。 ### label カラムの形式 (n-tuples / n-tuples-* 共通) ```python label: list[float] # 長さ 6 = [score(query, positive), score(query, neg_1), …, score(query, neg_5)] ``` label[0] が positive、label[1:] が negative_1 〜 negative_5 に 1:1 で順序通り対応する。 スコアは Cross-Encoder の 生 logit (sigmoid 適用前)。 pos − max(neg_1..neg_5) ≥ 4.0 および pos ≥ 2.0 が全行で構造的に成立している (下記 Hard Negative Mining セクション参照)。 ## Hard Negative Mining の方法 (v3) 各クエリ q_i (元データ行 i) に対して以下を実施: 1. クエリ埋め込み — [cl-nagoya/ruri-v3-310m](https://huggingface.co/cl-nagoya/ruri-v3-310m) (prefix "検索クエリ: ") で 768 次元にエンコード。 2. 文書埋め込み — 同モデル (prefix "検索文書: ") で全 positive (約 240 万件、重複除去後) を 768 次元にエンコードし、L2 正規化して [faiss-cpu](https://github.com/facebookresearch/faiss) の IndexFlatIP (内積 = コサイン類似度) を構築。索引は faiss_index.bin として再利用可能。 3. kNN 検索 — 各クエリで上位 25 件を取得し、gold positive と一致する doc_id を除外して top-15 を negative 候補プールとする。 4. リランカー蒸留スコア付与 — [cl-nagoya/ruri-v3-reranker-310m](https://huggingface.co/cl-nagoya/ruri-v3-reranker-310m) で (query, positive) と (query, kNN candidate × 15) の合計 16 ペアに 生 logit (sigmoid 適用前) を付与。 5. Hard Negative 選定 (v3、単一 margin filter) - pos_score < 2.0 の行は DROP (positive が弱い) - 15 候補のうち pos_score - neg_score >= 4.0 を満たすもののみ採用候補 - 採用候補が 5 件未満の行は DROP (フォールバックなし) - 採用候補をリランカースコア降順で並べ、上位 5 件を negative_1..5 とする - negative_1 = 採用候補のうちスコア最大 (= 最も hard だが MIN_DIFF を満たす) - negative_5 = 採用候補のうちスコア最小 これにより、採用行は以下の条件を構造的に満たす: - pos >= 2.0 (sigmoid 0.88 以上の確信ある positive) - pos - neg_i >= 4.0 (i=1..5、すべての negative に対し σ で 0.98 相当の分離) - margin = pos - max(neg_1..neg_5) >= 4.0 ### なぜ単一 margin filter か (kNN/リランカー top-K 除外をしない理由) NV-Retriever / SFR-Embedding 系の標準レシピでは「kNN 上位 K 件除外」「リランカー上位 K 件除外」 を組み合わせるが、pos - neg >= 4.0 (σ で 0.98 相当の分離) のような厳しい絶対 margin filter を使うと、これらの構造的除外は冗長になる: - false negative リーク (= reranker が高 logit を付ける候補) は margin filter で必ず弾かれる - 一方、kNN/reranker top-K 除外を残すと「ぎりぎり通過する硬い negative」が拾えなくなる → v3 では margin filter 1 本に統合することで、量とハードさのバランスを取った。 ### v1 (旧 mahiyama/auto-wiki-qa) との違い | 項目 | v1 (旧) | v2 (v3 HNM、本リポジトリ) | |---|---|---| | Retriever | jinaai/jina-embeddings-v5-text-small (非商用) | cl-nagoya/ruri-v3-310m (Apache 2.0、商用可) | | Reranker | cl-nagoya/ruri-reranker-large | cl-nagoya/ruri-v3-reranker-310m | | HNM フィルタ | dense score の < pos × 0.95 (positive-aware filter) | reranker logit の pos − neg ≥ 4.0 (絶対 margin) | | False negative leak 対策 | なし (定義系・同テーマ別エントリで leak が頻発) | 構造的に排除 | | ANN | Elasticsearch HNSW | faiss-cpu IndexFlatIP | | 採用行数 | 入力行数と同じ (フォールバックで埋める) | リーク行は DROP (採用率 90.5%) | | 商用利用 | 制限あり (Jina) | 制限なし (両モデルとも Apache 2.0) | 代償として行数は減るが、KL 蒸留損失はラベル雑音にとても敏感なため、量を多少削ってでも クリーンな negative を確保する方が学習効率は明確に良い。 ### 採用統計 | 指標 | 値 | |---|---:| | 入力行数 (リランカーで採点した行) | 2,376,503 | | 採用行数 (kept: HNM 通過) | 2,149,821 (90.5%) | | Drop: 弱 positive (pos < 2.0) | 194,350 (8.2%) | | Drop: 候補不足 (filter 通過 < 5 件) | 32,332 (1.4%) | | quality_score の valid 通過 (採用行に対して) | 2,149,821 (100.00%) | triplets / n-tuples には採用行のみが入る。 n-tuples-{100k, 250k, 500k, 1m} は採用行のうち quality_score の valid を通過した行を 降順で並べた top-K サブセット。v3 HNM が pos>=2.0 と margin>=4.0 を保証するため、 valid 通過率は実質 100% になる (透明性のためチェックは入れている)。 ## 蒸留スコア付けの方法 n-tuples 配下の label カラムおよび n-tuples-* の top-K サブセットは、 教師モデル cl-nagoya/ruri-v3-reranker-310m (Japanese ModernBERT Cross-Encoder、Apache 2.0) の 生 logit を各 (query, doc) ペア (positive 1 件 + negative 5 件) に付与したもの。 ### スコア付けの設定 | 項目 | 値 | |---|---| | Teacher | cl-nagoya/ruri-v3-reranker-310m | | Max length | 512 | | 推論精度 | FP16 | | Batch size | 128 | | 入力フォーマット | 単一文ペア (query, document) | | 出力 | 生 logit (sigmoid 適用前)。観測 logit レンジ おおむね ±15 (採用行の positive 平均 ≈ 8.80) | KL 蒸留損失 (SparseDistillKLDivLoss / DistillKLDivLoss 等) は softmax(label / T) を target distribution として使うため、 sigmoid 後の [0, 1] 値だと softmax target が一様分布に潰れて ranking 情報が失われる。 これを防ぐため、教師の最終活性化を明示的に Identity に置き換えてスコアを出力した: ```python import torch.nn as nn from sentence_transformers import CrossEncoder teacher = CrossEncoder( "cl-nagoya/ruri-v3-reranker-310m", max_length=512, device="cuda", ) teacher.model.eval() teacher.default_activation_function = nn.Identity() # sigmoid を外す scores = teacher.predict( [("query A", "passage A"), ("query A", "passage B")], batch_size=128, convert_to_numpy=True, activation_fct=nn.Identity(), # 念のため predict() でも明示 ) # scores: array([12.34, -3.56], dtype=float32) assert abs(scores).max() > 1.0 # |score|max > 1 で sigmoid 混入チェック ``` logit のスケール感: | logit | sigmoid(logit) | 解釈 | | ----: | --------------: | ------------------------------------- | | +8 | 0.9997 | 確信度高く relevant | | +5 | 0.993 | 強く relevant | | +2 | 0.881 | relevant 寄り | | 0 | 0.5 | 不確か | | -2 | 0.119 | irrelevant 寄り | | -5 | 0.007 | 強く irrelevant | | -8 | 0.0003 | 確信度高く irrelevant | ### quality_score: top-K サブセットのソート指標 n-tuples-100k / -250k / -500k / -1m は、n-tuples を以下の手順で構築する: 1. quality_score の valid マスク を計算 (distillation_score.md 準拠) 2. valid を通過した行を quality_score 降順で並べる 3. 上位 K 行を抽出 (採用行数が K に満たない場合は全採用行) v3 HNM が pos >= 2.0 と全 neg について pos - neg >= 4.0 を保証するため、 valid マスクの 3 条件 (pos>=2.0, margin>0, margin>=0.5) は全て自動的に成立し、 valid 通過率は実質 100% (上記採用統計セクション参照)。 それでもチェックを入れているのは、品質スコア計算ロジックの形式的整合性のため。 #### 定義 (実装通り) ```python import numpy as np POS_MIN = 2.0 # σ(2.0) ≈ 0.88: 確信のある positive のみ採用 MARGIN_MIN = 0.5 # 誤差レベルの分離は雑音と見なす MARGIN_PENALTY = 0.1 # 易しすぎる行を弱く後回しにする係数 def quality_score_vec(labels: np.ndarray) -> tuple[np.ndarray, np.ndarray]: """ Args: labels: (N, 6) float32. 生 logit。 [p, n1, n2, n3, n4, n5]. Returns: scores: (N,) float. valid 落ちした行は -inf。 valid: (N,) bool. pos>=2.0 ∧ margin>0 ∧ margin>=0.5 """ p = labels[:, 0] neg = labels[:, 1:] max_n = neg.max(axis=1) mean_n = neg.mean(axis=1) margin = p - max_n fn_mask = margin <= 0 weak_mask = (~fn_mask) & (p < POS_MIN) border_mask = (~fn_mask) & (~weak_mask) & (margin < MARGIN_MIN) valid_mask = (~fn_mask) & (~weak_mask) & (~border_mask) raw = mean_n - MARGIN_PENALTY * margin scores = np.where(valid_mask, raw, -np.inf) return scores, valid_mask ``` - mean(neg) を主軸にする理由 — KL 蒸留は softmax(label / T) を target にするため、 negative 全体の logit 分布が target 形状を決める。mean(neg) が高い行ほど target が 滑らかな分布になり、ranking 学習が効く。 - margin に弱い負ペナルティを掛ける理由 — margin が極端に大きい「楽勝行」を タイブレークで後回しにするため。 #### Hard Negative の観測レンジ (採用行に対して) | 項目 | 観測値 | | ----- | -----: | | positive logit (平均) | 8.80 | | positive logit (5%-tile / 95%-tile) | 3.68 / 12.02 | | neg_1 logit (平均、最硬の negative) | -1.50 | | neg_5 logit (平均、5 番目の negative) | -5.35 | | margin = pos − max(neg) (平均) | 10.30 | | margin = pos − max(neg) (最小) | 4.00 | 採用行の最小 margin が MIN_DIFF_FROM_POS = 4.0 を下回らないことが構造的に保証される (Hard Negative 選定段階で pos - neg >= 4.0 を全 5 件に対して要求しているため)。 ### KL 蒸留損失への組み込み (PyTorch 例) ```python import torch.nn.functional as F def kl_distill_loss(student_logits, teacher_label, T=2.0): """ Args: student_logits: (B, 6) student の (query, doc_i) スコア (生 logit) teacher_label: (B, 6) label カラムをそのまま (生 logit) T: distillation temperature (推奨 1.0〜4.0、生 logit レンジが広めなので 2.0 前後が扱いやすい) """ log_p_student = F.log_softmax(student_logits / T, dim=-1) p_teacher = F.softmax(teacher_label / T, dim=-1) return F.kl_div(log_p_student, p_teacher, reduction="batchmean") * (T * T) ``` sentence-transformers の SparseDistillKLDivLoss / DistillKLDivLoss を使う場合は、 label カラムをそのまま teacher score として渡せばよい。 ## 変更履歴 | バージョン | リポジトリ | 日付 | 概要 | |---|---|---|---| | v2 (= 本リポジトリ) | mahiyama/auto-wiki-qa (Public) | 2026-05 | HNM retriever を cl-nagoya/ruri-v3-310m に、教師 reranker を cl-nagoya/ruri-v3-reranker-310m に刷新。faiss-cpu IndexFlatIP ベース。Hard Negative 選定を 単一 margin filter (pos − neg ≥ 4.0) に変更し、false negative リークを構造的に排除。両モデルとも Apache 2.0 で商用利用可。 | | v1 | mahiyama/auto-wiki-qa (Public) | 2024 | 初版。HNM retriever = jinaai/jina-embeddings-v5-text-small、教師 reranker = cl-nagoya/ruri-reranker-large。フィルタは < pos × 0.95 の positive-aware filter のみ。 | ## License CC BY-SA 4.0 - Passage 本文は日本語版 Wikipedia 由来であり、CC BY-SA 4.0 (Wikipedia コンテンツの表示・継承ライセンス) を継承する。 - クエリは hpprc/emb の auto-wiki-qa 由来。利用・再配布時は元データセットの ライセンスと利用条件にも従うこと。 - HNM retriever / 蒸留教師 (cl-nagoya/ruri-v3-310m / ruri-v3-reranker-310m) は Apache 2.0 ライセンスで、商用利用に制限はない。 ## Citation 元データセットを引用してください: ```bibtex @misc{hpprc_emb, author = {Hayato Tsukagoshi}, title = {hpprc/emb: Japanese text embedding training datasets}, year = {2024}, url = {https://huggingface.co/datasets/hpprc/emb}, } ``` 教師モデルの引用: ```bibtex @misc{ruri_v3, author = {Tsukagoshi, Hayato and Sasano, Ryohei}, title = {Ruri v3: Japanese General Text Embeddings}, year = {2025}, url = {https://huggingface.co/cl-nagoya/ruri-v3-310m}, } ``` ## Acknowledgements - 元データ: [hpprc/emb — auto-wiki-qa](https://huggingface.co/datasets/hpprc/emb) - ベース passage コーパス: [Japanese Wikipedia](https://ja.wikipedia.org/) - HNM 用 retriever: [cl-nagoya/ruri-v3-310m](https://huggingface.co/cl-nagoya/ruri-v3-310m) - 蒸留教師: [cl-nagoya/ruri-v3-reranker-310m](https://huggingface.co/cl-nagoya/ruri-v3-reranker-310m)