Christina Nasika
本日、私たちは jina-reranker-v3.5 をリリースしました。これは、jina-reranker-v3 の「last but not late」相互作用を維持しつつ、企業が実際に検索を行うデータに対してより高速かつ高性能になった 0.6B パラメータのリストワイズ型重排器です。BEIR で 63.20 nDCG@10 を達成し、約 7 倍小さいパラメータ数でありながら Qwen3-Reranker-4B を上回り、長い文書の重ランキング処理において v3 と比較して最大 1.56 倍の高速化を実現しました。最も大きな飛躍は半構造化検索に見られ、フィールド制約のあるレコードにおいて v3 から +9.6 nDCG@10 を記録しています。
この成果は3つの変更点によるものです。大部分のグローバル層をスライディングウィンドウに置き換えつつ、終端層をグローバルに固定するハイブリッドアテンションスケジュール。法務、医療、金融、多言語、構造化検索の失敗例から厳選された学習データセット。そして、教師モデルと学生モデルが同じサイズでありながらアテンションパターンのみが異なる、3段階の自己蒸留レシピです。
4つのベンチマーク環境におけるパラメータ数と品質の比較図です。jina-reranker-v3.5 はすべてにおいてパレート最適解（Pareto front）に位置しており、評価したモデルの中でこれより小さく、かつ高性能なモデルは存在しません。
mxbai-rerank-large-v2（62.45）や 4B の Qwen3-Reranker-4B（62.28）を上回り、境界線を定義しています。今回評価したモデルの中で、これより大きいモデルであっても、BEIR においてこれを超える品質を実現するものはありませんでした。
Qwen3-Reranker-4B は 76.56）。jina-reranker-v3 と比較して言語ごとの最大の向上は、ヨルバ語（+4.4）、ペルシャ語（+3.1）、フランス語（+3.0）でした。
Qwen3-Reranker-0.6B（68.41）と 1.5B の mxbai-rerank-large-v2（70.81）の両方を上回りました。Qwen3-Reranker-4B（77.68）との残りの差は、主に法務および医療タスクの一部の項目に集中しています。
tagアーキテクチャ
リストワイズ型重ランキングはすべての候補を一度のフォワードパスでスコアリングするため、100個の文書リストに対するフルセルフアテンションは二次関数的に増大し、KV キャッシュを肥大化させます。明らかな解決策はスライディングウィンドウアテンションですが、LBNL 相互作用の下ではこの手法がモデルを機能不全に陥らせます。
LBNL では、クエリとすべての候補がひとつの因果シーケンスを形成し、クエリの埋め込み詞元は最後尾に配置されます。そのため、文書間を意識した表現を構築するために、最初の候補まで遡ってアテンションを向ける必要があります。有限のウィンドウはこの依存関係を断ち切ってしまいます。そのため、私たちは最終層を常にグローバルな状態に固定し、抽出の時点でクエリと文書の埋め込み詞元が候補のコンテキスト全体を認識できるようにしました。この1層をスライディングウィンドウに置き換えるとリストワイズランキングは著しく劣化しますが、この層のみをグローバルに保つことで、完全にグローバルなスタックを用いることなく結合エンコーディングを維持できます。
残りの27層については、1L1G、1L2G、3L2G、5L1G のスケジュールを検討し、3L2G を採用しました。これは3層のスライディングウィンドウの後に2層のグローバル層が繰り返される構造で、1,024 詞元のウィンドウサイズを持つ17のローカル層と11のグローバル層で構成されます。ローカル層はアテンションコストを O(L²) から O(L·w) に削減し、グローバル層は3ステップごとに深い階層での広範囲な候補間信号をリフレッシュします。より密度の高いスケジュールではスループットの向上は見られず、より攻撃的な 5L1G は複雑なマルチ文書タスクにおいて性能が悪化する傾向が見られました。
tagアテンションギャップを越えた自己蒸留
ここでの蒸留は特殊な手法です。大モデルを小モデルに縮小するのではなく、教師モデルと学生モデルはどちらも 0.6B であり、アテンションパターンの違いのみが存在します。教師モデルは 2 次コストでフルアテンションを実行しますが、学生モデルは 3L2G を実行します。
学生モデルにアテンションマスクの切り替えを強制しながら、同時に教師モデルの出力を一致させることは両方の失敗を招くため、このレシピでは 2 つの圧力を切り離しています。
- 第 1 段階 — フルアテンション教師モデル。 公開されている jina-reranker-v3 チェックポイントから開始し、完全な v3.5 ミックスデータセット上で、スライディングウィンドウの制限なしに教師モデルをフルファインチューニングします。これにより、このパラメータ予算内での品質上限を確立します。
- 第 2 段階 — スパースアテンション適応。 学生モデルは第 1 段階の重みから初期化され、3L2G を有効にします。まず、他のすべてを凍結した状態でアテンション投影のみを学習させ、フルアテンション下で学習した表現を乱すことなく、スパースマスクが情報をルーティングできるようにします。その後、すべてを解凍し、学生モデルが新しいアテンションジオメトリに適応するように再調整します。この段階ですでに学生モデルはデプロイ可能で高速ですが、BEIR、RTEB-legal、MIRACL では教師モデルとの間に一貫した性能差が残ります。
- 第 3 段階 — 教師モデルによるガイド付き蒸留。 教師モデルを凍結した状態で、次の 4 つのレベルで学生モデルを同時に調整します：ソフトマックス正規化されたスコア分布に対するリストワイズ KL ダイバージェンス、絶対スコアに対する MSE、最終層の隠れ状態に対する MSE、投影されたベクトルモデルに対するコサイン損失、さらにコンテキスト内の類似度と分散正則化項です。
順序は重要です。第 2 段階単独では顕著な性能差が残ります。なぜなら、学生モデルは教師モデルのスコアや状態を安全に模倣できるようになる前に、より弱いマスク下でルーティングを変更しなければならないからです。第 3 段階ではその差の大部分が回復されます。これは、ジオメトリが適応さえすれば、フルアテンションの能力がスパースな学生モデルに転移することを示しています。このレシピは 3L2G 用に書かれていますが、この枠組みは他のアテンションスケジュールの不一致にも応用可能です。
tag学習データ
v3 の混合データは一般的な検索には優れていましたが、専門分野には不十分でした。データを単純に追加するのではなく、RTEB および STARK の開発セットでエラー分析を行い、一般的なモデルが失敗する検索パターンを正確にカバーするように各新しいシャードを構築しました。ハードネガティブは複数の検索エンジン（BM25、Jina、BGE、GTE、E5、ColBERT）から同時に抽出されているため、特定の検索エンジンのショートカットをモデルが学習できないようになっています。
リーガル（法務）シャードは、EUR-Lex 多言語データ、CLERC、AILA、カナダの判例法、スイスの事例要約、EuroVoc を組み合わせており、法務テキストは引用が多く長文であるためオーバーサンプリングしています。メディカル（医療）シャードは、臨床用語やエンティティの多いパッセージを対象としています。ファイナンス（金融）シャードでは、数値的根拠、規制言語、テーブル対応のパッセージを優先しています。多言語対応は、50 以上の言語での WebFAQ、SWIM-IR のクロスリンガルネガティブ、および Ruri-v3 日本語ペアによって、MIRACL や mMARCO を超えて拡張されています。
構造化データには最も高いサンプリングウェイトが割り当てられました。これは、標準的なベンチマークが想定する自由形式のテキスト分布の外側に位置するためです。レコードやテーブルに対する関連性は、語彙の重複ではなく、等価性、数値や日付の範囲、リストのメンバーシップ、およびフィールド間の論理的組み合わせに依存します。初期の実行ではこの点で特に遅れが見られたため、制約の強いペアを直接合成しました。
tag実験結果
すべての数値は、統一された MTEB v2 パイプラインの下で jina-embeddings-v5-text-small の上位 100 件の候補を重排器（Reranker）した結果であり、ベンダーが報告した数値とは若干異なる場合があります。データセット別および言語別の完全な表は論文に記載されています。
| モデル | パラメータ数 | BEIR | MIRACL | RTEB | Struct-IR |
|---|---|---|---|---|---|
| jina-embeddings-v5-text-small (第 1 段階) | 0.5B | 56.26 | 65.15 | 64.60 | – |
| mxbai-rerank-base-v2 | 0.5B | 59.58 | 64.90 | 61.44 | 30.4 |
| Qwen3-Reranker-0.6B | 0.6B | 56.94 | 67.12 | 68.41 | 41.9 |
| mxbai-rerank-large-v2 | 1.5B | 62.45 | 69.65 | 70.81 | 43.0 |
| Qwen3-Reranker-4B | 4.0B | 62.28 | 76.56 | 77.68 | 55.6 |
| jina-reranker-v3 | 0.6B | 62.10 | 72.20 | 68.01 | 38.7 |
| <strong>jina-reranker-v3.5</strong> | 0.6B | 63.20 | 74.11 | 70.95 | 48.3 |
v3.5 は、同一のパラメータ数で、すべてのベンチマークファミリーにおいて v3 から向上しており、特に半構造化検索において最大のゲインを示しています。
RTEB でのゲインは、この混合データが意図した領域に集中しています。AILA-Statute は v3 から 14.0 ポイント、AILA-Case は 11.7 ポイント向上し、FinQA は 86.91 に達し、テストされたすべてのモデルの中で最高の結果となりました。STARK においても、v3.5 は v3 に対して 3 つの公式指標すべてで向上し、Hit@5 で全体最高の成績を収めました。
Struct-IR に関するプロトコルの注記：このベンチマークはスキーマごとに数百万のオブジェクトをインデックス化しており、第 1 段階のスキーマ内 Recall@5 は約 0.04 です。そのため、エンドツーエンドの検索→再ランキングプロセスはほぼ完全に検索（Recall）性能に制約され、重排器（Reranker）の性能差を測定しにくくなっています。そこで、すべての正解ドキュメントと第 1 段階の最も困難なディストラクター 30 件を注入することで、フィールド制約付きの判別能力を検索網羅性から切り離しました。その条件下での数値は、SSRB 検索リーダーボードの数値とは直接比較できません。
tag効率性
NVIDIA A100 単体、バッチサイズ 1、上位 100 件のリストワイズ入力、FlashAttention-2 で測定。
本番環境でのリストワイズ再ランキングは、新しい候補セットに対する単一のプリフィルが支配的であるため、これらの削減は、固定されたサービング予算において、より長い候補リストとより大きなドキュメントを扱えることに直結します。
tag利用開始方法
tagJina Search Foundation API 経由
curl -X POST \
https://api.jina.ai/v1/rerank \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ***" \
-d '{
"model": "jina-reranker-v3.5",
"query": "trail-running shoes under $150, rated 4.5+, released since 2022",
"documents": [
"...",
"..."
],
"return_documents": false
}'tagElastic Inference Service 経由
jina-reranker-v3.5 は Stack 9.3 以降の Elastic Inference Service (EIS) で利用可能です。これにより、モデルを自分でホストすることなく管理された GPU 上で再ランキングを実行できます。モデルを参照する推論エンドポイントを作成し、他の rerank タスクと同様に呼び出してください。
PUT _inference/rerank/eis-jina-reranker-v3-5
{
"service": "elastic",
"service_settings": {
"model_id": "jina-reranker-v3.5"
}
}POST _inference/rerank/eis-jina-reranker-v3-5
{
"query": "trail-running shoes under $150, rated 4.5+, released since 2022",
"input": [
"...",
"..."
]
}レスポンスは関連度順に並べ替えられた rerank 配列を返し、各エントリには候補の元のインデックスとそのスコアが含まれます。これは標準的な推論エンドポイントであるため、inference_id は検索クエリ内の text_similarity_reranker 検索エンジンから直接参照可能です。
tagTransformers を使用する方法
from transformers import AutoModel
model = AutoModel.from_pretrained(
'jinaai/jina-reranker-v3.5',
dtype="auto",
trust_remote_code=True,
)
model.eval()
query = "What are the health benefits of green tea?"
documents = [
"Green tea contains catechins that may help reduce inflammation.",
"El precio del cafe ha aumentado un 20% este ano.",
"绿茶富含儿茶素等抗氧化剂，可以降低心脏病风险。",
"Le the vert est riche en antioxydants.",
]
for r in model.rerank(query, documents):
print(f"{r['relevance_score']:.4f} {r['document'][:70]}")tag結論
jina-reranker-v3.5 の実用上の主張は明確で検証可能です。パラメータ数が 0.6B という小規模ながら、ターゲットを絞った学習によって 4B クラスの汎用重排器（Reranker）との性能差のほとんどを解消しており、BEIR においてはその差を完全に埋めつつ、置き換え対象のモデルよりも高速に動作します。企業向け検索システムにおいては、利用可能な最大のモデルをデフォルトで採用するよりも、コンパクトなバックボーンに対して集中的な教師あり学習を行うことに投資する意義があるといえます。
2 つの制限事項についても明記しておく必要があります。リストワイズ型の重排器は、ポイントワイズ型やレイトインタラクション型のモデルでは回避できる入力上の制約、特に候補数や候補の合計長に関する固定の上限を依然として抱えています。また、RTEB の法律・医療タスク、構造化検索（Struct-IR）の制御プール、そしてリソースの少ない MIRACL 言語においては、4B クラスの Qwen モデルとの間に依然として重要な性能差が存在します。これらは困難なケースであり、平均値の裏に隠すのではなく、あえて明示しています。
