jina-reranker-v3.5

jina-reranker-v3.5 は、0.6B パラメータの多言語リストワイズ文書リランカーで、jina-reranker-v3 の差し替え可能なアップグレード版です。単一の順伝播で 1 つのクエリを多数の候補に対してランク付けする last-but-not-late（LBNL）リストワイズ インターフェースはそのままに、ドメインの堅牢性、構造化データのランキング、多言語検索、推論効率が向上しています。Qwen3-0.6B をベースに構築され、28 層のハイブリッド 3L2G アテンション（ウィンドウ サイズ 1024 のスライディング ウィンドウ層を、グローバル アテンション層および LBNL で必要な固定ターミナル グローバル層とインターリーブ）と、軽量 MLP プロジェクター（1024→512→512）を組み合わせ、最大 131K トークンのコンテキストをサポートし、因果的セルフアテンションとコサイン スコアリングによって文書を共同でランク付けします。BEIR では 63.20 nDCG-10 を達成し、パラメータ数が約 7 分の 1 でありながら 4B の Qwen3-Reranker（62.28）を上回りました。また、短いコンテキストから長いコンテキストにわたって v3 よりも 1.22〜1.56 倍高速に動作します。

jina-reranker-v3.5 は、クエリと候補語が同じコンテキスト ウィンドウを共有し、各ドキュメントの最後の用語からコンテキスト埋め込みが読み込まれる jina-reranker-v3 の Last-But-Not-Late (LBNL) リスト設計を維持していますが、均一なグローバル アテンション メカニズムをハイブリッド 3L2G スキームに置き換えています。各レイヤー グループ内で、スライディング ウィンドウ アテンション レイヤー (ウィンドウ サイズ 1024) がグローバル アテンション レイヤーとインターリーブされ、LBNL 要件に従ってターミナル グローバル レイヤーが固定されます。これにより、ドキュメント間の相互作用を維持しながら、長い候補語リストのアテンション オーバーヘッドが削減されます。このモデルは、ドメインに頑健な検索のために自己蒸留を使用してトレーニングされ、その MLP 射影ヘッドは 512 次元の埋め込み (1024→512→512) を出力します。

jina-embeddings-v5-text-smallを第一段階とする統一トップ100プロトコルの下で、jina-reranker-v3.5はBEIRで63.20 nDCG-10、MIRACLで74.11、RTEBで70.95、Struct-IRで48.3を達成し、すべての軸でjina-reranker-v3（62.10 / 72.20 / 68.01 / 38.7）を上回りました。BEIRスコアは、パラメータ数が約7分の1でありながら4BのQwen3-Reranker（62.28）をわずかに上回り、評価対象の0.6Bクラスのリランカーの中で首位となりました。v3と比較した相対的な改善としては、BEIRで+1.10ポイント、MIRACLで+2.6%、RTEBで+4.3%（法務検索で大幅な向上）、構造化データのランキング（Struct-IR）で+24.8%が挙げられます。リストワイズ推論は、短いコンテキストから長いコンテキストにわたってv3よりも1.22〜1.56倍高速です（A100、FlashAttention-2）。

jina-reranker-v3.5 は jina-reranker-v3 のドロップイン置き換えです。リクエストスキーマは変更されていないため、モデル文字列を jina-reranker-v3 から jina-reranker-v3.5 に変更するだけで済みます。このモデルは、標準の rerank エンドポイントを介してドキュメントを渡し、top_n を使用して返される結果を制限したり、return_embeddings を設定してドキュメントの埋め込みを同時に取得したりすることで、クエリと候補リスト全体を 1 つの呼び出しでランク付けします。このモデルは、構造化データのランキング、法律およびその他のドメイン固有の検索、多言語コレクションで特に優れたパフォーマンスを発揮し、ハイブリッド アテンション設計により、長い候補リストでもレイテンシを低く抑えます。Hugging Face で CC-BY-NC-4.0 ライセンスの下で公開されています。商用利用についてはお問い合わせください。