jina-reranker-v1-turbo-en

jina-reranker-v1-turbo-en は 37.8M パラメータの英語クロスエンコーダーリランカーで、ベースモデルの精度の 95 % を提供しながら、文書の処理を 3 倍速く、メモリ使用量は 75 % 少なくします。完全なクロスエンコーダーの品質-レイテンシのトレードオフが現実的ではなかった本番検索システム向けに設計され、スケールでの検索改善の実用的な道を提案します。

モデルは、ベースリランカーの 12 層 BERT アーキテクチャを 37.8M パラメータ（ベースは 137M）の 6 層設計に圧縮します。クエリと文書間のトークンレベル相互作用のコアとなる BERT ベースのクロスアテンション機構を維持しながら、層数の削減と効率的なパラメータ割当により速度を最適化します。学習はナレッジ蒸留を使用します：より大きなベースモデルが教師として機能し、少ないパラメータでそのランキング動作に一致するように turbo バリアントを導きます。モデルは ALiBi 位置エンコーディングにより最大 8,192 トークンのシーケンスをサポートし、高速推論を維持しながら包括的な文書解析を可能にします。

BEIR では、turbo バリアントは NDCG{'@'}10 49.60 を達成し、ベースモデルの性能（52.45）の 95 % を維持しながら、bge-reranker-base（47.89、278M パラメータ）を上回ります。RAG アプリケーションでは、83.51 % のヒット率と 0.6498 MRR を維持します。速度優位性は大幅です：ベースモデルの 3 倍速く、スループットはパラメータ数の削減にほぼ比例して拡張します。メモリ要件はベースの 550MB から turbo の 150MB に低下し、小さなインスタンスでのデプロイとクラウド環境における大幅なコスト削減を可能にします。ほとんどのタスクでの性能劣化は最小限で、極めて微妙な区別が求められるランキングシナリオではわずかに低いスコアです。

二段階パイプラインを実装してください：ベクトル検索が初期候補を提供し、このモデルが上位 100–200 件を再ランキングします。ほとんどのアプリケーションにとってのスイートスポットは、クエリあたり 100–200 候補を再ランキングすることで、品質と速度をバランスさせることです。モデルは英語のみ — 多言語アプリケーションには jina-reranker-v2-base-multilingual または jina-reranker-v3.5 を使用してください。CUDA 対応ハードウェアが必要ですが、ベースモデルより小さなインスタンスで動作します（GPU メモリ 150MB 対 550MB）。Jina Reranker API と AWS SageMaker で利用可能です。新規プロジェクトには、jina-reranker-v3.5（多言語、リストワイズ、131K コンテキスト）が推奨の選択です。レイテンシが主制約の場合、このモデルの 3 倍の速度優位性がリアルタイム検索アプリケーションへの適用を可能にします。