概要
jina-reranker-v1-turbo-en は 37.8M パラメータの英語クロスエンコーダーリランカーで、ベースモデルの精度の 95% を提供しながら、文書の処理を 3 倍速く、メモリ使用量は 75% 少なくします。完全なクロスエンコーダーの品質とレイテンシのトレードオフが現実的ではなかった本番検索システム向けに設計され、大規模環境での検索改善に実用的な道筋を示します。
手法
モデルは、ベースリランカーの 12 層 BERT アーキテクチャを 37.8M パラメータ(ベースは 137M)の 6 層設計に圧縮します。クエリと文書間のトークンレベル相互作用のコアとなる BERT ベースのクロスアテンション機構を維持しながら、層数の削減と効率的なパラメータ配分により速度を最適化します。学習はナレッジ蒸留を使用します:より大きなベースモデルが教師として機能し、少ないパラメータでそのランキング動作に一致するように turbo バリアントを導きます。モデルは ALiBi 位置エンコーディングにより最大 8,192 トークンのシーケンスをサポートし、高速推論を維持しながら包括的な文書解析を可能にします。
パフォーマンス
BEIR では、turbo バリアントは NDCG{'@'}10 49.60 を達成し、ベースモデルの性能(52.45)の 95% を維持しながら、bge-reranker-base(47.89、278M パラメータ)を上回ります。RAG アプリケーションでは、83.51% のヒット率と 0.6498 MRR を維持します。速度面の優位性は大きく、ベースモデルの 3 倍の速さで、スループットはパラメータ数の削減にほぼ比例して拡張します。メモリ要件はベースの 550MB から turbo の 150MB に低下し、小さなインスタンスでのデプロイとクラウド環境における大幅なコスト削減を可能にします。ほとんどのタスクでの性能劣化は最小限で、極めて微妙な区別が求められるランキングシナリオではわずかに低いスコアです。
ベストプラクティス
二段階パイプラインを実装してください:ベクトル検索が初期候補を提供し、このモデルが上位 100–200 件を再ランキングします。多くのアプリケーションで最適なのは、クエリあたり 100–200 件の候補を再ランキングする場合で、品質と速度のバランスが取れます。モデルは英語のみ — 多言語アプリケーションには jina-reranker-v2-base-multilingual または jina-reranker-v3.5 を使用してください。CUDA 対応ハードウェアが必要ですが、ベースモデルより小さなインスタンスで動作します(GPU メモリ 150MB 対 550MB)。Jina Reranker API と AWS SageMaker で利用可能です。新規プロジェクトには、jina-reranker-v3.5(多言語、リストワイズ、131K コンテキスト)が推奨されます。レイテンシが主制約の場合、このモデルの 3 倍の速度優位性がリアルタイム検索アプリケーションへの適用を可能にします。





