I/O 圖

多個

文件

查詢

jina-reranker-v1

排序

帕雷托前緣
30M100M300M0.810.820.830.84bge-reranker-basejina-reranker-v1-base-enjina-reranker-v1-tiny-enms-marco-MiniLM-L-4-v2ms-marco-MiniLM-L-6-v2mxbai-rerank-base-v1mxbai-rerank-xsmall-v1jina-reranker-v1-turbo-…參數量(對數)hit-rate
本模型
在前緣上
Jina AI
其他
LlamaIndex RAG · avg3emb
0.835
參數量
38M
按分數的排名
2 / 8
帕雷托前緣
在前緣上
取值分佈
AUC 0.8287
語料
翻譯對
0.4800.000.200.400.600.80
相關29.0%
困難負例7.0%
無關1.1%
推薦閾值
FPR 0.1 · 0.223
FPR 0.01 · 0.480
FPR 0.001 · 0.753
FPR 0.0001 · 0.959
均衡 · 0.083
AUC
0.8287
雜訊上限
0.731
召回斷崖
0.019
測量樣本對
100 / 9,200
各名次得分
12345678910
各名次位置上的平均得分
選擇要比較的模型

概述

jina-reranker-v1-turbo-en 是一個 37.8M 參數的英語交叉編碼器重排模型,在文件處理速度快 3 倍、記憶體用量少 75% 的同時,提供基礎模型 95% 的準確率。它為生產搜尋系統而設計——在那些系統裡,完整交叉編碼器的品質與延遲取捨並不實際,它讓大規模搜尋精煉有了一條實用路徑。

方法

該模型把基礎重排模型的 12 層 BERT 架構壓縮成 6 層設計,參數為 37.8M(基礎版為 137M)。它保留查詢與文件之間詞元級互動的核心 BERT 交叉注意力機制,但靠減少層數與有效率的參數配置來換速度。訓練使用知識蒸餾:由較大的基礎模型當教師,引導 turbo 變體以更少參數對齊其排序行為。該模型透過 ALiBi 位置編碼支援最長 8,192 詞元的序列,在維持快速推理的同時仍能做完整的文件分析。

效能

在 BEIR 上,turbo 變體取得 NDCG{'@'}10 49.60,保留基礎模型效能(52.45)的 95%,同時勝過 bge-reranker-base(47.89,278M 參數)。在 RAG 應用中,它維持 83.51% 的命中率與 0.6498 MRR。速度優勢明顯:比基礎模型快 3 倍,吞吐量隨參數減少幾乎線性成長。記憶體需求從基礎版的 550MB 降到 turbo 的 150MB,可部署在更小的執行個體上,在雲端環境省下可觀成本。多數任務的效能退化極小,僅在極為細微的排序情境下分數略低。

最佳實務

實作兩階段管線:先由向量搜尋提供初始候選,再由這個模型對前 100–200 名重排序。多數應用的甜蜜點是每個查詢重排序 100–200 個候選,兼顧品質與速度。該模型僅支援英語;多語言應用請用 jina-reranker-v2-base-multilingual 或 jina-reranker-v3.5。它需要支援 CUDA 的硬體,但可在比基礎模型更小的執行個體上跑(GPU 記憶體 150MB 對 550MB)。可透過 Jina Reranker API 與 AWS SageMaker 取得。新專案建議選 jina-reranker-v3.5(多語言、listwise、131K 上下文)。當延遲是主要限制時,該模型 3 倍的速度優勢讓它適合即時搜尋應用。

提及此模型的部落格