jina-reranker-v3.5

jina-reranker-v3.5 是一款 6 億參數的多語言列表式文件重排模型，可直接替換升級 jina-reranker-v3。它沿用相同的「後置而不遲」（LBNL）列表式介面，一次前向傳播即可讓查詢對眾多候選完成排序，同時在領域穩健性、結構化資料排序、多語言檢索和推理效率上都有提升。模型基於 Qwen3-0.6B 構建，採用 28 層混合 3L2G 注意力（視窗為 1024 的滑動視窗層，與全域注意力層交錯，並按 LBNL 要求固定末層為全域注意力層），配以輕量 MLP 投影器（1024→512→512），支援最長 131K 詞元的上下文，通過因果自注意力和餘弦評分對文件聯合排序。它在 BEIR 上達到 63.20 nDCG-10，超過 4B 的 Qwen3-Reranker，參數量卻約為其七分之一；從短上下文到長上下文，運行速度達到 v3 的 1.22 至 1.56 倍。

jina-reranker-v3.5 保留了 jina-reranker-v3 的「後置而不遲」（LBNL）列表式設計：查詢與候選共享同一個上下文視窗，並從每篇文件的最後一個詞元讀取上下文向量。不同之處在於，它用混合 3L2G 方案取代了統一的全域性注意力：每組層內，視窗為 1024 的滑動視窗注意力層與全域性注意力層交錯排列，並按 LBNL 的要求固定末層為全域性注意力層。這樣既降低了長候選列表上的注意力開銷，又保留了跨文件互動。模型透過自蒸餾訓練，以獲得跨領域穩健的檢索能力，其 MLP 投影頭輸出 512 維向量（1024→512→512）。

在以 jina-embeddings-v5-text-small 作為第一階段的統一 top-100 評測協議下，jina-reranker-v3.5 在 BEIR、MIRACL、RTEB 和 Struct-IR 上分別取得 63.20 nDCG-10、74.11、70.95 和 48.3，各項均優於 jina-reranker-v3（62.10 / 72.20 / 68.01 / 38.7）。其 BEIR 成績以約七分之一的參數量小幅超過 4B 的 Qwen3-Reranker（62.28），在所有參評的 0.6B 級重排模型中位居第一。相較 v3 的提升包括：BEIR 提高 1.10 分，MIRACL 提高 2.6%，RTEB 提高 4.3%（法律檢索提升尤為明顯），結構化資料排序（Struct-IR）提高 24.8%。從短上下文到長上下文，列表式推理速度達到 v3 的 1.22 至 1.56 倍（A100，FlashAttention-2）。

jina-reranker-v3.5 可直接替換 jina-reranker-v3：請求格式完全不變，只需把模型名從 jina-reranker-v3 改為 jina-reranker-v3.5。它一次呼叫即可讓查詢對整個候選列表完成排序，透過標準重排端點傳入文件，用 top_n 限制返回條數，或設定 return_embeddings 一併取回文件向量。該模型在結構化資料排序、法律等垂直領域檢索以及多語言集合上表現尤為出色，混合注意力設計還能在長候選列表下保持低延遲。模型已在 Hugging Face 上以 CC-BY-NC-4.0 協議釋出；如需商用請聯絡我們。