jina-reranker-v3.5

jina-reranker-v3.5 è un reranker di documenti multilingue listwise con 0,6 miliardi di parametri e un aggiornamento diretto a jina-reranker-v3. Mantiene la stessa interfaccia listwise last-but-not-late (LBNL) – classificando una query rispetto a molti candidati in un singolo passaggio in avanti – migliorando al contempo la robustezza del dominio, la classificazione dei dati strutturati, il recupero multilingue e l'efficienza dell'inferenza. Basato su Qwen3-0.6B con 28 layer che utilizzano un'attenzione ibrida 3L2G (layer a finestra scorrevole, finestra 1024, interlacciati con layer di attenzione globale e un layer globale terminale bloccato richiesto da LBNL) e un proiettore MLP leggero (1024→512→512), supporta fino a 131.000 token di contesto e classifica i documenti congiuntamente tramite autoattenzione causale e punteggio coseno. Raggiunge un punteggio nDCG-10 di 63,20 su BEIR, superando il Qwen3-Reranker a 4 miliardi di parametri con circa 7 volte meno parametri, e risultando da 1,22 a 1,56 volte più veloce della versione 3 in contesti di durata variabile.

jina-reranker-v3.5 mantiene il design listwise last-but-not-late (LBNL) di jina-reranker-v3 — query e candidati condividono una singola finestra di contesto e un embedding contestuale viene letto dall'ultimo token di ciascun documento — ma sostituisce l'attenzione globale uniforme con uno schema ibrido 3L2G: all'interno di ciascun gruppo di layer, i layer di attenzione a finestra scorrevole (finestra 1024) sono intercalati con layer di attenzione globale e un layer globale terminale è bloccato come richiesto da LBNL. Ciò riduce il costo dell'attenzione su lunghe liste di candidati, preservando al contempo l'interazione tra i documenti. Il modello è addestrato con autodistillazione per un recupero robusto al dominio e la sua testa di proiezione MLP produce embedding a 512 dimensioni (1024→512→512).

In base a un protocollo unificato top-100 con jina-embeddings-v5-text-small come primo stadio, jina-reranker-v3.5 ottiene un punteggio di 63,20 nDCG-10 su BEIR, 74,11 su MIRACL, 70,95 su RTEB e 48,3 su Struct-IR, migliorando rispetto a jina-reranker-v3 (62,10 / 72,20 / 68,01 / 38,7) su ogni asse. Il suo punteggio BEIR supera quello del 4B Qwen3-Reranker (62,28) con circa 7 volte meno parametri e primeggia tra tutti i reranker di classe 0,6B valutati. I miglioramenti relativi rispetto alla v3 includono +1,10 BEIR, +2,6% MIRACL, +4,3% RTEB (con notevoli incrementi nel recupero legale) e +24,8% nella classificazione dei dati strutturati (Struct-IR). L'inferenza listwise è da 1,22× a 1,56× più veloce della v3 passando da contesti brevi a lunghi (A100, FlashAttention-2).

jina-reranker-v3.5 è un sostituto diretto di jina-reranker-v3: lo schema della richiesta rimane invariato, quindi è sufficiente sostituire la stringa del modello da jina-reranker-v3 a jina-reranker-v3.5. Classifica una query rispetto all'intero elenco di candidati in una singola chiamata: passa i documenti tramite l'endpoint di rerank standard e usa top_n per limitare i risultati restituiti, oppure imposta return_embeddings per recuperare anche gli embedding dei documenti. Il modello è particolarmente efficace nella classificazione di dati strutturati, nel recupero di informazioni legali e specifiche di dominio e nelle collezioni multilingue, e il suo design con attenzione ibrida mantiene bassa la latenza anche con elenchi di candidati lunghi. Disponibile con licenza CC-BY-NC-4.0 su Hugging Face; contattaci per l'utilizzo commerciale.