jina-reranker-v2-base-multilingual

jina-reranker-v2-base-multilingual ist ein 278M-Parameter Cross-Encoder-Reranker, der 100+ Sprachen mit einem 1.024-Token-Kontextfenster unterstützt (524.288 Tokens mit Flash Attention 2). Er war der erste Jina-Reranker, der die Beschränkung auf Englisch aufbrach, und lieferte State-of-the-Art-Performance auf AirBench sowie starke Ergebnisse bei Aufgaben mit strukturierten Daten, etwa Function Calling und SQL-Schema-Matching. Er verarbeitet Dokumente 15× schneller als vergleichbare Modelle.

Das Modell setzt eine Cross-Encoder-Architektur mit Flash Attention 2 ein, die einen direkten Vergleich zwischen Queries und Dokumenten über Sprachbarrieren hinweg ermöglicht. Der BERT-basierte Encoder mit 278M Parametern verwendet symmetrische bidirektionale Attention mit ALiBi-Positionskodierungen für den 1.024-Token-Basis-Kontext (erweiterbar auf 524.288 Tokens mit Flash Attention 2). Das Training folgte einem vierstufigen progressiven Prozess: (1) Sprachfähigkeiten in Englisch, (2) sprachübergreifendes Alignment, (3) Einbeziehung mehrsprachiger Daten, (4) Verfeinerung mit harten Negativen. Dieser gestufte Ansatz verhinderte das katastrophale Vergessen, das häufig auftritt, wenn mehrsprachige Daten einem einsprachigen Modell hinzugefügt werden. Die Flash-Attention-2-Implementierung ist eine zentrale Effizienzinnovation, die 15× höheren Durchsatz als bge-reranker-v2-m3 ermöglicht.

Das Modell erzielt State-of-the-Art-Werte im AirBench-Leaderboard für RAG-Systeme und starke Ergebnisse auf MKQA (26 Sprachen). Besonders stark ist es bei Aufgaben mit strukturierten Daten: hohe Recall-Werte auf ToolBench (Function Calling) und NSText2SQL (SQL-Schema-Matching). Am beeindruckendsten: Es verarbeitet Dokumente 15× schneller als vergleichbare Modelle wie bge-reranker-v2-m3 und wird damit für Echtzeit-Anwendungen praktikabel. Die Unterstützung von über 100 Sprachen und die Fähigkeiten bei strukturierten Daten machen es besonders geeignet für agentische RAG-Systeme und mehrsprachige API-Dokumentationssuche. Im Jahr 2026 löst jina-reranker-v3.5 dieses Modell ab – mit Listwise-Interaktion, 131K-Kontext und domänenspezifischem Training.

Das Modell benötigt eine CUDA-fähige GPU und ist über die Jina-Reranker-API, große RAG-Frameworks (Haystack, LangChain) und Cloud-Marketplaces (AWS, Azure, GCP) verfügbar. Es ist besonders stark in Szenarien, die präzises Verständnis über Sprach- und Datentyggrenzen hinweg erfordern: globale Unternehmen mit mehrsprachigen Inhalten, API-Dokumentationssuche und Code-Retrieval über mehrsprachige Codebasen hinweg. Mit dem 1.024-Token-Kontextfenster und automatischem Chunking für längere Dokumente verarbeitet es umfangreiche Inhalte effizient. Verwenden Sie dieses Modell, wenn Sie die Suchgenauigkeit über Sprachen hinweg verbessern, Function Calling für agentisches RAG benötigen oder die Codesuche über mehrsprachige Codebasen verbessern möchten. Für neue Projekte bietet jina-reranker-v3.5 Listwise-Ranking, 131K-Kontext und domänenspezifische Verbesserungen.