I/O 圖

文字

jina-embeddings-v3

任務

向量

帕雷托前緣
30M100M300M1B3.0B10B30B506070all-MiniLM-L6-v2bge-base-en-v1.5bge-en-iclbge-multilingual-gemma2bge-small-en-v1.5cde-small-v1e5-mistral-7b-instructe5-small-v2EVA-CLIP ViT-B/16granite-embedding-30m-e…GritLM-8x7Bgte-largegte-modernbert-basegte-Qwen2-1.5B-instructgte-smalljina-clip-v1jina-embeddings-v2-base…KaLM-mini-v2.5LaBSELENS-d4000LENS-d8000Linq-Embed-MistralLongCLIP ViT-B/16multilingual-e5-basemultilingual-e5-large-i…multilingual-e5-smallOpenAI CLIP ViT-B/16Qwen3-Embedding-0.6BSFR-Embedding-Mistralsnowflake-arctic-embed-lsnowflake-arctic-embed-…static-retrieval-mrl-en…stella_en_1.5B_v5stella_en_400M_v5UAE-Large-V1jina-embeddings-v3參數量(對數)score
本模型
在前緣上
Jina AI
其他
MTEB English
65.52
參數量
572M
按分數的排名
15 / 52
帕雷托前緣
在前緣之後
取值分佈
AUC 0.8525
語料
翻譯對
文件檢索
程式碼
任務
default
classification
retrieval.passage
retrieval.query
retrieval.query → retrieval.passage
separation
text-matching
0.7410.200.400.600.80
相關21.8%
困難負例3.0%
無關1.0%
推薦閾值
FPR 0.1 · 0.618
FPR 0.01 · 0.741
FPR 0.001 · 0.797
FPR 0.0001 · 0.824
均衡 · 0.597
AUC
0.8525
雜訊上限
0.791
召回斷崖
0.385
測量樣本對
119 / 11k
向量分量
-0.25-0.010.23
σ 0.0312 · 244k 個數值
向量幾何
01024
各維度平均值,游標移入檢視區間
雜訊下限
0.496
有效維度
54 / 1024
維度截斷
32641282565121024
classification · 閾值隨所請求維度的變化
語言對
de-rude-zhen-deen-jaen-koen-ruen-zhja-ko
各語言對之間的閾值跨度:0.072
選擇要比較的模型
論文 (4)

概述

jina-embeddings-v3 是一個 570M 參數的多語言文字向量模型,支援 89 種語言與 8,192 詞元的上下文視窗。其標誌性創新是任務特定的 LoRA 適配器:同一個 570M 骨幹只要切換輕量級適配器權重(每個 60M 參數以內),就能為檢索、分類、分群與文字匹配產生最佳化的向量。發布時它取得 SOTA 的 MTEB 效能,在英語任務上超越 OpenAI 與 Cohere 的專有向量模型。

方法

該模型建構在 24 層 Transformer 的 jina-XLM-RoBERTa 骨幹上,使用旋轉位置編碼(RoPE)並調整基底頻率,以支援長上下文外推至 8,192 詞元。訓練依三階段課程進行:(1)89 種語言的多語言預訓練;(2)在配對文字資料集上做對比微調,建立基礎向量品質;(3)任務特定的 LoRA 適配器訓練。每個 LoRA 適配器只增加不到 3% 的總參數量,卻能讓模型專精於特定任務:非對稱搜尋用 retrieval.query 與 retrieval.passage、分群用 separation、分類用 classification、語意相似度用 text-matching。Matryoshka 表示學習(MRL)讓向量可從 1024 截斷到 32 維,在 64 維時仍保有 90% 以上的檢索品質。文件超過上下文視窗時支援 late chunking。

效能

在 MTEB 上,jina-embeddings-v3 所有任務平均 65.52,分類(82.58)與句子相似度(85.80)尤其突出。它在所有多語言任務上勝過 multilingual-e5-large-instruct,在英語任務上則擊敗參數量為其 12 倍的 e5-mistral-7b-instruct。在多語言 MTEB 上,它得分 64.44,在 89 種語言上表現一致。MRL 截斷在 64 維時仍保留 92% 的檢索效能,完整維度則為 1024。2026 年,jina-embeddings-v5-text-small 在大多數工作負載上取代該模型,提供 32K 上下文與蒸餾式訓練,每參數精確度更高。

最佳實務

依任務選擇對應的 LoRA 適配器:搜尋用 retrieval.query/retrieval.passage,分群用 separation,分類用 classification,語意相似度用 text-matching。文件超過 8,192 詞元時請使用 `late_chunking 參數。Matryoshka 截斷到 256 或 512 維適合儲存受限的索引;重排序請用完整的 1024 維。生產吞吐量需要支援 CUDA 的 GPU。新的多語言專案建議改用 jina-embeddings-v5-text-small`(32K 上下文、蒸餾式訓練、精確度更高)。該模型不是為文字生成或複雜推理設計的——它產出的是向量,不是文字。

提及此模型的部落格