I/O 圖

文字

jina-embeddings-v2-base-en

向量

帕雷托前緣
30M100M300M1B3.0B10B204060all-MiniLM-L6-v2all-mpnet-base-v2e5-base-v2e5-mistral-7b-instructEmbeddingGemma-300MEVA-CLIP ViT-B/16gtr-t5-largegtr-t5-xlgtr-t5-xxljina-clip-v1jina-clip-v2jina-embedding-l-en-v1jina-embedding-s-en-v1jina-embeddings-v2-base…jina-embeddings-v2-smal…jina-embeddings-v3jina-embeddings-v4jina-embeddings-v5-text…jina-embeddings-v5-text…KaLM-mini-v2.5LongCLIP ViT-B/16multilingual-e5-large-i…nllb-siglip-largeOpenAI CLIP ViT-B/16Qwen3-Embedding-0.6BQwen3-Embedding-0.6B (g…Qwen3-Embedding-4Bsentence-t5-basesentence-t5-largesentence-t5-xlsentence-t5-xxljina-embeddings-v2-base…參數量(對數)nDCG@10
本模型
在前緣上
Jina AI
其他
MTEB English · retrieval
49.05
參數量
137M
按分數的排名
17 / 39
帕雷托前緣
在前緣之後
取值分佈
AUC 0.8376
語料
翻譯對
文件檢索
0.8500.600.700.800.90
相關26.9%
困難負例2.7%
無關1.1%
推薦閾值
FPR 0.1 · 0.793
FPR 0.01 · 0.850
FPR 0.001 · 0.894
FPR 0.0001 · 0.914
均衡 · 0.762
AUC
0.8376
雜訊上限
0.893
召回斷崖
0.691
測量樣本對
119 / 11k
向量分量
-0.14-0.000.14
σ 0.0361 · 183k 個數值
向量幾何
0768
各維度平均值,游標移入檢視區間
雜訊下限
0.751
有效維度
59 / 768
選擇要比較的模型
論文 (1)

概述

jina-embeddings-v2-base-en 是一個 137M 參數的英文文字向量模型,具備 8,192 詞元的上下文視窗,是當時標準 512 詞元上限的 16 倍。它建構在帶有對稱雙向 ALiBi(Attention with Linear Biases)的 BERT-small 骨幹上,是首個能原生處理長文件、無需截斷或分塊的開源 Jina 向量模型。它產生 768 維向量,在不需要 v3/v5 多語言或長上下文功能的純英文檢索中仍是可靠選項。

方法

該架構把 BERT-small Transformer(12 層、12 個注意力頭、768 隱藏維度)與對稱雙向 ALiBi 位置編碼搭配。ALiBi 以線性衰減的注意力偏誤取代學習式位置編碼,讓模型能遠遠超出 512 詞元的訓練長度、外推到 8,192 詞元而不犧牲效能。訓練採兩階段流程:先在 C4 上預訓練,再於 Jina 精選的 40 多個專用句對資料集上以困難負樣本挖掘微調。對稱雙向注意力確保每個詞元同時關注前文與後文,產生能捕捉句子整體語意的表示。對所有詞元表示取平均池化,得到最終的 768 維向量。

效能

發布時,該模型在多個 MTEB 英文子任務上勝過 OpenAI 的 text-embedding-ada-002:分類(73.45% 對 70.93%)、重排序(85.38% 對 84.89%)、檢索(56.98% 對 56.32%)、摘要(31.6% 對 30.8%)。8,192 詞元的上下文相對於當時僅支援 512–2,048 詞元的競爭模型是一大優勢,可做文件級檢索而不必分塊。精簡的 307MB 佔用讓它能在消費級 GPU 上部署。2026 年,jina-embeddings-v5-text-small(677M 參數、32K 上下文、任務特定 LoRA 適配器)在大多數生產工作負載上表現更好,但它在輕量純英文管線中仍有其位置。

最佳實務

當 8K 上下文視窗就夠用、也不需要多語言或任務特定適配器時,純英文檢索就用這個模型。文件超過 8,192 詞元時,請先做語意分塊再向量化。該模型可與主流向量資料庫(Qdrant、Weaviate、MongoDB Atlas、Milvus)及 RAG 框架(LangChain、LlamaIndex、Haystack)整合。新專案若需要多語言支援、32K 上下文或任務特定最佳化,建議改用 jina-embeddings-v5-text-small。生產吞吐量建議搭配支援 CUDA 的 GPU;CPU 推理可行,但會慢上不少。

提及此模型的部落格