jina-embeddings-v3

jina-embeddings-v3 是一个 570M 参数的多语言文本向量模型，支持 89 种语言和 8,192 token 的上下文窗口。其标志性创新是使用任务特定的 LoRA 适配器：相同的 570M 骨干通过切换轻量级适配器权重（每个 60M 参数以内）为检索、分类、聚类和文本匹配生成优化的向量。发布时它取得了 SOTA 的 MTEB 性能，在英语任务上超过了 OpenAI 和 Cohere 的专有向量。

该模型基于具有 24 层 Transformer 的 jina-XLM-RoBERTa 骨干构建，使用 RoPE（旋转位置编码）并针对长上下文外推调整了基础频率，最高支持 8,192 token。训练遵循三阶段课程：(1) 89 种语言的多语言预训练，(2) 在配对文本数据集上进行对比微调以建立基础向量质量，(3) 任务特定的 LoRA 适配器训练。每个 LoRA 适配器仅增加不到 3% 的总参数量，同时让模型专精于特定任务：非对称搜索的 retrieval.query 和 retrieval.passage、聚类的 separation、分类的 classification 以及语义相似度的 text-matching。Matryoshka 表示学习（MRL）允许将向量从 1024 截断到 32 维，同时在 64 维下保留 90% 以上的检索质量。支持 late chunking 处理超出上下文窗口的文档。

在 MTEB 上，jina-embeddings-v3 在所有任务上的平均得分为 65.52，在分类（82.58）和句子相似度（85.80）上表现尤为突出。它在所有多语言任务上超过了 multilingual-e5-large-instruct，并在英语任务上击败了 e5-mistral-7b-instruct（参数量为 12 倍）。在多语言 MTEB 上，它得分 64.44，展现了跨 89 种语言的一致性表现。MRL 截断在 64 维下保留了 92% 的检索性能，而完整维度为 1024。2026 年，jina-embeddings-v5-text-small 在大多数工作负载上取代该模型，提供 32K 上下文和基于蒸馏的训练，带来每参数更高的精度。

为您的任务选择合适的 LoRA 适配器：retrieval.query/retrieval.passage 用于搜索，separation 用于聚类，classification 用于分类，text-matching 用于语义相似度。对超过 8,192 token 的文档使用 `late_chunking 参数。Matryoshka 截断到 256 或 512 维适合存储受限的索引；重排序请使用完整的 1024 维。该模型需要支持 CUDA 的 GPU 才能达到生产吞吐量。对于新的多语言项目，优先选择 jina-embeddings-v5-text-small`（32K 上下文、蒸馏训练、更高精度）。该模型并非为文本生成或复杂推理设计——它产出的是向量，而非文本。