jina-embeddings-v2-base-zh

Jina Embeddings v2 Base Chinese 开创了先河，成为第一个无缝处理中文和英文文本的开源模型，其上下文长度达到前所未有的 8,192 个 token。这个强大的双语模型解决了全球商业面临的一个关键挑战：需要准确、长篇文档处理中文和英文内容。与传统模型难以进行跨语言理解或需要为每种语言建立单独的模型不同，该模型将两种语言的等效含义映射到同一个向量空间，这对于在全球范围内扩张或管理多语言内容的组织来说非常有价值。

该模型的架构将基于 BERT 的主干与对称双向 ALiBi（具有线性偏差的注意力机制）相结合，从而能够高效处理长序列，而不受传统 512 个 token 的限制。训练过程遵循精心策划的三阶段方法：首先在高质量双语数据上进行预训练，然后进行主要和次要微调阶段。这种有条不紊的训练策略，加上模型的 161M 参数和 768 维输出，实现了卓越的效率，同时保持了两种语言的平衡性能。对称双向 ALiBi 机制代表了一项重大创新，使模型能够处理长度高达 8,192 个 token 的文档——这一功能以前仅限于专有解决方案。

在中文 MTEB (C-MTEB) 排行榜的基准测试中，该模型在 0.5GB 以下的模型中表现出色，尤其是在中文任务中表现出色。它在中文特定应用中的表现明显优于 OpenAI 的 text-embedding-ada-002，同时在英语任务中保持了竞争力。此版本中的一个显着改进是改进了相似度分数分布，解决了预览版本中存在的分数膨胀问题。该模型现在提供更独特、更合乎逻辑的相似度分数，确保更准确地表示文本之间的语义关系。这种增强在比较测试中尤为明显，其中模型在两种语言中对相关和不相关内容表现出更好的区分能力。

该模型需要 322MB 的存储空间，可通过多种渠道部署，包括 AWS SageMaker（us-east-1 区域）和 Jina AI API。虽然 GPU 加速不是强制性的，但它可以显著提高生产工作负载的处理速度。该模型在文档分析、多语言搜索和跨语言信息检索等各种应用中表现出色，但用户应注意，它专门针对中英双语场景进行了优化。为了获得最佳效果，输入文本应正确分段，虽然该模型最多可以处理 8,192 个词元，但建议将极长的文档分解为具有语义意义的块以获得更好的性能。该模型可能不适合需要实时处理非常短的文本的任务，在这些任务中，低延迟的专用模型可能更合适。