jina-colbert-v1-en

jina-colbert-v1-en 是一个 137M 参数的英语迟交互（late-interaction）检索模型，生成 token 级向量（每 token 128 维），而非单个文档向量。这使得以双编码器效率获得交叉编码器质量成为可能：文档只需索引一次，相关性评分在查询时通过对 token 对的最大池化和求和完成。它支持 8,192 token 的文档，是首个将 ColBERT 风格检索引入生产的 Jina 模型。

该模型采用基于改编 ColBERT 方案的迟交互架构。它不会一次性比较整个文档，而是独立处理查询和文档，直到最终匹配阶段。文档编码器处理多达 8,192 token 的文本；查询编码器生成精确的 token 级表示。查询和文档中的每个 token 都获得自己的 128 维向量，保留了单向量模型中丢失的细粒度语义信息。迟交互机制通过对查询 token 做最大池化、对文档 token 做求和来计算相关性分数，在避免交叉编码器昂贵的全对全注意力的同时捕捉 token 级匹配信号。该架构使用 137M 参数、基于 BERT 的编码器和针对 8,192 token 上下文的 ALiBi 位置编码。

在 BEIR 数据集集合上，模型取得优越性能：Arguana 49.4%（ColBERTv2 为 46.5%）、FEVER 79.5%（对比 78.8%）、TREC-COVID 75.0%（对比 72.6%）。最令人印象深刻的是长上下文理解的 LoCo 基准上的大幅提升，得分 83.7%，而 ColBERTv2 为 74.3%——9.4 个百分点的增益展示了 token 级表示对长文档的价值。该模型在通过迟交互方案保持计算效率的同时，超过了传统单向量模型。137M 参数量使其适合生产部署。

当您需要交叉编码器的检索质量而不需要其延迟时使用此模型。最优性能需要支持 CUDA 的 GPU；开发时可用 CPU 推理。8,192 token 的文档上限约为 6,000 字，适合包括学术论文和技术文档在内的大多数文档类型。该模型仅支持英语——多语应用请使用 jina-colbert-v2。生产部署应实现适当的文档分块策略，并使用向量相似性索引（FAISS、Qdrant、Weaviate）进行高效检索。在采用 RAGatouille 等简化迟交互实现的框架的 RAG 流水线中，该模型尤其有效。如需多语支持或更高精度，请考虑 jina-colbert-v2 或 jina-embeddings-v4（多向量模式）。