jina-colbert-v1-en

jina-colbert-v1-en는 137M 파라미터의 영어 레이트 인터랙션 검색 모델로, 단일 문서 벡터 대신 토큰 수준 임베딩(토큰당 128차원)을 생성합니다. 이를 통해 바이엔코더의 효율로 크로스엔코더 수준의 품질을 실현합니다: 문서는 한 번만 인덱싱되고, 관련성 점수는 쿼리 시 토큰 쌍에 대한 마크스 풀링과 합산으로 계산됩니다. 8,192토큰 문서를 지원하며, ColBERT 스타일 검색을 프로덕션에 도입한 최초의 Jina 모델입니다.

모델은 적응형 ColBERT 접근법 기반의 레이트 인터랙션 아키텍처를 사용합니다. 문서를 통째로 한 번에 비교하는 대신, 최종 매칭 단계까지 쿼리와 문서를 독립적으로 처리합니다. 문서 인코더는 최대 8,192토큰의 텍스트를 처리하고, 쿼리 인코더는 정밀한 토큰 수준 표현을 생성합니다. 쿼리와 문서의 각 토큰은 단일 벡터 모델에서 손실되는 세밀한 의미 정보를 보존하는 자체 128차원 임베딩 벡터를 받습니다. 레이트 인터랙션 메커니즘은 쿼리 토큰에 대한 마크스 풀링과 문서 토큰에 대한 합산으로 관련성 점수를 계산해, 크로스엔코더의 비싼 올투올 어텐션을 피하면서 토큰 수준 매칭 시그널을 포착합니다. 아키텍처는 8,192토큰 컨텍스트를 위해 BERT 기반 인코더와 ALiBi 위치 인코딩을 사용한 137M 파라미터를 사용합니다.

BEIR 데이터셋 컬렉션에서 모델은 우수한 성능을 달성합니다: Arguana 49.4%(ColBERTv2는 46.5%), FEVER 79.5%(동 78.8%), TREC-COVID 75.0%(동 72.6%). 가장 인상적인 것은 장문 컨텍스트 이해를 위한 LoCo 벤치마크에서 ColBERTv2의 74.3% 대비 83.7%를 기록한 드라마틱한 향상으로, 9.4점의 개선은 긴 문서에서 토큰 수준 표현의 가치를 보여줍니다. 모델은 레이티드 인터랙션 접근법을 통해 계산 효율성을 유지하며 전통적인 단일 벡터 임베딩 모델을 능가합니다. 137M 파라미터 수는 프로덕션 배포에 실용적인 수준을 유지합니다.

크로스엔코더의 검색 품질을 크로스엔코더의 레이턴시 없이 필요할 때 이 모델을 사용하세요. 최적의 성능을 위해 CUDA 지원 GPU가 필요하며, 개발용 CPU 추론은 가능합니다. 8,192토큰 문서 한도는 약 6,000어에 해당하며, 학술 논문과 기술 문서 대부분을 포함한 대부분의 문서 유형에 적합합니다. 모델은 영어 전용입니다 — 다국어 애플리케이션에는 jina-colbert-v2를 사용하세요. 프로덕션 배포에는 적절한 문서 청킹 전략을 구현하고, 효율적 검안을 위해 벡터 유사도 인덱스(FAISS, Qdrant, Weaviate)를 사용하세요. 레이티드 인터랙션 구현을 단순화하는 RAGatouille 같은 프레임워크를 사용한 RAG 파이프라인에서 특히 효과적입니다. 다국어 또는 더 높은 정확도가 필요한 경우 jina-colbert-v2 또는 jina-embeddings-v4(멀티 벡터 모드)를 고려하세요.