jina-colbert-v1-en

jina-colbert-v1-en は 137M パラメータの英語レイテインタラクション検索モデルで、単一のドキュメントベクトルの代わりにトークン単位の埋め込み（トークンあたり 128 次元）を生成します。これにより、クロスエンコーダーの品質をバイエンコーダーの効率的なコストで実現します：ドキュメントは一度だけインデックス作成され、関連性スコアリングはクエリ時にトークンペアにわたるマックスプーリングと和計算によって行われます。8,192 トークンのドキュメントをサポートし、ColBERT スタイルの検索を本番環境に持ち込んだ初の Jina モデルです。

モデルは、適応された ColBERT アプローチに基づくレイテインタラクションアーキテクチャを採用しています。ドキュメント全体を一度に比較するのではなく、最終的なマッチング段階までクエリとドキュメントを独立して処理します。ドキュメントエンコーダーは最大 8,192 トークンのテキストを処理し、クエリエンコーダーは高精度なトークン単位の表現を生成します。クエリとドキュメントの各トークンは、単一ベクトルモデルで失われる細粒の意味的情報を保持する独自の 128 次元埋め込みベクトルを与えられます。レイテインタラクションメカニズムは、クエリトークンに対するマックスプーリングとドキュメントトークンに対する和計算により関連性スコアを計算し、クロスエンコーダーの高コストなオールトゥオールアテンションを回避しながらトークン単位のマッチングシグナルを捉えます。アーキテクチャは 137M パラメータで、BERT ベースのエンコーダーと 8,192 トークンコンテキスト用の ALiBi 位置エンコーディングを使用します。

BEIR データセットコレクションにおいて、モデルは優れた性能を達成しています：Arguana 49.4%（ColBERTv2 は 46.5%）、FEVER 79.5%（同 78.8%）、TREC-COVID 75.0%（同 72.6%）。最も印象的なのは、長文コンテキスト理解の LoCo ベンチマークにおける劇的な改善で、ColBERTv2 の 74.3% に対し 83.7% を記録しています — 9.4 ポイントの向上は、長い文書におけるトークン単位の表現の価値を示しています。モデルは従来の単一ベクトル埋め込みモデルを上回りながら、レイテインタラクションアプローチにより計算効率を維持しています。137M パラメータ数は本番デプロイメントでも実用的な規模を保ちます。

クロスエンコーダーの検索品質をクロスエンコーダーのレイテンシなしで必要とする場合にこのモデルを使用してください。最適な性能には CUDA 対応 GPU が必要ですが、開発用の CPU 推論も可能です。8,192 トークンのドキュメント制限は約 6,000 語に相当し、学術論文や技術ドキュメントを含む多くの文書タイプに適しています。モデルは英語のみ対応です — 多言語アプリケーションには jina-colbert-v2 を使用してください。本番デプロイメントでは、適切なドキュメントチャンキング戦略を実装し、効率的な検索のためにベクトル類似度インデックス（FAISS、Qdrant、Weaviate）を使用してください。RAGatouille のようなフレームワークを使用した RAG パイプラインでは特に効果的で、レイテインタラクションの実装を簡素化します。多言語やより高い精度が必要な場合は、jina-colbert-v2 または jina-embeddings-v4（マルチベクトルモード）を検討してください。