jina-embeddings-v5-omni-nano

jina-embeddings-v5-omni-nano（約10億4000万パラメータ）は、v5-omniシリーズの合理化バージョンで、エッジコンピューティングおよび汎用ハードウェア向けに特別に設計されています。jina-embeddings-v5-text-nanoの上にマルチモーダル機能を拡張し、共有ベクトル空間でテキスト、画像、ビデオ、およびオーディオ入力をサポートします。プレーンテキスト出力は、ビット単位でjina-embeddings-v5-text-nanoと同一です。このモデルは768次元の埋め込みを生成しますが、マトリョーシカ切り捨てを使用して32次元に削減でき、8Kのラベル付きコンテキスト長もサポートします。

omni-small と同じ第 3 段階のトレーニングに従い、jina-embeddings-v5-text-nano を拡張します。EuroBERT-210M テキストバックボーンと LoRA アダプタは固定されています。クロスモーダルプロジェクターが、SigLIP2 Base ビジュアルエンコーダと Whisper-large-v3 オーディオエンコーダをテキストバックボーンに接続します。トレーニングデータと目標は omni-small と同じです。

プレーンテキストのパフォーマンスは、jina-embeddings-v5-text-nano と同一です。マルチモーダルのパフォーマンスは、埋め込み空間が狭い（768 次元 vs. 1024 次元）ことと、テキストバックボーンが小さいことから、omni-small より若干劣りますが、クロスモーダルのアライメントは良好に維持されています。より大きな omni-small モデルはこれらのデバイスでは実行できないため、CPU およびエッジ ハードウェア向けに最適化されています。

使用パターンはomni-smallと同じで、LoRAアダプタの選択とマルチモーダル入力処理は完全に同一です。主な違いは、768次元の出力空間（マトリョーシカにより32次元に切り詰められる）と8Kのコンテキストウィンドウです。nanoバージョンは、GPUアクセラレーションなしで通常のハードウェアで実行できます。プレーンテキスト埋め込みは、jina-embeddings-v5-text-nanoと完全に互換性があります。