I/O 図

テキスト

jina-embeddings-v5-text-nano

タスク

ベクトル

パレートフロント
30M100M300M1B3.0B10B30B3040506070all-MiniLM-L6-v2bge-large-en-v1.5bge-small-en-v1.5e5-base-v2e5-large-v2e5-mistral-7b-instructe5-small-v2EmbeddingGemma-300MF2LLM-v2-0.6BF2LLM-v2-8Bgranite-embedding-311m-…granite-embedding-97m-m…GritLM-7BGritLM-8x7Bgte-Qwen2-7B-instructharrier-oss-v1-0.6bharrier-oss-v1-270mharrier-oss-v1-27bjina-embeddings-v3jina-embeddings-v5-omni…jina-embeddings-v5-omni…KaLM-Embedding-Gemma3-1…LaBSELanguageBindLCO-Embedding-Omni-3BLCO-Embedding-Omni-7Bmultilingual-e5-basemultilingual-e5-large-i…Omni-Embed-Nemotron-3Bpotion-multilingual-128MQwen3-Embedding-4BQwen3-Embedding-8Bsnowflake-arctic-embed-…snowflake-arctic-embed-…static-similarity-mrl-m…stella_en_1.5B_v5stella_en_400M_v5UAE-Large-V1jina-embeddings-v5-text…パラメータ数(対数)score
このモデル
フロント上
Jina AI
その他
MMTEB
65.50
パラメータ
212M
スコア順位
12 / 48
パレートフロント
フロント上
値の分布
AUC 0.8242
コーパス
翻訳ペア
ドキュメント検索
コード
画像 / バナー
画像 / ロゴ
タスク
classification
clustering
retrieval.passage
retrieval.query
retrieval.query → retrieval.passage
text-matching
0.7930.400.500.600.700.80
関連20.2%
ハードネガティブ1.7%
無関係1.1%
推奨しきい値
FPR 0.1 · 0.722
FPR 0.01 · 0.793
FPR 0.001 · 0.841
FPR 0.0001 · 0.865
バランス · 0.678
AUC
0.8242
ノイズ上限
0.840
再現率の急落点
0.557
測定ペア数
119 / 11k
ベクトル成分
-0.180.000.19
σ 0.0361 · 183k 個の値
埋め込みの幾何
0768
次元ごとの平均。カーソルを合わせると範囲を表示
ノイズ下限
0.288
実効次元数
69 / 768
次元の切り詰め
3264128256512768
text-matching · 要求した次元数ごとのしきい値
言語ペア
de-rude-zhen-deen-jaen-koen-ruen-zhja-ko
ペア間のしきい値のばらつき:0.027
比較するモデルを選択
論文 (1)

概要

jina-embeddings-v5-text-nano は EuroBERT-210M バックボーン上に構築された 239M パラメータの多言語テキスト埋め込みモデルです。8K トークンのコンテキストをサポートし、Matryoshka 切り捨てで 32 次元まで縮小できる 768 次元の埋め込みを生成し、Jina の 500M 未満の埋め込みモデル群でパラメータあたり最高精度を実現します。GPU が利用できないエッジ展開、レイテンシに敏感なアプリケーション、リソース制約の環境のために設計されています。

手法

モデルは EuroBERT-210M に基づいています。これは主要 15 言語をカバーする多言語データで事前学習されたコンパクトな双方向エンコーダーです。Last-Token-Pooling を用いて最終トークン表現から埋め込みを生成します。訓練は 2 段階の蒸留レシピに従います:まず、より大きな教師モデルからの知識蒸留によって埋め込み品質を転移させ、次にタスク固有の対照損失で検索、テキストマッチング、クラスタリング、分類タスクのファインチューニングを行います。Matryoshka Representation Learning により、サポートされる任意のサイズ(32、64、128、256、512、768)で埋め込み次元を切り捨てながら強い性能を維持できます。Geometric Orthogonal Regularization(GOR)は、バイナリ量子化下の性能劣化を MTEB 検索で 2 ポイント未満に抑えます。8K コンテキストウィンドウにより、チャンキングなしの長文書処理を可能にします。

パフォーマンス

MMTEB(多言語)では、モデルはわずか 239M パラメータでタスクレベル平均 65.5、タイプレベル平均 57.7 を達成し、500M 未満の全モデル(KaLM-mini-v2.5(60.1、494M)、voyage-4-nano(58.9、480M)、Gemma-300M(61.1、308M)を含む)を上回っています。タスクレベルスコア:分類 69.2、クラスタリング 52.7、ペア分類 81.9、リランキング 64.6、検索 63.3、STS 78.2。英語 MTEB では平均 71.0 を達成し、はるかに大きい jina-embeddings-v5-text-small(71.7)にほぼ迫っています。検索特化:MTEB-M 63.26、RTEB 64.08、BEIR 56.06、LongEmbed 63.65。GOR 正則化により、バイナリ量子化下でも埋め込みの堅牢性は保たれます。

ベストプラクティス

適切なタスクプレフィックスを選択してください:非対称クエリ-ドキュメント検索には 'retrieval'、対称類似度には 'text-matching'、グルーピングには 'clustering'、分類には 'classification'。Matryoshka 切り捨てを 256 次元にすると、検索品質の 95% 以上を維持しながらストレージを 67% 削減します。さらなるストレージ削減のためのバイナリ量子化もサポートしています。EuroBERT バックボーンは英語、フランス語、ドイツ語、スペイン語、中国語、日本語、アラビア語、ヒンディー語を含む主要 15 言語で強力なカバレッジを提供します。埋め込みの比較にはコサイン類似度を使用してください。Jina AI API、Hugging Face(Sentence Transformers、vLLM)、llama.cpp 用の量子化バリアントで利用可能です。32K コンテキストやより高い精度が必要なワークロードには、代わりに jina-embeddings-v5-text-small を使用してください。

このモデルについて言及しているブログ