I/O 圖 1

文字

jina-embeddings-v5-omni-nano

圖片

任務

向量

I/O 圖 2

文字

jina-embeddings-v5-omni-nano

音訊

任務

向量

I/O 圖 3

文字

jina-embeddings-v5-omni-nano

影片

任務

向量

I/O 圖 4

多個

向量

文字

jina-embeddings-v5-omni-nano

PDF

任務

帕雷托前緣
300M1B3.0B10B20304050BidirLM-Omni-2.5B-Embed…clap-htsat-unfusede5-omni-3Be5-omni-7Bjina-embeddings-v5-omni…LanguageBindlarger_clap_generallarger_clap_musicLCO-Embedding-Omni-3BLCO-Embedding-Omni-7Bmsclap-2022msclap-2023MuQ-MuLan-largeOmni-Embed-Nemotron-3BQwen2-Audio-7BQwen2.5-Omni-3Bspeecht5_multimodalwav2clipjina-embeddings-v5-omni…參數量(對數)score
本模型
在前緣上
Jina AI
其他
MAEB
49.69
參數量
986M
按分數的排名
6 / 21
帕雷托前緣
在前緣上
取值分佈
AUC 0.8242
語料
翻譯對
文件檢索
程式碼
圖片 / 橫幅
圖片 / 標誌
任務
classification
clustering
retrieval.passage
retrieval.query
retrieval.query → retrieval.passage
text-matching
0.7930.400.500.600.700.80
相關20.2%
困難負例1.7%
無關1.1%
推薦閾值
FPR 0.1 · 0.722
FPR 0.01 · 0.793
FPR 0.001 · 0.841
FPR 0.0001 · 0.865
均衡 · 0.678
AUC
0.8242
雜訊上限
0.840
召回斷崖
0.557
測量樣本對
119 / 11k
該模型與 jina-embeddings-v5-text-nano 共用文字塔。此處的分佈即為該模型的分佈,二者在 fp16 傳輸精度下一致。
向量分量
-0.180.000.19
σ 0.0361 · 183k 個數值
向量幾何
0768
各維度平均值,游標移入檢視區間
雜訊下限
0.288
有效維度
69 / 768
維度截斷
3264128256512768
text-matching · 閾值隨所請求維度的變化
語言對
de-rude-zhen-deen-jaen-koen-ruen-zhja-ko
各語言對之間的閾值跨度:0.027
選擇要比較的模型
論文 (2)

概述

jina-embeddings-v5-omni-nano 是一個約 1.04B 參數的多模態向量模型,可接受文字、圖片、影片、音訊與 PDF,並在共享向量空間中產生向量。它是 v5-omni 系列的輕巧版本,專為沒有 GPU 可用的邊緣與一般硬體而設計。純文字輸出與 jina-embeddings-v5-text-nano 位元完全相同,因此從純文字升級到多模態是即插即用,不必重建索引。

方法

該模型透過第三階段訓練,把 jina-embeddings-v5-text-nano 擴充出多模態能力。EuroBERT-210M 文字骨幹與全部四個任務特定 LoRA 適配器都凍結,只有跨模態投影器是新訓練的。SigLIP2 Base 視覺編碼器處理圖片與影片(每段影片均勻取樣 32 幀)。Whisper-large-v3 音訊編碼器處理音訊輸入。PDF 頁面先渲染成圖片,再走視覺路徑處理。訓練使用搭配跨模態困難負樣本的對比損失,把視覺與音訊表示對齊到既有的文字向量空間。768 維輸出空間支援 Matryoshka 截斷至 32 維。8K 詞元上下文視窗涵蓋文字輸入,圖片與音訊輸入則由各自的編碼器處理。

效能

純文字表現與 jina-embeddings-v5-text-nano 位元完全相同(MMTEB 任務級平均 65.5、英文 MTEB 71.0)。由於 768 維向量空間較窄(對比 1024 維)、文字骨幹也較小,多模態表現略低於 jina-embeddings-v5-omni-small,但在文字對圖片、文字對音訊與文字對影片檢索上仍維持良好跨模態對齊。該模型針對 CPU 與邊緣硬體最佳化,在那些環境裡,更大的 omni-small 無法有效率地執行。跨模態檢索品質在同尺寸等級中具競爭力。

最佳實務

用法與 jina-embeddings-v5-omni-small 相同:選擇對應的 LoRA 適配器(retrieval、text-matching、clustering、classification),並經 API 直接傳入圖片 URL、音訊檔 URL、影片檔 URL 或 PDF URL——模型會把每種模態送進對應的編碼器。支援的音訊格式:WAV、MP3、FLAC、OGG、M4A、Opus。影片輸入以均勻取樣的 32 幀處理。同一個批次裡可以自由混搭模態;向量空間由所有模態共用。比較請用餘弦相似度。支援從 768 維到 32 維的 Matryoshka 截斷。純文字向量與 jina-embeddings-v5-text-nano 即插即用相容——升級時不必重建索引。需要更高精確度的伺服器部署,請改用 jina-embeddings-v5-omni-small(1024 維、更大的骨幹)。

提及此模型的部落格