jina-embeddings-v5-omni-nano

jina-embeddings-v5-omni-nano (~1,04 млрд параметров) — это компактный вариант семейства v5-omni, разработанный для периферийного и стандартного оборудования. Он расширяет возможности jina-embeddings-v5-text-nano, предоставляя те же мультимодальные возможности: ввод текста, изображений, видео и аудио в общем векторном пространстве. Выходные данные только с текстом побитово идентичны данным jina-embeddings-v5-text-nano. Модель создает 768-мерные эмбеддинги с усечением Matryoshka до 32 измерений и поддерживает длину контекста 8K токенов.

Используется тот же третий этап обучения, что и в omni-small, с расширением jina-embeddings-v5-text-nano. Текстовая платформа EuroBERT-210M и адаптеры LoRA заморожены. Кросс-модальные проекторы подключают к текстовой платформе графический кодировщик SigLIP2 Base и аудиокодировщик Whisper-large-v3. Данные и цели обучения аналогичны omni-small.

Производительность при работе только с текстом идентична производительности jina-embeddings-v5-text-nano. Производительность при работе с мультимодальными данными немного ниже, чем у omni-small, из-за более узкого пространства встраивания (768 против 1024 измерений) и меньшей текстовой основы, но сохраняется надежное межмодальное выравнивание. Оптимизировано для процессоров и периферийного оборудования, где более крупная модель omni-small не может работать.

Та же схема использования, что и у omni-small, с идентичным выбором адаптера LoRA и обработкой мультимодального ввода. Ключевые отличия: 768-мерное выходное пространство (усечение Matryoshka до 32) и контекстное окно 8K. Вариант nano работает на стандартном оборудовании без ускорения GPU. Эмбеддинги только для текста полностью совместимы с jina-embeddings-v5-text-nano.