Вложения

Подробную информацию о наших процессах обучения, источниках данных и оценках можно найти в наших технических отчетах на arXiv по jina-embeddings-v3 и jina-embeddings-v4.

jina-embeddings-v4 — это наша новейшая универсальная мультимодальная модель (3,8 млрд параметров), поддерживающая текст и изображения с контекстом 32 тыс., плотным поиском и поиском с поздним взаимодействием, а также демонстрирующая лучшие результаты на визуально насыщенных документах. jina-clip-v2 — это более лёгкий вариант (865 млн параметров), поддерживающий 89 языков, с разрешением изображений 512x512 и представлением в виде матрёшки. Обе модели превосходно справляются с задачами поиска текста-текста, текста-изображения и изображения-изображения.

Оба модуля jina-embeddings-v4 и jina-embeddings-v3 поддерживают 89 языков и демонстрируют высокую производительность в многоязычной среде. В число 30 наиболее популярных языков входят: арабский, бенгальский, китайский, датский, нидерландский, английский, финский, французский, грузинский, немецкий, греческий, хинди, индонезийский, итальянский, японский, корейский, латышский, норвежский, польский, португальский, румынский, русский, словацкий, испанский, шведский, тайский, турецкий, украинский, урду и вьетнамский. jina-clip-v2 также поддерживает 89 языков для мультимодальных задач.

Длина контекста варьируется в зависимости от модели: jina-embeddings-v4 поддерживает до 32 000 токенов, в то время как jina-embeddings-v3 и jina-clip-v2 поддерживают до 8192 токенов. Токен может представлять собой как один символ, так и целое слово. Расширенный контекст обеспечивает всесторонний анализ документов и более высокую точность понимания контекста для больших объемов текстовых данных.

Жестких ограничений на количество элементов в одном запросе нет. API внутренне группирует входные данные по количеству токенов для оптимального использования графического процессора. Вы можете отправить столько текстовых сообщений или изображений, сколько необходимо, в одном запросе.

Для jina-embeddings-v4, jina-clip-v2 и jina-clip-v1 в поле input запроса API можно использовать либо url, либо bytes. Для url укажите URL изображения, которое вы хотите обработать. Для bytes закодируйте изображение в формате base64. jina-embeddings-v4 также может напрямую встраивать PDF-документы, передавая URL PDF-файла или закодированные в base64 байта PDF-файла.

jina-embeddings-v4 — наша новейшая флагманская модель, демонстрирующая лучшие результаты в задачах поиска визуально насыщенных документов (ViDoRe) и многомодальных тестах. В задачах, связанных только с текстом, jina-embeddings-v3 превосходит OpenAI и Cohere в тестах MTEB English и Multilingual, при этом будучи меньше по размеру и эффективнее. Обе модели поддерживают обучение представлению «матрёшка» (MRL), позволяющее усекать размерность (до 32 для v3, до 128 для v4) без существенной потери производительности.

Переход оптимизирован, так как наша конечная точка API соответствует входным и выходным схемам JSON модели OpenAI text-embedding-3-large. Эта совместимость гарантирует, что пользователи могут легко заменить модель OpenAI на нашу при использовании конечной точки OpenAI.

Токены рассчитываются на основе длины текста и размера изображения. Для текста в запросе токены подсчитываются стандартным образом. Для изображений выполняются следующие шаги: 1. Размер плитки: каждое изображение делится на плитки. Для jina-embeddings-v4 плитки имеют размер 28x28 пикселей, для jina-clip-v2 — 512x512 пикселей, а для jina-clip-v1 — 224x224 пикселя. 2. Покрытие: вычисляется количество плиток, необходимых для покрытия входного изображения. Даже если размеры изображения не делятся на размер плитки, частичные плитки считаются полными плитками. 3. Общее количество плиток: общее количество плиток, покрывающих изображение, определяет стоимость. Например, изображение размером 600x600 пикселей будет покрыто плитками 22x22 (484 плитки) в jina-embeddings-v4, плитками 2x2 (4 плитки) в jina-clip-v2 и плитками 3x3 (9 плиток) в jina-clip-v1. 4. Расчет стоимости: для jina-embeddings-v4 каждая плитка стоит 10 токенов, для jina-clip-v2 каждая плитка стоит 4000 токенов, а для jina-clip-v1 каждая плитка стоит 1000 токенов. Пример: Для изображения размером 600x600 пикселей: • С jina-embeddings-v4 • Изображение делится на плитки размером 28x28 пикселей. • Общее количество требуемых плиток составляет 22 (по горизонтали) x 22 (по вертикали) = 484 плитки. • Стоимость для jina-embeddings-v4 составит 484*10 = 4840 токенов. • С jina-clip-v2 • Изображение делится на плитки размером 512x512 пикселей. • Общее количество требуемых плиток составляет 2 (по горизонтали) x 2 (по вертикали) = 4 плитки. • Стоимость для jina-clip-v2 составит 4*4000 = 16000 токенов. • С jina-clip-v1 • Изображение делится на плитки размером 224x224 пикселей. • Общее количество требуемых плиток составляет 3 (по горизонтали) x 3 (по вертикали) = 9 плиток. • Стоимость jina-clip-v1 составит 9*1000 = 9000 токенов.

Да, jina-clip-v2 и jina-clip-v1 могут встраивать как изображения, так и тексты. Скоро будет объявлено о встраивании моделей в большем количестве модальностей!

По вопросам точной настройки наших моделей с использованием конкретных данных свяжитесь с нами, чтобы обсудить ваши требования. Мы открыты для изучения того, как наши модели могут быть адаптированы к вашим потребностям.

Да, наши услуги доступны на торговых площадках AWS, Azure и GCP. Если у вас есть особые требования, свяжитесь с нами по адресу sales AT jina.ai.

Параметр task в пакетах jina-embeddings-v3 и jina-embeddings-v4 активирует адаптеры LoRA, специфичные для каждой задачи, для оптимальной производительности. Используйте retrieval.query для поисковых запросов, retrieval.passage для поиска документов, text-matching для определения семантического сходства, classification для классификации текста и separation для задач кластеризации.

jina-embeddings-v4 поддерживает как плотный (одновекторный), так и многовекторный (с поздним взаимодействием) поиск с помощью параметра output_type. Позднее взаимодействие сохраняет более детальную информацию на уровне токенов для повышения точности поиска сложных запросов. jina-colbert-v2 — это специализированная модель для позднего взаимодействия.

Метод поздней сегментации (late chunking) сначала встраивает весь документ, используя модели с длинным контекстом, а затем извлекает векторные представления фрагментов из представлений на уровне токенов. В отличие от наивной сегментации (сначала фрагмент, затем встраивание), поздная сегментация сохраняет контекст между фрагментами, улучшая поиск для приложений RAG. Включить её можно с помощью параметра late_chunking в файле jina-embeddings-v3.

Хотя некоторые из наших моделей встраивания архитектурно способны обрабатывать контексты большей длины, API может устанавливать более низкие ограничения из-за ограничений видеопамяти графического процессора в нашей инфраструктуре вывода. Обработка очень длинных последовательностей требует значительного объема памяти, и мы оптимизируем нашу конфигурацию обслуживания, чтобы сбалансировать пропускную способность, задержку и стоимость для большинства сценариев использования. Если вам требуется поддержка контекстов большей длины, пожалуйста, свяжитесь с нашей командой продаж, чтобы обсудить варианты выделенного развертывания.

Модель `jina-embeddings-v4` построена на основе базовой модели Qwen2-VL, распространяемой под лицензией Qwen Research License. Эта лицензия разрешает только исследовательское и некоммерческое использование, что означает, что мы не можем предлагать `jina-embeddings-v4` в качестве коммерческого продукта. В результате мы предоставляем доступ к модели бесплатно через наш API. Существует две причины, по которым `jina-embeddings-v4` может казаться медленнее, чем другие модели: во-первых, `jina-embeddings-v4` значительно больше, чем `jina-embeddings-v3`, поэтому она по своей природе требует больше вычислительного времени на каждый запрос. Во-вторых, поскольку мы не можем коммерциализировать эту модель, мы намеренно ограничиваем пропускную способность API для управления затратами на инфраструктуру. Пользователям не следует ожидать высокой пропускной способности или уровня производственной среды при использовании API `jina-embeddings-v4`. Для производственных нагрузок, требующих более высокой пропускной способности, мы рекомендуем использовать jina-embeddings-v3 или развернуть jina-embeddings-v4 на вашей собственной инфраструктуре с помощью Hugging Face.

Ограничения скорости зависят от типа вашего API-ключа:

Бесплатно: 100 RPM, 100K TPM, 2 одновременных запроса
Платно: 500 RPM, 2M TPM, 50 одновременных запросов
Премиум: 5000 RPM, 50M TPM, 500 одновременных запросов

Кроме того, существует ограничение скорости на основе IP-адреса в 10 000 запросов за 60 секунд для предотвращения злоупотреблений. Если вам нужны более высокие лимиты, пожалуйста, свяжитесь с нашей командой продаж.

Для каждой модели существует максимальная длина контекста на вход:

jina-embeddings-v4: 32 768 токенов
jina-embeddings-v3: 8 192 токена
jina-embeddings-v2-*: 8 192 токена
jina-clip-v1/v2: 8 192 токена
jina-colbert-v1/v2: 8 192 токена
jina-code-embeddings-*: 32 768 токенов

Входные данные, превышающие лимит, будут возвращать ошибку, если не установлен параметр truncate: true, который автоматически обрезает данные до максимальной длины.

Максимальный размер файлов: Изображения: 5 МБ, PDF: 8 МБ. Файлы большего размера будут отклонены с ошибкой.

Да, тот же ключ API действителен для всех продуктов search foundation от Jina AI. Это включает в себя API считывателя, встраивания, переранжирования, классификации и тонкой настройки, с общими токенами для всех сервисов.

Да, использование токенов можно отслеживать на вкладке «API Key & Billing», введя свой API-ключ, что позволит вам просматривать недавнюю историю использования и оставшиеся токены. Если вы вошли в панель управления API, эти данные также можно просмотреть на вкладке «Manage API Key».

Если вы потеряли пополненный ключ и хотите его восстановить, обратитесь в службу поддержки AT jina.ai, указав зарегистрированный адрес электронной почты, чтобы получить помощь. Рекомендуется войти в систему, чтобы ваш ключ API был надежно сохранен и легко доступен.

Нет, наши ключи API не имеют срока действия. Однако, если вы подозреваете, что ваш ключ был скомпрометирован, и хотите его удалить, обратитесь в нашу службу поддержки за помощью. Вы также можете отозвать свой ключ в панели управления ключами API.

Да, вы можете перенести токены с одного премиум-ключа на другой. После входа в свою учетную запись на панели управления ключами API используйте настройки ключа, который вы хотите перенести, чтобы переместить все оставшиеся оплаченные токены.

Да, вы можете отозвать свой ключ API, если считаете, что он был скомпрометирован. Отзыв ключа немедленно отключит его для всех пользователей, которые его сохранили, а весь оставшийся баланс и связанные с ним свойства станут навсегда непригодными для использования. Если ключ является премиум-ключом, у вас есть возможность перевести оставшийся оплаченный баланс на другой ключ перед отзывом. Обратите внимание, что это действие нельзя отменить. Чтобы отозвать ключ, перейдите к настройкам ключа на панели управления ключами API.

Это происходит потому, что наша архитектура Serverless выгружает определенные модели в периоды низкого использования. Первоначальный запрос активирует или «разогревает» модель, что может занять несколько секунд. После этой первоначальной активации последующие запросы обрабатываются гораздо быстрее.

Нет. Мы никогда не используем ваши API-запросы, входные или выходные данные для обучения наших моделей эмбеддинга, реранжирования или любых других моделей. Ваши данные остаются вашими. Мы соответствуем стандартам SOC 2 Type I и Type II.

Для каждого ключа API действуют ограничения по количеству запросов:

Бесплатно: 100 RPM, 100K TPM, 2 одновременных запроса
Платно: 500 RPM, 2M TPM, 50 одновременных запросов
Премиум: 5000 RPM, 50M TPM, 500 одновременных запросов

Также существует ограничение по IP-адресу в 10 000 запросов за 60 секунд. Эти ограничения применяются ко всем API Jina (Embeddings, Reranker, Reader и т. д.).

Для API Embeddings и Reranker нет ограничений по размеру пакета. Вы можете отправлять столько элементов или документов, сколько необходимо, за один запрос. Оба API обрабатывают входные данные пакетами по количеству токенов для оптимального использования графического процессора.

Наша модель ценообразования основана на общем количестве обработанных токенов, что позволяет пользователям гибко распределять эти токены по любому количеству предложений, предлагая экономически эффективное решение для разнообразных требований к анализу текста.

Мы предлагаем приветственную бесплатную пробную версию для новых пользователей, которая включает десять миллионов токенов для использования с любой из наших моделей, с помощью автоматически сгенерированного ключа API. После того, как будет достигнут лимит бесплатных токенов, пользователи могут легко приобрести дополнительные токены для своих ключей API через вкладку «Купить токены».

Нет, токены не снимаются за неудачные запросы.

Платежи обрабатываются через Stripe, поддерживающий для вашего удобства различные способы оплаты, включая кредитные карты, Google Pay и PayPal.

Да, после покупки токенов на адрес электронной почты, связанный с вашей учетной записью Stripe, будет выставлен счет.