Автоматическая тонкая настройка

Скажите, в каком домене ваши эмбеддинги должны работать лучше всего, и мы автоматически подготовим для этого домена точно настроенную модель эмбеддинга, готовую к работе.

Что такое автоматическая тонкая настройка?

Существует три способа указать ваше требование: общая инструкция, URL-адрес или описание запроса и документа. Выберите один.
Выберите базовую модель эмбеддинга
Точная настройка позволяет взять предварительно обученную модель и адаптировать её к конкретной задаче или предметной области, обучив на новом наборе данных. На практике найти эффективные обучающие данные непросто. Для хорошего обучения мало просто скормить модели сырые PDF и HTML — добиться результата трудно. Автоматическая тонкая настройка решает эту проблему: она сама генерирует эффективные обучающие данные через продвинутый конвейер LLM-агентов и дообучает модель в рамках ML-процесса. Это можно рассматривать как сочетание генерации синтетических данных и AutoML: вам достаточно описать нужную предметную область на естественном языке, а остальное сделает наша система.
Автоматическая тонкая настройка обещает почти волшебство: точно настроенные эмбеддинги для любой предметной области. Но действительно ли это работает? Сомнение вполне разумное. Мы проверили это на разных предметных областях и базовых моделях. Ниже — результаты с намеренно отобранными удачными и неудачными примерами.
Базовая модель для тонкой настройки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
2%

Инструкция по домену
Производительность на синтетическом валидационном наборе до и после тонкой настройки
NDCG
0.505 0.532 5%
MAP
0.352 0.389 10%
MRR
0.352 0.389 10%
Производительность на отложенном тестовом наборе до и после тонкой настройки
Протестировано на случайной выборке 50 из tollefj/norwegian-nli-triplets
NDCG
0.852 0.867 2%
MAP
0.800 0.820 2%
MRR
0.800 0.820 2%
Созданы синтетические данные
Всего
4648
Обучение
4480
Валидация
168

Базовая модель для тонкой настройки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
6%

Инструкция по домену
Производительность на синтетическом валидационном наборе до и после тонкой настройки
NDCG
0.672 0.755 12%
MAP
0.567 0.675 19%
MRR
0.567 0.675 19%
Производительность на отложенном тестовом наборе до и после тонкой настройки
Протестировано на случайной выборке 50 из mteb/askubuntudupquestions-reranking
NDCG
0.698 0.722 3%
MAP
0.515 0.549 6%
MRR
0.666 0.712 7%
Созданы синтетические данные
Всего
616
Обучение
448
Валидация
168

Базовая модель для тонкой настройки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
9%

Инструкция по домену
Производительность на синтетическом валидационном наборе до и после тонкой настройки
NDCG
0.727 0.861 18%
MAP
0.640 0.814 27%
MRR
0.640 0.814 27%
Производительность на отложенном тестовом наборе до и после тонкой настройки
Протестировано на случайной выборке 50 из mteb/scidocs-reranking
NDCG
0.773 0.822 6%
MAP
0.575 0.651 13%
MRR
0.823 0.884 7%
Созданы синтетические данные
Всего
616
Обучение
448
Валидация
168

Базовая модель для тонкой настройки
jinaai/jina-embeddings-v2-base-zh
Среднее улучшение
1%

Инструкция по домену
Производительность на синтетическом валидационном наборе до и после тонкой настройки
NDCG
0.718 0.785 9%
MAP
0.629 0.717 14%
MRR
0.629 0.717 14%
Производительность на отложенном тестовом наборе до и после тонкой настройки
Протестировано на случайной выборке 50 из C-MTEB/CMedQAv2-reranking
NDCG
0.938 0.948 1%
MAP
0.912 0.926 2%
MRR
0.920 0.933 1%
Созданы синтетические данные
Всего
616
Обучение
448
Валидация
168

Базовая модель для тонкой настройки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
6%

Инструкция по домену
Производительность на синтетическом валидационном наборе до и после тонкой настройки
NDCG
0.543 0.579 7%
MAP
0.402 0.452 12%
MRR
0.402 0.452 12%
Производительность на отложенном тестовом наборе до и после тонкой настройки
Протестировано на случайной выборке 50 из nc33/triplet_sbert_law2 (machine-translated to dutch)
NDCG
0.904 0.948 5%
MAP
0.870 0.930 7%
MRR
0.870 0.930 7%
Созданы синтетические данные
Всего
9128
Обучение
8960
Валидация
168

Базовая модель для тонкой настройки
jinaai/jina-embeddings-v2-base-code
Среднее улучшение
-4%

Инструкция по домену
Производительность на синтетическом валидационном наборе до и после тонкой настройки
NDCG
0.671 0.640 -5%
MAP
0.569 0.525 -8%
MRR
0.569 0.525 -8%
Производительность на отложенном тестовом наборе до и после тонкой настройки
Протестировано на случайной выборке 50 из mteb/stackoverflowdupquestions-reranking
NDCG
0.640 0.621 -3%
MAP
0.530 0.505 -5%
MRR
0.555 0.532 -4%
Созданы синтетические данные
Всего
616
Обучение
448
Валидация
168

Базовая модель для тонкой настройки
jinaai/jina-embeddings-v2-base-code
Среднее улучшение
-4%

Инструкция по домену
Производительность на синтетическом валидационном наборе до и после тонкой настройки
NDCG
0.632 0.711 13%
MAP
0.517 0.622 20%
MRR
0.517 0.622 20%
Производительность на отложенном тестовом наборе до и после тонкой настройки
Протестировано на случайной выборке 50 из mteb/stackoverflowdupquestions-reranking
NDCG
0.640 0.619 -3%
MAP
0.530 0.504 -5%
MRR
0.555 0.525 -5%
Созданы синтетические данные
Всего
616
Обучение
448
Валидация
168

Базовая модель для тонкой настройки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
1%

Инструкция по домену
Производительность на синтетическом валидационном наборе до и после тонкой настройки
NDCG
0.646 0.729 13%
MAP
0.535 0.644 20%
MRR
0.535 0.644 20%
Производительность на отложенном тестовом наборе до и после тонкой настройки
Протестировано на случайной выборке 50 из mteb/askubuntudupquestions-reranking
NDCG
0.645 0.650 1%
MAP
0.452 0.462 2%
MRR
0.606 0.605 -0%
Созданы синтетические данные
Всего
616
Обучение
448
Валидация
168

API автоматической тонкой настройки

Получите точно настроенные эмбеддинги для любого домена.


Используйте r.jina.ai для чтения URL-адреса и извлечения его содержимого
Используйте s.jina.ai для поиска в Интернете и получения результатов поиска
Добавьте mcp.jina.ai как MCP-сервер, чтобы вызывать наши API из любой LLM.


Запрос
GET
curl "https://r.jina.ai/https://www.example.com"


Ограничение скорости
Ограничения скорости отслеживаются двумя способами: RPM (запросы в минуту) и TPM (токены в минуту). Ограничения применяются к каждому IP-адресу или ключу API и срабатывают, как только достигнут порог по RPM или TPM. Если вы передаёте ключ API в заголовке запроса, мы отслеживаем ограничения по ключу, а не по IP-адресу.
ПродуктКонечная точка APIОписаниебез API-ключас бесплатным API-ключомс платным API-ключомс премиум-API-ключомСредняя задержкаПодсчёт использования токеновHTTP-метод
API Readerhttps://r.jina.aiПреобразовать URL в текст, понятный LLM20 RPM500 RPM500 RPM5000 RPM7.9sПодсчитывать количество токенов в выходном ответе.GET/POST
API Readerhttps://s.jina.aiИскать в интернете и преобразовывать результаты в текст, понятный LLM100 RPM100 RPM1000 RPM2.5sКаждый запрос стоит фиксированное количество токенов, начиная с 10 000 токенов.GET/POST
API реранкераhttps://api.jina.ai/v1/rerankРанжировать документы по запросу100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
зависит от размера входных данных
Подсчитывать количество токенов во входном запросе.POST
API эмбеддинговhttps://api.jina.ai/v1/embeddingsПреобразовывать текст/изображения в векторы фиксированной длины100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
зависит от размера входных данных
Подсчитывать количество токенов во входном запросе.POST
Общие вопросы по оплате