Автоматическая точная настройка

Просто сообщите нам, в каком домене вы хотите, чтобы ваши эмбеддинги преуспели, и мы автоматически предоставим готовую к использованию, точно настроенную модель эмбеддинга для этого домена.

Что такое автоматическая точная настройка?

Существует три способа указать ваше требование: общая инструкция, URL-адрес или описание запроса-документа. Выбери один.
Выберите базовую модель эмбеддинга
Точная настройка позволяет вам взять предварительно обученную модель и адаптировать ее к конкретной задаче или предметной области, обучая ее на новом наборе данных. На практике поиск эффективных обучающих данных не является простой задачей для многих пользователей. Для эффективного обучения требуется нечто большее, чем просто добавление в модель необработанных PDF-файлов и HTML-файлов; и это трудно сделать правильно. Автоматическая точная настройка решает эту проблему, автоматически генерируя эффективные обучающие данные с помощью расширенного конвейера агентов LLM; и точная настройка модели в рамках рабочего процесса машинного обучения. Вы можете рассматривать это как комбинацию генерации синтетических данных и AutoML, поэтому все, что вам нужно сделать, это описать целевой домен на естественном языке, а наша система сделает все остальное.
Автоматическая точная настройка дает волшебное обещание предоставить точно настроенные эмбеддинги для любого домена, который вы захотите. Но действительно ли это работает? Это вполне обоснованное сомнение. Чтобы выяснить это, мы протестировали его на различных доменах и базовых моделях. Посмотрите результаты, собранные вишнями и лимонами ниже.
Базовая модель для доводки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
2%

Инструкция домена
Производительность на синтетическом валидационном наборе до и после точной настройки
NDCG
0.505 0.532 5%
MAP
0.352 0.389 10%
MRR
0.352 0.389 10%
Производительность на удержанном тестовом наборе до и после точной настройки
Протестировано на случайных выборках 50 из tollefj/norwegian-nli-triplets.
NDCG
0.852 0.867 2%
MAP
0.800 0.820 2%
MRR
0.800 0.820 2%
Созданы синтетические данные
Общий
4648
Обучение
4480
Проверка
168

Базовая модель для доводки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
6%

Инструкция домена
Производительность на синтетическом валидационном наборе до и после точной настройки
NDCG
0.672 0.755 12%
MAP
0.567 0.675 19%
MRR
0.567 0.675 19%
Производительность на удержанном тестовом наборе до и после точной настройки
Протестировано на случайных выборках 50 из mteb/askubuntudupquestions-reranking.
NDCG
0.698 0.722 3%
MAP
0.515 0.549 6%
MRR
0.666 0.712 7%
Созданы синтетические данные
Общий
616
Обучение
448
Проверка
168

Базовая модель для доводки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
9%

Инструкция домена
Производительность на синтетическом валидационном наборе до и после точной настройки
NDCG
0.727 0.861 18%
MAP
0.640 0.814 27%
MRR
0.640 0.814 27%
Производительность на удержанном тестовом наборе до и после точной настройки
Протестировано на случайных выборках 50 из mteb/scidocs-reranking.
NDCG
0.773 0.822 6%
MAP
0.575 0.651 13%
MRR
0.823 0.884 7%
Созданы синтетические данные
Общий
616
Обучение
448
Проверка
168

Базовая модель для доводки
jinaai/jina-embeddings-v2-base-zh
Среднее улучшение
1%

Инструкция домена
Производительность на синтетическом валидационном наборе до и после точной настройки
NDCG
0.718 0.785 9%
MAP
0.629 0.717 14%
MRR
0.629 0.717 14%
Производительность на удержанном тестовом наборе до и после точной настройки
Протестировано на случайных выборках 50 из C-MTEB/CMedQAv2-reranking.
NDCG
0.938 0.948 1%
MAP
0.912 0.926 2%
MRR
0.920 0.933 1%
Созданы синтетические данные
Общий
616
Обучение
448
Проверка
168

Базовая модель для доводки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
6%

Инструкция домена
Производительность на синтетическом валидационном наборе до и после точной настройки
NDCG
0.543 0.579 7%
MAP
0.402 0.452 12%
MRR
0.402 0.452 12%
Производительность на удержанном тестовом наборе до и после точной настройки
Протестировано на случайных выборках 50 из nc33/triplet_sbert_law2 (machine-translated to dutch).
NDCG
0.904 0.948 5%
MAP
0.870 0.930 7%
MRR
0.870 0.930 7%
Созданы синтетические данные
Общий
9128
Обучение
8960
Проверка
168

Базовая модель для доводки
jinaai/jina-embeddings-v2-base-code
Среднее улучшение
-4%

Инструкция домена
Производительность на синтетическом валидационном наборе до и после точной настройки
NDCG
0.671 0.640 -5%
MAP
0.569 0.525 -8%
MRR
0.569 0.525 -8%
Производительность на удержанном тестовом наборе до и после точной настройки
Протестировано на случайных выборках 50 из mteb/stackoverflowdupquestions-reranking.
NDCG
0.640 0.621 -3%
MAP
0.530 0.505 -5%
MRR
0.555 0.532 -4%
Созданы синтетические данные
Общий
616
Обучение
448
Проверка
168

Базовая модель для доводки
jinaai/jina-embeddings-v2-base-code
Среднее улучшение
-4%

Инструкция домена
Производительность на синтетическом валидационном наборе до и после точной настройки
NDCG
0.632 0.711 13%
MAP
0.517 0.622 20%
MRR
0.517 0.622 20%
Производительность на удержанном тестовом наборе до и после точной настройки
Протестировано на случайных выборках 50 из mteb/stackoverflowdupquestions-reranking.
NDCG
0.640 0.619 -3%
MAP
0.530 0.504 -5%
MRR
0.555 0.525 -5%
Созданы синтетические данные
Общий
616
Обучение
448
Проверка
168

Базовая модель для доводки
jinaai/jina-embeddings-v2-base-en
Среднее улучшение
1%

Инструкция домена
Производительность на синтетическом валидационном наборе до и после точной настройки
NDCG
0.646 0.729 13%
MAP
0.535 0.644 20%
MRR
0.535 0.644 20%
Производительность на удержанном тестовом наборе до и после точной настройки
Протестировано на случайных выборках 50 из mteb/askubuntudupquestions-reranking.
NDCG
0.645 0.650 1%
MAP
0.452 0.462 2%
MRR
0.606 0.605 -0%
Созданы синтетические данные
Общий
616
Обучение
448
Проверка
168

API автоматической точной настройки

Получите точно настроенные эмбеддинги для любого желаемого домена.


Используйте r.jina.ai для чтения URL-адреса и извлечения его содержимого.
Используйте s.jina.ai для поиска в Интернете и получения результатов поиска
Добавьте mcp.jina.ai в качестве сервера MCP для доступа к нашему API в LLM.


Запрос
GET
curl "https://r.jina.ai/https://www.example.com"


Ограничение скорости
Ограничения скорости отслеживаются двумя способами: RPM (запросы в минуту) и TPM (токены в минуту). Ограничения применяются для каждого IP/API-ключа и срабатывают при достижении порогового значения RPM или TPM. Когда вы указываете ключ API в заголовке запроса, мы отслеживаем ограничения скорости по ключу, а не по IP-адресу.
ПродуктКонечная точка APIОписаниебез API-ключас бесплатным API-ключомс платным API-ключомс премиум-ключом APIСредняя задержкаПодсчет использования токеновРазрешенный запрос
API Readerhttps://r.jina.aiПреобразовать URL в текст, понятный LLM20 RPM500 RPM500 RPM5000 RPM7.9sПодсчитывать количество токенов в выходном ответе.GET/POST
API Readerhttps://s.jina.aiИскать в интернете и преобразовывать результаты в текст, понятный LLM100 RPM100 RPM1000 RPM2.5sКаждый запрос стоит фиксированное количество токенов, начиная с 10 000 токенов.GET/POST
API реранкераhttps://api.jina.ai/v1/rerankРанжировать документы по запросу100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
зависит от размера входных данных
Подсчитывать количество токенов во входном запросе.POST
API эмбеддинговhttps://api.jina.ai/v1/embeddingsПреобразовывать текст/изображения в векторы фиксированной длины100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
зависит от размера входных данных
Подсчитывать количество токенов во входном запросе.POST
Общие вопросы, связанные с выставлением счетов