Схема ввода-вывода

несколько

Документ

Запрос

jina-reranker-v1

Ранжирование

Парето-фронт
30M100M7075808590ColBERTv2gte-reranker-modernbert…jina-colbert-v1-enjina-reranker-v1-tiny-enjina-reranker-v1-turbo-…jina-reranker-v1-base-enПараметры (лог)nDCG@10
Эта модель
На фронте
Jina AI
Другие
LoCo
87.31
Параметры
137M
Ранг по баллу
2 / 6
Парето-фронт
На фронте
Распределение значений
AUC 0.9853
Корпус
Пары переводов
0.4810.000.200.400.600.801.00
Связанные85.0%
Сложные негативы6.3%
Несвязанные1.1%
Рекомендуемые пороги
FPR 0.1 · 0.208
FPR 0.01 · 0.481
FPR 0.001 · 0.697
FPR 0.0001 · 0.978
сбалансированный · 0.340
AUC
0.9853
Потолок шума
0.691
Обрыв полноты
0.088
Измерено пар
100 / 9 200
Оценка по позиции
12345678910
Средняя оценка на каждой позиции
Выберите модели для сравнения

Обзор

jina-reranker-v1-base-en — англоязычный cross-encoder-реранкер на 137M параметров, уточняющий результаты поиска за счёт анализа на уровне токенов пар «запрос-документ». Он даёт на 20 % лучшую точность поиска по сравнению с базовым векторным поиском, что делает его рабочей лошадкой первого поколения реранкеров Jina. Теперь его вытеснили мультиязычные семейства v2 и listwise v3.

Методы

Модель использует архитектуру cross-attention на базе BERT (12 слоёв, 12 головок внимания, 768 скрытых измерений, 137M параметров), которая фундаментально отличается от подходов на основе эмбеддингов. Вместо сравнения предвычисленных эмбеддингов документов она выполняет динамические взаимодействия на уровне токенов между запросом и документом, улавливая контекстные нюансы, которые упускает косинусное сходство. Окно контекста в 8 192 токена поддерживает автоматический чанкинг и max-pooling по чанкам для более длинных документов. В обучении использовалась контрастивная функция потерь на парах «запрос-документ» с отбором трудных негативов. Модель стала первым реранкером Jina и задала схему для вариантов turbo и tiny через дистилляцию знаний.

Производительность

Модель даёт рост доли попаданий на 8 % и повышение среднего обратного ранга на 33 % по сравнению с базовым векторным поиском. На BEIR она набирает в среднем NDCG{'@'}10 0,5588, превосходя BGE (0,5032), BCE (0,4969) и Cohere (0,5141). На бенчмарке LoCo для понимания длинного контекста она набирает 0,873, значительно опережая конкурентов. Она особенно сильна на техническом контенте: 0,996 на абстрактах QASPER и 0,962 на анализе правительственных отчётов, хотя качество ниже (0,466) на задачах суммаризации встреч. Латентность растёт с длиной документа: 156 мс для 256 токенов, 7 068 мс для 4 096 токенов при 512-токенном запросе.

Рекомендации

Реализуйте двухэтапный конвейер: векторный поиск (например, jina-embeddings-v5-text-small) даёт начальные кандидаты, затем эта модель реранжирует топ-100–200 ради точности. Модель только на английском — для мультиязычных приложений используйте jina-reranker-v2-base-multilingual или jina-reranker-v3.5. Для продакшн-пропускной способности требуется CUDA-оборудование. Для новых проектов предпочтительна jina-reranker-v3.5 (мультиязычная, listwise, контекст 131K, 63,20 BEIR NDCG{'@'}10). Модель доступна через Jina Reranker API, AWS SageMaker и Hugging Face. При интеграции с RAG-системами настраивайте число документов, отправляемых на реранжирование, в соответствии с требованиями к латентности — 100–200 документов обычно балансируют качество и скорость.

Блоги, в которых упоминается эта модель
июнь 25, 2024 • 15 мин чтения
Jina Reranker v2 для агентного RAG: ультрабыстрый, многоязычный, с вызовом функций и поиском кода
Jina Reranker v2 - это лучший в своем классе инструмент переранжирования, созданный для Agentic RAG. Он поддерживает вызов функций, многоязычный поиск более чем на 100 языках, возможности поиска по коду и обеспечивает 6-кратное ускорение по сравнению с v1.
июнь 03, 2024 • 6 мин чтения
Реализация чата с историей на основе RAG с помощью Jina AI и Milvus Lite
Улучшите поисковые приложения на Python с помощью Jina Embeddings и Reranker, а также легковесного, простого в развертывании Milvus Lite.
май 13, 2024 • 5 мин чтения
Albus от Springworks: расширение возможностей сотрудников с помощью корпоративного поиска
Узнайте, как ведущий HR-tech стартап использует модели Jina AI для работы со структурированными и неструктурированными данными.
май 07, 2024 • 12 мин чтения
Когда ИИ создает ИИ: Синтетические данные, дистилляция моделей и коллапс моделей
ИИ создает ИИ! Это конец света? Или просто еще один инструмент, позволяющий моделям выполнять работу с добавленной ценностью? Давайте разберемся!
апрель 29, 2024 • 7 мин чтения
Jina Embeddings и Reranker в Azure: масштабируемые AI-решения для бизнеса
Теперь Jina Embeddings и Rerankers доступны в Azure Marketplace. Предприятия, для которых приоритетом являются конфиденциальность и безопасность, могут легко интегрировать современные модели Jina AI прямо в свою существующую экосистему Azure.