Grafico I/O 1
Grafico I/O 2
Frontiera di Pareto
30M100M7075808590ColBERTv2gte-reranker-modernbert…jina-reranker-v1-base-enjina-reranker-v1-tiny-enjina-reranker-v1-turbo-…jina-colbert-v1-enParametri (log)nDCG@10
Questo modello
Sulla frontiera
Jina AI
Altri
LoCo
83.70
Parametri
137M
Posizione per punteggio
3 / 6
Frontiera di Pareto
Dietro
Distribuzione dei valori
AUC 0.5963
Corpus
Coppie di traduzione
15.7801020
Correlate17.0%
Negativi difficili9.3%
Non correlate1.0%
Soglie consigliate
FPR 0.1 · 9.27
FPR 0.01 · 15.78
FPR 0.001 · 21.53
FPR 0.0001 · 25.48
bilanciata · 7.98
AUC
0.5963
Tetto del rumore
21.44
Crollo del richiamo
-0.71
Coppie misurate
100 / 9.200
Punteggio per posizione
12345678910
Punteggio medio a ogni posizione
Scegli i modelli da confrontare

Panoramica

jina-colbert-v1-en è un modello di retrieval a interazione tardiva in inglese da 137M parametri che produce embedding a livello di token (128 dimensioni per token) invece di un singolo vettore di documento. Offre così la qualità di un cross-encoder con l'efficienza di un bi-encoder: i documenti sono indicizzati una volta e la valutazione della pertinenza avviene al momento della query tramite max-pooling e somma sulle coppie di token. Supporta documenti di 8.192 token ed è stato il primo modello Jina a portare la retrieval di tipo ColBERT in produzione.

Metodi

Il modello impiega un'architettura a interazione tardiva basata su un approccio ColBERT adattato. Invece di confrontare documenti interi in una volta, elabora query e documenti indipendentemente fino alla fase finale di matching. L'encoder dei documenti elabora testo fino a 8.192 token; l'encoder delle query crea rappresentazioni precise a livello di token. Ogni token sia nella query che nel documento riceve il proprio vettore di embedding a 128 dimensioni, preservando l'informazione semantica fine che si perde nei modelli a vettore singolo. Il meccanismo di interazione tardiva calcola i punteggi di pertinenza con max-pooling sui token della query e sommazione sui token del documento, evitando l'attenzione all-to-all costosa dei cross-encoder pur cogliendo i segnali di matching a livello di token. L'architettura utilizza 137M parametri con encoder basati su BERT e codifiche posizionali ALiBi per il contesto di 8.192 token.

Prestazioni

Sulla collezione di dataset BEIR, il modello raggiunge prestazioni superiori: 49,4% su Arguana (contro il 46,5% di ColBERTv2), 79,5% su FEVER (contro il 78,8%) e 75,0% su TREC-COVID (contro il 72,6%). Ancora più impressionante è il miglioramento netto sul benchmark LoCo per la comprensione del contesto lungo, con 83,7% contro il 74,3% di ColBERTv2 — un guadagno di 9,4 punti che dimostra il valore delle rappresentazioni a livello di token per documenti lunghi. Il modello supera i tradizionali modelli di embedding a vettore singolo mantenendo l'efficienza computazionale tramite l'approccio a interazione tardiva. I suoi 137M parametri lo rendono pratico per il deployment in produzione.

Buone pratiche

Usa questo modello quando hai bisogno della qualità di retrieval di un cross-encoder senza la latenza di un cross-encoder. Richiede una GPU con supporto CUDA per le prestazioni ottimali; l'inferenza su CPU è possibile per lo sviluppo. Il limite di 8.192 token per documento corrisponde a circa 6.000 parole, adatto alla maggior parte dei tipi di documento, inclusi articoli accademici e documentazione tecnica. Il modello è solo in inglese — per applicazioni multilingue, usa jina-colbert-v2. Per i deployment in produzione, implementa strategie di chunking dei documenti adeguate e usa indici di similarità vettoriale (FAISS, Qdrant, Weaviate) per una retrieval efficiente. Il modello è particolarmente efficace nelle pipeline RAG che usano framework come RAGatouille, che semplifica l'implementazione dell'interazione tardiva. Per esigenze multilingue o di accuratezza più alta, considera jina-colbert-v2 o jina-embeddings-v4 (modalità multi-vettore).

Blog che menzionano questo modello
agosto 30, 2024 • 10 min di lettura
ColBERT v2 di Jina: Retriever di interazione tardiva multilingue per embedding e reranking
Jina ColBERT v2 supporta 89 lingue con prestazioni di recupero superiori, dimensioni di output controllate dall'utente e una lunghezza di token di 8192.
giugno 19, 2024 • 11 min di lettura
L'Interpretabilità dell'IA Resa Semplice: Come la Late Interaction Rende Jina-ColBERT Trasparente
L'esplicabilità e la trasparenza dell'IA sono argomenti molto attuali. Come possiamo fidarci dell'IA se non possiamo vedere come funziona? Jina-ColBERT dimostra come, con la giusta architettura del modello, si possa facilmente far rivelare all'IA i suoi segreti.
maggio 13, 2024 • 5 min di lettura
Albus di Springworks: Dare più potere ai dipendenti con la ricerca aziendale
Scopri come una startup HR-tech leader utilizza i modelli di Jina AI per comunicare con dati strutturati e non strutturati.
aprile 29, 2024 • 7 min di lettura
Jina Embeddings e Reranker su Azure: Soluzioni AI Scalabili Pronte per il Business
Jina Embeddings e Rerankers sono ora disponibili su Azure Marketplace. Le aziende che danno priorità alla privacy e alla sicurezza possono ora integrare facilmente i modelli all'avanguardia di Jina AI direttamente nel loro ecosistema Azure esistente.
febbraio 20, 2024 • 16 min di lettura
Cosa sono ColBERT e Late Interaction e perché sono importanti nella ricerca?
ColBERT di Jina AI su Hugging Face sta facendo parlare molto su Twitter, portando una nuova prospettiva alla ricerca con la sua capacità di gestire 8192 token. Questo articolo analizza le sfumature di ColBERT e ColBERTv2, mostrando i loro design innovativi e spiegando perché la loro funzionalità di interazione tardiva rappresenta una svolta rivoluzionaria per la ricerca.