Incorporamenti

Per informazioni dettagliate sui nostri processi di formazione, sulle fonti dei dati e sulle valutazioni, fare riferimento ai nostri report tecnici su arXiv per jina-embeddings-v3 e jina-embeddings-v4.

jina-embeddings-v4 è il nostro ultimo modello multimodale universale (3,8 miliardi di parametri) che supporta testo e immagini con contesto a 32K, recupero denso e a interazione tardiva e prestazioni SOTA su documenti visivamente ricchi. jina-clip-v2 è un'opzione più leggera (865 milioni di parametri) che supporta 89 lingue con risoluzione delle immagini di 512x512 e rappresentazioni Matryoshka. Entrambi eccellono nelle attività di recupero testo-testo, testo-immagine e immagine-immagine.

Sia jina-embeddings-v4 che jina-embeddings-v3 supportano 89 lingue con ottime prestazioni multilingua. Le 30 lingue principali includono: arabo, bengalese, cinese, danese, olandese, inglese, finlandese, francese, georgiano, tedesco, greco, hindi, indonesiano, italiano, giapponese, coreano, lettone, norvegese, polacco, portoghese, rumeno, russo, slovacco, spagnolo, svedese, tailandese, turco, ucraino, urdu e vietnamita. Anche jina-clip-v2 supporta 89 lingue per attività multimodali.

La lunghezza del contesto varia in base al modello: jina-embeddings-v4 supporta fino a 32K token, mentre jina-embeddings-v3 e jina-clip-v2 supportano fino a 8192 token. Un token può variare da un singolo carattere a un'intera parola. Questo contesto esteso consente un'analisi completa dei documenti e una maggiore accuratezza nella comprensione del contesto per dati testuali estesi.

Non esiste un limite massimo al numero di elementi per richiesta. L'API elabora internamente gli input in base al numero di token per un utilizzo ottimale della GPU. È possibile inviare tutti i testi o le immagini necessari in un'unica richiesta.

Per jina-embeddings-v4, jina-clip-v2 e jina-clip-v1, puoi utilizzare url o bytes nel campo input della richiesta API. Per url, fornisci l'URL dell'immagine che desideri elaborare. Per bytes, codifica l'immagine in formato base64. jina-embeddings-v4 può anche incorporare direttamente documenti PDF passando un URL PDF o byte PDF codificati in base64.

jina-embeddings-v4 è il nostro ultimo modello di punta che ha raggiunto il livello SOTA nei benchmark di recupero di documenti visualmente ricchi (ViDoRe) e multimodali. Per le attività di solo testo, jina-embeddings-v3 supera OpenAI e Cohere nei benchmark MTEB in inglese e multilingue, pur essendo più compatto ed efficiente. Entrambi i modelli supportano l'apprendimento della rappresentazione Matryoshka (MRL), consentendo il troncamento delle dimensioni (fino a 32 per la v3, fino a 128 per la v4) senza perdite significative di prestazioni.

La transizione è semplificata, poiché il nostro endpoint API, corrisponde agli schemi JSON di input e output del modello text-embedding-3-large di OpenAI. Questa compatibilità garantisce che gli utenti possano facilmente sostituire il modello OpenAI con il nostro quando utilizzano l'endpoint di OpenAI.

I token vengono calcolati in base alla lunghezza del testo e alle dimensioni dell'immagine. Per il testo nella richiesta, i token vengono conteggiati secondo il metodo standard. Per le immagini, vengono eseguiti i seguenti passaggi: 1. Dimensione del tile: Ogni immagine è divisa in tile. Per jina-embeddings-v4, i tile sono di 28x28 pixel, per jina-clip-v2, i tile sono di 512x512 pixel, mentre per jina-clip-v1, i tile sono di 224x224 pixel. 2. Copertura: Viene calcolato il numero di tile necessarie per coprire l'immagine in input. Anche se le dimensioni dell'immagine non sono perfettamente divisibili per la dimensione del tile, i tile parziali vengono conteggiati come tile completi. 3. Tile totali: Il numero totale di tile che coprono l'immagine determina il costo. Ad esempio, un'immagine di 600x600 pixel sarebbe suddivisa in tile 22x22 (484 tile) in jina-embeddings-v4, in tile 2x2 (4 tile) in jina-clip-v2 e in tile 3x3 (9 tile) in jina-clip-v1. 4. Calcolo dei costi: per jina-embeddings-v4, ogni tile costa 10 token, per jina-clip-v2, ogni tile costa 4000 token, mentre per jina-clip-v1, ogni tile costa 1000 token. Esempio: Per un'immagine di 600x600 pixel: • Con jina-embeddings-v4 • L'immagine è suddivisa in tile di 28x28 pixel. • Il numero totale di tile necessarie è 22 (orizzontali) x 22 (verticali) = 484 tile. • Il costo per jina-embeddings-v4 sarà 484*10 = 4840 token. • Con jina-clip-v2 • L'immagine è divisa in tile da 512x512 pixel. • Il numero totale di tile necessarie è 2 (orizzontali) x 2 (verticali) = 4 tile. • Il costo per jina-clip-v2 sarà 4*4000 = 16000 token. • Con jina-clip-v1 • L'immagine è divisa in tile da 224x224 pixel. • Il numero totale di tile necessarie è 3 (orizzontali) x 3 (verticali) = 9 tile. • Il costo per jina-clip-v1 sarà 9*1000 = 9000 token.

Sì, jina-embeddings-v4, jina-clip-v2 e jina-clip-v1 possono incorporare sia immagini che testi. L'incorporamento di modelli su più modalità sarà annunciato a breve!

Per domande sulla messa a punto dei nostri modelli con dati specifici, contattaci per discutere le tue esigenze. Siamo aperti a esplorare come i nostri modelli possono essere adattati per soddisfare le vostre esigenze.

Sì, i nostri servizi sono disponibili sui marketplace AWS, Azure e GCP. Se hai esigenze specifiche, contattaci a sales AT jina.ai.

Il parametro task in jina-embeddings-v3 e jina-embeddings-v4 attiva adattatori LoRA specifici per le attività per prestazioni ottimali. Utilizzare retrieval.query per le query di ricerca, retrieval.passage per i documenti da cercare, text-matching per la similarità semantica, classification per la classificazione del testo e separation per le attività di clustering.

jina-embeddings-v4 supporta sia il recupero denso (a vettore singolo) che quello a interazione tardiva (a più vettori) tramite il parametro output_type. L'interazione tardiva preserva informazioni a livello di token più dettagliate per una maggiore accuratezza del recupero su query complesse. jina-colbert-v2 è un modello dedicato all'interazione tardiva.

Il late chunking è una tecnica che incorpora prima l'intero documento utilizzando modelli a contesto lungo, quindi estrae gli embedding dei chunk dalle rappresentazioni a livello di token. A differenza del chunking naive (prima il chunk, poi l'embed), il late chunking preserva il contesto tra chunk, migliorando il recupero per le applicazioni RAG. È possibile abilitarlo tramite il parametro late_chunking in jina-embeddings-v3.

Sebbene alcuni dei nostri modelli di embedding siano architetturalmente in grado di elaborare lunghezze di contesto più lunghe, l'API potrebbe imporre limiti inferiori a causa dei vincoli di VRAM della GPU nella nostra infrastruttura di inferenza. L'elaborazione di sequenze molto lunghe richiede una quantità di memoria considerevole e ottimizziamo la nostra configurazione di servizio per bilanciare throughput, latenza e costi per la maggior parte dei casi d'uso. Se necessitate di supporto per lunghezze di contesto estese, contattate il nostro team commerciale per discutere le opzioni di implementazione dedicate.

jina-embeddings-v4 è basato sul modello base Qwen2-VL, rilasciato con licenza Qwen Research. Questa licenza consente solo la ricerca e l'uso non commerciale, il che significa che non possiamo offrire jina-embeddings-v4 come prodotto commerciale. Di conseguenza, forniamo l'accesso al modello gratuitamente tramite la nostra API. Ci sono due motivi per cui jina-embeddings-v4 potrebbe sembrare più lento di altri modelli: in primo luogo, jina-embeddings-v4 è un modello significativamente più grande di jina-embeddings-v3, quindi richiede intrinsecamente più tempo di elaborazione per richiesta. In secondo luogo, poiché non possiamo commercializzare questo modello, limitiamo intenzionalmente la velocità di elaborazione dell'API per gestire i costi dell'infrastruttura. Gli utenti non devono aspettarsi velocità di elaborazione elevate o a livello di produzione quando utilizzano l'API jina-embeddings-v4. Per carichi di lavoro di produzione che richiedono una maggiore produttività, consigliamo di utilizzare jina-embeddings-v3 o di distribuire jina-embeddings-v4 sulla propria infrastruttura tramite Hugging Face.

I limiti di velocità dipendono dal tipo di chiave API:

Gratuito: 100 RPM, 100.000 TPM, 2 richieste simultanee
A pagamento: 500 RPM, 2 milioni di TPM, 50 richieste simultanee
Premium: 5.000 RPM, 50 milioni di TPM, 500 richieste simultanee

Inoltre, è previsto un limite di velocità basato su IP di 10.000 richieste ogni 60 secondi per prevenire abusi. Se hai bisogno di limiti più elevati, contatta il nostro team di vendita.

Ogni modello ha una lunghezza massima del contesto per input:

jina-embeddings-v4: 32.768 token
jina-embeddings-v3: 8.192 token
jina-embeddings-v2-*: 8.192 token
jina-clip-v1/v2: 8.192 token
jina-colbert-v1/v2: 8.192 token
jina-code-embeddings-*: 32.768 token

Gli input che superano il limite restituiranno un errore a meno che non venga impostato truncate: true, che tronca automaticamente alla lunghezza massima.

Le dimensioni massime dei file sono: Immagini: 5 MB, PDF: 8 MB. I file di dimensioni maggiori verranno rifiutati con un errore.

Sì, la stessa chiave API è valida per tutti i prodotti Search Foundation di Jina AI. Ciò include le API di lettura, incorporamento, riclassificazione, classificazione e messa a punto, con token condivisi tra tutti i servizi.

Sì, l'utilizzo del token può essere monitorato nella scheda "API Key & Billing" inserendo la tua chiave API, consentendoti di visualizzare la cronologia di utilizzo recente e i token rimanenti. Se hai effettuato l'accesso alla dashboard API, questi dettagli possono essere visualizzati anche nella scheda "Manage API Key".

Se hai smarrito una chiave ricaricata e desideri recuperarla, contatta il supporto AT jina.ai con la tua email registrata per ricevere assistenza. Si consiglia di effettuare l'accesso per conservare la tua chiave API in modo sicuro e facilmente accessibile.

No, le nostre chiavi API non hanno una data di scadenza. Tuttavia, se sospetti che la tua chiave sia stata compromessa e desideri ritirarla, contatta il nostro team di supporto per ricevere assistenza. Puoi anche revocare la tua chiave nella dashboard API Key Management.

Sì, puoi trasferire token da una chiave premium a un'altra. Dopo aver effettuato l'accesso al tuo account sulla dashboard API Key Management, usa le impostazioni della chiave che vuoi trasferire per spostare tutti i token a pagamento rimanenti.

Sì, puoi revocare la tua chiave API se ritieni che sia stata compromessa. La revoca di una chiave la disabiliterà immediatamente per tutti gli utenti che l'hanno archiviata e tutto il saldo rimanente e le proprietà associate saranno permanentemente inutilizzabili. Se la chiave è una chiave premium, hai la possibilità di trasferire il saldo pagato rimanente a un'altra chiave prima della revoca. Nota che questa azione non può essere annullata. Per revocare una chiave, vai alle impostazioni della chiave nella dashboard Gestione chiavi API.

Questo perché la nostra architettura serverless scarica determinati modelli durante i periodi di basso utilizzo. La richiesta iniziale attiva o "riscalda" il modello, il che potrebbe richiedere alcuni secondi. Dopo questa attivazione iniziale, le richieste successive vengono elaborate molto più rapidamente.

No. Non utilizziamo mai le vostre richieste API, input o output per addestrare i nostri modelli di embedding, reranker o altri modelli. I vostri dati restano vostri.

Si applicano limiti di velocità per chiave API:

Gratuito: 100 RPM, 100.000 TPM, 2 richieste simultanee
A pagamento: 500 RPM, 2 milioni di TPM, 50 richieste simultanee
Premium: 5.000 RPM, 50 milioni di TPM, 500 richieste simultanee

È presente anche un limite di velocità basato su IP di 10.000 richieste ogni 60 secondi. Questi limiti si applicano a tutte le API Jina (Embeddings, Reranker, Reader, ecc.).

Non esiste alcun limite di dimensione del batch per le API Embeddings o Reranker. È possibile inviare tutti gli elementi o documenti necessari per richiesta. Entrambe le API elaborano internamente gli input in batch in base al numero di token, per un utilizzo ottimale della GPU.

Il nostro modello di prezzo si basa sul numero totale di token elaborati, consentendo agli utenti la flessibilità di allocare questi token su qualsiasi numero di frasi, offrendo una soluzione economicamente vantaggiosa per diversi requisiti di analisi del testo.

Offriamo ai nuovi utenti una prova gratuita di benvenuto, che include dieci milioni di token da utilizzare con qualsiasi nostro modello, grazie a una chiave API generata automaticamente. Una volta raggiunto il limite di token gratuiti, gli utenti possono facilmente acquistare token aggiuntivi per le proprie chiavi API tramite la scheda "Acquista token".

No, i token non vengono detratti per le richieste non riuscite.

I pagamenti vengono elaborati tramite Stripe, che supporta una varietà di metodi di pagamento tra cui carte di credito, Google Pay e PayPal per la tua comodità.

Sì, al momento dell'acquisto dei token verrà emessa una fattura all'indirizzo e-mail associato al tuo account Stripe.