Fine-tuning automatico

Dicci in quale dominio vuoi che i tuoi embeddings diano il meglio e ti forniamo automaticamente un modello di embedding ottimizzato e pronto all'uso per quel dominio.

Che cos'è il fine-tuning automatico?

Esistono tre modi per specificare le tue esigenze: un'istruzione generale, un URL o una descrizione query-documento. Scegline uno.
Seleziona un modello di embedding di base
Il fine-tuning ti permette di prendere un modello pre-addestrato e adattarlo a un'attività o a un dominio specifico addestrandolo su un nuovo set di dati. In pratica, trovare dati di addestramento efficaci non è semplice per molti utenti. Un addestramento efficace richiede molto più del semplice inserimento di PDF e HTML grezzi nel modello, ed è difficile farlo bene. Il fine-tuning automatico risolve il problema generando automaticamente dati di addestramento efficaci con una pipeline di agenti LLM avanzata e mettendo a punto il modello all'interno di un flusso di lavoro ML. Puoi vederlo come una combinazione di generazione di dati sintetici e AutoML: tutto ciò che devi fare è descrivere il tuo dominio di destinazione in linguaggio naturale e lasciare che il nostro sistema faccia il resto.
Il fine-tuning automatico porta con sé una promessa auto-magica: fornire embeddings fine-tuned per qualsiasi dominio tu voglia. Ma funziona davvero? Il dubbio è più che ragionevole. Lo abbiamo testato su vari domini e modelli di base per scoprirlo. Dai un'occhiata ai risultati migliori e a quelli peggiori che abbiamo selezionato qui sotto.
Modello base per il fine-tuning
jinaai/jina-embeddings-v2-base-en
Miglioramento medio
2%

Istruzioni sul dominio
Prestazioni sul set di validazione sintetica prima e dopo il fine-tuning
NDCG
0.505 0.532 5%
MAP
0.352 0.389 10%
MRR
0.352 0.389 10%
Prestazioni sul set di test separato prima e dopo il fine-tuning
Testato su 50 campioni casuali da tollefj/norwegian-nli-triplets
NDCG
0.852 0.867 2%
MAP
0.800 0.820 2%
MRR
0.800 0.820 2%
Dati sintetici generati
Totale
4648
Addestramento
4480
Validazione
168

Modello base per il fine-tuning
jinaai/jina-embeddings-v2-base-en
Miglioramento medio
6%

Istruzioni sul dominio
Prestazioni sul set di validazione sintetica prima e dopo il fine-tuning
NDCG
0.672 0.755 12%
MAP
0.567 0.675 19%
MRR
0.567 0.675 19%
Prestazioni sul set di test separato prima e dopo il fine-tuning
Testato su 50 campioni casuali da mteb/askubuntudupquestions-reranking
NDCG
0.698 0.722 3%
MAP
0.515 0.549 6%
MRR
0.666 0.712 7%
Dati sintetici generati
Totale
616
Addestramento
448
Validazione
168

Modello base per il fine-tuning
jinaai/jina-embeddings-v2-base-en
Miglioramento medio
9%

Istruzioni sul dominio
Prestazioni sul set di validazione sintetica prima e dopo il fine-tuning
NDCG
0.727 0.861 18%
MAP
0.640 0.814 27%
MRR
0.640 0.814 27%
Prestazioni sul set di test separato prima e dopo il fine-tuning
Testato su 50 campioni casuali da mteb/scidocs-reranking
NDCG
0.773 0.822 6%
MAP
0.575 0.651 13%
MRR
0.823 0.884 7%
Dati sintetici generati
Totale
616
Addestramento
448
Validazione
168

Modello base per il fine-tuning
jinaai/jina-embeddings-v2-base-zh
Miglioramento medio
1%

Istruzioni sul dominio
Prestazioni sul set di validazione sintetica prima e dopo il fine-tuning
NDCG
0.718 0.785 9%
MAP
0.629 0.717 14%
MRR
0.629 0.717 14%
Prestazioni sul set di test separato prima e dopo il fine-tuning
Testato su 50 campioni casuali da C-MTEB/CMedQAv2-reranking
NDCG
0.938 0.948 1%
MAP
0.912 0.926 2%
MRR
0.920 0.933 1%
Dati sintetici generati
Totale
616
Addestramento
448
Validazione
168

Modello base per il fine-tuning
jinaai/jina-embeddings-v2-base-en
Miglioramento medio
6%

Istruzioni sul dominio
Prestazioni sul set di validazione sintetica prima e dopo il fine-tuning
NDCG
0.543 0.579 7%
MAP
0.402 0.452 12%
MRR
0.402 0.452 12%
Prestazioni sul set di test separato prima e dopo il fine-tuning
Testato su 50 campioni casuali da nc33/triplet_sbert_law2 (machine-translated to dutch)
NDCG
0.904 0.948 5%
MAP
0.870 0.930 7%
MRR
0.870 0.930 7%
Dati sintetici generati
Totale
9128
Addestramento
8960
Validazione
168

Modello base per il fine-tuning
jinaai/jina-embeddings-v2-base-code
Miglioramento medio
-4%

Istruzioni sul dominio
Prestazioni sul set di validazione sintetica prima e dopo il fine-tuning
NDCG
0.671 0.640 -5%
MAP
0.569 0.525 -8%
MRR
0.569 0.525 -8%
Prestazioni sul set di test separato prima e dopo il fine-tuning
Testato su 50 campioni casuali da mteb/stackoverflowdupquestions-reranking
NDCG
0.640 0.621 -3%
MAP
0.530 0.505 -5%
MRR
0.555 0.532 -4%
Dati sintetici generati
Totale
616
Addestramento
448
Validazione
168

Modello base per il fine-tuning
jinaai/jina-embeddings-v2-base-code
Miglioramento medio
-4%

Istruzioni sul dominio
Prestazioni sul set di validazione sintetica prima e dopo il fine-tuning
NDCG
0.632 0.711 13%
MAP
0.517 0.622 20%
MRR
0.517 0.622 20%
Prestazioni sul set di test separato prima e dopo il fine-tuning
Testato su 50 campioni casuali da mteb/stackoverflowdupquestions-reranking
NDCG
0.640 0.619 -3%
MAP
0.530 0.504 -5%
MRR
0.555 0.525 -5%
Dati sintetici generati
Totale
616
Addestramento
448
Validazione
168

Modello base per il fine-tuning
jinaai/jina-embeddings-v2-base-en
Miglioramento medio
1%

Istruzioni sul dominio
Prestazioni sul set di validazione sintetica prima e dopo il fine-tuning
NDCG
0.646 0.729 13%
MAP
0.535 0.644 20%
MRR
0.535 0.644 20%
Prestazioni sul set di test separato prima e dopo il fine-tuning
Testato su 50 campioni casuali da mteb/askubuntudupquestions-reranking
NDCG
0.645 0.650 1%
MAP
0.452 0.462 2%
MRR
0.606 0.605 -0%
Dati sintetici generati
Totale
616
Addestramento
448
Validazione
168

API di fine-tuning automatico

Ottieni embeddings ottimizzati per qualsiasi dominio desideri.


Usa r.jina.ai per leggere un URL e recuperarne il contenuto
Usa s.jina.ai per cercare sul web e ottenere SERP
Aggiungi mcp.jina.ai come server MCP per chiamare le nostre API da qualsiasi LLM


Richiesta
GET
curl "https://r.jina.ai/https://www.example.com"


Limite di frequenza
I limiti di frequenza si misurano in due modi: RPM (richieste al minuto) e TPM (token al minuto). Si applicano per IP o chiave API e scattano non appena si raggiunge la soglia RPM o TPM. Se nella richiesta fornisci una chiave API, teniamo traccia dei limiti per chiave anziché per indirizzo IP.
ProductAPI EndpointDescriptionw/o API Keyw/ Free API Keyw/ Paid API Keyw/ Premium API KeyAverage latencyToken Usage CountingHTTP Method
Reader APIhttps://r.jina.aiConverts a URL to LLM-friendly text20 RPM500 RPM500 RPM5000 RPM7.9sCount the number of tokens in the output response.GET/POST
Reader APIhttps://s.jina.aiSearch the web and convert results to LLM-friendly text100 RPM100 RPM1000 RPM2.5sEvery request costs a fixed number of tokens, starting from 10.000 tokensGET/POST
Embeddings APIhttps://api.jina.ai/v1/embeddingsConvert text/images to fixed-length vectors100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
depends on the input size
Count the number of tokens in the input request.POST
Reranker APIhttps://api.jina.ai/v1/rerankRank documents by query100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
depends on the input size
Count the number of tokens in the input request.POST
Domande comuni relative alla fatturazione