Сегментатор

Бесплатный API для сегментации длинного текста на чанки и токенизации.

API сегментатора

Наш API Segmenter помогает LLM укладываться в ограничения контекста и повышать производительность модели. Он позволяет разработчикам подсчитывать токены и извлекать нужные фрагменты текста, обеспечивая эффективную обработку данных и контроль затрат.


Используйте GET-запрос для подсчёта токенов

Используйте POST-запрос для получения дополнительных функций

Запрос
POST
curl "https://api.jina.ai/v1/segment" \
-H "Content-Type: application/json" \
-d @- <<EOFEOF
{ "content": "Jina AI: Your Search Foundation, Supercharged! 🚀\nIhrer Suchgrundlage, aufgeladen! 🚀\n您的搜索底座,从此不同!🚀\n検索ベース,もう二度と同じことはありません!🚀" }
EOFEOF


Что такое сегментатор?

Сегментатор — важный компонент, который превращает текст в токены или чанки: базовые единицы данных, с которыми работает модель эмбеддингов, реранкер или LLM. Токены могут соответствовать целым словам, частям слов или отдельным символам.

Молниеносный чанкинг длинных документов!

Вы также можете использовать API Segmenter, чтобы резать длинные документы на небольшие фрагменты: так их проще обрабатывать эмбеддингами или реранкерами. Мы опираемся на типичные структурные признаки и набор правил и эвристик, которые хорошо работают на разных типах контента — Markdown, HTML, LaTeX, языках CJK.
Максимальная длина каждого чанка: 1000
Максимальное количество символов в каждом чанке. На практике длина чанка может быть меньше этого значения, если в тексте есть естественная граница.

Всего 0 чанков


API сегментатора бесплатен!

Указав свой ключ API, вы получите более высокий лимит скорости, и с ключа не спишут плату.
Ограничение скорости
Ограничения скорости отслеживаются двумя способами: RPM (запросы в минуту) и TPM (токены в минуту). Ограничения применяются к каждому IP-адресу или ключу API и срабатывают, как только достигнут порог по RPM или TPM. Если вы передаёте ключ API в заголовке запроса, мы отслеживаем ограничения по ключу, а не по IP-адресу.
ПродуктКонечная точка APIОписаниебез API-ключас бесплатным API-ключомс платным API-ключомс премиум-API-ключомСредняя задержкаПодсчёт использования токеновHTTP-метод
API Readerhttps://r.jina.aiПреобразовать URL в текст, понятный LLM20 RPM500 RPM500 RPM5000 RPM7.9sПодсчитывать количество токенов в выходном ответе.GET/POST
API Readerhttps://s.jina.aiИскать в интернете и преобразовывать результаты в текст, понятный LLM100 RPM100 RPM1000 RPM2.5sКаждый запрос стоит фиксированное количество токенов, начиная с 10 000 токенов.GET/POST
API реранкераhttps://api.jina.ai/v1/rerankРанжировать документы по запросу100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
зависит от размера входных данных
Подсчитывать количество токенов во входном запросе.POST
API эмбеддинговhttps://api.jina.ai/v1/embeddingsПреобразовывать текст/изображения в векторы фиксированной длины100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
зависит от размера входных данных
Подсчитывать количество токенов во входном запросе.POST
Ограничение скорости
Ограничения скорости отслеживаются двумя способами: RPM (запросы в минуту) и TPM (токены в минуту). Ограничения применяются к каждому IP-адресу или ключу API и срабатывают, как только достигнут порог по RPM или TPM. Если вы передаёте ключ API в заголовке запроса, мы отслеживаем ограничения по ключу, а не по IP-адресу.
ПродуктКонечная точка APIОписаниебез API-ключас бесплатным API-ключомс платным API-ключомс премиум-API-ключомСредняя задержкаПодсчёт использования токеновHTTP-метод
API Readerhttps://r.jina.aiПреобразовать URL в текст, понятный LLM20 RPM500 RPM500 RPM5000 RPM7.9sПодсчитывать количество токенов в выходном ответе.GET/POST
API Readerhttps://s.jina.aiИскать в интернете и преобразовывать результаты в текст, понятный LLM100 RPM100 RPM1000 RPM2.5sКаждый запрос стоит фиксированное количество токенов, начиная с 10 000 токенов.GET/POST
API реранкераhttps://api.jina.ai/v1/rerankРанжировать документы по запросу100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
зависит от размера входных данных
Подсчитывать количество токенов во входном запросе.POST
API эмбеддинговhttps://api.jina.ai/v1/embeddingsПреобразовывать текст/изображения в векторы фиксированной длины100 RPM & 100,000 TPM500 RPM & 2,000,000 TPM5,000 RPM & 50,000,000 TPM
зависит от размера входных данных
Подсчитывать количество токенов во входном запросе.POST
Общие вопросы по оплате