ニュース

第4回 EMNLP BoF：ベクトルモデル、重排器、および小規模言語モデル（SLM）に関する分科会。10月25日（日）11:00〜12:30、会場：HUNGEXPO Budapest、G9-10 & G11会議室。飛び入り参加歓迎。発表をご希望の方は登録をお願いします。

jina-ocr-v1 は、34億のパラメータ数と5億7000万の有効パラメータ数を持つビジョン言語モデルであり、OmniDocBench v1.6 で 91.1、olmOCR-Bench で 83.4 のスコアを記録しています。

BEIRベンチマークで Qwen3-Reranker-4B を上回る性能を発揮し、v3 と比較して最大 1.56 倍の高速化を実現。さらに、半構造化データ検索において nDCG@10 で 9.6 ポイントの向上を達成した 0.6B のリストワイズ型重排器。

1つのモデルで4つのモダリティ（テキスト、画像、音声、動画）に対応。1.6Bおよび0.9Bのクラス最高レベルのオムニベクトルモデル（Embeddings）です。

任意のマルチモーダル LLM を、25分の1のデータ量で CLAP を凌駕する小規模なオーディオ埋め込みモデルへと変換。

生の数値を読み取ることで埋め込みモデルをフィンガープリント化する、小さな Transformer。特徴量エンジニアリングは不要。

<input> 1B 未満の最高の性能を誇る 2 つの多言語対応ベクトルモデル（Embeddings）が、Elastic Inference Service、Llama.cpp、および MLX で利用可能になりました。 </input>

新しい2BのVision Language Modelが、多言語VQAでSOTAを達成し、テキストのみのタスクでは壊滅的な忘却が発生しません。

クエリとすべての候補ドキュメントを単一のコンテキストウィンドウで考慮する、新しい0.6Bパラメータのリストワイズ重排器。

llama.cpp と GGUF にマルチモーダルなベクトルモデルを導入し、その過程でいくつかの意外な問題を発見しました。