Nemotron 3.5 Embed/Rerank/Parse

Historia zmian

21 paź 2026

NVIDIA rozszerza linię Nemotron o nowe modele wyszukiwania, rerankingu i parsowania dokumentów dla agentów AI

Parametr	Było	Jest
Linia	Nemotron 3 Embed / Llama Nemotron Embed VL 1B	Nemotron 3.5 Embed (8B BF16, 1B BF16, 1B NVFP4), Nemotron 3.5 Rerank 8B BF16, Nemotron 3.5 Parse 631M
Wynik wyszukiwania gęstego ViDoRe v3.1	52.23 nDCG@10 (Llama Nemotron Embed VL 1B)	61.17 nDCG@10 (Nemotron 3.5 Embed 8B BF16), 1. miejsce
Wynik rerankingu	59.17 nDCG@10 (Qwen-3-VL-Reranker-8B)	60.49 nDCG@10 (Nemotron 3.5 Rerank 8B BF16)
Koszt tokenów agenta	Bazowe wyszukiwanie tylko z embeddingiem	~13-14% niższy po dodaniu rerankingu, przy wyższej dokładności
Przepustowość NVFP4	101.3 dok./sek. (1B BF16, GB200)	128.8 dok./sek. (1B NVFP4), przy zachowaniu 99.85% dokładności
Przepustowość serwowania NIM	2099 zapytań/sek. (vLLM)	6031 zapytań/sek. (NIM, RTX PRO 6000 Blackwell)

Wiadomości

Modele· Ważne· 🧪 Warte przetestowania

NVIDIA rozszerza linię Nemotron o nowe modele wyszukiwania, rerankingu i parsowania dokumentów dla agentów AI

NVIDIA dodała trzy nowe, otwarte i komercyjnie licencjonowane komponenty do linii Nemotron Retriever: modele Embed (8B i 1B, w wersjach BF16 i NVFP4) do przeszukiwania tekstu i obrazów, model Rerank (8B), który porządkuje pobrane dowody według trafności, oraz kompaktowy model Parse o 631M parametrów, który zamienia obrazy dokumentów na ustrukturyzowany tekst. Celem jest dostarczenie agentom AI lepszych, bardziej trafnych dowodów, dzięki czemu potrzebują mniej rund wyszukiwania i mniej tokenów inferencji do udzielenia odpowiedzi. NVIDIA podaje, że nowe modele Embed i Rerank zajmują pierwsze miejsca w rankingach ViDoRe v3.1 odpowiednio dla wyszukiwania gęstego i rerankingu.

5 godz. temuHugging Face