NVIDIA rozszerza linię Nemotron o nowe modele wyszukiwania, rerankingu i parsowania dokumentów dla agentów AI
W skrócie: NVIDIA dodała trzy nowe, otwarte i komercyjnie licencjonowane komponenty do linii Nemotron Retriever: modele Embed (8B i 1B, w wersjach BF16 i NVFP4) do przeszukiwania tekstu i obrazów, model Rerank (8B), który porządkuje pobrane dowody według trafności, oraz kompaktowy model Parse o 631M parametrów, który zamienia obrazy dokumentów na ustrukturyzowany tekst. Celem jest dostarczenie agentom AI lepszych, bardziej trafnych dowodów, dzięki czemu potrzebują mniej rund wyszukiwania i mniej tokenów inferencji do udzielenia odpowiedzi. NVIDIA podaje, że nowe modele Embed i Rerank zajmują pierwsze miejsca w rankingach ViDoRe v3.1 odpowiednio dla wyszukiwania gęstego i rerankingu.
To podsumowanie zostało automatycznie przygotowane przez sztuczną inteligencję na podstawie publikacji „Hugging Face”. To nasz tekst, nie kopia oryginału — fakty, liczby i cytaty należą do źródła, do którego link znajduje się powyżej i poniżej.
Co się zmieniło?
- 1Nowa premiera: Nemotron 3.5 Embed 8B BF16, 1B BF16, 1B NVFP4, Rerank 8B BF16 oraz Parse z 631M parametrów
- 2Embed 8B BF16 jest liderem rankingu wyszukiwania gęstego ViDoRe v3.1 z wynikiem 61.17 nDCG@10, wobec 52.23 dla poprzedniej generacji modelu 1B
- 3Połączenie Rerank z Embed obniża koszt tokenów agenta na zapytanie o około 13-14%, jednocześnie poprawiając dokładność wyszukiwania
- 4Rerank 8B prowadzi w nowym rankingu rerankingu ViDoRe v3.1 z wynikiem 60.49 nDCG@10 wobec 59.17 dla Qwen-3-VL-Reranker-8B
- 5Skwantyzowany do NVFP4 model Embed 1B działa 27.1% szybciej niż wersja BF16 (128.8 wobec 101.3 dokumentów/sek. na GB200), zachowując 99.85% dokładności wyszukiwania
- 6Przepisy do dostrajania domenowego zwiększają nDCG@10 o 18% (model 1B) i 3% (model 8B) na danych bogatych w wykresy i infografiki
- 7Stos serwujący NVIDIA NIM osiąga około 2,9-krotnie większą przepustowość niż porównywalna konfiguracja vLLM (6031 wobec 2099 zapytań/sek.)
| Parametr | Było | Jest |
|---|---|---|
| Linia | Nemotron 3 Embed / Llama Nemotron Embed VL 1B | Nemotron 3.5 Embed (8B BF16, 1B BF16, 1B NVFP4), Nemotron 3.5 Rerank 8B BF16, Nemotron 3.5 Parse 631M |
| Wynik wyszukiwania gęstego ViDoRe v3.1 | 52.23 nDCG@10 (Llama Nemotron Embed VL 1B) | 61.17 nDCG@10 (Nemotron 3.5 Embed 8B BF16), 1. miejsce |
| Wynik rerankingu | 59.17 nDCG@10 (Qwen-3-VL-Reranker-8B) | 60.49 nDCG@10 (Nemotron 3.5 Rerank 8B BF16) |
| Koszt tokenów agenta | Bazowe wyszukiwanie tylko z embeddingiem | ~13-14% niższy po dodaniu rerankingu, przy wyższej dokładności |
| Przepustowość NVFP4 | 101.3 dok./sek. (1B BF16, GB200) | 128.8 dok./sek. (1B NVFP4), przy zachowaniu 99.85% dokładności |
| Przepustowość serwowania NIM | 2099 zapytań/sek. (vLLM) | 6031 zapytań/sek. (NIM, RTX PRO 6000 Blackwell) |
Dlaczego to ważne?
Zespoły budujące agentów opartych na RAG często płacą za zmarnowane tokeny inferencji, gdy wyszukiwanie zwraca nietrafne lub niepełne dowody; lepszy embedding i reranking bezpośrednio redukują te koszty i poprawiają jakość odpowiedzi, a wsparcie multimodalne sprawia, że tabele, wykresy i skanowane dokumenty stają się przeszukiwalne obok zwykłego tekstu.
Co to oznacza dla agentów AI i contact center?
Jeśli agent głosowy lub baza wiedzy centrum kontaktowego opiera się na wyszukiwaniu w instrukcjach, logach rozmów czy skanowanych plikach PDF, warto porównać te modele pod kątem dokładności wyszukiwania dla Twoich typów dokumentów, oszczędności kosztów tokenów na zapytanie oraz przepustowości/opóźnień przy oczekiwanym wolumenie zapytań, zwłaszcza że parser obsługuje elementy wizualne, takie jak tabele i wykresy, których zwykłe ekstraktowanie tekstu by nie uchwyciło.
🧪 Warte przetestowania
Zgłoszone obniżenie kosztów tokenów oraz najwyższe wyniki w rankingach wyszukiwania sugerują istotne korzyści dla każdego potoku typu RAG, dlatego warto je przetestować względem obecnych rozwiązań wyszukiwania i rerankingu pod kątem dokładności, opóźnień i kosztu na zapytanie.
Źródła
- Hugging FaceOficjalneŹródło pierwotneOryginalny artykuł →„NVIDIA Nemotron 3.5 Embed, Rerank, and Parse: Advancing Agents with World-Class Retrieval Models“21 paź 2026, 13:41
- Data publikacji źródła
- 21 paź 2026, 13:41
- Znalezione przez nasz system
- 21 paź 2026, 13:46
- Podsumowanie wygenerowano
- 21 paź 2026, 13:49
Artykuł napisała AI na podstawie oryginalnego źródła. Fakty, liczby i ceny pochodzą ze źródła; brakujące wartości oznaczono „Brak oficjalnych danych”. Informacje prawne, prawa autorskie i prywatność