Pereiti prie turinio
2026 m. spalio 21 d., trečiadienis
Tenesys AI News
Prenumerata

Nemotron 3.5 Embed/Rerank/Parse

Pakeitimų istorija

  1. 2026-10-21
    NVIDIA išplėtė „Nemotron“ liniją naujais paieškos, perrikiavimo ir dokumentų analizės modeliais dirbtinio intelekto agentams
    ParametrasBuvoDabar
    LinijaNemotron 3 Embed / Llama Nemotron Embed VL 1BNemotron 3.5 Embed (8B BF16, 1B BF16, 1B NVFP4), Nemotron 3.5 Rerank 8B BF16, Nemotron 3.5 Parse 631M
    ViDoRe v3.1 dense paieškos balas52.23 nDCG@10 (Llama Nemotron Embed VL 1B)61.17 nDCG@10 (Nemotron 3.5 Embed 8B BF16), 1 vieta
    Perrikiavimo balas59.17 nDCG@10 (Qwen-3-VL-Reranker-8B)60.49 nDCG@10 (Nemotron 3.5 Rerank 8B BF16)
    Agento žetonų kainaBazinė paieška tik su embedding~13-14% mažesnė pridėjus perrikiavimą, kartu didesnis tikslumas
    NVFP4 pralaidumas101.3 dok./sek. (1B BF16, GB200)128.8 dok./sek. (1B NVFP4), išlaikant 99.85% tikslumo
    NIM aptarnavimo pralaidumas2099 užkl./sek. (vLLM)6031 užkl./sek. (NIM, RTX PRO 6000 Blackwell)

Naujienos

Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA išplėtė „Nemotron“ liniją naujais paieškos, perrikiavimo ir dokumentų analizės modeliais dirbtinio intelekto agentams

NVIDIA pristatė tris naujus atvirus, komerciškai licencijuotus komponentus „Nemotron Retriever“ linijoje: „Embed“ modelius (8B ir 1B, BF16 ir NVFP4 formatais) teksto ir vaizdų paieškai, „Rerank“ modelį (8B), kuris perrikiuoja gautus įrodymus pagal aktualumą, ir kompaktišką 631M „Parse“ modelį, verčiantį dokumentų vaizdus struktūruotu tekstu. Tikslas – pateikti AI agentams geresnius, aktualesnius įrodymus, kad jiems reikėtų mažiau paieškos ciklų ir mažiau inferencijos žetonų atsakymui gauti. NVIDIA teigia, kad nauji „Embed“ ir „Rerank“ modeliai pirmauja „ViDoRe v3.1“ dense paieškos ir perrikiavimo lyderių lentelėse.

Hugging Face
Nemotron 3.5 Embed/Rerank/Parse · TENESYS AI NEWS