„NVIDIA“ pristatė multimodalų „Nemotron 3.5 Super VL“, skirtą „AWS EKS“
Trumpai: „NVIDIA“ išleido „Nemotron 3.5 Super VL“ – 120B parametrų multimodalų modelį su 1M žetonų kontekstiniu langu. Modelis naudoja hibridinę „Mamba-2“ ir „MoE“ architektūrą, kad subalansuotų mąstymo gebėjimus ir našumą, ir yra paruoštas diegimui „Amazon EKS“ bei „SageMaker HyperPod“ aplinkose.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „AWS Machine Learning“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Naujas 120B MoE modelis, palaikantis teksto, vaizdo, dokumentų ir vaizdo įrašų įvestis.
- 21M žetonų kontekstinio lango palaikymas.
- 3Optimizuoti diegimo šablonai „Amazon EKS“, naudojant „vLLM“ ir „NVIDIA Dynamo“.
- 4Natyvinis spekuliacinio dekodavimo palaikymas naudojant „Multi-Token Prediction“ (MTP).
| Parametras | Buvo | Dabar |
|---|---|---|
| Parametrai | Nenurodyta | 120B bendri, 12B aktyvūs vienam žetonui |
| Kontekstinis langas | Nenurodyta | 1M žetonų |
| Architektūra | Nenurodyta | Hibridinė Mamba-2, MoE ir Attention |
Kodėl tai svarbu?
Šis modelis siūlo specializuotą balansą agentams, kuriems reikalingas ir vizualinis intelektas, ir ilgo konteksto suvokimas. Gebėjimas naudoti „Mamba-2“ sluoksnius efektyviam ilgų sekų apdorojimui yra ypač aktualus siekiant išlaikyti našumą sudėtinguose balso ir duomenų kupinuose darbo procesuose.
Ką tai reiškia AI agentams ir kontaktų centrams?
Vertindami šį modelį, stebėkite TTFT (laiką iki pirmojo žetono) ir ITL (tarpžetoninį vėlavimą), naudodami jūsų specifines agentų darbo apkrovas. Palyginkite jo mąstymo ir multimodalumo apdorojimo kokybę su esamais LLM jūsų sistemoje, kad pamatytumėte, ar 12B aktyvavimas suteikia ekonominį pranašumą gamybinėje aplinkoje.
🧪 Verta testuoti
Testavimas rekomenduojamas sudėtingoms agentų užduotims, kur sprendimų priėmimui reikalinga vizualinės informacijos analizė kartu su dideliu dokumentų kontekstu.
Šaltiniai
- AWS Machine LearningOficialusPirminis šaltinisOriginalus straipsnis →„Accelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS“2026-10-29 18:11
- Šaltinio publikavimo data
- 2026-10-29 18:11
- Mūsų sistema rado
- 2026-10-29 18:23
- Santrauka sugeneruota
- 2026-10-29 18:23
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas