„NVIDIA“ pristatė „FLUX 3 Image Klein“ našumo optimizacijas „Blackwell“ GPU
Trumpai: „NVIDIA“ pristatė naujus „TensorRT LLM VisualGen“ optimizavimo įrankius „FLUX 3 Image Klein“ modeliui. Naudodami NVFP4 kvantavimą, branduolių sintezę, retąjį dėmesį (sparse attention) ir žingsnių talpyklą (caching), galite pasiekti iki 3,46 karto spartesnį vaizdų generavimą „NVIDIA Blackwell“ aparatūroje.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „NVIDIA Developer“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1NVFP4 kvantavimo ir „PrimsTS GEMM“ branduolių įdiegimas spartesnei išvadai (inference).
- 2„VC-Attention FP8“ ir „Sol-Attention“ retosios atencijos metodai skaičiavimo kliūčių mažinimui.
- 3„Cache-DiT“ diegimas tarpinių rezultatų pakartotiniam naudojimui triukšmo mažinimo etapuose.
- 4Kelių GPU palaikymas naudojant CFG ir „Ulysses“ lygiagretinimą.
| Parametras | Buvo | Dabar |
|---|---|---|
| T2I delsos pokytis (vienas B200) | 22,36 s | 6,46 s |
| I2I delsos pokytis (vienas B200) | 54,64 s | 12,28 s |
| Bazinė T2I delsos (8x B200) | 14,90 s | 3,00 s |
Kodėl tai svarbu?
Vaizdų generavimo delsos mažinimas yra itin svarbus realiojo laiko vizualinei gamybai ir interaktyvioms AI programoms. Šios optimizacijos leidžia išlaikyti vaizdo kokybę drastiškai sumažinant atsakymo laiką „Blackwell“ sistemose.
Ką tai reiškia AI agentams ir kontaktų centrams?
Jei jūsų infrastruktūroje naudojami „Blackwell“ GPU, įdiekite šias „VisualGen“ konfigūracijas našumui padidinti. Testuodami įvertinkite LPIPS (kokybės) rodiklių ir delsos balanso pokyčius savo darbo procesuose.
🧪 Verta testuoti
Galimybė sumažinti delsą daugiau nei 3 kartus vaizdų generavimo konvejeriuose daro tai itin svarbia optimizacija realiojo laiko vaizdų AI.
Šaltiniai
- NVIDIA DeveloperOficialusPirminis šaltinisOriginalus straipsnis →„Speed Up Image Generation with FLUX 3 Image Klein on NVIDIA Blackwell GPUs“2026-11-07 00:20
- Šaltinio publikavimo data
- 2026-11-07 00:20
- Mūsų sistema rado
- 2026-11-07 00:45
- Santrauka sugeneruota
- 2026-11-07 00:46
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas