NVIDIA pristatė tiesioginį „Python“ palaikymą DLA vykdymui
Trumpai: NVIDIA išleido modulį cuda.bindings.cudla, leidžiantį „Python“ kalba valdyti „Deep Learning Accelerator“ (DLA) „Jetson AGX Orin“ platformoje. Kūrėjai dabar gali suderinti GPU išankstinį apdorojimą ir DLA išvadas viename „CUDA stream“ sraute.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „NVIDIA Developer“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Naujas cuda.bindings.cudla modulis, prieinamas per cuda-bindings >= 13.3.0.
- 2Hibridinio režimo palaikymas, leidžiantis vykdyti DLA užduotis ir CUDA branduolius viename sraute.
- 3Native „Python“ klaidų apdorojimas DLA vykdymo aplinkoje.
Kodėl tai svarbu?
Šis atnaujinimas pašalina būtinybę rašyti C++ kodą vykdant modelius ant DLA aparatūros. Perkėlus suderinamas neuroninių tinklų operacijas, galite optimizuoti energijos sąnaudas ir palikti GPU laisvą kitoms užduotims atlikti.
Ką tai reiškia AI agentams ir kontaktų centrams?
Jei diegiate AI agentus „Jetson“ įrangoje, išbandykite šį modulį modelių vykdymui perkelti. Palyginkite vėlavimą (latency) su vykdymu tik per GPU ir įvertinkite energijos sąnaudas, kad nustatytumėte, ar hibridinis metodas suteikia našumo pranašumą jūsų naudojamiems neuroniniams tinklams.
🧪 Verta testuoti
Rekomenduojama atlikti testus, siekiant įvertinti potencialų pralaidumo padidėjimą ir energijos taupymą „edge“ balso arba vaizdo apdorojimo sprendimuose.
Šaltiniai
- NVIDIA DeveloperOficialusPirminis šaltinisOriginalus straipsnis →„Run Native DLA Inference in Python on NVIDIA Jetson AGX Orin Using cuDLA“2026-11-13 20:57
- Šaltinio publikavimo data
- 2026-11-13 20:57
- Mūsų sistema rado
- 2026-11-13 21:19
- Santrauka sugeneruota
- 2026-11-13 21:20
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas