„NVIDIA“ paskelbė pirmuosius „MLPerf Training v6.1“ ir „Endpoints v1.0“ rezultatus, skirtus naujai „Vera Rubin“ architektūrai. Sistema pademonstravo reikšmingą šuolį mokymo spartos ir energijos efektyvumo srityje vykdant agentines užduotis.
NVIDIA išleido modulį cuda.bindings.cudla, leidžiantį „Python“ kalba valdyti „Deep Learning Accelerator“ (DLA) „Jetson AGX Orin“ platformoje. Kūrėjai dabar gali suderinti GPU išankstinį apdorojimą ir DLA išvadas viename „CUDA stream“ sraute.
„NVIDIA“ pristatė „Vera“ procesorių, sukurtą optimizuoti AI agentų, nuolat persijungiančių tarp GPU mąstymo ir CPU užduočių, darbą. Ši architektūra siekia išspręsti energijos suvartojimo ir našumo ribojimus, su kuriais susiduria duomenų centrai, naudojantys standartinę x86 infrastruktūrą.
IBM atnaujino savo programinės įrangos ekosistemą, kad Spyre duomenų srauto spartintuvas būtų laikomas aukščiausios klasės PyTorch pagrindine sistema. Naudodami TorchDynamo ir TorchInductor, kūrėjai dabar gali paleisti modelius IBM Z, LinuxONE ir Power sistemose, naudodami standartinius PyTorch darbo eigų ir vLLM papildinius.
Amazon išleido TorchNeuron – atvirojo kodo programinę sąsają, leidžiančią esamą PyTorch kodą vykdyti AWS Trainium greitintuvuose be didelių pakeitimų. Naujovė pristato papildomą vykdymo režimą bei kelių lygių talpyklą, mažinančią pakartotinį kompiliavimą, o jos patikimumas buvo patikrintas naudojant AI agentus, kurie iš šimtų tūkstančių Hugging Face modelių atrinko reprezentatyvų testavimo rinkinį. Vidiniai dideliu modeliu atlikti testai parodė, kad laikas iki pirmojo mokymo žingsnio sutrumpėjo maždaug trečdaliu.
NVIDIA išleidžia naują 64GB unifikuotos atminties DGX Spark konfigūraciją – asmeninį AI superkompiuterį, kurį nuo spalio 23 d. už 4 999 USD platins partneriai Acer, ASUS, Dell, HP, Gigabyte ir MSI. Sistema gali lokaliai paleisti iki 100 mlrd. parametrų modelius, o du įrenginiai gali būti sujungti per NVIDIA Sync Cluster Assistant, sujungiant atmintį iki 128GB ir palaikant iki 200 mlrd. parametrų modelius – tai suteikia iki 1,7x didesnį našumą NVIDIA Qwen 3.8 27B teste. Sistema iš karto veikia su NVIDIA Agent Toolkit, CUDA-X AI bibliotekomis, Nemotron modeliais bei palaiko Ollama, vLLM ir PyTorch.