Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

AI automatizavimas

Darbo eigų automatizavimas, AI klientų aptarnavimas, kontaktų centrų ir CRM automatizavimas.

“NVIDIA” — 13 straipsnių ✕

Automatizavimas· Svarbu· 🧪 Verta testuoti

NVIDIA AICR įdiegė dirbtinio intelekto komponentų sąrašų (AIBOM) palaikymą

NVIDIA į savo „AI Cluster Runtime“ (AICR) įrankį integravo atvirojo kodo „k8s-aibom“ projektą. Tai leidžia platformų komandoms automatiškai generuoti ir audituoti dirbtinio intelekto komponentų sąrašus (AIBOM) Kubernetes aplinkoje, identifikuojant modelius, išvados (inference) aplinkas bei priklausomybes.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

„NVIDIA Snapshot“ pagreitina GPU išvadų paleidimą iki kelių sekundžių

„NVIDIA“ pristatė atviro kodo įrankį „NVIDIA Snapshot“, skirtą GPU darbo krūviams „Kubernetes“ aplinkoje. Įrašydama pilnai sukonfigūruotus modelius ir jų būsenas, sistema leidžia išvadų (inference) replikoms atsigauti per sekundes, o ne minutes, taip pašalinant pasikartojančius inicijavimo etapus.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

„Amazon SageMaker“ dabar palaiko „Multi-Instance GPU“ valdomiems galiniams taškams

„Amazon SageMaker Inference“ pristatė NVIDIA „Multi-Instance GPU“ (MIG) palaikymą, leidžiantį padalyti vieną fizinį GPU į kelis nepriklausomus vienetus. Šis aparatinis padalijimas suteikia kiekvienai particijai skirtą skaičiavimo galią ir atmintį, užtikrinant nuspėjamą delsą ir griežtą izoliaciją tarp modelių, esančių tame pačiame akceleratoriuje.

AWS Machine Learning
Automatizavimas· Svarbu· 🧪 Verta testuoti

NVIDIA pristatė atvirojo kodo įrankį paskirstytų DI apkrovų klaidų diagnostikai

NVIDIA išleido „NVIDIA Attribution“ – atvirojo kodo įrankį, skirtą žurnalams, metrikoms ir planuoklio būsenoms koreliuoti į struktūrizuotas paskirstytų DI mokymo darbų diagnostikas. Įrankis automatiškai išskiria pagrindinę gedimo priežastį iš šalutinių simptomų (pvz., NCCL klaidų), taip padėdamas infrastruktūros komandoms efektyviau valdyti didelio masto GPU sistemas.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

Kubernetes pasirengimo „NVIDIA Vera Rubin NVL72“ supaprastinimas

„NVIDIA“ pristatė atnaujintus „AI Cluster Runtime“ (AICR) receptus, skirtus „Kubernetes“ diegimui naujoje „Vera Rubin NVL72“ techninėje įrangoje. Šiuose receptuose pateikiamos iš anksto patvirtintos tvarkyklių, branduolių ir tinklo komponentų konfigūracijos, užtikrinančios sklandų klasterių veikimą nuo pirmos dienos.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

Vieningas Kubernetes darbo krūvio valdymas naudojant NVIDIA Workload Map

NVIDIA pristatė „Workload Map“ – įrankį, skirtą suteikti bendrą būdą „Kubernetes“ planuokliams ir platformoms interpretuoti įvairius paskirstytus dirbtinio intelekto darbo krūvius. Naudojant deklaratyvius YAML apibrėžimus, nebereikia kurti specialių pritaikymo adapterių kiekvienai naujai sistemai, tokiai kaip „JobSet“, „Ray“ ar „KServe“.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

Efektyvesnis „Kubernetes“ išvesties diegimas naudojant „NVIDIA Dynamo 1.4.2“

„NVIDIA“ pristatė „AI Cluster Runtime“ (AICR), skirtą „Dynamo“ išvesties infrastruktūrai sujungti į patikrintus diegimo šablonus. Šis atnaujinimas supaprastina diegimą, fiksuodamas versijas ir pašalindamas privalomas išorines priklausomybes, pvz., „NATS“, bei pristatydamas naujus „KV-aware“ maršrutizavimo kelius „Kubernetes“ aplinkoje.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

AWS pristatė optimizuotus „Ray Train“ konteinerius EKS platformai

AWS pristatė paruoštus „Ray Train“ gilaus mokymosi konteinerius (DLC), kuriuose viename patikrintame atvaizde sujungtos „PyTorch“, „CUDA“, „NCCL“ ir „EFA“ tinklo bibliotekos. Tai leidžia jūsų įmonei diegti paskirstytojo mokymo grupes „Amazon EKS“ platformoje, nereikalaujant prižiūrėti pritaikytų atvaizdų kūrimo procesų ar spręsti sudėtingų tvarkyklių suderinamumo problemų.

AWS Machine Learning

NVIDIA pristato Minerva – didelio masto GPU klasterių stebėsenos platformą

NVIDIA pristatė Minerva – operacijų platformą, kuri sujungia telemetriją iš GPU, tinklo įrangos, saugyklų ir vykdomų užduočių, kad operatoriai galėtų pastebėti problemas masiniuose GPU klasteriuose anksčiau, nei jos sukelia prastovas. Mašininio mokymosi modeliai sudaro gyvą techninės įrangos ir darbo krūvių žemėlapį, pažymi neįprastą elgseną ir sugrupuoja susijusius perspėjimus į vieną incidentą su tikėtina priežastimi, užuot užtvindę komandas atskirais pranešimais. Įmontuotas asistentas leidžia darbuotojams užduoti klausimus apie klasterio būklę natūralia kalba, o sistema gali jungtis prie automatizavimo įrankių, kad vykdytų taisymus. IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI ir Tesla jau ruošiasi ją naudoti, o Dell, Lenovo ir Supermicro siūlys ją kaip dalį savo infrastruktūros sprendimų.

NVIDIA

NVIDIA pristato 64GB DGX Spark lokaliam AI vystymui

NVIDIA išleidžia naują 64GB unifikuotos atminties DGX Spark konfigūraciją – asmeninį AI superkompiuterį, kurį nuo spalio 23 d. už 4 999 USD platins partneriai Acer, ASUS, Dell, HP, Gigabyte ir MSI. Sistema gali lokaliai paleisti iki 100 mlrd. parametrų modelius, o du įrenginiai gali būti sujungti per NVIDIA Sync Cluster Assistant, sujungiant atmintį iki 128GB ir palaikant iki 200 mlrd. parametrų modelius – tai suteikia iki 1,7x didesnį našumą NVIDIA Qwen 3.8 27B teste. Sistema iš karto veikia su NVIDIA Agent Toolkit, CUDA-X AI bibliotekomis, Nemotron modeliais bei palaiko Ollama, vLLM ir PyTorch.

NVIDIA