Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

AI automatizavimas

Darbo eigų automatizavimas, AI klientų aptarnavimas, kontaktų centrų ir CRM automatizavimas.

“LLM” — 3 straipsniai ✕

Automatizavimas· Svarbu· 🧪 Verta testuoti

„NVIDIA Snapshot“ pagreitina GPU išvadų paleidimą iki kelių sekundžių

„NVIDIA“ pristatė atviro kodo įrankį „NVIDIA Snapshot“, skirtą GPU darbo krūviams „Kubernetes“ aplinkoje. Įrašydama pilnai sukonfigūruotus modelius ir jų būsenas, sistema leidžia išvadų (inference) replikoms atsigauti per sekundes, o ne minutes, taip pašalinant pasikartojančius inicijavimo etapus.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

Efektyvesnis „Kubernetes“ išvesties diegimas naudojant „NVIDIA Dynamo 1.4.2“

„NVIDIA“ pristatė „AI Cluster Runtime“ (AICR), skirtą „Dynamo“ išvesties infrastruktūrai sujungti į patikrintus diegimo šablonus. Šis atnaujinimas supaprastina diegimą, fiksuodamas versijas ir pašalindamas privalomas išorines priklausomybes, pvz., „NATS“, bei pristatydamas naujus „KV-aware“ maršrutizavimo kelius „Kubernetes“ aplinkoje.

NVIDIA Developer

NVIDIA pristato 64GB DGX Spark lokaliam AI vystymui

NVIDIA išleidžia naują 64GB unifikuotos atminties DGX Spark konfigūraciją – asmeninį AI superkompiuterį, kurį nuo spalio 23 d. už 4 999 USD platins partneriai Acer, ASUS, Dell, HP, Gigabyte ir MSI. Sistema gali lokaliai paleisti iki 100 mlrd. parametrų modelius, o du įrenginiai gali būti sujungti per NVIDIA Sync Cluster Assistant, sujungiant atmintį iki 128GB ir palaikant iki 200 mlrd. parametrų modelius – tai suteikia iki 1,7x didesnį našumą NVIDIA Qwen 3.8 27B teste. Sistema iš karto veikia su NVIDIA Agent Toolkit, CUDA-X AI bibliotekomis, Nemotron modeliais bei palaiko Ollama, vLLM ir PyTorch.

NVIDIA