Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“NVIDIA” — 9 straipsniai ✕

Modeliai· Svarbu· 🧪 Verta testuoti

Didelių MoE modelių diegimas naudojant kelias NVIDIA DGX stotis

„NVIDIA“ paskelbė techninį vadovą, kaip paleisti 753B parametrų GLM-5.3 MoE modelį naudojant dvi DGX stotis su GB300 procesoriais. Naudojant tenzorinį lygiagretumą (TP=2) per RDMA jungtis ir vLLM, galima įveikti vieno GPU atminties apribojimus (252 GB HBM3e) naudojant masyvius modelius.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

llama.cpp pasiekė 1.0.0 versiją su oficialiu API stabilumu

„llama.cpp“ projektas oficialiai pasiekė 1.0.0 versijos etapą praėjus trejiems su puse metų nuo įkūrimo. Šiame leidime pristatomas griežtas semantinis versijavimas, siekiant užtikrinti geresnį nuspėjamumą kūrėjams, naudojantiems „libllama“ ir „libggml“ C/C++ bibliotekas.

Hugging Face
Automatizavimas· Svarbu· 🧪 Verta testuoti

NVIDIA AICR įdiegė dirbtinio intelekto komponentų sąrašų (AIBOM) palaikymą

NVIDIA į savo „AI Cluster Runtime“ (AICR) įrankį integravo atvirojo kodo „k8s-aibom“ projektą. Tai leidžia platformų komandoms automatiškai generuoti ir audituoti dirbtinio intelekto komponentų sąrašus (AIBOM) Kubernetes aplinkoje, identifikuojant modelius, išvados (inference) aplinkas bei priklausomybes.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

„NVIDIA Snapshot“ pagreitina GPU išvadų paleidimą iki kelių sekundžių

„NVIDIA“ pristatė atviro kodo įrankį „NVIDIA Snapshot“, skirtą GPU darbo krūviams „Kubernetes“ aplinkoje. Įrašydama pilnai sukonfigūruotus modelius ir jų būsenas, sistema leidžia išvadų (inference) replikoms atsigauti per sekundes, o ne minutes, taip pašalinant pasikartojančius inicijavimo etapus.

NVIDIA Developer
Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA išleido „Dynamo“ receptus Korėjos atviro kodo modelių diegimui

NVIDIA pristatė diegimo receptus keturiems svarbiems Korėjos atviro kodo modeliams, tokiems kaip A.X K2 ir „Solar Open 2“, naudojant „Dynamo“ sistemą. Šie receptai yra specialiai pritaikyti kelių mazgų NVIDIA B200 GPU klasteriams, kad būtų galima efektyviai vykdyti didelio masto išvadas (inference).

NVIDIA
Agentai· Svarbu· 🧪 Verta testuoti

NVIDIA stiprina agentų saugumą ir plečia korėjietiškų modelių galimybes

NVIDIA pristatė „Open Agent Safety Platform“ su „OpenShell“ aplinka, skirta saugiam autonominių agentų vykdymui ir politikos valdymui. Kartu „LG AI Research“ atvėrė API prieigą prie „K-EXAONE-2.5“ modelio, kuris remiasi nauju „Nemotron-Personas-Korea“ duomenų rinkiniu, apimančiu 7 milijonus sintetinių asmenybių.

NVIDIA
Modeliai· Svarbu· 🧪 Verta testuoti

„NVIDIA“ pristatė „FLUX 3 Image Klein“ našumo optimizacijas „Blackwell“ GPU

„NVIDIA“ pristatė naujus „TensorRT LLM VisualGen“ optimizavimo įrankius „FLUX 3 Image Klein“ modeliui. Naudodami NVFP4 kvantavimą, branduolių sintezę, retąjį dėmesį (sparse attention) ir žingsnių talpyklą (caching), galite pasiekti iki 3,46 karto spartesnį vaizdų generavimą „NVIDIA Blackwell“ aparatūroje.

NVIDIA Developer