Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

AI automatizavimas

Darbo eigų automatizavimas, AI klientų aptarnavimas, kontaktų centrų ir CRM automatizavimas.

“Inference” — 10 straipsnių ✕

Automatizavimas· Svarbu· 🧪 Verta testuoti

„AlloyDB“ prideda gimtąsias AI funkcijas SQL klasifikavimui ir duomenų išgavimui

„Google“ pristatė dvi naujas SQL funkcijas „AlloyDB“ – ai.classify ir ai.extract, leidžiančias atlikti „Gemini“ pagrįstas operacijas tiesiogiai „PostgreSQL 18“ aplinkoje. Šios funkcijos automatizuoja nestruktūrizuoto teksto apdorojimą, pavyzdžiui, nuotaikų analizę ar JSON išgavimą, nereikalaujant papildomų programinių tarpinių sluoksnių.

Google Cloud AI
Automatizavimas· Svarbu· 🧪 Verta testuoti

NVIDIA AICR įdiegė dirbtinio intelekto komponentų sąrašų (AIBOM) palaikymą

NVIDIA į savo „AI Cluster Runtime“ (AICR) įrankį integravo atvirojo kodo „k8s-aibom“ projektą. Tai leidžia platformų komandoms automatiškai generuoti ir audituoti dirbtinio intelekto komponentų sąrašus (AIBOM) Kubernetes aplinkoje, identifikuojant modelius, išvados (inference) aplinkas bei priklausomybes.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

„NVIDIA Snapshot“ pagreitina GPU išvadų paleidimą iki kelių sekundžių

„NVIDIA“ pristatė atviro kodo įrankį „NVIDIA Snapshot“, skirtą GPU darbo krūviams „Kubernetes“ aplinkoje. Įrašydama pilnai sukonfigūruotus modelius ir jų būsenas, sistema leidžia išvadų (inference) replikoms atsigauti per sekundes, o ne minutes, taip pašalinant pasikartojančius inicijavimo etapus.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

„Google Cloud“ pristato dinaminį TPU resursų skaidymą GKE platformoje

„Google Cloud“ pristatė dinaminį TPU (Tensor Processing Unit) skaidymą GKE (Google Kubernetes Engine) aplinkoje, leidžiantį atsieti logines aparatinės įrangos konfigūracijas nuo fizinių mazgų telkinių. Šis atnaujinimas panaikina poreikį rankiniu būdu perkurti mazgų telkinius keičiantis darbo krūviui, taip užtikrinant greitesnį prisitaikymą ir geresnį atsparumą klaidoms.

Google Cloud AI
Automatizavimas· Svarbu· 🧪 Verta testuoti

„Amazon SageMaker“ dabar palaiko „Multi-Instance GPU“ valdomiems galiniams taškams

„Amazon SageMaker Inference“ pristatė NVIDIA „Multi-Instance GPU“ (MIG) palaikymą, leidžiantį padalyti vieną fizinį GPU į kelis nepriklausomus vienetus. Šis aparatinis padalijimas suteikia kiekvienai particijai skirtą skaičiavimo galią ir atmintį, užtikrinant nuspėjamą delsą ir griežtą izoliaciją tarp modelių, esančių tame pačiame akceleratoriuje.

AWS Machine Learning
Automatizavimas· Svarbu· 🧪 Verta testuoti

Vieningas Kubernetes darbo krūvio valdymas naudojant NVIDIA Workload Map

NVIDIA pristatė „Workload Map“ – įrankį, skirtą suteikti bendrą būdą „Kubernetes“ planuokliams ir platformoms interpretuoti įvairius paskirstytus dirbtinio intelekto darbo krūvius. Naudojant deklaratyvius YAML apibrėžimus, nebereikia kurti specialių pritaikymo adapterių kiekvienai naujai sistemai, tokiai kaip „JobSet“, „Ray“ ar „KServe“.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

Efektyvesnis „Kubernetes“ išvesties diegimas naudojant „NVIDIA Dynamo 1.4.2“

„NVIDIA“ pristatė „AI Cluster Runtime“ (AICR), skirtą „Dynamo“ išvesties infrastruktūrai sujungti į patikrintus diegimo šablonus. Šis atnaujinimas supaprastina diegimą, fiksuodamas versijas ir pašalindamas privalomas išorines priklausomybes, pvz., „NATS“, bei pristatydamas naujus „KV-aware“ maršrutizavimo kelius „Kubernetes“ aplinkoje.

NVIDIA Developer
Automatizavimas· Svarbu· 🧪 Verta testuoti

AWS pristatė optimizuotus „Ray Train“ konteinerius EKS platformai

AWS pristatė paruoštus „Ray Train“ gilaus mokymosi konteinerius (DLC), kuriuose viename patikrintame atvaizde sujungtos „PyTorch“, „CUDA“, „NCCL“ ir „EFA“ tinklo bibliotekos. Tai leidžia jūsų įmonei diegti paskirstytojo mokymo grupes „Amazon EKS“ platformoje, nereikalaujant prižiūrėti pritaikytų atvaizdų kūrimo procesų ar spręsti sudėtingų tvarkyklių suderinamumo problemų.

AWS Machine Learning

NVIDIA pristato Minerva – didelio masto GPU klasterių stebėsenos platformą

NVIDIA pristatė Minerva – operacijų platformą, kuri sujungia telemetriją iš GPU, tinklo įrangos, saugyklų ir vykdomų užduočių, kad operatoriai galėtų pastebėti problemas masiniuose GPU klasteriuose anksčiau, nei jos sukelia prastovas. Mašininio mokymosi modeliai sudaro gyvą techninės įrangos ir darbo krūvių žemėlapį, pažymi neįprastą elgseną ir sugrupuoja susijusius perspėjimus į vieną incidentą su tikėtina priežastimi, užuot užtvindę komandas atskirais pranešimais. Įmontuotas asistentas leidžia darbuotojams užduoti klausimus apie klasterio būklę natūralia kalba, o sistema gali jungtis prie automatizavimo įrankių, kad vykdytų taisymus. IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI ir Tesla jau ruošiasi ją naudoti, o Dell, Lenovo ir Supermicro siūlys ją kaip dalį savo infrastruktūros sprendimų.

NVIDIA

NVIDIA pristato 64GB DGX Spark lokaliam AI vystymui

NVIDIA išleidžia naują 64GB unifikuotos atminties DGX Spark konfigūraciją – asmeninį AI superkompiuterį, kurį nuo spalio 23 d. už 4 999 USD platins partneriai Acer, ASUS, Dell, HP, Gigabyte ir MSI. Sistema gali lokaliai paleisti iki 100 mlrd. parametrų modelius, o du įrenginiai gali būti sujungti per NVIDIA Sync Cluster Assistant, sujungiant atmintį iki 128GB ir palaikant iki 200 mlrd. parametrų modelius – tai suteikia iki 1,7x didesnį našumą NVIDIA Qwen 3.8 27B teste. Sistema iš karto veikia su NVIDIA Agent Toolkit, CUDA-X AI bibliotekomis, Nemotron modeliais bei palaiko Ollama, vLLM ir PyTorch.

NVIDIA