Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

#Developer Tools — 6 straipsniai ✕

Agentai· Svarbu· 🧪 Verta testuoti

Agentų optimizavimo automatizavimas su NVIDIA NeMo

NVIDIA pristatė darbo eigą, leidžiančią paversti gamybos metu aptiktas agentų klaidas struktūrizuotais testais, naudojant NeMo Compass ir NeMo Eval Author. Šis procesas analizuoja veiklos žurnalus, kad nustatytų pasikartojančias problemas, generuoja tikslinius vertinimus ir patikrina agento patobulinimus.

NVIDIA Developer
Agentai· Svarbu· 🧪 Verta testuoti

Realaus laiko internetinių programų peržiūra „Amazon Bedrock“ programavimo agentams

„Amazon Bedrock AgentCore“ dabar palaiko „Session endpoints“, leidžiančius kūrėjams stebėti ir sąveikauti su internetinėmis programomis tiesiogiai, kol jas kuria dirbtinio intelekto programavimo agentas. Nukreipiant srautą per autentifikuotą, izoliuotą „microVM“ sesiją, pakeitimai naršyklėje atsiranda akimirksniu be atskirų diegimo procesų.

AWS Machine Learning
Agentai· Svarbu· 🧪 Verta testuoti

Google API Gateway dabar palaiko transliavimą realiuoju laiku dirbtinio intelekto srautams

Google paskelbė viešąją peržiūrą (Public Preview) transliavimo palaikymui API Gateway, apimančiam Server-Sent Events, chunked/NDJSON atsakymus, WebSockets ir gRPC transliavimą. Transliuojantys endpoint'ai dabar gali veikti per tą patį gateway kaip ir įprasti API, išlaikant esamą autentifikaciją, žurnalavimą ir stebėseną, nekeičiant API specifikacijos. Ryšiai gali likti atviri iki valandos, o gateway'ai dabar gauna numatomą numatytąjį hostname vietoj sugeneruoto hash. Funkcija taip pat susijusi su modelių maršrutizavimu – vienas gateway gali transliuoti atsakymus iš Gemini, Claude ir OpenAI gpt-oss modelių.

Google Developers
Agentai· Svarbu· 🧪 Verta testuoti

„Google“ Agents CLI gauna plėtinių sistemą, leidžiančią naudoti LangChain ir kitus karkasus, ne tik ADK

„Google“ pridėjo Plėtinių sistemą (Extension System) prie savo Agents CLI įrankio (nuo v1.5.0, o pirmapradis LangChain plėtinys pasirodė v1.8.0), leidžiančią kūrėjams pakeisti ar pridėti CLI komandas nereikalaujant forkinti įrankio. Anksčiau Agents CLI diegimo, vertinimo ir stebėsenos grandinė buvo glaudžiai susieta su „Google“ Agent Development Kit (ADK); dabar komandos gali kurti, paleisti, diegti ir vertinti LangChain, LangGraph ar Deep Agents projektus per tą pačią komandų sąsają. Plėtiniai platinami kaip katalogai „Git“ saugyklose, fiksuojami prie konkretaus commit SHA lockfile faile, ir gali būti diegiami projekto arba vartotojo lygmeniu. Sistema taip pat leidžia įmonių platformų komandoms apgaubti komandas, pavyzdžiui, deploy, savo politikomis – atitikties patikromis ar SSO vartais. Funkcija v1.8.0 versijoje žymima kaip eksperimentinė.

Google Developers
Tyrimai· Svarbu

Google ir Meta integravo natyvų TPU palaikymą į PyTorch TorchTitan mokymo karkasą

„Google“ pristatė TorchTPU – natyvų PyTorch backend'ą Cloud TPU („torch.device("tpu")“), ir kartu su „Meta“ sukūrė TorchTitan atšaką, pritaikytą mokymui TPU įrenginiuose. Anksčiau norint mokyti PyTorch modelius TPU reikėdavo perrašyti kodą į JAX arba naudoti senesnį torch_xla kelią; dabar pakanka minimalių įrenginio inicializavimo pakeitimų. Atšaka siūlo paruoštus receptus didelių tankių modelių (Llama 3 70B/405B, Qwen 3 8B/32B), MoE modelių (Qwen 3 235B) ir difuzinių transformerių (FLUX.1 12B) pirminiam mokymui, taip pat „Graph Trainer“, kuris visą mokymo žingsnį užfiksuoja kaip vieną XLA programą geresniam kompiliatoriaus optimizavimui.

Google Developers
Tyrimai· Svarbu· 🧪 Verta testuoti

AWS pristato „push“ tipo KV perdavimą, mažinantį delsą atskirtame vLLM infrastruktūros apdorojime

AWS išleido „push“ tipo NIXL konektorių vLLM sistemai, keičiantį, kaip raktas-reikšmė (KV) talpyklos duomenys perduodami tarp prefill ir decode egzempliorių atskirtame LLM aptarnavime. Vietoj to, kad decode egzempliorius trauktų KV blokus po prefill pabaigos, decode egzempliorius iš anksto užregistruoja paskirties atmintį, o prefill egzempliorius tiesiogiai įrašo KV duomenis, kai tik jie parengti – taip koordinavimo darbas pašalinamas iš kritinio kelio. Testuojant su Qwen3-32B modeliu 1 prefill/1 decode konfigūracijoje EC2 P5en egzemplioriuose su EFA, push režimas pasiekė iki 3 kartų geresnį laiką iki pirmo tokeno (TTFT) ir iki 30% geresnį vieno tokeno generavimo laiką (TPOT) nei numatytasis pull režimas, ypač esant didelei užklausų apkrovai.

AWS Machine Learning