Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“Inference” — 107 straipsniai ✕

Tyrimai· Svarbu· 🧪 Verta testuoti

„Amazon“ „Priming“ metodas paverčia iš anksto apmokytus Transformer modelius efektyviais hibridais už mažiau nei 1% mokymo kainos

„Amazon Web Services“ tyrėjai paskelbė metodą „priming“, kuris paverčia iš anksto apmokytus Transformer modelius hibridinėmis architektūromis, derinančiomis dėmesio (attention) ir būsenos erdvės modelio (SSM) sluoksnius, panaudojant jau turimus svorius vietoj mokymo nuo nulio. Metodas sumažina mokymo sąnaudas daugiau nei 99% ir leidžia 32 milijardų parametrų hibridiniam modeliui pasiekti tokią pačią kokybę kaip originalus Transformer modelis, dekoduojant iki dvigubai greičiau. „Amazon“ išbandė tris SSM tipus ir atvirai paskelbė modelių rinkinį, mokymo kodą bei įrankius pagal Apache 2.0 licenciją.

Amazon Science

NVIDIA ir Prinstonas pašalino sprendimo kliūtis hibridiniuose SSM modeliuose

NVIDIA kartu su Prinstono universiteto Dao AI Lab sukūrė ReplaySSM — naują būdą saugoti būseną hibridiniuose modeliuose, kurie jungia būsenos erdvės (SSM) sluoksnius su dėmesio (attention) sluoksniais. Užuot perrašius visą būseną kiekviename žingsnyje, metodas laiko periodinį kontrolinį tašką (checkpoint) ir trumpą neseniai gautų įvesčių sąrašą, atskirdamas rezultato skaičiavimą nuo atminties atnaujinimo. Tai sumažina atminties srautą maždaug per pusę, pagreitina dekodavimo branduolius iki 1,80 karto didelėse apkrovose, o spekuliatyvaus dekodavimo pralaidumas daugiau nei padvigubėja 120B dydžio modeliuose, išlaikant tikslumą arti pilno tikslumo lygio. Metodas jau integruotas į TensorRT-LLM, vLLM ir FlashInfer bei veikia produkcijoje su GLM-5.3-Flash ir Kimi-K3.

NVIDIA Developer

NVIDIA atveria „Vera Rubin“ lentynų architektūrą ir skatina atvirus standartus AI duomenų centrams

„OCP Global Summit“ renginyje NVIDIA perdavė savo „Vera Rubin“ lentynų ir skaičiavimo dėklų projektus atvirai MGX architektūrai bei paskelbė eilę partnerysčių, susijusių su AI gamyklų maitinimu, aušinimu ir tinklų standartais. Tarp partnerių – tokie hiperskalės žaidėjai kaip Meta, Google, Microsoft ir AMD, taip pat Cisco bei Visionbay. Pranešimai apima lentynų specifikacijas (MGX 1.2), naują atvirojo kodo programinę įrangą AI duomenų centrams valdyti (DSX OS komponentai), tinklo atsparumo standartus, 800V nuolatinės srovės maitinimo architektūrą, naują „Ethernet“ komutaciją (Spectrum-6) ir naują optinio siųstuvo-imtuvo standartą (USFP) kartu su Cisco.

NVIDIA
Agentai· Svarbu· 🧪 Verta testuoti

AWS ir Postman atskleidžia, kaip „Agent Mode“ veikia 40 mln. kūrėjų naudojant Amazon Bedrock

AWS kartu su Postman paskelbė techninę apžvalgą, kaip Postman sukūrė „Agent Mode“ – AI pagrįstą sąsają API testavimui ir dokumentacijai, veikiančią produkcinėje aplinkoje dideliu mastu. Komanda nustatė, kad didžiausia kliūtis buvo ne modelio kokybė, o įrankių gausa ir trūkstamas kontekstas. Įraše aprašomi architektūriniai sprendimai: dinaminis įrankių parinkimas, schema pagrįstos užklausos, specializuoti konteksto apdorojimo moduliai bei Amazon Bedrock teikiamos galimybės – modelio lankstumas, kelių regionų išvada, duomenų rezidavimo kontrolė ir prompt caching.

AWS Machine Learning

Qwen pristatė Qwen-Image-2.1-Turbo – pagreitintą teksto-į-vaizdą modelio versiją su 8 žingsniais

Qwen „Hugging Face“ platformoje paskelbė Qwen-Image-2.1-Turbo – destiliuotą Qwen-Image-2.1 teksto-į-vaizdą ir vaizdų redagavimo modelio versiją. Naudojama ta pati 7B vizualinės generacijos architektūra, tačiau generavimui pakanka vos 8 trukšmo mažinimo žingsnių (vietoj standartinio grafiko), taikant CFG=1 ir prefikso KV talpyklos (caching) mechanizmą, kuris pakartotinai panaudoja teksto ir nuorodinio vaizdo kontekstą tarp žingsnių. Modelis integruojamas per QwenImage21Pipeline „Diffusers“ bibliotekoje ir palaiko tuos pačius rezoliucijos bei kraštinių santykio nustatymus kaip bazinis modelis, įskaitant redagavimo užduotis, pvz., eskizo pavertimą fotorealistišku vaizdu.

Qwen (Hugging Face)
Modeliai· Svarbu· 🧪 Verta testuoti

„Google“ atvėrė ML Drift — naują GPU variklį AI inferencijai įrenginyje

„Google“ išleido ML Drift — atvirojo kodo, kelioms platformoms skirtą GPU skaičiavimo variklį ML inferencijai įrenginyje, pakeičiantį senąjį TFLite GPU delegate. Jis suvienodina šeiderių tvarkymą tarp OpenGL ES, OpenCL, Metal ir WebGPU, prideda 5D tenzorių palaikymą ir įveda etapais pagrįstus optimizavimus LLM prefill/decode fazėms. Jis jau veikia gamyboje „Chrome“, „YouTube Shorts“, „Google Photos“, „Meet“ ir partnerių programose iš „Adobe“ bei „Snap“.

Google Developers
Agentai· Svarbu

AWS pristato, kaip AI agentai gali mokėti už kiekvieną užklausą naudojant Bedrock AgentCore payments

AWS paskelbė atvejo analizę apie Amazon Bedrock AgentCore payments – valdomą funkciją, leidžiančią AI agentams savarankiškai mokėti už paslaugas, pvz., modelio užklausas, po vieną kartą naudojant x402 mokėjimų protokolą. Incarna šią funkciją panaudojo tam, kad jos agentai galėtų mokėti BlockRun, kelių tiekėjų inferencijos maršrutizatoriui, už kiekvieną atskirą modelio užklausą, atsiskaitant USDC stabilia moneta Base tinkle. AWS teigia, kad Incarna sutrumpino integracijos laiką nuo planuotų dviejų–trijų mėnesių iki trijų dienų ir apie 200 kodo eilučių. Beta testavimo metu agentai apdorojo daugiau nei 1000 mokėjimų, svyruojančių nuo 0,001 iki 0,05 USD už užklausą.

AWS Machine Learning
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Cloudflare diegia kelių AI agentų sistemą saugumo įspėjimams rūšiuoti dideliu mastu

Cloudflare sukūrė AI agentų sistemą savo „Managed Defense“ saugumo paslaugai, skirtą tvarkyti įspėjimų antplūdį, kuris apsunkina žmonių analitikų darbą. Vietoj vieno bendros paskirties agento, analizuojančio viską, sistema atskiria deterministinį duomenų rinkimą nuo modeliu pagrįsto samprotavimo ir lygiagrečiai paleidžia keturis specializuotus agentus prieš sintezės agentą, sujungiantį išvadas. Bendrovė teigia, kad tai sumažina haliucinacijas ir padaro tyrimus audituojamus bei atkuriamus.

Cloudflare Security
Modeliai· Svarbu· 🧪 Verta testuoti

Z.ai GLM 5.3 (753B MoE) pasirodė „Amazon Bedrock“ su stipriais kodavimo ir saugumo rezultatais

Z.ai sukurtas GLM 5.3 — 753 milijardų parametrų MoE modelis, optimizuotas kodavimui ir ilgalaikėms agentinėms užduotims — dabar prieinamas kaip pilnai valdomas modelis „Amazon Bedrock“ platformoje. Jis tobulina GLM 5 liniją geresniais kodavimo benchmarkų rezultatais, išskirtinėmis kibernetinio saugumo galimybėmis (CyberGym rezultatas 84,5) ir gilesne integracija su Bedrock, įskaitant OpenAI suderinamas API, prompt talpinimą, tarpregioninį interferavimą ir aptarnavimo lygius. AWS taip pat parodo, kaip GLM 5.3 naudoti su atviro kodo agentu Strix autorizuotam savo programų penetraciniam testavimui.

AWS Machine Learning

Google parodo, kaip TPU pagreitinti vaizdo difuzijos dėmesio skaičiavimus 2,4 karto

Google inžinieriai aprašo, kaip jie įgyvendino retą (sparse) erdvinio-laikinio dėmesio (attention) skaičiavimą vaizdo difuzijos modeliams TPU v6e lustuose, paversdami teorinį Sparse VideoGen (SVG) metodo retumą realiu aparatinės įrangos pagreičiu. Per kelis branduolio optimizavimo etapus (plytelių specializaciją, dydžio derinimą ir kaukės suderinimą su plytelėmis) jie sumažino dėmesio skaičiavimo laiką nuo 96,37 ms (naivus retas variantas) iki 32,76 ms – tai 2,40 karto greičiau nei tankus Splash Attention viename TPU v6e luste, naudojant 75,6 tūkst. token, 10 galvų ir 128 galvos dimensiją.

Google Developers

NVIDIA pristato 64GB DGX Spark lokaliam AI vystymui

NVIDIA išleidžia naują 64GB unifikuotos atminties DGX Spark konfigūraciją – asmeninį AI superkompiuterį, kurį nuo spalio 23 d. už 4 999 USD platins partneriai Acer, ASUS, Dell, HP, Gigabyte ir MSI. Sistema gali lokaliai paleisti iki 100 mlrd. parametrų modelius, o du įrenginiai gali būti sujungti per NVIDIA Sync Cluster Assistant, sujungiant atmintį iki 128GB ir palaikant iki 200 mlrd. parametrų modelius – tai suteikia iki 1,7x didesnį našumą NVIDIA Qwen 3.8 27B teste. Sistema iš karto veikia su NVIDIA Agent Toolkit, CUDA-X AI bibliotekomis, Nemotron modeliais bei palaiko Ollama, vLLM ir PyTorch.

NVIDIA