Z.ai GLM 5.3 Flash – multimodalinis 320B parametrų Mixture-of-Experts modelis su 18B aktyvių parametrų – dabar pasiekiamas per Mistral platformą. Jis turi 1M žetonų konteksto langą ir sukurtas kūrėjų agentų darbo eigoms, vizualiniam programavimui ir sudėtingoms įrankių naudojimo užduotims. Kaina: 0,15 USD už mln. įvesties žetonų, 0,03 USD už mln. talpykloje saugomų įvesties žetonų, 0,50 USD už mln. išvesties žetonų.
AWS paskelbė, kad Amazon SageMaker AI serverless modelio pritaikymo funkcija „training sessions“ dabar prieinama visiems (general availability). Komandos gali rašyti savo po-treniravimo ciklus — įskaitant nuosavas nuostolio funkcijas ir apdovanojimo signalus stiprinamojo mokymosi (RL) užduotims — o SageMaker AI pasirūpina GPU paskirstymu, paskirstytu vykdymu, klaidų atkūrimu ir kontrolinių taškų saugojimu. Palaikomos technikos: SFT, DPO, RLVR, RLAIF ir daugiapakopis RL, galima rinktis LoRA arba pilną derinimą. Funkcija palaiko modelius gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B ir Qwen3.8-27B, o mokestis skaičiuojamas pagal apdorotus žetonus (tokens), sustabdant skaitiklį, kol naudotojo apdovanojimo funkcija vertina atsakymus.
Cohere išleido viešą beta versiją „Confidential Computing on Model Vault“, veikiančią su NVIDIA H100 GPU per Microsoft Azure. Sistema šifruoja duomenis naudojimo metu tiek CPU, tiek GPU lygmenyje, šifruoja pačią užklausą naudodama Oblivious HTTP (OHTTP) ir taiko nuotolinį atestavimą, kad klientas galėtų patikrinti aplinką prieš siunčiant jautrius duomenis. Jei patikra nepavyksta, klientas atsisako siųsti apsaugotą užklausą. Cohere planuoja atverti konfidencialaus apdorojimo kodą ir išplėsti palaikymą iki NVIDIA Blackwell (B200) GPU siekiant bendros prieinamybės.
Google paskelbė viešąją peržiūrą (Public Preview) transliavimo palaikymui API Gateway, apimančiam Server-Sent Events, chunked/NDJSON atsakymus, WebSockets ir gRPC transliavimą. Transliuojantys endpoint'ai dabar gali veikti per tą patį gateway kaip ir įprasti API, išlaikant esamą autentifikaciją, žurnalavimą ir stebėseną, nekeičiant API specifikacijos. Ryšiai gali likti atviri iki valandos, o gateway'ai dabar gauna numatomą numatytąjį hostname vietoj sugeneruoto hash. Funkcija taip pat susijusi su modelių maršrutizavimu – vienas gateway gali transliuoti atsakymus iš Gemini, Claude ir OpenAI gpt-oss modelių.
AWS paskelbė praktinį vadovą apie Adaptive Agentic Intelligence Framework (AAIF), sukurtą ant Strands Agents, kuris paprastas užklausas nukreipia į mažus vietinius modelius (per Ollama), o sudėtingas – į debesijos modelius per Amazon Bedrock. Lengvas 1 milijardo parametrų modelis (llama3.2:1b) veikia kaip orkestratorius, nusprendžiantis, kur nukreipti kiekvieną užklausą; pavyzdyje naudojamas IoT stebėjimo agentas su vietine telemetrijos užklausa, vietine vaizdo analize ir debesijos ekspertinėmis įžvalgomis. AWS teigia, kad hibridinėje konfigūracijoje apie 80 proc. srauto gali būti apdorota vietoje, nekreipiantis į mokamą API, o architektūra gali veikti visiškai krašto įrenginiuose (pvz., Raspberry Pi su 8 GB atminties), visiškai debesijoje arba hibridiniu būdu.
„Google“ pridėjo Plėtinių sistemą (Extension System) prie savo Agents CLI įrankio (nuo v1.5.0, o pirmapradis LangChain plėtinys pasirodė v1.8.0), leidžiančią kūrėjams pakeisti ar pridėti CLI komandas nereikalaujant forkinti įrankio. Anksčiau Agents CLI diegimo, vertinimo ir stebėsenos grandinė buvo glaudžiai susieta su „Google“ Agent Development Kit (ADK); dabar komandos gali kurti, paleisti, diegti ir vertinti LangChain, LangGraph ar Deep Agents projektus per tą pačią komandų sąsają. Plėtiniai platinami kaip katalogai „Git“ saugyklose, fiksuojami prie konkretaus commit SHA lockfile faile, ir gali būti diegiami projekto arba vartotojo lygmeniu. Sistema taip pat leidžia įmonių platformų komandoms apgaubti komandas, pavyzdžiui, deploy, savo politikomis – atitikties patikromis ar SSO vartais. Funkcija v1.8.0 versijoje žymima kaip eksperimentinė.
IBM pristatė tris „Granite Speech“ šeimos atnaujinimus: visiškai naują 2B kalbos-kalbos modelį (granite-speech-5.0-2b), patobulintą 470M „Turbo CTC“ modelį, skirtą greičiui, ir patobulintą 4.1-2B-Plus modelį, pritaikytą pokalbiams su keliais kalbėtojais. Kartu jie skirti tikslesnei transkripcijai/vertimui, greitam atpažinimui įrenginyje ir tiksliam kalbėtojų bei laiko žymių nurodymui. Visi trys lieka pagal Apache 2.0 licenciją.
Cohere išleido naujausią įmonėms skirtų perrūšiavimo (reranking) modelių kartą Rerank 5, su Pro ir Fast versijomis. Rerank 5 Pro pirmauja pagrindiniuose viešuose testuose, tarp jų BRIGHT, ViDoRe V3, BEIR ir nanoMTEB, o Rerank 5 Fast siūlo beveik tokią pat kokybę už mažesnę kainą ir didesnį pralaidumą. Naujovė – Context Focus funkcija, kuri grąžina ne visą dokumentą, o tik svarbiausius teksto fragmentus, bei kalibruoti aktualumo įverčiai, kurie veikia kaip tikimybės visuose modeliuose ir srityse.
Cloudflare pristatė „full transaction detection“ ir atsakymo taisykles savo žiniatinklio aplikacijų ugniasienei (WAF), kurios vertina ir HTTP užklausą, ir serverio atsakymą, kad patvirtintų, ar ataka iš tikrųjų pavyko. Anksčiau WAF tikrino tik gaunamas užklausas, todėl galėjo praleisti išnaudojimus, kurie atsiskleidžia tik atsakyme (pvz., nutekėjęs failo turinys), arba sukelti klaidingus suveikimus, blokuojant vien pagal užklausos požymius. Pirmosios valdomos apsaugos skirtos neseniai atskleistai php2shell pažeidžiamumui, o funkcija prieinama visiems klientams, įskaitant Free planą.
IBM Research pristatė vLLM-Hook MIA – papildinį atviro kodo vLLM išvedimo varikliui, leidžiantį kūrėjams stebėti ir keisti modelio vidinę būseną vykdymo metu – pavyzdžiui, atmesti kenkėjiškus užklausimus, pažymėti haliucinuotus faktus ar koreguoti atsakymo toną – neišjungiant spartaus vLLM grafikų kartojimo režimo. Pagal IBM techninę ataskaitą, MIA yra iki 20 kartų greitesnis nei ankstesnė vLLM-Hook versija ir iki 14 kartų greitesnis nei metodai, įterpiantys kodą tiesiai į modelį. Testuose valdant 8B Llama ar 1,5B Qwen modelį delsa padidėjo vos apie 2%, o su 70B Llama modeliu – apie 6%.
NVIDIA pristatė tris naujus atvirus, komerciškai licencijuotus komponentus „Nemotron Retriever“ linijoje: „Embed“ modelius (8B ir 1B, BF16 ir NVFP4 formatais) teksto ir vaizdų paieškai, „Rerank“ modelį (8B), kuris perrikiuoja gautus įrodymus pagal aktualumą, ir kompaktišką 631M „Parse“ modelį, verčiantį dokumentų vaizdus struktūruotu tekstu. Tikslas – pateikti AI agentams geresnius, aktualesnius įrodymus, kad jiems reikėtų mažiau paieškos ciklų ir mažiau inferencijos žetonų atsakymui gauti. NVIDIA teigia, kad nauji „Embed“ ir „Rerank“ modeliai pirmauja „ViDoRe v3.1“ dense paieškos ir perrikiavimo lyderių lentelėse.
Dirbtinio intelekto tyrimų bendrovė i14 kartu su AWS pritaikė savo Laplace 3B modelį — 24 sluoksnių architektūrą, pagrįstą Gated Linear Attention (GLA) vietoj įprasto transformerių dėmesio mechanizmo — AWS Trainium2 lustams, naudodama natyvų PyTorch (TorchNeuron Native). Vietoj su kiekvienu tokenu augančios KV talpyklos, modelis išlaiko pastovią 29,5 MB pasikartojančią būseną kiekvienai sekai. Viename trn2.48xlarge serveryje komanda pasiekė apie 120 000 tokenų per sekundę mokymo metu ir aptarnavo 11 544 išvesties tokenus per sekundę esant 1 280 lygiagrečių sekų per nemodifikuotą vLLM variklį.
„Google Cloud“ į savo agentinės programavimo platformos „Antigravity“ modelių sąrašą įtraukė „Anthropic“ modelius „Claude Opus 5.5“ ir „Claude Sonnet 5.5“, kartu su „Gemini 3.8 Flash“ ir „Gemini 4 Argon“. Kūrėjai gali keisti modelių šeimas tame pačiame pokalbyje naudodami „Antigravity 2.0“, CLI ar IDE plėtinius VS Code, JetBrains ir Visual Studio aplinkose, viskas po viena įmonine atsiskaitymo ir saugumo riba. „Google“ taip pat aprašo du inžinerinius modelius: antros modelio šeimos naudojimą nepriklausomai tikrinti pirmosios parašytą kodą („LLM kaip teisėjas“) ir greitų „Gemini Flash“ pagalbinių agentų priskyrimą didelės apimties mechaniniams darbams, kol stipresnis modelis atlieka gilų samprotavimą.
OpenAI Responses API dabar palaiko pasirenkamą 12 valandų promptų talpyklos (cache) variantą, kuris ilgiau išsaugo bendras instrukcijas, įrankius ir kontekstą, kad pakartotinės užklausos, nutolusios net kelias valandas, vis tiek galėtų naudotis pigesne talpyklos kaina. Įrašymas į šią ilgesnę talpyklą kainuoja 2,5 karto brangiau nei įprasta įvesties žetonų kaina. Tai papildoma parinktis šalia standartinės trumpesnės talpyklos.
AWS pristatė Agent Registry – valdomą katalogo paslaugą Model Context Protocol (MCP) serveriams, agentams ir agentų įgūdžiams registruoti. Vietoj kiekvieno įrankio kietai užkoduoto orkestratoriuje, agentai dabar gali ieškoti patvirtintame, versijuotame kataloge vykdymo metu ir sukurti klientą pagal grąžintą aprašą. Pavyzdinis sprendimas demonstruoja Discover → Instantiate → Execute ciklą naudojant Amazon Bedrock AgentCore Gateway bei AgentCore runtime, o pagrindinis modelis – Anthropic Claude Sonnet.
Eon, duomenų apsaugos ISV įmonė, veikianti AWS infrastruktūroje, pakeitė atskirus kredencialus ir lokalius MCP serverius vienu Amazon Bedrock AgentCore MCP Gateway. Gateway naudoja Cedar politikas, kad užtikrintų mažiausios privilegijos prieigą tiek inžinieriams, tiek autonominiam SRE agentui, veikiančiam su Claude per Amazon Bedrock, nukreipdamas užklausas į MCP serverius, talpinamus AgentCore Runtimes keliose AWS paskyrose. Po diegimo 100+ kūrėjų ir maždaug 10 000 sesijų, naujo darbuotojo prisijungimo prie visų įrankių laikas sumažėjo nuo ~2 dienų iki ~2 minučių.
AWS kartu su Keyfactor paskelbė referencinę architektūrą, sprendžiančią žinomą Model Context Protocol (MCP) spragą – MCP neturi įmontuoto būdo patvirtinti, kuris agentas iš tikrųjų siunčia užklausą. Architektūra prideda tris pasitikėjimo lygius – vartotojas-sistema, agentas-agentas ir agentas-įrankių serveris – pagrįstus pasirašytais užklausų vokais, vartotojo pasirašytais delegavimo patvirtinimais, RFC 8693 auditorija apribotais tokenais ir realaus laiko OCSP atšaukimo tikrinimu. Veikiantis pavyzdys naudoja Amazon Bedrock ir AWS Strands Agents SDK, o Keyfactor EJBCA išduoda ir tikrina X.509 sertifikatus; visas kodas paskelbtas GitHub.
Mistral AI išleido Voxtral 3 – kalbos atpažinimo ir kalbos sintezės modelių šeimą kartu su SDK, leidžiančiu vienoje realaus laiko grandinėje klausyti, mąstyti, iškviesti įrankius ir kalbėti. Atpažinimo modeliai (Small, Mini ir Realtime Transcribe 3) palaiko 50+ kalbų su kalbėtojų atskyrimu (diarizacija), raktažodžių paryškinimu techniniam žodynui ir mažesne nei 500ms delsa, kuri, anot Mistral, lenkia Whisper, Scribe v2 ir Gemini 3.5 Transcribe jų atliktuose testuose. Kalbos sintezės modelis Mini TTS 3 palaiko 35+ kalbas ir 50+ dialektų su emocijomis, tempu ir akcentavimu, prisitaikančiais prie konteksto, kainuojantis 13 USD už milijoną simbolių, o atskira funkcija Pro Voice gali atkurti žmogaus balsą ir emocinį diapazoną vos iš 30 minučių įrašo. Visi komponentai veikia per Mistral ES talpinamą API arba gali būti diegiami kliento serveriuose.
IBM Research sukurtas ALTK-Evolve išskiria trumpas elgsenos taisykles iš agento ankstesnių mokymo užduočių bandymų ir prideda jas prie bazinio ReAct agento, veikiančio su GPT-4.1, sisteminio prompt'o. τ²-bench klientų aptarnavimo benchmarke (mažmeninės prekybos ir oro linijų srityse) šis mokymosi atminties metodas pagerino tikslumą ir patikimumą be modelio svorių atnaujinimo ar žmogaus anotacijų. Pilnas „lossless“ gairių rinkinys pakėlė GPT-4.1 agentą iki 67,5% Pass^4 balo mažmeninėje prekyboje — tai aukščiausias rezultatas 2026 m. spalio 12 d. lyderių lentelės momentinėje nuotraukoje, aplenkiant net modelį, specialiai perkvalifikuotą sintetiniais mažmeninės prekybos duomenimis. Technika taip pat pagerino pažangų GPT-5.5 agentą oro linijų užduotyse, pakėlusi jį į lyderių lentelės viršūnę.
Red Hat, IBM ir Google pristatė llm-d 1.0 — Kubernetes pagrįstą paskirstytą LLM užklausų aptarnavimo sistemą, kuri peržengė atskirų našumo technikų demonstravimo etapą ir tapo tinkama realiai gamybinei eksploatacijai. Naujoje versijoje pridėta daugiafunkcė paslaugų kokybės kontrolė, nenutrūkstamos naujinimo operacijos ir agentams pritaikytas aptarnavimas, kad tas pats galinis taškas galėtų efektyviai aptarnauti tiek žmones, tiek autonominius agentus. Viename teste llm-d prefiksų talpyklos maršrutizatorius pasiekė 97% talpyklos pakartotinio panaudojimo agentiniame programavimo scenarijuje, o IBM/Red Hat paleido 3000 vienu metu veikiančių programinės įrangos inžinerijos agentų 5-10 kartų pigiau nei naudojant tą patį modelį kaip talpinamą paslaugą.
AWS visiems „Anthropic Claude“ modeliams, veikiantiems „Amazon Bedrock“ platformoje, įdiegė struktūrizuotus atsakymus — tiek standartiniame runtime endpoint'e, tiek naujesniame agentinėms užduotims skirtame Mantle endpoint'e. Vietoj tikėjimosi, kad modelis grąžins teisingą JSON, kūrėjai dabar gali priversti atsakymus tiksliai atitikti schemą naudojant apribotą dekodavimą, kuris neleidžia modeliui generuoti formatą pažeidžiančių token'ų. Papildoma funkcija — griežtas įrankių naudojimas (strict tool use) — tą patį garantą taiko ir funkcijų iškvietimo parametrams, kad agentų darbo eigos nenutrūktų dėl netinkamo formato įvesties.
AWS ir Deepgram kartu perrašė Nova-3 kalbos atpažinimo modelį, kad jis veiktų tiesiogiai ant Trainium2 lustų vietoj įprastos GPU pagrįstos PyTorch infrastruktūros, orientuojantis į didelio masto nesinchroninius transkripcijos darbus. Darbo metu buvo perrašyti lėčiausi sluoksniai į individualius branduolius (kernels), o Python paslaugų sluoksnis pakeistas Rust laikomąja sistema, tiesiogiai kreipiantis į Trainium. Rezultatas: viena trn2.3xlarge instancija, vykdanti aštuonias lygiagrečias modelio kopijas, apdoroja 11-70% daugiau garso vienam doleriui nei ankstesnė Deepgram infrastruktūra, o panašus sutaupymas potencialiai pasiekiamas klientams, savarankiškai diegiantiems sprendimą per SageMaker.
AWS išleido „push“ tipo NIXL konektorių vLLM sistemai, keičiantį, kaip raktas-reikšmė (KV) talpyklos duomenys perduodami tarp prefill ir decode egzempliorių atskirtame LLM aptarnavime. Vietoj to, kad decode egzempliorius trauktų KV blokus po prefill pabaigos, decode egzempliorius iš anksto užregistruoja paskirties atmintį, o prefill egzempliorius tiesiogiai įrašo KV duomenis, kai tik jie parengti – taip koordinavimo darbas pašalinamas iš kritinio kelio. Testuojant su Qwen3-32B modeliu 1 prefill/1 decode konfigūracijoje EC2 P5en egzemplioriuose su EFA, push režimas pasiekė iki 3 kartų geresnį laiką iki pirmo tokeno (TTFT) ir iki 30% geresnį vieno tokeno generavimo laiką (TPOT) nei numatytasis pull režimas, ypač esant didelei užklausų apkrovai.
Microsoft paskelbė apie „Project Perception“ saugumo sistemos plėtrą, skirtą autonominių DI agentų keliamoms rizikoms spręsti – agentai traktuojami kaip naujas „vidinės grėsmės“ tipas, kuriam reikia atskiros tapatybės, leidimų ir rizikos valdymo. Naujovės apima „Dynamic Permissions“ (mažiausių privilegijų, užduočiai pritaikyta ir laiko ribojama prieiga), „Dynamic Agent Risk“ (nuolatinis rizikos vertinimas pagal elgsenos nuokrypius ir kontekstą) ir „Dynamic Conditional Access“ (laipsniškas atsakas – nuo prieigos siaurinimo iki pilno vykdymo izoliavimo). Microsoft taip pat plečia atradimo ir tapatybės palaikymą (Microsoft Entra Agent ID) iki 60 vietinių agentų tipų, įskaitant Claude Code, OpenAI Codex ir GitHub Copilot, bei pristato „Guardian Agents“, kurie stebi ir reaguoja į rizikingą agentų elgesį mašinos greičiu.