AWS išleido „push“ tipo NIXL konektorių vLLM sistemai, keičiantį, kaip raktas-reikšmė (KV) talpyklos duomenys perduodami tarp prefill ir decode egzempliorių atskirtame LLM aptarnavime. Vietoj to, kad decode egzempliorius trauktų KV blokus po prefill pabaigos, decode egzempliorius iš anksto užregistruoja paskirties atmintį, o prefill egzempliorius tiesiogiai įrašo KV duomenis, kai tik jie parengti – taip koordinavimo darbas pašalinamas iš kritinio kelio. Testuojant su Qwen3-32B modeliu 1 prefill/1 decode konfigūracijoje EC2 P5en egzemplioriuose su EFA, push režimas pasiekė iki 3 kartų geresnį laiką iki pirmo tokeno (TTFT) ir iki 30% geresnį vieno tokeno generavimo laiką (TPOT) nei numatytasis pull režimas, ypač esant didelei užklausų apkrovai.
Google Cloud paskelbė referencinę architektūrą, skirtą AI agentams, koordinuojantiems ilgai trunkančias, GPU reikalaujančias mokslines užduotis, tokias kaip baltymų lankstymas ir junginių atranka, kurios sugriauna įprastą vieno LLM agento modelį dėl laiko limitų ir konteksto perpildymo. Architektūra atskiria kognityvinį orkestratorių (Gemini su Agent Runtime) nuo GPU vykdymo sluoksnio (NVIDIA NIM, pvz., ESMFold ir GenMol, veikiantys GKE) ir viską apgaubia įmonės valdymo lygmeniu su agento identitetu, vartais, registru ir Model Armor apsauga. Taip pat pateikiamos geriausios praktikos: didelius duomenis perduoti nuorodomis, o ne tiesiogiai, transliuoti tarpinius pažangos atnaujinimus ir negrįžtamus veiksmus leisti tik gavus žmogaus patvirtinimą.
IBM pristatė Granite Switch 4.1 8B ir 30B dydžio versijas – modulinę sistemą, kuri vykdo pokalbį, sprendimų priėmimą ir kalbos transkripciją iš vieno talpinamo endpoint'o, o ne iš atskirų modelių. Atnaujinime pridėtas bendros paskirties sprendimų adapteris, specializuotas „Guardian“ adapteris saugumo klasifikacijai ir integruotas ASR modelis Granite-Speech-5.0-Turbo-CTC, pirmaujantis OpenASR reitinge. Nors sujungtos trys funkcijos, bendras modelis naudoja maždaug tiek pat VRAM, kiek ir pagrindinis modelis vienas.
Meta paskelbė Muse Spark Open – atvirų svorių mišraus ekspertų (MoE) modelį, turintį apie 816 milijardų parametrų iš viso ir 42 milijardus aktyvių vienam tokenui. Jis priima tekstą, vaizdus, garsą ir video, o generuoja tekstą, naudodamas iki 1 milijono tokenų kontekstą. Meta pristato jį kaip kodavimui optimizuotą, agentinį modelį, sukurtą ant mažesnio Muse Glimmer architektūros pagrindo, vadindama jį pažangiausiu iki šiol išleistu JAV atvirų svorių modeliu.
Swiss AI išleido Apertus 1.5 — tolesnį atvirų Apertus 1.0 modelių (8B ir 70B, Apache 2.0 licencija) apmokymą, pridedant natyvų vaizdo ir eksperimentinį garso supratimą, 4 kartus didesnį kontekstą (262 144 žetonai), pasirenkamą mąstymo režimą bei pagerintą instrukcijų laikymąsi ir įrankių naudojimą. Modeliai apmokyti iš viso su 19T (8B) ir 17T (70B) žetonų, o visi mokymo duomenys, receptai ir tarpiniai kontrolpunktai paskelbti viešai atkuriamumui. Komanda taip pat paskelbė detalias standartizuotas vertinimo korteles ir pranešė apie ankstyvą API prieigą per tiekėjus kaip Swisscom bei Infomaniak, be to, pristatė ~600B parametrų MoE Apertus 2.0 planus.
Tyrėjai pristato sistemą FlowSpec, kuri kreditoriaus teisinę skambučio procedūrą paverčia mašininiu formatu suprantamomis instrukcijomis, įrankių apribojimais, mokymo signalais ir testais balso agentui. 9 milijardų parametrų modelis buvo apmokytas naudojant skambučius, apimančius beveik 300 atsitiktinai sugeneruotų procedūrų, o vėliau išbandytas su keturiomis niekada nematytomis procedūromis, įskaitant visiškai atskirtą scenarijų šeimą, siekiant patikrinti, ar atitikties elgsena perduodama.
GitHub pakeitė savo LLM pagrindu veikusią sistemą, skirtą aptikti bendro pobūdžio paslaptis (slaptažodžius, API raktus), fine-tuned ModernBERT klasifikatoriumi kartu su regex kandidatų generavimu. Nauja dviejų pakopų sistema pagerino aptikimo tikslumą, kartu gerokai sumažindama skenavimo laiką ir eksploatavimo kaštus, ir dabar yra pakankamai greita, kad veiktų ne tik po kodo įkėlimo, bet ir prieš jį (push protection).
„Liquid AI“ paskelbė LFM2.5-24B-A2B – mišrių ekspertų (MoE) modelį su 24B bendrų parametrų, bet tik 2B aktyvių vienam tokenui, skirtą samprotaujantiems agentams vykdyti lokalioje įrangoje. Naujoje versijoje konteksto langas išplėstas iki 131K tokenų, žodynas padvigubintas, o pradinis mokymas atliktas naudojant maždaug dvigubai daugiau duomenų nei ankstesnėje versijoje. Agentinio ir įrankių naudojimo testų rezultatais modelis prilygsta arba lenkia modelius, turinčius apie 50 % daugiau parametrų, kartu pasiekdamas greitą veikimą tiek vartotojiškoje, tiek duomenų centro įrangoje.
Orca Security sukūrė Discovery AI — Amazon Bedrock agentą, verčiantį paprastus klausimus natūralia kalba į struktūrizuotas užklausas Sonar sistemai, kuri stebi daugiau nei 900 debesijos išteklių tipų. Vietoj vieno didelio modelio su visa schema kiekviename užklausime, gamybinė versija darbą paskirsto devynioms specializuotoms pakopoms ir keliems skirtingiems pagrindiniams modeliams. Rezultatas — gerokai mažesnės sąnaudos, greitesni atsakymai ir geresnis tikslumas sudėtingoms užklausoms; sistema veikia nuo 2026 m. kovo.
AWS pristatė tris branduolio (kernel) lygio optimizacijas Mixture-of-Experts (MoE) modelių aptarnavimui Hopper GPU, sukurtas bendradarbiaujant su vLLM bendruomene ir įdiegtas Amazon SageMaker AI LMI konteineryje. Pakeitimai sprendžia fused MoE skaičiavimų neefektyvumą dekodavimo fazėje su mažomis partijomis, kai anksčiau Tensor Core branduoliai būdavo nepilnai išnaudojami. Kartu optimizacijos suteikia iki 10% didesnį pralaidumą ir iki 9% greitesnį laiką iki pirmo tokeno (TTFT).
NVIDIA paskelbė, kad visa „Run:ai“ platforma dabar yra atvirojo kodo ir tampa NVIDIA DSX AI Factory Platform pagrindu AI darbo krūvių bei GPU orkestravimui Kubernetes aplinkoje. Leidime pateikiami keturi moduliniai komponentai — KAI Scheduler, GPU Fractioning Operator, KAI Resource Management ir Workload Map, kuriuos galima naudoti kartu arba atskirai. Aštuoni ekosistemos partneriai, tarp jų Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud ir vCluster, integruoja platformą į savo paslaugas.
„Amazon Web Services“ tyrėjai paskelbė metodą „priming“, kuris paverčia iš anksto apmokytus Transformer modelius hibridinėmis architektūromis, derinančiomis dėmesio (attention) ir būsenos erdvės modelio (SSM) sluoksnius, panaudojant jau turimus svorius vietoj mokymo nuo nulio. Metodas sumažina mokymo sąnaudas daugiau nei 99% ir leidžia 32 milijardų parametrų hibridiniam modeliui pasiekti tokią pačią kokybę kaip originalus Transformer modelis, dekoduojant iki dvigubai greičiau. „Amazon“ išbandė tris SSM tipus ir atvirai paskelbė modelių rinkinį, mokymo kodą bei įrankius pagal Apache 2.0 licenciją.
Mistral AI pristatė Voxtral Mini 4B Realtime Arabic — srautinio kalbos atpažinimo (STT) modelį, pritaikytą arabų kalbos tarmėms, literatūrinei arabų kalbai ir kalbų kaitaliojimui pokalbio metu. 4,4 milijardo parametrų modelis apdoroja 16 kHz garsą realiu laiku su konfigūruojamu transkripcijos vėlavimu ir, esant 480 ms delsai, pasiekia vidutinį 8,82% simbolių klaidų rodiklį (CER) septyniuose arabų kalbos testuose — tai artima neprisijungus veikiančio Voxtral Transcribe Arabic modelio 7,91% rodikliui. Modelis sukurtas kartu su Maroko skaitmeninės transformacijos ministerija kaip suvereni AI priemonė ir išleistas pagal Apache 2.0 licenciją.
„Google“ išleido ML Drift — atvirojo kodo, kelioms platformoms skirtą GPU skaičiavimo variklį ML inferencijai įrenginyje, pakeičiantį senąjį TFLite GPU delegate. Jis suvienodina šeiderių tvarkymą tarp OpenGL ES, OpenCL, Metal ir WebGPU, prideda 5D tenzorių palaikymą ir įveda etapais pagrįstus optimizavimus LLM prefill/decode fazėms. Jis jau veikia gamyboje „Chrome“, „YouTube Shorts“, „Google Photos“, „Meet“ ir partnerių programose iš „Adobe“ bei „Snap“.
Google pristatė Developer Knowledge API — struktūrizuotą, mašininiu būdu nuskaitomą Google Cloud, Firebase ir Android dokumentacijos šaltinį, skirtą AI agentams ir kūrėjų įrankiams. Vietoj svetainių scraping'o ar pasikliovimo LLM mokymo duomenų riba, agentai ir CLI dabar gali užklausti šviežią, Markdown formato dokumentaciją per kelias sąsajas: gcloud CLI, įdiegiamą agento įgūdį, kliento bibliotekas ir naršyklėje veikiantį API tyrinėtoją. Pagrindinis indeksas atnaujinamas dažnai, kad atsakymai liktų arti naujausios paskelbtos dokumentacijos.
AWS pristato naują dviejų pakopų prieigos kontrolės architektūrą RAG (Retrieval Augmented Generation) sistemoms „Amazon Quick“ ir „Amazon Bedrock Knowledge Bases“. Vietoj to, kad pasikliautų tik periodiškai sinchronizuojamais prieigos sąrašais (ACL), sistema dabar realiu laiku tikrina teises tiesiogiai šaltinio sistemoje (pvz., Google Drive, SharePoint, Confluence) užklausos metu, prieš perduodama turinį LLM. AWS teigia, kad tai panaikina saugumo spragas, atsirandančias dėl pasenusių ar netiksliai susietų teisių tarp sinchronizavimų. Kaip pavyzdys minima „Mondelēz International“, turinti daugiau nei 35 000 darbuotojų.
AssemblyAI paleido atviro kodo Qwen3.5 4B modelio diegimą savo LLM Gateway platformoje, specialiai optimizuotą perrašyti neapdorotą kalbos-teksto išvestį į švarų, suformatuotą tekstą. Balso perrašymo užduotyse, tokiose kaip diktavimo valymas ir transkripcijos formatavimas, modelis vidutiniškai atsakė per 612ms — 1,9 karto greičiau nei GPT-4.1 — ir kainavo 94% mažiau per valandą apdoroto garso. Modelio kaina — $0.10/$0.50 už milijoną tokenų (užklausa/atsakymas), palaikomi tik max_tokens, temperature ir stream parametrai, be įrankių kvietimo (tool calling).
Google išleido EmbeddingGemma 2 — Gemma 4 pagrindu sukurtą embeddingų modelį, platinamą pagal Apache 2.0 licenciją, kuris tekstą, kodą, vaizdus, video ir garsą sudeda į bendrą 768 dimensijų vektorinę erdvę. Modelis moduliškas — galima įkelti tik reikalingus enkoderius: 270M parametrų vien tekstui ir kodui, iki 740M visoms modalumams. Google teigia, kad MTEB Code lyginamajame teste rezultatas pagerėjo 14% lyginant su EmbeddingGemma 1, išlaikant ankstesnio modelio daugiakalbio teksto tikslumą.
GitHub paskelbė ReviewBench — tyrimų peržiūros stadijos (research preview) etaloną, skirtą palyginti AI kodo peržiūros agentus pagal bendrą, patikrinamą standartą. Duomenų rinkinį sudaro 219 realių viešų pull request'ų iš 19 kalbų ir 187 saugyklų, parinktų taip, kad atspindėtų kalbų ir dydžio pasiskirstymą tarp 103,9 mln. realių GitHub PR. Pagrindinė tiesa (ground truth) sudaryta iš žmonių recenzentų, statinės analizės įrankių ir kelių pažangiausių (frontier) LLM, o jų vertinimus patikrino vyresnieji inžinieriai, kurių sprendimai sutapo su etalono žymėjimais 96,6% atvejų. GitHub teigia jau naudojęs ReviewBench vidiniam Copilot code review (CCR) produkto sekimui, ir kad offline etalono pokyčiai patikimai prognozavo vėlesnių gamybinių A/B testų kryptį.
„GitHub Security Lab“ sukūrė atviro kodo „Taskflow Agent“, kuris naudoja pritaikomus AI darbo eigos šablonus kodo saugumo auditui, ir juo rado bei pranešė apie daugiau nei 24 pažeidžiamumus „Android“ programose. Du detalūs pavyzdžiai rodo, kaip agentas atrado vartotojo vietos sekimo spragą „OsmAnd“ navigacijos programoje ir paskyros perėmimo grandinę „Wikipedia“ „Android“ programoje per deeplink nuorodų apdorojimo klaidą. Komanda pastebi, kad LLM gerai randa sudėtingas logines pažeidžiamumų klases ir gerai supranta API elgseną, tačiau sunkiai įvertina tikrą rimtumą ir dažnai generuoja klaidingus teigiamus rezultatus, todėl radiniai vis dar turi būti peržiūrimi žmogaus. Darbo eigos šablonai yra atviro kodo ir gali būti paleisti bet kuriame „GitHub“ saugykloje per „Copilot“ varomą codespace skriptą, tačiau tam reikia premium modelio užklausų ir gali užtrukti kelias valandas.
AWS paskelbė žingsnis po žingsnio instrukciją, kaip suteikti Claude Desktop (veikiančiam per Amazon Bedrock) gyvą interneto prieigą per Amazon Bedrock AgentCore Gateway, taip užpildant spragą, kurią sukuria modelio mokymo duomenų atnaujinimo riba. Sąranka sujungia AWS IAM Identity Center SSO su Amazon Cognito kaip SAML-į-OAuth federacijos sluoksniu, kuris išduoda JWT žetonus, tikrinamus AgentCore Gateway kiekvienos užklausos metu. Pati Web Search funkcija yra suderinama su MCP ir veikia naudodama vidinį Amazon žiniatinklio indeksą, apimantį dešimtis milijardų dokumentų, todėl užklausos nepalieka AWS infrastruktūros ir nereikia trečiosios šalies API raktų. Šiuo metu funkcija pasiekiama tik trijuose AWS regionuose: us-east-1 (N. Virginia), eu-west-1 (Airija) ir ap-northeast-1 (Tokijas).
Google paskelbė, kad „Antigravity SDK“ dabar palaiko agentinių darbo eigų vykdymą lokaliai ir neprisijungus prie interneto, pradedant „Gemma 4 26B A4B“ modeliu per „Google AI Edge“ „LiteRT“. Kūrėjai gali kurti agentus, veikiančius visiškai įrenginyje, be debesijos API kaštų ar priklausomybės nuo interneto. Google taip pat pademonstravo hibridinį „Architect-Builder“ modelį, kai debesijos modelis („Gemini 3.8 Flash“) planuoja užduotis, o lokalus „Gemma 4 26B“ modelių pulkas atlieka pagrindinį darbą, neišsiunčiant šaltinio kodo į debesiją.