„Amazon“ įgalino programinės įrangos apskaitą pagal suvartojimą dvikrypčio srautinio perdavimo modeliams „SageMaker AI“ platformoje. Anksčiau ilgos trukmės sesijoms buvo sunku taikyti programinės įrangos mokesčius, nes jų nebuvo galima suderinti su paprastomis HTTP atsakymų antraštėmis. Dabar modelių teikėjai gali pranešti apie faktinį suvartojimą realiuoju laiku naudodami specialų metaduomenų „WebSocket“ ryšį.
„MiniMax“ išleido „MiniMax-H3-Image-PE“ – patobulintą „Qwen3.8-27B“ modelio versiją, skirtą trumpas tekstines užklausas paversti itin išsamiais aprašymais vaizdų generavimui. Šiame leidinyje pateikiami specifiniai darbo procesai teksto į vaizdą išplėtimui bei pradinio etapo palaikymas vaizdų redagavimo užklausoms.
„NVIDIA“ pristatė atviro kodo įrankį „NVIDIA Snapshot“, skirtą GPU darbo krūviams „Kubernetes“ aplinkoje. Įrašydama pilnai sukonfigūruotus modelius ir jų būsenas, sistema leidžia išvadų (inference) replikoms atsigauti per sekundes, o ne minutes, taip pašalinant pasikartojančius inicijavimo etapus.
NVIDIA prisidėjo „Agent Substrate“ projektu prie „CNCF Sandbox“, siekdama išspręsti neefektyvų AI agentų veikimą „Kubernetes“ aplinkoje. Platforma leidžia sujungti daugybę agentų sesijų į nedidelį aktyvių „worker“ pod'ų telkinį, išsaugant atminties ir failų sistemos būsenas neveiklos metu.
Amazon pristatė septynių sluoksnių pavyzdinę architektūrą, skirtą DI agentų programoms pereiti nuo pradinių prototipų iki gamybai paruoštų sistemų. Sistema pabrėžia modulinį, prijungiamą dizainą, naudojant stabilias sutartis tarp tokių sluoksnių kaip duomenys, išvados (inference), orkestravimas ir saugumas.
„Google Cloud“ pristatė dinaminį TPU (Tensor Processing Unit) skaidymą GKE (Google Kubernetes Engine) aplinkoje, leidžiantį atsieti logines aparatinės įrangos konfigūracijas nuo fizinių mazgų telkinių. Šis atnaujinimas panaikina poreikį rankiniu būdu perkurti mazgų telkinius keičiantis darbo krūviui, taip užtikrinant greitesnį prisitaikymą ir geresnį atsparumą klaidoms.
NVIDIA pristatė diegimo receptus keturiems svarbiems Korėjos atviro kodo modeliams, tokiems kaip A.X K2 ir „Solar Open 2“, naudojant „Dynamo“ sistemą. Šie receptai yra specialiai pritaikyti kelių mazgų NVIDIA B200 GPU klasteriams, kad būtų galima efektyviai vykdyti didelio masto išvadas (inference).
Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.
„Amazon SageMaker Inference“ pristatė NVIDIA „Multi-Instance GPU“ (MIG) palaikymą, leidžiantį padalyti vieną fizinį GPU į kelis nepriklausomus vienetus. Šis aparatinis padalijimas suteikia kiekvienai particijai skirtą skaičiavimo galią ir atmintį, užtikrinant nuspėjamą delsą ir griežtą izoliaciją tarp modelių, esančių tame pačiame akceleratoriuje.
Taxbit įdiegė saugų, vaidmenis atpažįstantį AI asistentą su Amazon Bedrock AgentCore, skirtą automatizuoti pagalbą naudojant produkto dokumentaciją. Agentas naudoja RAG metodą, kad pagrįstų atsakymus patvirtintu turiniu, tuo pačiu griežtai užtikrinant PII maskavimą, duomenų vietos rezidavimą ir vartotojų vaidmenų leidimus.
„Google“ išleido „Gemini Omni 1.2 Flash“ – modelio atnaujinimą, skirtą vaizdo turinio kūrimui. Jis prailgina vaizdo generavimą iki 15 sekundžių, pagerina objektų ir veikėjų nuoseklumą bei pristato redagavimo pokalbio metu galimybę.
NVIDIA pristatė penkias ko-projektavimo kryptis „Vera Rubin NVL72“ platformai, skirtas maksimaliai padidinti pralaidumą dirbant su agentų užduotimis. Derinant naujus duomenų formatus, tokius kaip NVFP4, ekspertinį paralelizavimą ir „Dynamo“ paskirstytojo aptarnavimo sluoksnį, sistema atmintį naudoja kaip vieningą resursą tarp GPU, pagrindinių CPU ir specializuotos saugyklos.
„Gradium“ išleido „Phonon“ – kompaktiškų (65–75 MB) teksto į kalbą modelių rinkinį, skirtą veikti tiesiogiai vartotojo įrenginyje. Jis palaiko penkias kalbas, veikia be interneto ir demonstruoja rezultatus, prilygstančius gerokai didesniems modeliams.
NVIDIA išleido CUDA 13.5, kurioje „Vera Rubin“ GPU architektūra pasiekė bendrąjį prieinamumą (GA). Atnaujinimas suteikia svarbių patobulinimų daugiaprocesinio paslaugų (MPS) resursų planavimui, lokalumo sričių skaidymui ir gilesnei integracijai su SIMT bibliotekomis per „CUDA Tile“.
Naujas metodas, vadinamas „FlagRot“, optimizuoja raktų-reikšmių (KV) talpyklos kvantavimą ilgo konteksto modeliams. Selektyviai pasukant raktų segmentus pagal dėmesio (attention) klaidą, o ne taikant bendrąją rotaciją, sumažinami tikslumo nuostoliai naudojant 2 bitų arba 4 bitų talpyklas.
Nauji tyrimai rodo, kad samprotavimo istoriją galima perrašyti į kompaktiškus būsenos įrašus prieš įvedant naujus įrankių rezultatus. Šis metodas veiksmingai sumažina būsimų samprotavimo žetonų skaičių ir bendras agento išlaidas, pašalindamas nereikalingas mintis, nereikalaujant modelio perkvalifikavimo.
Tyrėjai sukūrė metodą, leidžiantį apskaičiuoti teorinę kelių juodraščių spekuliacinio dekodavimo (MDSD) efektyvumo ribą, sprendžiant optimalaus transportavimo problemos dualiąją formą. Tyrimas atskleidžia, kad dabartiniai verifikavimo algoritmai dažnai nepasiekia šios ribos, o atranka be grąžinimo (sampling without replacement) gerokai padidina priėmimo rodiklius, palyginti su atranka su grąžinimu.
NVIDIA pristatė „Cosmos“ – platformą, siūlančią pasaulio modelius ir kūrimo įrankius, skirtus fizinio pasaulio dirbtinio intelekto (Physical AI) taikymams, tokiems kaip robotika ir autonominiai automobiliai. Platforma apima modulinius mokymo receptus bei NIM mikrotarnybas, kurios pagreitina modelių veikimą ir leidžia generuoti sinchronizuotus vaizdo bei LiDAR duomenis.
„Amazon“ pristatė darbo eigą, leidžiančią taikyti sekų lygio žinių distiliavimą (SeqKD), siekiant apmokyti mažesnius modelius remiantis didžiųjų „frontier“ modelių sugeneruotomis veiksmų trajektorijomis. Naudojant mokytojo modelį sėkmingiems įrankių naudojimo veiksmams sugeneruoti ir filtruojant juos programiniu vertintoju, komandos gali sukurti kompaktiškus studento modelius, kurie atlieka sudėtingas užduotis žymiai mažesniais kaštais.
NVIDIA pristatė „Workload Map“ – įrankį, skirtą suteikti bendrą būdą „Kubernetes“ planuokliams ir platformoms interpretuoti įvairius paskirstytus dirbtinio intelekto darbo krūvius. Naudojant deklaratyvius YAML apibrėžimus, nebereikia kurti specialių pritaikymo adapterių kiekvienai naujai sistemai, tokiai kaip „JobSet“, „Ray“ ar „KServe“.
„Apple“ tyrėjai pristatė naują mobiliųjų UI agentų mokymo infrastruktūrą, kuri atskiria navigacijos logiką nuo vizualinio atpažinimo. Naudojant žingsninį atlygį iš LLM vertintojo ir naują GiGPPO vertinimo metodą, šie agentai pasižymi didesniu patikimumu nei modeliai, apmokyti tik stacionariais duomenimis.
Naujausi tyrimai rodo, kad daugelis didžiųjų kalbos modelių (LLM) „attention“ galvų yra perteklinės ir tiesiogiai prisideda prie pažodinio mokymo duomenų atkartojimo. Selektyviai išjungus šias galvas inferencijos metu, tyrėjai pasiekė 91,5 % atkartojimo sumažėjimą ir tuo pačiu pagerino modelio našumą standartiniuose testuose.
„NVIDIA“ pristatė „AI Cluster Runtime“ (AICR), skirtą „Dynamo“ išvesties infrastruktūrai sujungti į patikrintus diegimo šablonus. Šis atnaujinimas supaprastina diegimą, fiksuodamas versijas ir pašalindamas privalomas išorines priklausomybes, pvz., „NATS“, bei pristatydamas naujus „KV-aware“ maršrutizavimo kelius „Kubernetes“ aplinkoje.