„PolyAI“ pristatė „Dialog-RSN-1“ – modelį, specialiai sukurtą tiesioginiam pokalbiui balsu, apdorojantį garso signalą tiesiogiai, be tarpinės transkripcijos. Dabar jis pasiekiamas AWS ekosistemoje kaip saugus ir privatus išvadų (inference) taškas.
NVIDIA išleido naują „RTX Spark“ stalinių kompiuterių seriją, skirtą vietiniams DI procesams vykdyti. Šiuose kompiuteriuose, kuriuos gamina ASUS, „Dell“ ir MSI, naudojami 20 branduolių „NVIDIA Grace“ procesoriai, „Blackwell RTX“ grafikos plokštės bei iki 128 GB suvienytosios atminties dideliems kalbos modeliams ir nuolatiniams agentams veikti.
Tyrėjai pristatė „Limite 1B - Violetto“ – kompaktišką 1 milijardo parametrų modelį, sukurtą matematinių užduočių sprendimui. Jis palaiko 131 tūkst. žetonų konteksto langą ir yra platinamas pagal „Apache 2.0“ licenciją.
„Aionic Labs“ išleido „OpenTSLM-Flamingo“ – laiko eilučių kalbos modelį (TSLM), kurį dabar galima diegti per „Amazon SageMaker JumpStart“. Jis sujungia „Gemma 3 4B“ architektūrą su laiko eilučių kodavimo įrankiu, kad kartu su tekstiniu kontekstu interpretuotų operacinius duomenis.
AWS pristatė valdomą NVIDIA Dynamo palaikymą SageMaker HyperPod aplinkoje, supaprastindama didelių kalbos modelių diegimą. Atnaujinimas suteikia galimybę naudoti kelių mazgų (multi-node) išvestį, leidžiančią vykdyti modelius, kurie viršija vieno GPU atminties ribas per atskirtus prefill ir decode procesus.
Amazon SageMaker AI pristatė naują 'KV_AWARE' nukreipimo strategiją, kuri nukreipia LLM užklausas į egzempliorius pagal faktinę KV podėlio būseną, o ne tik pagal užklausos pradžią. Tai optimizuoja daugiasluoksnius pokalbius ir ilgo konteksto užduotis, užtikrinant, kad užklausos patektų ten, kur jau saugomi reikiami duomenys.
„NVIDIA“ paskelbė technines gaires, kaip kurti retosios dėmesio („sparse attention“) mechanizmus didelio konteksto modeliams. Optimizuojant „indexer“ branduolius, kurie prieš atliekant pilną dėmesio skaičiavimą nustato svarbiausius duomenis, galima žymiai padidinti išvedimo (inference) efektyvumą esant daugiau nei 100 tūkst. žetonų kontekstui.
NVIDIA pristatė „Nemotron for Science“ – įrankių rinkinį, jungiantį „Nemotron 3.5 Super VL“ modelį su specializuotais chemijos duomenų rinkiniais ir apmokymo receptais. Ši platforma leidžia tyrėjams diegti vietinius agentus, kurie gali savarankiškai planuoti eksperimentus, vykdyti kodą ir patikrinti duomenų rezultatus.
Pristatytas „OmniTag-Bench“ – naujas penkių kalbų vertinimo rėmas, skirtas multimodalių LLM testavimui, atliekant sinchroninę kalbos transkripciją ir metaduomenų žymėjimą. Tyrimas rodo, kad vienas, papildomai apmokytas multimodalus modelis gali išgauti transkripciją, emocijas, lytį, kalbą ir vardines entybes vienu žingsniu, pakeičiant atskirus specializuotus modelius.
„Hugging Face“ pradėjo partnerystę su „OpenRouter“, kad optimizuotų kalbos modelių išvedimo (inference) procesus. Visos užklausos dabar automatiškai nukreipiamos per „OpenRouter“, parenkant tinkamiausią teikėją pagal kainą, greitį ir patikimumą realiuoju laiku.
„NVIDIA“ paskelbė pirmuosius „MLPerf Training v6.1“ ir „Endpoints v1.0“ rezultatus, skirtus naujai „Vera Rubin“ architektūrai. Sistema pademonstravo reikšmingą šuolį mokymo spartos ir energijos efektyvumo srityje vykdant agentines užduotis.
„Amazon“ pristatė architektūrinį sprendimą, integruojantį „NVIDIA NeMo Switchyard“ biblioteką su „LiteLLM“, skirtą dinamiškai nukreipti kodo agentų užklausas tarp skirtingų „Bedrock“ modelių. Naudojant „stage“ arba „random“ maršrutizavimą, galima efektyviai paskirstyti srautą tarp galingų ir ekonomiškų modelių, optimizuojant našumą bei kaštus.
„Amazon“ papildė „SageMaker JumpStart“ „OpenFold3-preview“ modeliu, leidžiančiu prognozuoti baltymų, DNR, RNR ir ligandų 3D struktūras. Sprendimas naudoja asinchroninius užklausų taškus ilgai trunkančioms užduotims atlikti, palaiko automatinį mastelio keitimą bei išteklių mažinimą iki nulio, kai sistema nenaudojama.
„NVIDIA“ paskelbė techninį vadovą, kaip paleisti 753B parametrų GLM-5.3 MoE modelį naudojant dvi DGX stotis su GB300 procesoriais. Naudojant tenzorinį lygiagretumą (TP=2) per RDMA jungtis ir vLLM, galima įveikti vieno GPU atminties apribojimus (252 GB HBM3e) naudojant masyvius modelius.
„llama.cpp“ projektas oficialiai pasiekė 1.0.0 versijos etapą praėjus trejiems su puse metų nuo įkūrimo. Šiame leidime pristatomas griežtas semantinis versijavimas, siekiant užtikrinti geresnį nuspėjamumą kūrėjams, naudojantiems „libllama“ ir „libggml“ C/C++ bibliotekas.
DeepSeek išplėtė savo paslaugas, atverdama kūrėjams visą taikomųjų programų įrankių rinkinį. Nuo šiol API vartotojai gali įjungti žiniatinklio paieškos, URL nuskaitymo, failų apdorojimo ir saugos filtrų parametrus, taip pat naudoti atskirus ASR, TTS ir OCR taškus.
Amazon išleido SGLang-Neuron – įskiepį, leidžiantį kūrėjams vykdyti didelio masto DI modelius naudojant AWS Trainium aparatinę įrangą per standartinę SGLang sąsają. Ši integracija palaiko natūralų PyTorch vykdymą ir pažangias funkcijas, tokias kaip PD disaggregation naudojant EFA, siekiant optimizuoti modelių aptarnavimą.
NVIDIA pristatė diegimo receptus keturiems svarbiems Korėjos atviro kodo modeliams, tokiems kaip A.X K2 ir „Solar Open 2“, naudojant „Dynamo“ sistemą. Šie receptai yra specialiai pritaikyti kelių mazgų NVIDIA B200 GPU klasteriams, kad būtų galima efektyviai vykdyti didelio masto išvadas (inference).
„Google“ išleido „Gemini Omni 1.2 Flash“ – modelio atnaujinimą, skirtą vaizdo turinio kūrimui. Jis prailgina vaizdo generavimą iki 15 sekundžių, pagerina objektų ir veikėjų nuoseklumą bei pristato redagavimo pokalbio metu galimybę.
NVIDIA pristatė penkias ko-projektavimo kryptis „Vera Rubin NVL72“ platformai, skirtas maksimaliai padidinti pralaidumą dirbant su agentų užduotimis. Derinant naujus duomenų formatus, tokius kaip NVFP4, ekspertinį paralelizavimą ir „Dynamo“ paskirstytojo aptarnavimo sluoksnį, sistema atmintį naudoja kaip vieningą resursą tarp GPU, pagrindinių CPU ir specializuotos saugyklos.
NVIDIA išleido CUDA 13.5, kurioje „Vera Rubin“ GPU architektūra pasiekė bendrąjį prieinamumą (GA). Atnaujinimas suteikia svarbių patobulinimų daugiaprocesinio paslaugų (MPS) resursų planavimui, lokalumo sričių skaidymui ir gilesnei integracijai su SIMT bibliotekomis per „CUDA Tile“.
NVIDIA pristatė „Cosmos“ – platformą, siūlančią pasaulio modelius ir kūrimo įrankius, skirtus fizinio pasaulio dirbtinio intelekto (Physical AI) taikymams, tokiems kaip robotika ir autonominiai automobiliai. Platforma apima modulinius mokymo receptus bei NIM mikrotarnybas, kurios pagreitina modelių veikimą ir leidžia generuoti sinchronizuotus vaizdo bei LiDAR duomenis.
„Amazon“ pristatė darbo eigą, leidžiančią taikyti sekų lygio žinių distiliavimą (SeqKD), siekiant apmokyti mažesnius modelius remiantis didžiųjų „frontier“ modelių sugeneruotomis veiksmų trajektorijomis. Naudojant mokytojo modelį sėkmingiems įrankių naudojimo veiksmams sugeneruoti ir filtruojant juos programiniu vertintoju, komandos gali sukurti kompaktiškus studento modelius, kurie atlieka sudėtingas užduotis žymiai mažesniais kaštais.