„llama.cpp“ projektas oficialiai pasiekė 1.0.0 versijos etapą praėjus trejiems su puse metų nuo įkūrimo. Šiame leidime pristatomas griežtas semantinis versijavimas, siekiant užtikrinti geresnį nuspėjamumą kūrėjams, naudojantiems „libllama“ ir „libggml“ C/C++ bibliotekas.
NVIDIA pristatė diegimo receptus keturiems svarbiems Korėjos atviro kodo modeliams, tokiems kaip A.X K2 ir „Solar Open 2“, naudojant „Dynamo“ sistemą. Šie receptai yra specialiai pritaikyti kelių mazgų NVIDIA B200 GPU klasteriams, kad būtų galima efektyviai vykdyti didelio masto išvadas (inference).
Nauja JAV DI laboratorija Reflection pristatė savo pirmąjį modelį Beam – atvirojo kodo mišrios ekspertų architektūros (MoE) modelį su 501B bendrų parametrų (23B aktyvuojama vienam tokenui) ir 1M tokenų konteksto langu, išleistą pagal Apache 2.0 licenciją. Modelis sukurtas programavimo ir agentinėms užduotims, pristatomas su specialiu Rust pagrindu veikiančiu vykdymo karkasu bei iš karto veikia su transformers, vLLM ir SGLang bibliotekomis. Reflection pateikia stiprius rezultatus programavimo, loginio mąstymo ir įrankių iškvietimo testuose BF16, FP8 ir NVFP4 formatais.
IBM pristatė Granite Switch 4.1 8B ir 30B dydžio versijas – modulinę sistemą, kuri vykdo pokalbį, sprendimų priėmimą ir kalbos transkripciją iš vieno talpinamo endpoint'o, o ne iš atskirų modelių. Atnaujinime pridėtas bendros paskirties sprendimų adapteris, specializuotas „Guardian“ adapteris saugumo klasifikacijai ir integruotas ASR modelis Granite-Speech-5.0-Turbo-CTC, pirmaujantis OpenASR reitinge. Nors sujungtos trys funkcijos, bendras modelis naudoja maždaug tiek pat VRAM, kiek ir pagrindinis modelis vienas.
„Mistral AI“ išleido Timestral – pirmąją savo laiko eilučių prognozavimo pagrindinių modelių šeimą, kurią sudaro keturi dydžiai nuo 5 mln. iki 209 mln. parametrų. Didžiausias modelis užima pirmą vietą visuose trijuose pagrindiniuose viešuose prognozavimo etalonuose (GIFT-Eval, TIME, fev-bench), aplenkdamas ankstesnius lyderius, turinčius daugiau parametrų. Modeliai generuoja tikimybinius, daugiamačius prognozavimus, palaiko praeities ir žinomas ateities kintamąsias (covariates) ir efektyviai veikia CPU be GPU poreikio.
„Google“ išleido ML Drift — atvirojo kodo, kelioms platformoms skirtą GPU skaičiavimo variklį ML inferencijai įrenginyje, pakeičiantį senąjį TFLite GPU delegate. Jis suvienodina šeiderių tvarkymą tarp OpenGL ES, OpenCL, Metal ir WebGPU, prideda 5D tenzorių palaikymą ir įveda etapais pagrįstus optimizavimus LLM prefill/decode fazėms. Jis jau veikia gamyboje „Chrome“, „YouTube Shorts“, „Google Photos“, „Meet“ ir partnerių programose iš „Adobe“ bei „Snap“.
Allen Institute for AI (Ai2) atvėrė AstaBrief 8B modelio svorius – modelis, sukurtas ant Qwen3-8B pagrindo, kuris mokslinius klausimus ir surastas literatūros ištraukas paverčia cituotomis ataskaitomis. Jis jau veikia Ai2 platformoje Asta kaip 'Fast' režimas šalia Claude pagrindu veikiančio 'Thinking' režimo – ataskaitą vidutiniškai sugeneruoja per 51,1 sekundės, palyginti su 178,5 sekundės Claude procese, t. y. apie 3,5 karto greičiau. Modelis treniruotas naudojant prižiūrimą dokonfigūravimą (SFT) su 47 tūkst. pavyzdžių (iš 90 tūkst. filtruotų realių mokslininkų užklausų) ir DPO su apie 6 tūkst. porų, o didžiausią kokybės pokytį davė filtravimas pagal citavimo tankį.