„NVIDIA“ pristatė trijų dalių optimizavimo strategiją, skirtą pagreitinti MoE modelių išvedimą, išbandytą su 124 mlrd. parametrų „Ling-3.0-flash“ modeliu. Naudojant specializuotus „Humming“ branduolius, FP8 tikslumą „LM head“ sluoksnyje ir kelių žetonų prognozavimą (MTP), pralaidumą galima padidinti 42,5 %, o vėlinimą sumažinti 24,5 %.
„Google“ atnaujino savo A2UI generatyvinio UI protokolą, įtraukdama keičiamus išvadų (inference) formatus, taip spręsdama vėlavimo ir patikimumo problemas, susijusias su ankstesniu „Direct JSON“ metodu. Naujasis „A2UI Express“ formatas sumažina tokenų sunaudojimą iki 3 kartų ir delsą iki 3 kartų, naudodamas glaustą „Python“ stiliaus sintaksę.
„Google“ atvėrė viešąją „Gemini Robotics Embodied Reasoning 2“ (ER 2) versijos peržiūrą „Gemini“ platformoje. Šis modelis veikia kaip aukšto lygio kognityvinis robotikos sluoksnis, gebantis planuoti, savarankiškai taisyti užduočių eigą ir valdyti kelių robotų sistemas naudojant natūralios kalbos instrukcijas.
Tyrėjai pristatė „Boa Compressor“ – internetinį įrankį, naudojantį „Mamba“ būsenos erdvės modelį, kuris linijiniu laiku suspaudžia ilgą kontekstą į trumpesnes reprezentacijas. Išskirstant žinias iš pilno konteksto LLM sąveikų, šis metodas leidžia efektyviai atlikti išvadas kiekvienai užklausai be didelių „Transformer“ pagrįsto glaudinimo delsos sąnaudų.
„Google“ pristatė „Gemini Omni“ – naują vaizdo įrašų generavimo modelį, gebantį kurti ir redaguoti vaizdo įrašus naudojant tekstines užuominas ar paveikslėlius. Šis modelis dabar yra numatytasis „Google“ vaizdo įrašų darbo eigoms, o ankstesnis „Veo“ modelis buvo pašalintas iš API.
OpenAI oficialiai išleido GPT-6.1 Terra – naują modelį, specialiai sukurtą vizualiniam argumentavimui, tiksliam kompiuterio valdymui ir natūralaus teksto generavimui.
„Amazon Bedrock“ dabar palaiko aiškų (explicit) ir numanomą (implicit) užklausų spartinimą (prompt caching) „OpenAI“ modeliams, leidžiantį saugoti ir pakartotinai naudoti statinius duomenis, tokius kaip įrankiai, instrukcijos ir pokalbių istorija. Išvengus identiškų žetonų pakartotinio apdorojimo, galite žymiai sumažinti įvesties kaštus ir pagerinti reagavimą sudėtingose agentų darbo eigose.
IBM atnaujino savo programinės įrangos ekosistemą, kad Spyre duomenų srauto spartintuvas būtų laikomas aukščiausios klasės PyTorch pagrindine sistema. Naudodami TorchDynamo ir TorchInductor, kūrėjai dabar gali paleisti modelius IBM Z, LinuxONE ir Power sistemose, naudodami standartinius PyTorch darbo eigų ir vLLM papildinius.
Z.ai GLM 5.3 Flash – multimodalinis 320B parametrų Mixture-of-Experts modelis su 18B aktyvių parametrų – dabar pasiekiamas per Mistral platformą. Jis turi 1M žetonų konteksto langą ir sukurtas kūrėjų agentų darbo eigoms, vizualiniam programavimui ir sudėtingoms įrankių naudojimo užduotims. Kaina: 0,15 USD už mln. įvesties žetonų, 0,03 USD už mln. talpykloje saugomų įvesties žetonų, 0,50 USD už mln. išvesties žetonų.
Cohere išleido naujausią įmonėms skirtų perrūšiavimo (reranking) modelių kartą Rerank 5, su Pro ir Fast versijomis. Rerank 5 Pro pirmauja pagrindiniuose viešuose testuose, tarp jų BRIGHT, ViDoRe V3, BEIR ir nanoMTEB, o Rerank 5 Fast siūlo beveik tokią pat kokybę už mažesnę kainą ir didesnį pralaidumą. Naujovė – Context Focus funkcija, kuri grąžina ne visą dokumentą, o tik svarbiausius teksto fragmentus, bei kalibruoti aktualumo įverčiai, kurie veikia kaip tikimybės visuose modeliuose ir srityse.
NVIDIA pristatė tris naujus atvirus, komerciškai licencijuotus komponentus „Nemotron Retriever“ linijoje: „Embed“ modelius (8B ir 1B, BF16 ir NVFP4 formatais) teksto ir vaizdų paieškai, „Rerank“ modelį (8B), kuris perrikiuoja gautus įrodymus pagal aktualumą, ir kompaktišką 631M „Parse“ modelį, verčiantį dokumentų vaizdus struktūruotu tekstu. Tikslas – pateikti AI agentams geresnius, aktualesnius įrodymus, kad jiems reikėtų mažiau paieškos ciklų ir mažiau inferencijos žetonų atsakymui gauti. NVIDIA teigia, kad nauji „Embed“ ir „Rerank“ modeliai pirmauja „ViDoRe v3.1“ dense paieškos ir perrikiavimo lyderių lentelėse.
Dirbtinio intelekto tyrimų bendrovė i14 kartu su AWS pritaikė savo Laplace 3B modelį — 24 sluoksnių architektūrą, pagrįstą Gated Linear Attention (GLA) vietoj įprasto transformerių dėmesio mechanizmo — AWS Trainium2 lustams, naudodama natyvų PyTorch (TorchNeuron Native). Vietoj su kiekvienu tokenu augančios KV talpyklos, modelis išlaiko pastovią 29,5 MB pasikartojančią būseną kiekvienai sekai. Viename trn2.48xlarge serveryje komanda pasiekė apie 120 000 tokenų per sekundę mokymo metu ir aptarnavo 11 544 išvesties tokenus per sekundę esant 1 280 lygiagrečių sekų per nemodifikuotą vLLM variklį.
OpenAI Responses API dabar palaiko pasirenkamą 12 valandų promptų talpyklos (cache) variantą, kuris ilgiau išsaugo bendras instrukcijas, įrankius ir kontekstą, kad pakartotinės užklausos, nutolusios net kelias valandas, vis tiek galėtų naudotis pigesne talpyklos kaina. Įrašymas į šią ilgesnę talpyklą kainuoja 2,5 karto brangiau nei įprasta įvesties žetonų kaina. Tai papildoma parinktis šalia standartinės trumpesnės talpyklos.
DeepSeek pristatė DeepSeek-V4.1-Flash-1017 — atnaujintą Flash modelio versiją, pasiekiamą tuo pačiu API adresu ir ta pačia kaina kaip anksčiau. Atnaujinimas atnešė pastebimus patobulinimus agentinio darbo, kodavimo ir įrankių naudojimo testuose, kartu sumažinant užduočių vykdymo laiką ir atsakymų ilgį. DeepSeek taip pat pristatė savo vidinę paieškos sistemą, kuri dabar palaiko tiek žiniatinklio/programėlės paiešką, tiek kūrėjams skirtą Search & Fetch API.
IBM pristatė Granite Switch 4.1 8B ir 30B dydžio versijas – modulinę sistemą, kuri vykdo pokalbį, sprendimų priėmimą ir kalbos transkripciją iš vieno talpinamo endpoint'o, o ne iš atskirų modelių. Atnaujinime pridėtas bendros paskirties sprendimų adapteris, specializuotas „Guardian“ adapteris saugumo klasifikacijai ir integruotas ASR modelis Granite-Speech-5.0-Turbo-CTC, pirmaujantis OpenASR reitinge. Nors sujungtos trys funkcijos, bendras modelis naudoja maždaug tiek pat VRAM, kiek ir pagrindinis modelis vienas.
Meta paskelbė Muse Spark Open – atvirų svorių mišraus ekspertų (MoE) modelį, turintį apie 816 milijardų parametrų iš viso ir 42 milijardus aktyvių vienam tokenui. Jis priima tekstą, vaizdus, garsą ir video, o generuoja tekstą, naudodamas iki 1 milijono tokenų kontekstą. Meta pristato jį kaip kodavimui optimizuotą, agentinį modelį, sukurtą ant mažesnio Muse Glimmer architektūros pagrindo, vadindama jį pažangiausiu iki šiol išleistu JAV atvirų svorių modeliu.
Swiss AI išleido Apertus 1.5 — tolesnį atvirų Apertus 1.0 modelių (8B ir 70B, Apache 2.0 licencija) apmokymą, pridedant natyvų vaizdo ir eksperimentinį garso supratimą, 4 kartus didesnį kontekstą (262 144 žetonai), pasirenkamą mąstymo režimą bei pagerintą instrukcijų laikymąsi ir įrankių naudojimą. Modeliai apmokyti iš viso su 19T (8B) ir 17T (70B) žetonų, o visi mokymo duomenys, receptai ir tarpiniai kontrolpunktai paskelbti viešai atkuriamumui. Komanda taip pat paskelbė detalias standartizuotas vertinimo korteles ir pranešė apie ankstyvą API prieigą per tiekėjus kaip Swisscom bei Infomaniak, be to, pristatė ~600B parametrų MoE Apertus 2.0 planus.
„Liquid AI“ paskelbė LFM2.5-24B-A2B – mišrių ekspertų (MoE) modelį su 24B bendrų parametrų, bet tik 2B aktyvių vienam tokenui, skirtą samprotaujantiems agentams vykdyti lokalioje įrangoje. Naujoje versijoje konteksto langas išplėstas iki 131K tokenų, žodynas padvigubintas, o pradinis mokymas atliktas naudojant maždaug dvigubai daugiau duomenų nei ankstesnėje versijoje. Agentinio ir įrankių naudojimo testų rezultatais modelis prilygsta arba lenkia modelius, turinčius apie 50 % daugiau parametrų, kartu pasiekdamas greitą veikimą tiek vartotojiškoje, tiek duomenų centro įrangoje.
„Google“ išleido ML Drift — atvirojo kodo, kelioms platformoms skirtą GPU skaičiavimo variklį ML inferencijai įrenginyje, pakeičiantį senąjį TFLite GPU delegate. Jis suvienodina šeiderių tvarkymą tarp OpenGL ES, OpenCL, Metal ir WebGPU, prideda 5D tenzorių palaikymą ir įveda etapais pagrįstus optimizavimus LLM prefill/decode fazėms. Jis jau veikia gamyboje „Chrome“, „YouTube Shorts“, „Google Photos“, „Meet“ ir partnerių programose iš „Adobe“ bei „Snap“.
Anthropic išleido „Claude Haiku 5.5“ (claude-haiku-5-5) — pajėgiausią Haiku modelį, skirtą dideliam apkrovimui ir delsai jautrioms užduotims. Jis palaiko 1 milijono token kontekstą, iki 128k išvesties token ir adaptyvų mąstymą, valdomą nauju effort parametru. Modelis pasiekiamas per Claude API, Amazon Bedrock, Claude Platform on AWS, Google Cloud ir Microsoft Foundry. Anthropic įspėja, kad kodas, parašytas ankstesniam Haiku 4.5 modeliui, gali neveikti naujoje versijoje.
Google išleido EmbeddingGemma 2 — Gemma 4 pagrindu sukurtą embeddingų modelį, platinamą pagal Apache 2.0 licenciją, kuris tekstą, kodą, vaizdus, video ir garsą sudeda į bendrą 768 dimensijų vektorinę erdvę. Modelis moduliškas — galima įkelti tik reikalingus enkoderius: 270M parametrų vien tekstui ir kodui, iki 740M visoms modalumams. Google teigia, kad MTEB Code lyginamajame teste rezultatas pagerėjo 14% lyginant su EmbeddingGemma 1, išlaikant ankstesnio modelio daugiakalbio teksto tikslumą.
Z.ai sukurtas GLM 5.3 — 753 milijardų parametrų MoE modelis, optimizuotas kodavimui ir ilgalaikėms agentinėms užduotims — dabar prieinamas kaip pilnai valdomas modelis „Amazon Bedrock“ platformoje. Jis tobulina GLM 5 liniją geresniais kodavimo benchmarkų rezultatais, išskirtinėmis kibernetinio saugumo galimybėmis (CyberGym rezultatas 84,5) ir gilesne integracija su Bedrock, įskaitant OpenAI suderinamas API, prompt talpinimą, tarpregioninį interferavimą ir aptarnavimo lygius. AWS taip pat parodo, kaip GLM 5.3 naudoti su atviro kodo agentu Strix autorizuotam savo programų penetraciniam testavimui.