AWS pristatė tris branduolio (kernel) lygio optimizacijas Mixture-of-Experts (MoE) modelių aptarnavimui Hopper GPU, sukurtas bendradarbiaujant su vLLM bendruomene ir įdiegtas Amazon SageMaker AI LMI konteineryje. Pakeitimai sprendžia fused MoE skaičiavimų neefektyvumą dekodavimo fazėje su mažomis partijomis, kai anksčiau Tensor Core branduoliai būdavo nepilnai išnaudojami. Kartu optimizacijos suteikia iki 10% didesnį pralaidumą ir iki 9% greitesnį laiką iki pirmo tokeno (TTFT).
NVIDIA paskelbė, kad visa „Run:ai“ platforma dabar yra atvirojo kodo ir tampa NVIDIA DSX AI Factory Platform pagrindu AI darbo krūvių bei GPU orkestravimui Kubernetes aplinkoje. Leidime pateikiami keturi moduliniai komponentai — KAI Scheduler, GPU Fractioning Operator, KAI Resource Management ir Workload Map, kuriuos galima naudoti kartu arba atskirai. Aštuoni ekosistemos partneriai, tarp jų Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud ir vCluster, integruoja platformą į savo paslaugas.
IBM Research naudojo koordinuotą kelių agentų „agentų gamyklą“, kad ištirtų aparatinės įrangos optimizavimo galimybes kvantinio klaidų taisymo dekoderiui, lygindama patentuotus ir atvirus pirmaujančius modelius pagal tą patį 100 hipotezių paieškos biudžetą. Atviro modelio konfigūracija, veikianti vietoje per IBM „llm-d“ paskirstyto išvedimo sistemą, pasiekė 52 kartų pagreitį lyginant su baziniu projektu, o tai kainavo apie 26 JAV dolerius išvedimo išlaidų, palyginti su 299 doleriais patentuoto modelio konfigūracijai, kuri pasiekė didesnį, 204 kartų, pagreitį. Tyrimas parodo, kad talpyklos pažinimu paremtas maršrutizavimas ir efektyvus aptarnavimas (98 % priešdėlio talpyklos pataikymų rodiklis, ~0,11 USD už milijoną žetonų) padarė atvirų modelių metodą gerokai pigesnį, vis tiek rasdamas tinkamus, kompaktiškus aparatinės įrangos sprendimus.
„Amazon Web Services“ tyrėjai paskelbė metodą „priming“, kuris paverčia iš anksto apmokytus Transformer modelius hibridinėmis architektūromis, derinančiomis dėmesio (attention) ir būsenos erdvės modelio (SSM) sluoksnius, panaudojant jau turimus svorius vietoj mokymo nuo nulio. Metodas sumažina mokymo sąnaudas daugiau nei 99% ir leidžia 32 milijardų parametrų hibridiniam modeliui pasiekti tokią pačią kokybę kaip originalus Transformer modelis, dekoduojant iki dvigubai greičiau. „Amazon“ išbandė tris SSM tipus ir atvirai paskelbė modelių rinkinį, mokymo kodą bei įrankius pagal Apache 2.0 licenciją.
„OCP Global Summit“ renginyje NVIDIA perdavė savo „Vera Rubin“ lentynų ir skaičiavimo dėklų projektus atvirai MGX architektūrai bei paskelbė eilę partnerysčių, susijusių su AI gamyklų maitinimu, aušinimu ir tinklų standartais. Tarp partnerių – tokie hiperskalės žaidėjai kaip Meta, Google, Microsoft ir AMD, taip pat Cisco bei Visionbay. Pranešimai apima lentynų specifikacijas (MGX 1.2), naują atvirojo kodo programinę įrangą AI duomenų centrams valdyti (DSX OS komponentai), tinklo atsparumo standartus, 800V nuolatinės srovės maitinimo architektūrą, naują „Ethernet“ komutaciją (Spectrum-6) ir naują optinio siųstuvo-imtuvo standartą (USFP) kartu su Cisco.
Mistral AI pristatė Voxtral Mini 4B Realtime Arabic — srautinio kalbos atpažinimo (STT) modelį, pritaikytą arabų kalbos tarmėms, literatūrinei arabų kalbai ir kalbų kaitaliojimui pokalbio metu. 4,4 milijardo parametrų modelis apdoroja 16 kHz garsą realiu laiku su konfigūruojamu transkripcijos vėlavimu ir, esant 480 ms delsai, pasiekia vidutinį 8,82% simbolių klaidų rodiklį (CER) septyniuose arabų kalbos testuose — tai artima neprisijungus veikiančio Voxtral Transcribe Arabic modelio 7,91% rodikliui. Modelis sukurtas kartu su Maroko skaitmeninės transformacijos ministerija kaip suvereni AI priemonė ir išleistas pagal Apache 2.0 licenciją.
„Anthropic“ paskelbė „Cyber Mission“ – ilgalaikę iniciatyvą, padedančią gynėjams apsaugoti operacines technologijas ir atvirojo kodo programinę įrangą naudojant Claude modelius. Ją sudaro Kritinės infrastruktūros gynybos programa (CIDP), kurioje dalyvauja tokie partneriai kaip Accenture, CrowdStrike, Deloitte ir Rockwell Automation, bei nemokamas įrankis OSS Scanner, skanuojantis atvirojo kodo projektus dėl pažeidžiamumų. Iniciatyva remiasi ankstesnio „Project Glasswing“ patirtimi, kuris dabar sujungtas į išplėstą Cyber Verification Program.
„Google“ išleido ML Drift — atvirojo kodo, kelioms platformoms skirtą GPU skaičiavimo variklį ML inferencijai įrenginyje, pakeičiantį senąjį TFLite GPU delegate. Jis suvienodina šeiderių tvarkymą tarp OpenGL ES, OpenCL, Metal ir WebGPU, prideda 5D tenzorių palaikymą ir įveda etapais pagrįstus optimizavimus LLM prefill/decode fazėms. Jis jau veikia gamyboje „Chrome“, „YouTube Shorts“, „Google Photos“, „Meet“ ir partnerių programose iš „Adobe“ bei „Snap“.
Technology Innovation Institute (TII) pristatė Falcon-ASR – 1,6 mlrd. parametrų automatinio kalbos atpažinimo (ASR) modelį, pirmiausia skirtą arabų kalbai, ypač Emiratų dialektui. Tais pačiais modelio svoriais jis taip pat transkribuoja anglų, prancūzų, ispanų ir portugalų kalbas. TII teigia, kad modelis aplenkia geriausią viešai skelbtą rezultatą standartiniame arabų kalbos teste ir pirmauja vidiniame Emiratų dialekto vertinime, taip pat palaiko žodžių lygio laiko žymas.
„Anthropic“ sujungė „Project Glasswing“ ir Kibernetinio tikrinimo programą (CVP) į vieną išplėstą programą su trimis prieigos lygiais: Defense Access, Red Team Access ir Specialized Access. Kiekvienas lygis atrakina vis mažiau saugumo blokavimų kibernetinėms užduotims „Claude Opus 5.5“, „Claude Sonnet 5.5“ ir „Claude Mythos 5.1“ modeliuose patikrintoms saugumo organizacijoms. „Anthropic“ taip pat paskelbė lyginamuosius rezultatus ir pažeidžiamumų aptikimo skaičius iš ankstesnės „Glasswing“ programos, pagrindžiančius plėtrą.
„GitHub Security Lab“ sukūrė atviro kodo „Taskflow Agent“, kuris naudoja pritaikomus AI darbo eigos šablonus kodo saugumo auditui, ir juo rado bei pranešė apie daugiau nei 24 pažeidžiamumus „Android“ programose. Du detalūs pavyzdžiai rodo, kaip agentas atrado vartotojo vietos sekimo spragą „OsmAnd“ navigacijos programoje ir paskyros perėmimo grandinę „Wikipedia“ „Android“ programoje per deeplink nuorodų apdorojimo klaidą. Komanda pastebi, kad LLM gerai randa sudėtingas logines pažeidžiamumų klases ir gerai supranta API elgseną, tačiau sunkiai įvertina tikrą rimtumą ir dažnai generuoja klaidingus teigiamus rezultatus, todėl radiniai vis dar turi būti peržiūrimi žmogaus. Darbo eigos šablonai yra atviro kodo ir gali būti paleisti bet kuriame „GitHub“ saugykloje per „Copilot“ varomą codespace skriptą, tačiau tam reikia premium modelio užklausų ir gali užtrukti kelias valandas.
Allen Institute for AI (Ai2) atvėrė AstaBrief 8B modelio svorius – modelis, sukurtas ant Qwen3-8B pagrindo, kuris mokslinius klausimus ir surastas literatūros ištraukas paverčia cituotomis ataskaitomis. Jis jau veikia Ai2 platformoje Asta kaip 'Fast' režimas šalia Claude pagrindu veikiančio 'Thinking' režimo – ataskaitą vidutiniškai sugeneruoja per 51,1 sekundės, palyginti su 178,5 sekundės Claude procese, t. y. apie 3,5 karto greičiau. Modelis treniruotas naudojant prižiūrimą dokonfigūravimą (SFT) su 47 tūkst. pavyzdžių (iš 90 tūkst. filtruotų realių mokslininkų užklausų) ir DPO su apie 6 tūkst. porų, o didžiausią kokybės pokytį davė filtravimas pagal citavimo tankį.
„Google DeepMind“ pristatė „SynthID Bio“ – vandenženklinimo technologiją, kuri įterpia nepastebimą, patikrinamą parašą į AI sukurtus baltymus ir jų 3D struktūras, nepakenkiant jų biologinei funkcijai. Sistema išbandyta su baltymų jungikliais (VEGF-A, SARS-CoV-2 spyglio RBD, PD-L1) naudojant „AlphaProteo“ ir modifikuotą „ProteinMPNN“, taip pat įdiegta į „AlphaFold 3“ difuzijos tinklą struktūrų vandenženklinimui. „DeepMind“ taip pat bendradarbiauja su Stanfordo „Hie“ laboratorija ir „Arc Institute“, pritaikydama metodą „Evo 2“ genominiam modeliui bakteriofagų genomų vandenženklinimui. Tikslas – sustiprinti biosaugumą, padedant DNR sintezės patikros teikėjams ir viešosioms duomenų bazėms patikrinti AI sukurtų biologinių dizainų kilmę.