Nowe amerykańskie laboratorium AI, Reflection, zaprezentowało swój pierwszy model Beam – otwarty model typu mixture-of-experts (MoE) z 501B parametrów łącznie (23B aktywnych na token) i oknem kontekstowym 1M tokenów, wydany na licencji Apache 2.0. Model jest przeznaczony do zadań programistycznych i agentowych, jest dostarczany z dedykowanym środowiskiem uruchomieniowym opartym na Rust i ma wsparcie od dnia premiery w bibliotekach transformers, vLLM i SGLang. Reflection publikuje mocne wyniki w testach programistycznych, rozumowania i wywoływania narzędzi w wersjach BF16, FP8 i NVFP4.
IBM wydało Granite Switch 4.1 w wersjach 8B i 30B – modularny system, który obsługuje rozmowę, podejmowanie decyzji i transkrypcję mowy z jednego hostowanego endpointu zamiast z osobnych modeli. Aktualizacja dodaje ogólny adapter decyzyjny, wyspecjalizowany adapter Guardian do klasyfikacji związanych z bezpieczeństwem oraz wbudowany model ASR Granite-Speech-5.0-Turbo-CTC, który zajmuje pierwsze miejsce w rankingu OpenASR. Mimo połączenia trzech funkcji, zintegrowany model zużywa mniej więcej tyle samo VRAM co sam model bazowy.
Mistral AI wypuścił Timestral, swoją pierwszą rodzinę modeli podstawowych do prognozowania szeregów czasowych, dostępną w czterech rozmiarach od 5 mln do 209 mln parametrów. Największy model zajmuje pierwsze miejsce we wszystkich trzech głównych publicznych benchmarkach prognozowania (GIFT-Eval, TIME, fev-bench), wyprzedzając wcześniejsze modele o większej liczbie parametrów. Modele generują probabilistyczne, wielowymiarowe prognozy, obsługują zmienne historyczne i znane zmienne przyszłe oraz działają wydajnie na CPU bez potrzeby GPU.
NVIDIA ogłosiła, że cała platforma Run:ai jest teraz open source i staje się fundamentem NVIDIA DSX AI Factory Platform do orkiestracji obciążeń AI i GPU na Kubernetes. Wydanie obejmuje cztery modułowe komponenty — KAI Scheduler, GPU Fractioning Operator, KAI Resource Management i Workload Map — które można wdrażać razem lub niezależnie. Osiem partnerów ekosystemu, w tym Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud i vCluster, integruje platformę ze swoimi usługami.
IBM Research wykorzystało skoordynowaną „fabrykę agentów” wieloagentowych do eksploracji optymalizacji sprzętowych dekodera korekcji błędów kwantowych, porównując modele własnościowe i otwarte modele wiodące przy tym samym budżecie 100 hipotez. Konfiguracja z otwartym modelem, uruchomiona lokalnie przez framework rozproszonego wnioskowania IBM llm-d, osiągnęła 52-krotne przyspieszenie względem bazowego projektu za około 26 USD kosztów wnioskowania, w porównaniu do 299 USD dla konfiguracji z modelem własnościowym, która osiągnęła wyższe, 204-krotne przyspieszenie. Badanie pokazuje, że routing uwzględniający pamięć podręczną i efektywne serwowanie (98% trafień w cache prefiksów, ~0,11 USD za milion tokenów) sprawiły, że podejście z otwartymi modelami było znacznie tańsze, przy wciąż znajdowaniu poprawnych, kompaktowych projektów sprzętowych.
Badacze z Amazon Web Services opublikowali metodę „priming”, która przekształca wstępnie wytrenowane modele Transformer w architektury hybrydowe łączące warstwy uwagi (attention) i modeli przestrzeni stanów (SSM), wykorzystując istniejące wagi zamiast treningu od zera. Podejście obniża koszty wstępnego treningu o ponad 99% i pozwala 32-miliardowemu modelowi hybrydowemu dorównać jakością źródłowemu modelowi Transformer, dekodując nawet dwukrotnie szybciej. Amazon przetestował trzy typy SSM i udostępnił otwartoźródłowy zestaw modeli, kod treningowy oraz narzędzia na licencji Apache 2.0.