Badacze z Amazon Web Services opublikowali metodę „priming”, która przekształca wstępnie wytrenowane modele Transformer w architektury hybrydowe łączące warstwy uwagi (attention) i modeli przestrzeni stanów (SSM), wykorzystując istniejące wagi zamiast treningu od zera. Podejście obniża koszty wstępnego treningu o ponad 99% i pozwala 32-miliardowemu modelowi hybrydowemu dorównać jakością źródłowemu modelowi Transformer, dekodując nawet dwukrotnie szybciej. Amazon przetestował trzy typy SSM i udostępnił otwartoźródłowy zestaw modeli, kod treningowy oraz narzędzia na licencji Apache 2.0.
NVIDIA wraz z Dao AI Lab z Princeton opracowały ReplaySSM — nowy sposób przechowywania stanu w modelach hybrydowych, które łączą warstwy state-space (SSM) z warstwami uwagi (attention). Zamiast przepisywać cały stan w każdym kroku, metoda utrzymuje okresowy punkt kontrolny (checkpoint) oraz krótką listę ostatnich wejść, oddzielając obliczanie wyniku od aktualizacji pamięci. Efektem jest niemal dwukrotnie mniejszy ruch pamięci, przyspieszenie jąder dekodowania nawet 1,80-krotnie przy dużych partiach oraz ponad dwukrotny wzrost przepustowości dekodowania spekulacyjnego w modelach klasy 120B, przy zachowaniu dokładności zbliżonej do pełnej precyzji. Metoda jest już zintegrowana z TensorRT-LLM, vLLM i FlashInfer oraz działa produkcyjnie w GLM-5.3-Flash i Kimi-K3.
Podczas OCP Global Summit NVIDIA przekazała projekty stojaków i tac obliczeniowych Vera Rubin do otwartej architektury MGX oraz ogłosiła szereg partnerstw dotyczących zasilania, chłodzenia i standardów sieciowych dla fabryk AI. Wśród partnerów są hiperskalowi gracze tacy jak Meta, Google, Microsoft i AMD, a także Cisco i Visionbay. Ogłoszenia obejmują specyfikacje stojaków (MGX 1.2), nowe oprogramowanie open source do zarządzania centrami danych AI (komponenty DSX OS), standardy odporności sieci energetycznej, architekturę zasilania 800V DC, nowe przełączanie Ethernet (Spectrum-6) oraz nowy standard modułów optycznych (USFP) wspólnie z Cisco.
AWS opublikowało wraz z Postman techniczny opis tego, jak powstał Agent Mode – natywny dla AI interfejs Postman do testowania API i dokumentacji, działający produkcyjnie na dużą skalę. Zespół odkrył, że największą przeszkodą nie była jakość modelu, lecz nadmiar narzędzi i brak kontekstu. Wpis opisuje wzorce architektoniczne: dynamiczny dobór narzędzi, dostęp oparty na schematach, dedykowane moduły kontekstu oraz możliwości Amazon Bedrock – elastyczność modeli, wnioskowanie między regionami, kontrolę rezydencji danych i prompt caching.
Qwen opublikował na Hugging Face Qwen-Image-2.1-Turbo – destylowaną wersję modelu Qwen-Image-2.1 do generowania i edycji obrazów z tekstu. Wykorzystuje tę samą architekturę wizualną 7B, ale działa przy zaledwie 8 krokach odszumiania zamiast standardowego harmonogramu, stosując CFG=1 oraz buforowanie prefiksowe KV, które ponownie wykorzystuje kontekst tekstu i obrazu referencyjnego między krokami. Model ładuje się bezpośrednio przez QwenImage21Pipeline w bibliotece Diffusers i obsługuje te same presety rozdzielczości oraz proporcji co model bazowy, w tym zadania edycyjne, takie jak zamiana szkicu w fotorealistyczny obraz.
Google wydał ML Drift, otwartoźródłowy, wieloplatformowy silnik obliczeniowy GPU do wnioskowania ML na urządzeniu, zastępujący dotychczasowy TFLite GPU delegate. Ujednolica obsługę shaderów między OpenGL ES, OpenCL, Metal i WebGPU, dodaje obsługę tensorów 5D oraz wprowadza optymalizacje etapowe dla faz prefill/decode w LLM. Jest już wdrożony produkcyjnie w Chrome, YouTube Shorts, Google Photos, Meet oraz aplikacjach partnerów Adobe i Snap.
AWS opublikował studium przypadku dotyczące Amazon Bedrock AgentCore payments – zarządzanej funkcji pozwalającej agentom AI samodzielnie płacić za usługi, np. zapytania do modelu, pojedynczo, przy użyciu protokołu płatności x402. Firma Incarna wykorzystała tę funkcję, by jej agenci mogli płacić BlockRun, routerowi inferencji od wielu dostawców, za każde pojedyncze wywołanie modelu, rozliczając się w stablecoinie USDC w sieci Base. AWS twierdzi, że Incarna skróciła czas integracji z planowanych dwóch–trzech miesięcy do trzech dni i około 200 linii kodu. W fazie beta agenci przetworzyli ponad 1000 płatności w zakresie od 0,001 do 0,05 USD za wywołanie.
Cloudflare zbudował system agentów AI dla usługi bezpieczeństwa Managed Defense, aby poradzić sobie z zalewem alertów, który przytłacza analityków. Zamiast jednego uniwersalnego agenta analizującego wszystko, system oddziela deterministyczne zbieranie danych od wnioskowania opartego na modelu i uruchamia równolegle czterech wyspecjalizowanych agentów przed agentem syntezy łączącym ustalenia. Firma twierdzi, że zmniejsza to halucynacje i czyni dochodzenia audytowalnymi oraz odtwarzalnymi.
GLM 5.3 od Z.ai to model mixture-of-experts z 753 miliardami parametrów, zoptymalizowany pod kodowanie i długotrwałe zadania agentowe, dostępny teraz jako w pełni zarządzany model w Amazon Bedrock. Rozwija linię GLM 5 lepszymi wynikami benchmarków kodowania, wyróżniającymi się możliwościami cyberbezpieczeństwa (wynik CyberGym 84,5) oraz głębszą integracją z Bedrock, w tym API zgodnymi z OpenAI, buforowaniem promptów, wnioskowaniem między regionami i poziomami usług. AWS pokazuje też, jak użyć GLM 5.3 z open-source'owym agentem Strix do autoryzowanych testów penetracyjnych własnych aplikacji.
Inżynierowie Google opisują, jak zaimplementowali rzadką uwagę przestrzenno-czasową (sparse spatio-temporal attention) dla modeli dyfuzji wideo na chipach TPU v6e, przekształcając teoretyczną rzadkość podejścia Sparse VideoGen (SVG) w realne przyspieszenia sprzętowe. Dzięki serii optymalizacji kernela (specjalizacja kafelków pełnych/brzegowych, strojenie rozmiaru kafelków oraz wyrównanie kafelków maski) zredukowali opóźnienie kernela uwagi z 96,37ms (naiwna wersja rzadka) do 32,76ms, co daje 2,40x przyspieszenie względem gęstej Splash Attention na pojedynczym chipie TPU v6e, przy 75,6K tokenów, 10 głowicach i wymiarze głowicy 128.
NVIDIA wprowadza nową konfigurację 64GB zunifikowanej pamięci dla swojego osobistego superkomputera AI DGX Spark, dostępną u partnerów takich jak Acer, ASUS, Dell, HP, Gigabyte i MSI od 23 października w cenie 4 999 USD. System uruchamia lokalnie na urządzeniu modele do 100 miliardów parametrów, a dwie jednostki można połączyć w klaster za pomocą NVIDIA Sync Cluster Assistant, łącząc pamięć do 128GB i obsługując modele do 200 miliardów parametrów, z zyskiem wydajności do 1,7x w teście NVIDIA Qwen 3.8 27B. Urządzenie jest dostarczane z NVIDIA Agent Toolkit, bibliotekami CUDA-X AI, modelami Nemotron oraz wsparciem dla Ollama, vLLM i PyTorch od razu po wyjęciu z pudełka.