NVIDIA wprowadziła pięć filarów ko-projektowania dla platformy Vera Rubin NVL72, mających na celu maksymalizację przepustowości w zadaniach agentowych AI. Łącząc nowe formaty precyzji, takie jak NVFP4, szeroki paralelizyzm ekspertów oraz warstwę serwowania Dynamo, system traktuje pamięć jako zunifikowany, wielopoziomowy zasób między GPU, procesorami hosta a specjalistycznymi systemami pamięci masowej.
NVIDIA wprowadziła Nemotron 3.5 Super VL, multimodalny model 120B z oknem kontekstowym 1M tokenów. Model wykorzystuje hybrydową architekturę Mamba-2 oraz MoE, aby zrównoważyć możliwości rozumowania z wydajnością wnioskowania, i jest gotowy do wdrożenia w środowiskach Amazon EKS oraz SageMaker HyperPod.
Mistral AI udostępniło Mistral Large 4 (Le Chonk), model typu open-weight z 1 bilionem parametrów, zoptymalizowany pod kątem kodowania, cyberbezpieczeństwa i rozumowania. Model wprowadza trzy tryby rozumowania w celu zrównoważenia wydajności i kosztów oraz oferuje ulepszone mechanizmy bezpieczeństwa dla agentów AI.
NVIDIA udostępniła zbiory danych 'Nemotron-Personas' dla Francji i Belgii, mające na celu poprawę dokładności modeli LLM w odniesieniu do regionalnych procedur, demografii i niuansów kulturowych. Aktualizacja dostarcza kompletny przepływ pracy post-treningowej – w tym generowanie danych, dostrajanie LoRA przez NVIDIA NeMo oraz ewaluację – aby pomóc deweloperom przejść od modeli ogólnych do agentów specyficznych dla danej dziedziny.
Amazon wydał TorchNeuron – otwarty backend umożliwiający uruchamianie istniejącego kodu PyTorch na akceleratorach AWS Trainium bez większych zmian. Nowość wprowadza dodatkowy tryb wykonania oraz wielopoziomowe buforowanie ograniczające ponowną kompilację, a jej niezawodność zweryfikowano za pomocą agentów AI, które z setek tysięcy modeli Hugging Face wyodrębniły reprezentatywny zestaw testowy. Wewnętrzne testy na dużym modelu wykazały skrócenie czasu do pierwszego kroku treningowego o około jedną trzecią.
Google ogłosił nowe silniki wnioskowania (inference) vLLM i SGLang, zbudowane bezpośrednio na PyTorch dla TPU, opracowane odpowiednio z Inferact i RadixArk. Silniki działają na nowej warstwie TorchTPU, która czyni TPU natywnym urządzeniem PyTorch, zastępując wcześniejsze podejście oparte na JAX. Google podaje publiczny wynik benchmarku na poziomie 2,01 centa za milion tokenów przy konfiguracjach o wysokiej współbieżności w ramach projektu SemiAnalysis InferenceX, a także wsparcie dla obciążeń agentowych, długiego kontekstu, rozproszonego serwowania i modeli multimodalnych.
GLM 5.3 od Z.ai to model mixture-of-experts z 753 miliardami parametrów, zoptymalizowany pod kodowanie i długotrwałe zadania agentowe, dostępny teraz jako w pełni zarządzany model w Amazon Bedrock. Rozwija linię GLM 5 lepszymi wynikami benchmarków kodowania, wyróżniającymi się możliwościami cyberbezpieczeństwa (wynik CyberGym 84,5) oraz głębszą integracją z Bedrock, w tym API zgodnymi z OpenAI, buforowaniem promptów, wnioskowaniem między regionami i poziomami usług. AWS pokazuje też, jak użyć GLM 5.3 z open-source'owym agentem Strix do autoryzowanych testów penetracyjnych własnych aplikacji.