Amazon umożliwił rozliczanie oprogramowania w modelu usage-based dla modeli działających w ramach dwukierunkowego streamingu w SageMaker AI. Wcześniej naliczanie opłat za długotrwałe sesje streamingowe było utrudnione, ponieważ nie można było ich powiązać z prostymi nagłówkami odpowiedzi HTTP. Teraz dostawcy modeli mogą raportować wykorzystanie w czasie rzeczywistym za pomocą dedykowanego połączenia WebSocket z metadanymi.
Firma MiniMax uruchomiła MiniMax-H3-Image-PE, dostrojoną wersję modelu Qwen3.8-27B, zaprojektowaną do przekształcania krótkich promptów tekstowych w bardzo szczegółowe opisy dla celów generowania obrazów. Wydanie obejmuje konkretne procesy robocze dla rozszerzania tekst-na-obraz oraz wczesne wsparcie dla promptów edycji obrazów.
NVIDIA wprowadziła open-source'owe narzędzie NVIDIA Snapshot dla zadań GPU działających w środowisku Kubernetes. Poprzez zapisywanie w pełni zainicjowanych modeli i ich stanów, system pozwala replikom wnioskowania (inference) na wznowienie pracy w kilka sekund zamiast minut, eliminując powtarzalne etapy inicjalizacji.
NVIDIA przekazała projekt Agent Substrate do CNCF Sandbox, aby rozwiązać problem nieefektywnego uruchamiania agentów AI w środowisku Kubernetes. Platforma pozwala na multipleksowanie wielu sesji agentów w małej puli aktywnych podów typu worker poprzez zapisywanie stanu pamięci i systemu plików w okresach bezczynności.
Amazon wprowadził siedmiowarstwową architekturę referencyjną, mającą na celu przeniesienie aplikacji opartych na agentach AI z fazy prototypów do systemów gotowych do wdrożenia produkcyjnego. Framework promuje modularną i wymienną strukturę, wykorzystującą stabilne kontrakty między warstwami, takimi jak dane, wnioskowanie, orkiestracja i bezpieczeństwo.
Google Cloud uruchomiło funkcję dynamicznego dzielenia zasobów TPU (dynamic slicing) w GKE, co pozwala na rozdzielenie logicznych konfiguracji sprzętowych od fizycznych pul węzłów. To rozwiązanie eliminuje konieczność ręcznego przebudowywania pul podczas zmiany wymagań, przyspieszając wdrażanie zadań i zwiększając odporność systemów na awarie.
NVIDIA wprowadziła przepisy wdrożeniowe dla czterech czołowych koreańskich modeli typu open, w tym A.X K2 i Solar Open 2, w ramach frameworka Dynamo. Rozwiązania te są zoptymalizowane pod kątem wielowęzłowych klastrów GPU NVIDIA B200, co pozwala na sprawne skalowanie wnioskowania.
Badacze zaprezentowali „RL-ATTACK”, nową metodę wykorzystującą uczenie ze wzmocnieniem do generowania ataków typu adversarial na modele językowe, bez potrzeby posiadania dostępu do gradientów modelu. Metoda ta, ucząc się na podstawie reakcji celu, osiąga wysoką efektywność przy niewielkiej liczbie zapytań i skutecznie omija mechanizmy bezpieczeństwa.
Firma NVIDIA wprowadziła nowe narzędzia optymalizacyjne w TensorRT LLM VisualGen dla modelu FLUX 3 Image Klein. Dzięki zastosowaniu kwantyzacji NVFP4, fuzji jąder obliczeniowych, rzadkiej atencji (sparse attention) oraz buforowania kroków, można uzyskać do 3,46 razy szybsze generowanie obrazu na sprzęcie NVIDIA Blackwell.
Usługa Amazon SageMaker Inference wprowadziła obsługę NVIDIA Multi-Instance GPU (MIG), co pozwala na dzielenie pojedynczego fizycznego procesora graficznego na wiele niezależnych jednostek. Ten podział sprzętowy zapewnia każdej partycji dedykowane zasoby obliczeniowe i pamięć, gwarantując przewidywalne opóźnienia oraz silną izolację pomiędzy modelami hostowanymi na tym samym akceleratorze.
Firma Taxbit wdrożyła bezpiecznego, świadomego ról asystenta AI przy użyciu Amazon Bedrock AgentCore, aby zautomatyzować wsparcie w oparciu o dokumentację produktu. Agent wykorzystuje RAG do opierania odpowiedzi na zweryfikowanych treściach, jednocześnie rygorystycznie egzekwując maskowanie PII, regionalną rezydencję danych oraz uprawnienia oparte na rolach użytkowników.
Google udostępniło Gemini Omni 1.2 Flash – aktualizację modelu skoncentrowaną na produkcji wideo. Rozszerza ona natywne generowanie wideo do 15 sekund, poprawia spójność obiektów i postaci oraz wprowadza edycję w trybie konwersacyjnym.
NVIDIA wprowadziła pięć filarów ko-projektowania dla platformy Vera Rubin NVL72, mających na celu maksymalizację przepustowości w zadaniach agentowych AI. Łącząc nowe formaty precyzji, takie jak NVFP4, szeroki paralelizyzm ekspertów oraz warstwę serwowania Dynamo, system traktuje pamięć jako zunifikowany, wielopoziomowy zasób między GPU, procesorami hosta a specjalistycznymi systemami pamięci masowej.
Firma Gradium udostępniła Phonon, zestaw kompaktowych (65-75 MB) modeli zamiany tekstu na mowę, zaprojektowanych do pracy w całości na urządzeniach końcowych. Modele obsługują pięć języków, działają offline i oferują wydajność porównywalną z rozwiązaniami o znacznie większych rozmiarach.
NVIDIA wydała CUDA 13.5, osiągając etap ogólnej dostępności dla nowej architektury GPU Vera Rubin. Aktualizacja wprowadza istotne ulepszenia w harmonogramowaniu zasobów przez multi-process service (MPS), partycjonowaniu domen lokalnych oraz głębszą integrację z bibliotekami SIMT poprzez CUDA Tile.
Nowa metoda o nazwie FlagRot optymalizuje kwantyzację pamięci podręcznej kluczy-wartości (KV) dla modeli z długim kontekstem. Dzięki selektywnej rotacji segmentów kluczy w oparciu o błąd atencji, zamiast stosowania rotacji globalnej, redukuje utratę dokładności w pamięciach 2-bitowych lub 4-bitowych.
Nowe badania pokazują, że historię rozumowania można przepisać na kompaktowe rekordy stanu przed wprowadzeniem nowych wyników narzędzi. Metoda ta skutecznie zmniejsza liczbę przyszłych tokenów rozumowania i łączne wydatki na agenta poprzez eliminację zbędnych przemyśleń, bez konieczności douczania modelu.
Naukowcy opracowali metodę obliczania teoretycznej górnej granicy wydajności spekulatywnego dekodowania wielowariantowego (MDSD) poprzez rozwiązanie dualnego problemu transportu optymalnego. Badanie wykazuje, że obecne algorytmy weryfikacji często nie osiągają tego teoretycznego limitu, a próbkowanie bez zwracania (sampling without replacement) znacząco poprawia wskaźniki akceptacji w porównaniu do próbkowania ze zwracaniem.
NVIDIA uruchomiła Cosmos, platformę oferującą fundamenty modeli światowych i narzędzia dla Physical AI, dedykowaną zastosowaniom takim jak robotyka czy pojazdy autonomiczne. Framework zawiera modułowe przepisy do uczenia oraz mikrousługi NIM, które przyspieszają inferencję i umożliwiają generowanie zsynchronizowanych danych wideo oraz LiDAR.
Amazon opublikował metodologię wykorzystania destylacji wiedzy na poziomie sekwencji (SeqKD) do dostrajania mniejszych modeli na trajektoriach wygenerowanych przez modele typu frontier. Dzięki wykorzystaniu modelu „nauczyciela” do generowania udanych trajektorii użycia narzędzi oraz filtrowaniu ich za pomocą programowego skorelowania, zespoły mogą trenować kompaktowe modele „uczniów”, które realizują złożone rozumowanie przy ułamku kosztów.
NVIDIA wprowadziła „Workload Map”, narzędzie zapewniające ujednolicony sposób interpretacji rozproszonych obciążeń AI przez planery i platformy Kubernetes. Dzięki deklaratywnym definicjom YAML eliminuje potrzebę tworzenia niestandardowych adapterów dla każdego nowego frameworka, takiego jak JobSet, Ray czy KServe.
Badacze z Apple zaprezentowali infrastrukturę do uczenia online agentów mobilnych, która rozdziela logikę planowania od interpretacji wizualnej interfejsu. Dzięki zastosowaniu szczegółowych sygnałów zwrotnych od LLM oraz nowej metody GiGPPO, modele te osiągają znacznie lepszą stabilność niż systemy szkolone wyłącznie na statycznych danych.
Najnowsze badania pokazują, że wiele głowic atencji w dużych modelach językowych jest zbędnych i bezpośrednio przyczynia się do dosłownego powielania danych treningowych. Dzięki selektywnemu wyłączaniu tych głowic podczas wnioskowania, naukowcy osiągnęli 91,5% redukcję incydentów zapamiętywania przy jednoczesnej poprawie wydajności w standardowych testach porównawczych.
Firma NVIDIA udostępniła AI Cluster Runtime (AICR), aby pakować infrastrukturę inferencyjną Dynamo w zweryfikowane przepisy wdrożeniowe. Ta aktualizacja upraszcza proces instalacji poprzez przypinanie wersji komponentów i usuwanie obowiązkowych zależności, takich jak NATS, wprowadzając jednocześnie nowe ścieżki routingu oparte na pamięci KV dla Kubernetes.