ALTK-Evolve od IBM Research wydobywa krótkie reguły zachowania z wcześniejszych prób agenta na zadaniach treningowych i dołącza je do system promptu podstawowego agenta ReAct działającego na GPT-4.1. W benchmarku obsługi klienta τ²-bench (domeny retail i airline) to podejście oparte na uczonej pamięci podniosło dokładność i niezawodność bez aktualizacji wag modelu i bez ludzkiej anotacji. Pełny zestaw wskazówek „lossless” podniósł wynik agenta GPT-4.1 do Pass^4 = 67,5% w retail — najwyższy wynik w migawce rankingu z 12 października 2026, przewyższając nawet model douczony specjalnie na syntetycznych danych retail. Technika poprawiła też agenta opartego na zaawansowanym GPT-5.5 w zadaniach airline, wynosząc go na szczyt tego rankingu.
Google ogłosił nowe silniki wnioskowania (inference) vLLM i SGLang, zbudowane bezpośrednio na PyTorch dla TPU, opracowane odpowiednio z Inferact i RadixArk. Silniki działają na nowej warstwie TorchTPU, która czyni TPU natywnym urządzeniem PyTorch, zastępując wcześniejsze podejście oparte na JAX. Google podaje publiczny wynik benchmarku na poziomie 2,01 centa za milion tokenów przy konfiguracjach o wysokiej współbieżności w ramach projektu SemiAnalysis InferenceX, a także wsparcie dla obciążeń agentowych, długiego kontekstu, rozproszonego serwowania i modeli multimodalnych.
Google Research ogłosił ukończenie ostatniego kamienia milowego otwartego standardu sprzętowego Coral NPU – 32-bitowej architektury RISC-V z nową jednostką Matrix Execution Unit (do 1 TOPS, ok. 10mW) oraz wydał kompilator open-source v1.0 oparty na IREE/MLIR, który przenosi modele z JAX, PyTorch i TensorFlow bezpośrednio na sprzęt. Synaptics wprowadza pierwsze komercyjne chipy oparte na tym standardzie, w tym serię mikrokontrolerów Astra SR200 (400 GOPS) oraz nowe zestawy deweloperskie Coralboard SR i SL, przy czym wersja SL jest już ogólnie dostępna przez DigiKey. Google współpracuje też z VeriSilicon i GlobalFoundries nad wdrożeniem otwartego RTL do produkcji chipów.
Red Hat, IBM i Google ogłosiły llm-d 1.0 — rozproszony system obsługi wnioskowania LLM natywny dla Kubernetes, który wykroczył poza demonstrowanie pojedynczych technik wydajnościowych i stał się gotowy do pełnej eksploatacji produkcyjnej. Wersja dodaje wielodostępową kontrolę jakości usług, operacje bez przestojów oraz obsługę świadomą agentów, dzięki czemu ten sam endpoint może efektywnie obsługiwać zarówno ludzi, jak i autonomiczne agenty. W jednym teście router świadomy prefiksów llm-d osiągnął 97% ponownego wykorzystania cache w obciążeniu agentowym związanym z kodowaniem, a IBM/Red Hat uruchomili 3000 jednoczesnych agentów inżynierii oprogramowania za 5-10 razy mniej niż koszt tego samego modelu jako usługi hostowanej.
AWS wprowadził strukturyzowane odpowiedzi dla wszystkich modeli Anthropic Claude dostępnych w Amazon Bedrock — zarówno w standardowym endpoincie runtime, jak i nowszym endpoincie Mantle przeznaczonym do zadań agentowych. Zamiast liczyć na to, że model zwróci poprawny JSON, deweloperzy mogą teraz wymusić dokładną zgodność odpowiedzi ze schematem dzięki ograniczonemu dekodowaniu, które blokuje generowanie tokenów łamiących format. Dodatkowa funkcja, strict tool use, zapewnia taką samą gwarancję dla parametrów wywołań narzędzi, dzięki czemu przepływy pracy agentów nie zawodzą przez błędnie sformatowane dane wejściowe.
AWS udostępnił Pegasus 1.5 — model wideo-językowy stworzony przez TwelveLabs — jako w pełni zarządzaną usługę w Amazon Bedrock. W odróżnieniu od wcześniejszych wersji, które odpowiadały na jedno pytanie dotyczące jednego klipu, ten model analizuje cały film i zwraca listę JSON ze wszystkimi momentami spełniającymi zdefiniowane przez użytkownika kryteria, wraz z czasem rozpoczęcia i zakończenia. Obsługuje też dłuższe nagrania — do dwóch godzin w jednym zapytaniu — i pozwala wczytać wideo bezpośrednio z S3 lub jako ciąg base64, bez wcześniejszego indeksowania.
AWS i Deepgram wspólnie przebudowały model rozpoznawania mowy Nova-3, aby działał natywnie na chipach Trainium2 zamiast standardowej infrastruktury PyTorch opartej na GPU, celując w duże zadania transkrypcji offline. Prace objęły przepisanie wąskich gardeł na własne kernele oraz zastąpienie warstwy serwującej Pythona środowiskiem uruchomieniowym w Rust, komunikującym się bezpośrednio z Trainium. Efekt: pojedyncza instancja trn2.3xlarge uruchamiająca osiem równoległych kopii modelu przetwarza 11-70% więcej dźwięku na dolara niż poprzednia infrastruktura Deepgram, a podobne oszczędności mogą być dostępne dla klientów samodzielnie hostujących rozwiązanie na SageMaker.
AWS udostępnił konektor NIXL typu „push” dla vLLM, zmieniający sposób przesyłania danych pamięci podręcznej klucz-wartość (KV) między instancjami prefill i decode w rozdzielonym serwowaniu LLM. Zamiast pobierania bloków KV przez instancję decode po zakończeniu prefill, instancja decode z wyprzedzeniem rejestruje docelową pamięć, a instancja prefill zapisuje dane KV bezpośrednio, gdy tylko są gotowe — usuwając koordynację ze ścieżki krytycznej. W testach z modelem Qwen3-32B w konfiguracji 1 prefill/1 decode na instancjach EC2 P5en z EFA, tryb push osiągnął nawet 3-krotnie lepszy czas do pierwszego tokenu (TTFT) i nawet o 30% lepszy czas generowania pojedynczego tokenu (TPOT) niż domyślny tryb pull, zwłaszcza przy dużym obciążeniu zapytaniami.
Microsoft ogłosił rozszerzenie ramy bezpieczeństwa Project Perception, mającej zająć się ryzykami wynikającymi z autonomicznych agentów AI – agenci są traktowani jako nowa kategoria „insidera”, wymagająca odrębnej tożsamości, uprawnień i kontroli ryzyka. Nowości obejmują Dynamic Permissions (dostęp oparty na zasadzie najmniejszych uprawnień, ograniczony do zadania i czasu), Dynamic Agent Risk (ciągła ocena ryzyka na podstawie odchyleń zachowania i kontekstu) oraz Dynamic Conditional Access (stopniowana reakcja — od zawężenia dostępu po pełną izolację środowiska wykonawczego). Microsoft rozszerza też wykrywanie i obsługę tożsamości (Microsoft Entra Agent ID) do 60 typów lokalnych agentów, w tym Claude Code, OpenAI Codex i GitHub Copilot, oraz wprowadza „Guardian Agents”, monitorujących i reagujących na ryzykowne zachowania agentów z prędkością maszyny.
DeepSeek wydał DeepSeek-V4.1-Flash-1017, zaktualizowaną wersję modelu Flash, dostępną przez ten sam endpoint API i w tej samej cenie co wcześniej. Aktualizacja przynosi znaczące poprawy w testach agentowych, kodowania i użycia narzędzi, jednocześnie skracając czas wykonania zadań i długość odpowiedzi. DeepSeek przedstawił również swoją wewnętrzną wyszukiwarkę, która teraz zasila zarówno wyszukiwanie w sieci/aplikacji, jak i API Search & Fetch dla deweloperów.