Firma NVIDIA wprowadziła nowe narzędzia optymalizacyjne w TensorRT LLM VisualGen dla modelu FLUX 3 Image Klein. Dzięki zastosowaniu kwantyzacji NVFP4, fuzji jąder obliczeniowych, rzadkiej atencji (sparse attention) oraz buforowania kroków, można uzyskać do 3,46 razy szybsze generowanie obrazu na sprzęcie NVIDIA Blackwell.
NVIDIA wprowadziła pięć filarów ko-projektowania dla platformy Vera Rubin NVL72, mających na celu maksymalizację przepustowości w zadaniach agentowych AI. Łącząc nowe formaty precyzji, takie jak NVFP4, szeroki paralelizyzm ekspertów oraz warstwę serwowania Dynamo, system traktuje pamięć jako zunifikowany, wielopoziomowy zasób między GPU, procesorami hosta a specjalistycznymi systemami pamięci masowej.
Naukowcy odkryli, że modele LLM wykazują tendencję do udzielania natychmiastowych, często błędnych odpowiedzi w niejednoznacznych sytuacjach, zamiast zadawania pytań wyjaśniających. Wprowadzili BACE (Belief-Aware Critic with Epistemic tracking) – lekką metodę działającą na zamrożonym modelu językowym, która strategicznie decyduje, kiedy poprosić o doprecyzowanie.
Firma Dharma-AI wprowadziła model o 2 miliardach parametrów, wyspecjalizowany w ekstrakcji ustrukturyzowanych danych JSON z różnych dokumentów. Obsługuje on zarówno ekstrakcję otwartą, jak i sterowaną schematem, konsekwentnie przewyższając zaawansowane modele LLM w testach F1, przy jednoczesnym znacznym obniżeniu kosztów operacyjnych.
NVIDIA wprowadziła workflow pozwalający na przekształcenie błędów agentów wykrytych w środowisku produkcyjnym w ustrukturyzowane testy przy użyciu NeMo Compass i NeMo Eval Author. Proces ten analizuje logi, identyfikuje powtarzające się problemy, generuje celowane testy i waliduje wprowadzane poprawki.
Nowa metoda o nazwie FlagRot optymalizuje kwantyzację pamięci podręcznej kluczy-wartości (KV) dla modeli z długim kontekstem. Dzięki selektywnej rotacji segmentów kluczy w oparciu o błąd atencji, zamiast stosowania rotacji globalnej, redukuje utratę dokładności w pamięciach 2-bitowych lub 4-bitowych.
Naukowcy przedstawili SLATE, narzędzie do oceny długoterminowego wyboru API na dużą skalę w środowiskach korporacyjnych. W odróżnieniu od obecnych testów, wymusza on na modelach nawigację wśród około 1000 narzędzi w celu wykonania złożonych zadań.
Nowe badania pokazują, że historię rozumowania można przepisać na kompaktowe rekordy stanu przed wprowadzeniem nowych wyników narzędzi. Metoda ta skutecznie zmniejsza liczbę przyszłych tokenów rozumowania i łączne wydatki na agenta poprzez eliminację zbędnych przemyśleń, bez konieczności douczania modelu.
Naukowcy opracowali metodę obliczania teoretycznej górnej granicy wydajności spekulatywnego dekodowania wielowariantowego (MDSD) poprzez rozwiązanie dualnego problemu transportu optymalnego. Badanie wykazuje, że obecne algorytmy weryfikacji często nie osiągają tego teoretycznego limitu, a próbkowanie bez zwracania (sampling without replacement) znacząco poprawia wskaźniki akceptacji w porównaniu do próbkowania ze zwracaniem.
Firma Collinear AI wprowadziła CWE-bench v2, zestaw testowy obejmujący 100 zadań dotyczących 91 powszechnych typów podatności. Narzędzie to umożliwia programistom programową ocenę skuteczności agentów AI w wykrywaniu i naprawianiu luk w zabezpieczeniach w repozytoriach open-source.
Firma Google wdrożyła pakiet narzędzi Cheminformatics Skills dla platformy Antigravity, umożliwiając agentom AI obsługę pełnych potoków odkrywania leków. Dzięki integracji biblioteki RDKit z orkiestracją opartą na LLM, system potrafi przeprowadzić analizę literatury, analizę danych oraz zaplanować syntezę chemiczną w około godzinę.
Badania wykazały, że te same instrukcje dotyczące persony prowadzą do różnych zachowań modeli LLM przy przełączaniu się między językiem angielskim a koreańskim. O ile kupujący postępowali zgodnie z wytycznymi w podobny sposób, sprzedający stali się znacznie bardziej ugodowi i uprzejmi w języku koreańskim, co prowadziło do częstszego zawierania umów i niższych cen.
Naukowcy przedstawili MEMENTO, specjalistyczny framework agentowy oparty na Qwen3-8B, zaprojektowany do zarządzania długim kontekstem poprzez kompresję historii w zwięzłe notatki. Wykorzystując dostrajanie na syntetycznych trajektoriach oraz uczenie ze wzmocnieniem, osiąga wysoką dokładność w zadaniach na poziomie książek, ograniczając użycie kontekstu do 20 tys. tokenów, nawet przy danych wejściowych rzędu 2,5 mln tokenów.
Amazon wprowadził system wielu agentów zbudowany na bazie Bedrock AgentCore, który automatyzuje ocenę i wymianę dokumentacji technicznej. Architektura łączy multimodalne wyszukiwanie informacji, deterministyczne sprawdzanie reguł w Pythonie oraz hierarchiczną orkiestrację modeli LLM.
Badacze z Apple zaprezentowali infrastrukturę do uczenia online agentów mobilnych, która rozdziela logikę planowania od interpretacji wizualnej interfejsu. Dzięki zastosowaniu szczegółowych sygnałów zwrotnych od LLM oraz nowej metody GiGPPO, modele te osiągają znacznie lepszą stabilność niż systemy szkolone wyłącznie na statycznych danych.
Najnowsze badania pokazują, że wiele głowic atencji w dużych modelach językowych jest zbędnych i bezpośrednio przyczynia się do dosłownego powielania danych treningowych. Dzięki selektywnemu wyłączaniu tych głowic podczas wnioskowania, naukowcy osiągnęli 91,5% redukcję incydentów zapamiętywania przy jednoczesnej poprawie wydajności w standardowych testach porównawczych.
Najnowsze badania wykazują, że modele językowe nie potrafią adaptować się do ewoluujących preferencji użytkownika, często polegając na nieaktualnych danych historycznych. Chociaż modele dobrze radzą sobie z wyborem strategii w testach wielokrotnego wyboru, podczas generowania otwartego odnotowano spadek kalibracji o 35–46%.
Naukowcy zaprezentowali CoFiBreak, mechanizm nagradzania podczas trenowania atakujących modeli LLM, który wymusza większą różnorodność strategii przełamywania zabezpieczeń. Dzięki zastosowaniu struktury nagród typu „coarse-to-fine” (od ogółu do szczegółu) w optymalizacji polityki grupowej (GRPO), metoda ta pozwala uniknąć typowej dla uczenia wzmacnianego zapaści, w której modele skupiają się na wąskim zestawie powtarzalnych promptów.
Firma NVIDIA udostępniła AI Cluster Runtime (AICR), aby pakować infrastrukturę inferencyjną Dynamo w zweryfikowane przepisy wdrożeniowe. Ta aktualizacja upraszcza proces instalacji poprzez przypinanie wersji komponentów i usuwanie obowiązkowych zależności, takich jak NATS, wprowadzając jednocześnie nowe ścieżki routingu oparte na pamięci KV dla Kubernetes.
NVIDIA udostępniła nowy interfejs wiersza poleceń dla środowiska uruchomieniowego TensorRT Edge-LLM, umożliwiający programistom szybkie tworzenie prototypów i testowanie modeli AI na stacjach roboczych DGX Spark 64GB. Zestaw narzędzi ułatwia lokalne serwowanie modeli i wspiera dekodowanie spekulatywne DSpark, zwiększając wydajność generowania na sprzęcie o ograniczonych zasobach.
Amazon umożliwił automatyzację UI opartą na intencjach, łącząc Nova Act z narzędziem Bedrock AgentCore Browser Tool. Pozwala to zespołom definiować przepływy testowe za pomocą instrukcji w języku naturalnym, zamiast utrzymywać sztywne bazy kodu oparte na selektorach.
AssemblyAI udostępniło Universal-3 Pro, wyspecjalizowany model zamiany mowy na tekst, który umożliwia programistom wydawanie poleceń bezpośrednio podczas procesu transkrypcji. Obsługuje transkrypcję dokładną (verbatim) oraz oczyszczoną, etykietowanie zdarzeń dźwiękowych i automatyczne przełączanie między sześcioma językami.
Firma Anthropic udostępniła w wersji beta API do analizy zużycia i kosztów, umożliwiające organizacjom precyzyjne monitorowanie zużycia tokenów oraz wydatków. Nowe narzędzie oferuje zaawansowane filtrowanie i grupowanie danych według modeli, obszarów roboczych, kluczy API oraz kont użytkowników.
NVIDIA wprowadziła Nemotron 3.5 Super VL, multimodalny model 120B z oknem kontekstowym 1M tokenów. Model wykorzystuje hybrydową architekturę Mamba-2 oraz MoE, aby zrównoważyć możliwości rozumowania z wydajnością wnioskowania, i jest gotowy do wdrożenia w środowiskach Amazon EKS oraz SageMaker HyperPod.