Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Badania AI

Prace naukowe, benchmarki, architektury, rozumowanie i metody trenowania.

“Agents” — 44 artykuły ✕

Badania· Ważne· 🧪 Warte przetestowania

Nowa metryka poprawia niezawodność agentów LLM poprzez uczenie spójności

Naukowcy wprowadzili Recursive Semantic Divergence (RSD) – nienadzorowaną metrykę, która mierzy i karze niespójność w trajektoriach działania agentów LLM. Stosując RSD jako sygnał nagrody podczas dostrajania (fine-tuning), modele wykazują znacznie bardziej stabilne zachowanie i wyższe wskaźniki sukcesu w zadaniach wykorzystujących narzędzia.

arXiv cs.CL
Badania· 🧪 Warte przetestowania

Interwencje w aktywacje nie gwarantują poprawnej logiki narzędziowej w LLM

Najnowsze badania nad modelem Qwen3.5-27B dowodzą, że choć interwencje w aktywacje mogą wymusić na modelu konkretną odpowiedź, często nie prowadzą do poprawnego wnioskowania. Zauważono, że zyski w poprawności wyboru zanikają przy zmianie kontekstu, co sugeruje, że wymuszone odpowiedzi nie odzwierciedlają logicznego zrozumienia warunków korzystania z narzędzi.

arXiv cs.CL

NVIDIA i Uniwersytet Waszyngtoński prezentują RFD4-Proteina do szybszego projektowania białek z AI

Zespół NVIDIA BioNeMo wspólnie z Institute for Protein Design na Uniwersytecie Waszyngtońskim zaprezentował RFD4-Proteina – model, który w jednym kroku generuje zarówno sekwencję białka, jak i pełną strukturę atomową, eliminując oddzielny etap inverse-folding stosowany we wcześniejszych rozwiązaniach. Dzięki pracy na reprezentacji na poziomie reszt (residue-level) oraz uproszczonemu procesowi dyfuzji, model wymaga tylko około 60 kroków odszumiania zamiast wcześniejszych ok. 400, co przekłada się na wyraźnie szybsze generowanie i znacznie mniejsze zużycie pamięci niż poprzednik RFD3 przy generowaniu białka o 200 resztach. Podczas generowania model może także prowadzić wyszukiwanie sterowane nagrodą (reward-guided search), które ocenia i rozwija częściowe projekty za pomocą narzędzi przyspieszanych przez GPU, takich jak OpenFold3 i TMol. Model jest dostępny zarówno jako otwarty model na GitHub, jak i jako mikroserwis NIM z interfejsem HTTP, a dedykowane narzędzia pozwalają zautomatyzowanym agentom łączyć etapy generowania, wyszukiwania i oceny.

NVIDIA Developer
Badania· Ważne· 🧪 Warte przetestowania

Plugin IBM pozwala vLLM monitorować i sterować LLM w czasie rzeczywistym niemal bez spowolnienia

IBM Research wydał vLLM-Hook MIA, plugin dla open-source'owego silnika wnioskowania vLLM, który pozwala deweloperom obserwować i ingerować w wewnętrzne stany modelu w czasie działania — np. odrzucać złośliwe prompty, oznaczać zmyślone fakty czy korygować ton odpowiedzi — bez wyłączania szybkiego trybu wykonywania opartego na powtarzaniu grafu w vLLM. Według raportu technicznego IBM, MIA jest nawet 20 razy szybszy niż poprzedni vLLM-Hook i nawet 14 razy szybszy niż metody wstawiające kod bezpośrednio do modelu. W testach sterowanie modelem 8B Llama lub 1,5B Qwen dodawało tylko około 2% opóźnienia, a model 70B Llama - około 6%.

IBM Research

Amazon zleca niezależnej organizacji AVERI przegląd swoich wewnętrznych testów bezpieczeństwa AI

Amazon nawiązał współpracę z niezależną organizacją non-profit AVERI, która zbadała jakość wewnętrznych zestawów danych do oceny bezpieczeństwa modeli AI, a nie same odpowiedzi modeli. AVERI przeanalizowało losową, zanonimizowaną próbkę promptów testowych obejmujących szkodliwe treści, cyberbezpieczeństwo, prywatność i prawa autorskie. Przegląd potwierdził dobre pokrycie tematyczne, różnorodność metod testowania i niskie ryzyko zanieczyszczenia danych, ale wskazał braki w pokryciu wielojęzycznym i testach wieloetapowych ataków adwersarialnych. W odpowiedzi Amazon wprowadził cztery konkretne zmiany.

Amazon Science
Badania· Ważne

Google ukończył otwartą architekturę edge-AI Coral NPU i kompilator, pojawiły się pierwsze komercyjne chipy

Google Research ogłosił ukończenie ostatniego kamienia milowego otwartego standardu sprzętowego Coral NPU – 32-bitowej architektury RISC-V z nową jednostką Matrix Execution Unit (do 1 TOPS, ok. 10mW) oraz wydał kompilator open-source v1.0 oparty na IREE/MLIR, który przenosi modele z JAX, PyTorch i TensorFlow bezpośrednio na sprzęt. Synaptics wprowadza pierwsze komercyjne chipy oparte na tym standardzie, w tym serię mikrokontrolerów Astra SR200 (400 GOPS) oraz nowe zestawy deweloperskie Coralboard SR i SL, przy czym wersja SL jest już ogólnie dostępna przez DigiKey. Google współpracuje też z VeriSilicon i GlobalFoundries nad wdrożeniem otwartego RTL do produkcji chipów.

Google Developers
Badania· Ważne

Nowe badanie: agent AI nie decyduje się na posłuszeństwo wobec prompt injection od razu — decyzja kształtuje się w trakcie rozumowania

Nowe badanie podważa powszechne przekonanie, że los agenta AI wobec ataku prompt injection jest przesądzony w momencie przeczytania złośliwego tekstu. Badacze opracowali metodę rozgałęzionych przebiegów (branching rollouts) na zestawach testowych AgentDojo: powtarzali przebieg agenta do momentu, gdy natrafia na wstrzykniętą instrukcję, a następnie wielokrotnie symulowali dalszy ciąg epizodu, by zmierzyć, ile ostatecznego wyniku było już przesądzone, a ile pozostawało otwarte. Dla agenta Qwen3 bez rozszerzonego rozumowania ('thinking') 91% wyniku było już ustalone w tym momencie; po włączeniu rozumowania wskaźnik ten spadł do 62%, co pokazuje, że decyzja o posłuszeństwie często kształtuje się jeszcze długo po pierwszym kontakcie z atakiem. Włączenie rozumowania obniżyło też skuteczność ataków wobec Qwen3, ale zwiększyło ją dla dwóch innych testowanych modeli, a wyniki benchmarków dla rozumujących agentów różniły się po powtórzeniu testu nawet w 35% przypadków.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

AWS wprowadza przesyłanie KV typu „push”, skracające opóźnienia w rozdzielonej infrastrukturze vLLM

AWS udostępnił konektor NIXL typu „push” dla vLLM, zmieniający sposób przesyłania danych pamięci podręcznej klucz-wartość (KV) między instancjami prefill i decode w rozdzielonym serwowaniu LLM. Zamiast pobierania bloków KV przez instancję decode po zakończeniu prefill, instancja decode z wyprzedzeniem rejestruje docelową pamięć, a instancja prefill zapisuje dane KV bezpośrednio, gdy tylko są gotowe — usuwając koordynację ze ścieżki krytycznej. W testach z modelem Qwen3-32B w konfiguracji 1 prefill/1 decode na instancjach EC2 P5en z EFA, tryb push osiągnął nawet 3-krotnie lepszy czas do pierwszego tokenu (TTFT) i nawet o 30% lepszy czas generowania pojedynczego tokenu (TPOT) niż domyślny tryb pull, zwłaszcza przy dużym obciążeniu zapytaniami.

AWS Machine Learning
Badania· Ważne

Google Research buduje agentów AI, którzy samodzielnie przeprowadzają eksperymenty laboratoryjne

Google Research przedstawił badania nad osadzaniem agentów AI w fizycznej rzeczywistości laboratoryjnej za pomocą systemu cyfrowego bliźniaka o nazwie VERID, który pozwala agentom bezpiecznie planować i wykonywać protokoły robotów do obsługi cieczy. W połączeniu z zamkniętymi cyklami projektowania molekularnego dla aptamerów i białek, agenci uczyli się na podstawie wyników laboratoryjnych, poprawiając wskaźniki skuteczności w kolejnych rundach i ostatecznie odkrywając jednocyfrowe nanomolowe białka wiążące dla celu związanego z nowotworem.

Google Research

Google DeepMind wykorzystuje platformę agentową Antigravity do znalezienia nowego kandydata na peptyd przeciwdrobnoustrojowy

Google DeepMind pokazał, jak platforma agentowa Google Antigravity w połączeniu z modelem ProtNLM pomogła badaczom przeszukać miliony niescharakteryzowanych białek w bazie UniProt i znaleźć nowego kandydata na peptyd przeciwdrobnoustrojowy działający na patogeny dróg oddechowych. Agent AI wykonywał zapytania do baz danych, porównania strukturalne przez AlphaFold i analizę kontekstu genomowego, podczas gdy badacz kierował strategią naukową. Znaleziony kandydat jest obecnie testowany w laboratorium, a w Antigravity wprowadzono nowe narzędzie do przeglądania struktur 3D biomolekuł do wspólnej pracy człowieka i agenta.

Google DeepMind
Badania· 🧪 Warte przetestowania

AWS udostępnia open source'owe optymalizacje kerneli MoE dla vLLM – mniejsze opóźnienia i wyższa przepustowość na H200

AWS przedstawił trzy optymalizacje na poziomie kerneli dla obsługi modeli Mixture-of-Experts (MoE) na GPU Hopper, opracowane we współpracy ze społecznością vLLM i wdrożone w kontenerze LMI Amazon SageMaker AI. Zmiany eliminują nieefektywność obliczeń fused MoE podczas fazy dekodowania z małymi partiami, gdzie wcześniej rdzenie Tensor Core były niedostatecznie wykorzystywane. Łącznie optymalizacje dają do 10% wyższą przepustowość i do 9% szybszy czas do pierwszego tokena (TTFT).

AWS Machine Learning
Badania· Ważne

IBM pokazuje, że agenci AI oparte na otwartych modelach mogą obniżyć koszty projektowania chipów ponad 11-krotnie

IBM Research wykorzystało skoordynowaną „fabrykę agentów” wieloagentowych do eksploracji optymalizacji sprzętowych dekodera korekcji błędów kwantowych, porównując modele własnościowe i otwarte modele wiodące przy tym samym budżecie 100 hipotez. Konfiguracja z otwartym modelem, uruchomiona lokalnie przez framework rozproszonego wnioskowania IBM llm-d, osiągnęła 52-krotne przyspieszenie względem bazowego projektu za około 26 USD kosztów wnioskowania, w porównaniu do 299 USD dla konfiguracji z modelem własnościowym, która osiągnęła wyższe, 204-krotne przyspieszenie. Badanie pokazuje, że routing uwzględniający pamięć podręczną i efektywne serwowanie (98% trafień w cache prefiksów, ~0,11 USD za milion tokenów) sprawiły, że podejście z otwartymi modelami było znacznie tańsze, przy wciąż znajdowaniu poprawnych, kompaktowych projektów sprzętowych.

IBM Research
Badania· 🧪 Warte przetestowania

Badacze Apple proponują samodzielnie decydującą kompaktyzację kontekstu dla długo działających agentów AI

Badacze Apple ML opublikowali artykuł na NeurIPS wprowadzający SELFCOMPACT – strukturę pozwalającą agentom opartym na modelach językowych samodzielnie decydować, kiedy i jak kompaktować zgromadzony kontekst, zamiast polegać na kompaktyzacji wyzwalanej w stałych odstępach na podstawie liczby tokenów. Metoda łączy narzędzie kompaktyzacji wywoływane przez model z lekkim zestawem reguł wskazujących, kiedy działać (gdy podzadanie zostało rozwiązane) i kiedy wstrzymać się (w trakcie wyprowadzania lub przy utknięciu). Testowana na sześciu benchmarkach i siedmiu modelach, dorównała lub przewyższyła kompaktyzację w stałych odstępach, zużywając znacznie mniej tokenów.

Apple Machine Learning
Badania· Ważne· 🧪 Warte przetestowania

„Priming” od Amazon zamienia wstępnie wytrenowane modele Transformer w wydajne hybrydy za mniej niż 1% kosztu treningu

Badacze z Amazon Web Services opublikowali metodę „priming”, która przekształca wstępnie wytrenowane modele Transformer w architektury hybrydowe łączące warstwy uwagi (attention) i modeli przestrzeni stanów (SSM), wykorzystując istniejące wagi zamiast treningu od zera. Podejście obniża koszty wstępnego treningu o ponad 99% i pozwala 32-miliardowemu modelowi hybrydowemu dorównać jakością źródłowemu modelowi Transformer, dekodując nawet dwukrotnie szybciej. Amazon przetestował trzy typy SSM i udostępnił otwartoźródłowy zestaw modeli, kod treningowy oraz narzędzia na licencji Apache 2.0.

Amazon Science

NVIDIA otwiera architekturę stojaków Vera Rubin i promuje otwarte standardy dla centrów danych AI

Podczas OCP Global Summit NVIDIA przekazała projekty stojaków i tac obliczeniowych Vera Rubin do otwartej architektury MGX oraz ogłosiła szereg partnerstw dotyczących zasilania, chłodzenia i standardów sieciowych dla fabryk AI. Wśród partnerów są hiperskalowi gracze tacy jak Meta, Google, Microsoft i AMD, a także Cisco i Visionbay. Ogłoszenia obejmują specyfikacje stojaków (MGX 1.2), nowe oprogramowanie open source do zarządzania centrami danych AI (komponenty DSX OS), standardy odporności sieci energetycznej, architekturę zasilania 800V DC, nowe przełączanie Ethernet (Spectrum-6) oraz nowy standard modułów optycznych (USFP) wspólnie z Cisco.

NVIDIA

NVIDIA pokazuje, jak uczynić wielkoskalowe pretrenowanie modeli deterministycznym bitowo przy niskim koszcie

NVIDIA opisała przepływ pracy wbudowany w Megatron Core, który sprawia, że wielkoskalowe pretrenowanie jest deterministyczne na poziomie bitowym — niezależne lub wznawiane z checkpointu uruchomienia treningu podążają dokładnie tą samą trajektorią numeryczną. Dzięki fingerprintingowi tensorów na poziomie faz treningu, modułów, operacji i kerneli inżynierowie mogą namierzyć niedeterminizm aż do konkretnego kernela i go naprawić. Dla modelu Nemotron z bilionem parametrów działającego na 2432 GPU optymalizacje obniżyły koszt wymuszania determinizmu ('determinism tax') do około 2%, zachowując identyczne bitowo wyniki przez 800 kroków treningu.

NVIDIA Developer

Apple prezentuje metodę trenowania agentów w wielu środowiskach opartą na rubrykach

Badacze Apple, wspólnie z Narodowym Uniwersytetem Singapuru, opublikowali pracę o RISED – nowej metodzie trenowania agentów LLM, które muszą jednocześnie uczyć się w wielu różnych środowiskach interaktywnych. Zamiast polegać wyłącznie na skalarnych sygnałach nagrody, RISED wykorzystuje sędziego LLM, który oznacza każdy przebieg treningowy rubrykami opisującymi zachowanie, a następnie wykorzystuje te oznaczenia do wyboru danych treningowych i dostarczenia dodatkowego nadzoru. Autorzy podają, że RISED osiąga najwyższy średni wskaźnik sukcesu we wszystkich środowiskach w porównaniu z istniejącymi metodami, zajmując pierwsze lub drugie miejsce w każdym testowanym środowisku.

Apple Machine Learning

Google Research publikuje raport o wyzwaniach prywatności i bezpieczeństwa autonomicznych agentów AI

Google Research opublikowało raport z warsztatów Contextual Agent Privacy and Security (CAPS), współtworzony przez ponad 50 naukowców i przedstawicieli branży. Raport argumentuje, że agenci AI muszą rozumieć kontekstowe normy społeczne, a nie tylko statyczne uprawnienia, aby działać właściwie przy obsłudze danych osobowych i wykonywaniu działań w imieniu użytkownika. Zaproponowano wielowarstwowe podejście obejmujące sandboxing na poziomie systemu, wnioskowanie na poziomie modelu, kontrolki zorientowane na użytkownika, zabezpieczenia wielu agentów i zarządzanie ekosystemem, oparte na teorii Integralności Kontekstowej (Contextual Integrity).

Google Research
Badania· Ważne· 🧪 Warte przetestowania

GitHub udostępnia ReviewBench — wspólny standard oceny agentów AI do przeglądu kodu

GitHub opublikował ReviewBench, benchmark w fazie podglądu badawczego (research preview), który ma umożliwić porównywanie agentów AI do przeglądu kodu według wspólnego, weryfikowalnego standardu. Zbiór danych obejmuje 219 rzeczywistych publicznych pull requestów w 19 językach i 187 repozytoriach, dobranych tak, by odzwierciedlały rozkład języków i rozmiarów wśród 103,9 mln rzeczywistych pull requestów na GitHubie. Dane referencyjne (ground truth) pochodzą z połączenia recenzentów-ludzi, narzędzi do analizy statycznej oraz kilku czołowych modeli LLM, a ich oceny zweryfikowali starsi inżynierowie, których osądy zgadzały się z etykietami benchmarku w 96,6% przypadków. GitHub twierdzi, że już wykorzystał ReviewBench wewnętrznie do śledzenia własnego produktu Copilot code review (CCR), a zmiany wyników offline wiarygodnie przewidywały kierunek późniejszych testów A/B na produkcji.

GitHub

AWS opisuje agentową sztuczną inteligencję opartą na grafach do analizy przyczyn źródłowych w sieciach

Naukowcy z AWS opisują system, który modeluje sieć telekomunikacyjną jako stale aktualizowany graf ('cyfrowego bliźniaka') i wykorzystuje agentów AI do uruchamiania kaskady algorytmów grafowych (dekompozycja, klasteryzacja, rankingowanie centralności), aby zlokalizować źródłowe przyczyny awarii. Metodę zademonstrowano wspólnie z NTT DOCOMO na konferencji Mobile World Conference, podobno skracając czas analizy przyczyn źródłowych z godzin do minut w sieciach komercyjnych. Agenci konsultują też bazę wiedzy o incydentach oraz runbooki, a z czasem mogą przechodzić od roli doradczej do pełnej, samodzielnej naprawy.

Amazon Science