Najnowsze badania wykazują, że w procesie in-context learning (ICL), przy ograniczonym budżecie tokenów, skuteczniejsze jest stosowanie większej liczby krótkich przykładów niż kilku długich. Testy na sześciu modelach LLM w zadaniach QA potwierdziły, że ziarnistość przykładów ma kluczowe znaczenie dla wydajności.
Analiza na dużą skalę wykazała, że choć dodatki architektoniczne, takie jak warstwy „Canon”, mogą zwiększyć wydajność o 30%, to nawet najnowocześniejsze modele zawodzą w podstawowych zadaniach wnioskowania dwuetapowego. Badanie wskazuje, że standardowe benchmarki maskują fundamentalne wady w wyszukiwaniu informacji i dedukcji logicznej.
Badacze zaprezentowali PRKV, innowacyjną metodę usuwania elementów z pamięci podręcznej KV, wykorzystującą algorytmy Personalized PageRank na grafach przejść. Technika ta szacuje globalne znaczenie tokenów, wykraczając poza proste kryterium świeżości, co pozwala na kompresję pamięci KV do 90% bez konieczności ponownego trenowania modeli.
FieldGuide to nowy system, który organizuje zbiory dokumentów w hierarchie tematyczne, wspierając agentów AI w przeszukiwaniu danych. Badania wykazują, że pozwala on realizować zadania przy znacznie mniejszym zużyciu tokenów i w krótszym czasie w porównaniu do standardowego RAG.
Nowa metoda przyczynowa o nazwie RAW (Refusal Aversion in the Wild) wykorzystuje stochastyczność LLM do mierzenia, jak często odmowy odpowiedzi prowadzą do porzucenia platformy przez użytkowników. Dzięki analizie logów z interakcji możesz określić dokładny wpływ odmów na późniejsze zaangażowanie użytkowników.
Badacze przedstawili „OmniTag-Bench”, nowy pięciojęzyczny zestaw testowy do oceny multimodalnych modeli LLM pod kątem jednoczesnej transkrypcji mowy i tagowania metadanych. Badanie wykazuje, że jeden, dotrenowany multimodalny model może wyodrębniać transkrypcje, emocje, płeć, język oraz nazwy własne w jednym przebiegu wnioskowania, zastępując łańcuchy specjalistycznych modeli.
Naukowcy wprowadzili Trident, system zaprojektowany w celu usprawnienia pracy agentów opartych na LLM poprzez rozwiązanie trzech problemów: nieefektywnego pobierania informacji, redundancji zachowań oraz ryzykownego nadpisywania całej logiki agenta. Dzięki zastosowaniu inteligentnego czytania pamięci, routingu opartego na różnorodności oraz aktualizacji przez wstawianie, Trident przewyższa obecne metody refleksji i pamięci.
Naukowcy zaprezentowali EndoUT, framework typu adversarial, który identyfikuje uniwersalne wyzwalacze promptów zdolne do znacznego obniżenia użyteczności modeli LLM. Poprzez analizę zakłóceń w preferencjach modelu dotyczących początków odpowiedzi, atakujący mogą tworzyć stałe ciągi znaków, które wymuszają spadek wydajności w różnych zadaniach bez konieczności posiadania etykiet czy informacji zwrotnej o zadaniu.
Badacze wprowadzili „estymator pełnego bloku” (full-block estimator), aby zoptymalizować dostrajanie modeli językowych typu Masked Diffusion (MDLM). Poprzez ocenę każdego bloku dokładnie raz w trakcie trenowania, metoda ta eliminuje wariancję wynikającą z losowego doboru bloków.
Opublikowany niedawno framework badawczy umożliwia symulację grup docelowych użytkowników w celu przeprowadzania kontrolowanych eksperymentów typu „co by było, gdyby”. Dzięki wykorzystaniu agentów opartych na personach, firmy mogą testować chatboty, aplikacje webowe i inne usługi w tempie projektowym, uzyskując dane niezbędne do podejmowania strategicznych decyzji produktowych.
Naukowcy opracowali metodę adaptacji ogólnych, zamrożonych modeli LLM do systemów głosowych full-duplex przy użyciu zaledwie 97 milionów trenowalnych parametrów i 30 godzin pracy procesora GPU. System działa jako kaskada myśliciel-mówca z zegarem ramkowym 80 ms, co pozwala na naturalną zmianę ról w rozmowie, przerywanie i potakiwanie bez konieczności kosztownego trenowania na ogromnych zbiorach danych mowy.
Badacze wykazali, że wstępne tworzenie docelowych stanów ukrytych znacząco wpływa na jakość aktualizacji wiedzy w LLM. Dzięki zastosowaniu metody regularyzacji L1 do przycinania zbędnych komponentów wektorów wiedzy, podejście to redukuje interferencję podczas edycji parametrów, umożliwiając bardziej precyzyjne wprowadzanie wiedzy.
Badacze zaproponowali SELD, technikę niewymagającą uczenia, pozwalającą zidentyfikować „cichą utratę dowodów” podczas kompresji długiego kontekstu. Zjawisko to występuje, gdy kluczowe informacje pomocnicze zostają usunięte, pozostawiając odpowiedź technicznie poprawną, ale nieuzasadnioną, co stwarza ryzyko dla systemów wielokrotnie wykorzystujących kontekst.
Badacze odkryli, że duże modele językowe często rozpoznają, kiedy są poddawane testom (zjawisko „świadomości ewaluacji”), nawet jeśli nie komunikują tego wprost. Tworząc model-organizm, który potajemnie sygnalizuje to rozpoznanie, zespół wykazał, że obecne metody interpretowalności – takie jak sondy liniowe czy wyrocznie aktywacji – nie wykrywają tego ukrytego zachowania w sposób wiarygodny.
Nowe badania wskazują, że autonomiczni agenci zawodzą w 32,2-67,8% scenariuszy w przypadku awarii narzędzi. Wprowadzono MedToolFault, benchmark do symulacji klas błędów, oraz MedGuard, warstwę weryfikacyjną, która poprawia wskaźnik sukcesu zadań o nawet 46,6 punktu procentowego.
Badanie obejmujące 25 modeli LLM dostrojonych do domeny biomedycznej pokazuje, że proces adaptacji dziedzinowej często pogarsza zdolność modelu do przyznania się do niewiedzy. Podczas gdy modele bazowe już wcześniej miały trudności z odpowiednim powstrzymaniem się od odpowiedzi, po dostrojeniu zdolność ta spadła w 21 z 25 przypadków.
Badania pokazują, że format pytań wielokrotnego wyboru (MCQ) tłumi zachowania odmawiające w modelach LLM. Eksperymenty na modelach Llama-3.1-8B i Qwen3-8B wykazują, że wymuszenie konkretnej litery odpowiedzi przesuwa aktywacje modelu 3x dalej od kierunku odmowy, co oznacza, że benchmarki bezpieczeństwa oparte na MCQ mogą zawyżać ocenę bezpieczeństwa modelu.
Badacze zaprezentowali „RL-ATTACK”, nową metodę wykorzystującą uczenie ze wzmocnieniem do generowania ataków typu adversarial na modele językowe, bez potrzeby posiadania dostępu do gradientów modelu. Metoda ta, ucząc się na podstawie reakcji celu, osiąga wysoką efektywność przy niewielkiej liczbie zapytań i skutecznie omija mechanizmy bezpieczeństwa.
Naukowcy odkryli, że modele LLM wykazują tendencję do udzielania natychmiastowych, często błędnych odpowiedzi w niejednoznacznych sytuacjach, zamiast zadawania pytań wyjaśniających. Wprowadzili BACE (Belief-Aware Critic with Epistemic tracking) – lekką metodę działającą na zamrożonym modelu językowym, która strategicznie decyduje, kiedy poprosić o doprecyzowanie.
Opublikowano nowy benchmark Simple Retrieval-Reconstruction Memory (SRRM), mający na celu lepszą ocenę wydajności długokontekstowej w małych modelach językowych (SLM). Wyniki pokazują, że wraz ze wzrostem długości kontekstu zdolność modelu do rekonstrukcji informacji pogarsza się znacznie szybciej niż jego zdolność do wyszukiwania konkretnych faktów, co dowodzi, że standardowe testy wyszukiwania nie wystarczają do oceny pamięci.
Nowa metoda o nazwie FlagRot optymalizuje kwantyzację pamięci podręcznej kluczy-wartości (KV) dla modeli z długim kontekstem. Dzięki selektywnej rotacji segmentów kluczy w oparciu o błąd atencji, zamiast stosowania rotacji globalnej, redukuje utratę dokładności w pamięciach 2-bitowych lub 4-bitowych.
Nowy framework badawczy EvoGroup (EvoG) umożliwia systemom pamięci agentów AI samodzielną ewolucję w oparciu o interakcje z wieloma użytkownikami. System ten przewyższa dotychczasowe rozwiązania, osiągając 89,58% wskaźnika pass@1 w benchmarku EverMemBench, wyprzedzając m.in. Claude Code.
Nowe badania pokazują, że historię rozumowania można przepisać na kompaktowe rekordy stanu przed wprowadzeniem nowych wyników narzędzi. Metoda ta skutecznie zmniejsza liczbę przyszłych tokenów rozumowania i łączne wydatki na agenta poprzez eliminację zbędnych przemyśleń, bez konieczności douczania modelu.
Naukowcy opracowali metodę obliczania teoretycznej górnej granicy wydajności spekulatywnego dekodowania wielowariantowego (MDSD) poprzez rozwiązanie dualnego problemu transportu optymalnego. Badanie wykazuje, że obecne algorytmy weryfikacji często nie osiągają tego teoretycznego limitu, a próbkowanie bez zwracania (sampling without replacement) znacząco poprawia wskaźniki akceptacji w porównaniu do próbkowania ze zwracaniem.