Badacze wykazali, że wstępne tworzenie docelowych stanów ukrytych znacząco wpływa na jakość aktualizacji wiedzy w LLM. Dzięki zastosowaniu metody regularyzacji L1 do przycinania zbędnych komponentów wektorów wiedzy, podejście to redukuje interferencję podczas edycji parametrów, umożliwiając bardziej precyzyjne wprowadzanie wiedzy.
Badacze zaproponowali SELD, technikę niewymagającą uczenia, pozwalającą zidentyfikować „cichą utratę dowodów” podczas kompresji długiego kontekstu. Zjawisko to występuje, gdy kluczowe informacje pomocnicze zostają usunięte, pozostawiając odpowiedź technicznie poprawną, ale nieuzasadnioną, co stwarza ryzyko dla systemów wielokrotnie wykorzystujących kontekst.
Naukowcy zaproponowali metodę FFN-Perturbed Self-Distillation (FPD), aby rozwiązać problem usuwania wrażliwych informacji z multimodalnych dużych modeli językowych (MLLM). Podejście to minimalizuje utratę użyteczności modelu poprzez wykorzystanie oryginalnego rozkładu wyjściowego modelu nauczyciela jako punktu odniesienia przy jednoczesnym perturbowaniu specyficznych aktywacji FFN związanych z danymi prywatnymi.
Badanie obejmujące 25 modeli LLM dostrojonych do domeny biomedycznej pokazuje, że proces adaptacji dziedzinowej często pogarsza zdolność modelu do przyznania się do niewiedzy. Podczas gdy modele bazowe już wcześniej miały trudności z odpowiednim powstrzymaniem się od odpowiedzi, po dostrojeniu zdolność ta spadła w 21 z 25 przypadków.
Badania pokazują, że format pytań wielokrotnego wyboru (MCQ) tłumi zachowania odmawiające w modelach LLM. Eksperymenty na modelach Llama-3.1-8B i Qwen3-8B wykazują, że wymuszenie konkretnej litery odpowiedzi przesuwa aktywacje modelu 3x dalej od kierunku odmowy, co oznacza, że benchmarki bezpieczeństwa oparte na MCQ mogą zawyżać ocenę bezpieczeństwa modelu.
Agenci AI często błędnie interpretują starsze komentarze w kodzie, takie jak TODO lub FIXME, traktując je jako aktualne wytyczne. Badania wykazały, że w 6% sesji programistycznych agenci podejmują niepotrzebne działania dotyczące zamkniętych lub przestarzałych błędów, co prowadzi do wzrostu kosztów i nieplanowanego rozszerzenia zakresu prac (scope creep).
Naukowcy odkryli, że modele LLM wykazują tendencję do udzielania natychmiastowych, często błędnych odpowiedzi w niejednoznacznych sytuacjach, zamiast zadawania pytań wyjaśniających. Wprowadzili BACE (Belief-Aware Critic with Epistemic tracking) – lekką metodę działającą na zamrożonym modelu językowym, która strategicznie decyduje, kiedy poprosić o doprecyzowanie.
Opublikowano nowy benchmark Simple Retrieval-Reconstruction Memory (SRRM), mający na celu lepszą ocenę wydajności długokontekstowej w małych modelach językowych (SLM). Wyniki pokazują, że wraz ze wzrostem długości kontekstu zdolność modelu do rekonstrukcji informacji pogarsza się znacznie szybciej niż jego zdolność do wyszukiwania konkretnych faktów, co dowodzi, że standardowe testy wyszukiwania nie wystarczają do oceny pamięci.
Nowa metoda o nazwie FlagRot optymalizuje kwantyzację pamięci podręcznej kluczy-wartości (KV) dla modeli z długim kontekstem. Dzięki selektywnej rotacji segmentów kluczy w oparciu o błąd atencji, zamiast stosowania rotacji globalnej, redukuje utratę dokładności w pamięciach 2-bitowych lub 4-bitowych.
Naukowcy przedstawili SLATE, narzędzie do oceny długoterminowego wyboru API na dużą skalę w środowiskach korporacyjnych. W odróżnieniu od obecnych testów, wymusza on na modelach nawigację wśród około 1000 narzędzi w celu wykonania złożonych zadań.
Nowe badania pokazują, że historię rozumowania można przepisać na kompaktowe rekordy stanu przed wprowadzeniem nowych wyników narzędzi. Metoda ta skutecznie zmniejsza liczbę przyszłych tokenów rozumowania i łączne wydatki na agenta poprzez eliminację zbędnych przemyśleń, bez konieczności douczania modelu.
Naukowcy opracowali metodę obliczania teoretycznej górnej granicy wydajności spekulatywnego dekodowania wielowariantowego (MDSD) poprzez rozwiązanie dualnego problemu transportu optymalnego. Badanie wykazuje, że obecne algorytmy weryfikacji często nie osiągają tego teoretycznego limitu, a próbkowanie bez zwracania (sampling without replacement) znacząco poprawia wskaźniki akceptacji w porównaniu do próbkowania ze zwracaniem.
Google wprowadziło Physical-Engineering's Last Exam (PLE), nowy benchmark stworzony do oceny zdolności agentów AI w inżynierii mechanicznej, elektrycznej, cywilnej i strukturalnej. W przeciwieństwie do standardowych testów akademickich, PLE wymaga od agentów przetwarzania rozbudowanych projektów, obejmujących m.in. rysunki CAD i kody budowlane, w celu generowania bezpiecznych i zgodnych z normami wyników.
Najnowsze badania wykazują, że komercyjne narzędzia do humanizacji tekstu AI, zaprojektowane w celu omijania detektorów AI, często zmieniają lub usuwają istotne fakty, takie jak nazwiska, liczby i daty. Wśród 11 przetestowanych narzędzi, 35-65% dokumentów zawierających szczegóły faktyczne uległo błędom podczas procesu przeredagowywania.
Badania wykazały, że te same instrukcje dotyczące persony prowadzą do różnych zachowań modeli LLM przy przełączaniu się między językiem angielskim a koreańskim. O ile kupujący postępowali zgodnie z wytycznymi w podobny sposób, sprzedający stali się znacznie bardziej ugodowi i uprzejmi w języku koreańskim, co prowadziło do częstszego zawierania umów i niższych cen.
Badacze zaprezentowali Circuit Oracle, system LLM oparty na wielu agentach, zaprojektowany do interpretacji obliczeń modeli językowych poprzez analizę grafów atrybucji. Narzędzie wykorzystuje wywołania narzędzi (tool calling) do odpowiadania na pytania w języku naturalnym dotyczące zachowania i bezpieczeństwa modelu docelowego.
Badacze z Apple zaprezentowali infrastrukturę do uczenia online agentów mobilnych, która rozdziela logikę planowania od interpretacji wizualnej interfejsu. Dzięki zastosowaniu szczegółowych sygnałów zwrotnych od LLM oraz nowej metody GiGPPO, modele te osiągają znacznie lepszą stabilność niż systemy szkolone wyłącznie na statycznych danych.
Najnowsze badania wykazują, że modele językowe nie potrafią adaptować się do ewoluujących preferencji użytkownika, często polegając na nieaktualnych danych historycznych. Chociaż modele dobrze radzą sobie z wyborem strategii w testach wielokrotnego wyboru, podczas generowania otwartego odnotowano spadek kalibracji o 35–46%.
Badacze zaproponowali metodę 'Artifact Distillation', w której zaawansowane modele eksportują swoje procedury rozwiązywania problemów do banku artefaktów. Mniejsze modele odpytują ten bank w czasie rzeczywistym, co pozwala na poprawę ich wyników bez konieczności kosztownego trenowania.
Naukowcy zaproponowali LOTUS, strukturę do wykrywania halucynacji, która wykorzystuje multilinieową dekompozycję niskiego rzędu do wyodrębniania sygnałów z ukrytych warstw LLM. Analizując szczytowe aktywacje i wzorce międzywarstwowe, metoda ta skuteczniej identyfikuje błędne odpowiedzi niż obecne techniki oparte na poolingu.
Badacze opracowali metodę opartą na algorytmie k-center i wektorach (embeddings), która pozwala wybierać mniejsze, wysoce reprezentatywne podzbiory danych treningowych dla modelu Whisper. Podejście to przewyższa losowe próbkowanie dzięki lepszej reprezentacji różnorodności językowej, co jest szczególnie istotne przy ograniczonych zasobach.
Naukowcy wprowadzili Recursive Semantic Divergence (RSD) – nienadzorowaną metrykę, która mierzy i karze niespójność w trajektoriach działania agentów LLM. Stosując RSD jako sygnał nagrody podczas dostrajania (fine-tuning), modele wykazują znacznie bardziej stabilne zachowanie i wyższe wskaźniki sukcesu w zadaniach wykorzystujących narzędzia.
Najnowsze badania nad modelem Qwen3.5-27B dowodzą, że choć interwencje w aktywacje mogą wymusić na modelu konkretną odpowiedź, często nie prowadzą do poprawnego wnioskowania. Zauważono, że zyski w poprawności wyboru zanikają przy zmianie kontekstu, co sugeruje, że wymuszone odpowiedzi nie odzwierciedlają logicznego zrozumienia warunków korzystania z narzędzi.
Zespół NVIDIA BioNeMo wspólnie z Institute for Protein Design na Uniwersytecie Waszyngtońskim zaprezentował RFD4-Proteina – model, który w jednym kroku generuje zarówno sekwencję białka, jak i pełną strukturę atomową, eliminując oddzielny etap inverse-folding stosowany we wcześniejszych rozwiązaniach. Dzięki pracy na reprezentacji na poziomie reszt (residue-level) oraz uproszczonemu procesowi dyfuzji, model wymaga tylko około 60 kroków odszumiania zamiast wcześniejszych ok. 400, co przekłada się na wyraźnie szybsze generowanie i znacznie mniejsze zużycie pamięci niż poprzednik RFD3 przy generowaniu białka o 200 resztach. Podczas generowania model może także prowadzić wyszukiwanie sterowane nagrodą (reward-guided search), które ocenia i rozwija częściowe projekty za pomocą narzędzi przyspieszanych przez GPU, takich jak OpenFold3 i TMol. Model jest dostępny zarówno jako otwarty model na GitHub, jak i jako mikroserwis NIM z interfejsem HTTP, a dedykowane narzędzia pozwalają zautomatyzowanym agentom łączyć etapy generowania, wyszukiwania i oceny.