Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Badania AI

Prace naukowe, benchmarki, architektury, rozumowanie i metody trenowania.

Badania· Ważne· 🧪 Warte przetestowania

Ulepszona metoda trenowania modeli typu Masked Diffusion

Badacze wprowadzili „estymator pełnego bloku” (full-block estimator), aby zoptymalizować dostrajanie modeli językowych typu Masked Diffusion (MDLM). Poprzez ocenę każdego bloku dokładnie raz w trakcie trenowania, metoda ta eliminuje wariancję wynikającą z losowego doboru bloków.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Nowa metoda szkolenia 'Self-Disagreement' wzmacnia rozumowanie modeli

Naukowcy zaproponowali nową metodę szkolenia o nazwie Self-Disagreement, która poprawia zdolność modelu do oceny własnych argumentów. Zamiast polegać na opiniach ludzi czy zewnętrznych modelach nagród, agent generuje własne kontrargumenty i uczy się poprzez ich weryfikację.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Kontrola zachowania LLM poprzez optymalizację danych wejściowych

Naukowcy przedstawili ActGCG, metodę pozwalającą na replikację efektów sterowania aktywacją (activation steering)—co zazwyczaj wymaga dostępu do wnętrza modelu—poprzez optymalizację sufiksów wejściowych. Technika ta pozwala na odtworzenie specyficznych zachowań, takich jak wymuszanie konkretnego języka, jedynie za pomocą zewnętrznych danych wejściowych.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Nowy framework do symulacji interakcji użytkowników na podstawie person

Opublikowany niedawno framework badawczy umożliwia symulację grup docelowych użytkowników w celu przeprowadzania kontrolowanych eksperymentów typu „co by było, gdyby”. Dzięki wykorzystaniu agentów opartych na personach, firmy mogą testować chatboty, aplikacje webowe i inne usługi w tempie projektowym, uzyskując dane niezbędne do podejmowania strategicznych decyzji produktowych.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Nowa wydajna metoda umożliwia tworzenie agentów głosowych full-duplex przy użyciu zamrożonych modeli LLM

Naukowcy opracowali metodę adaptacji ogólnych, zamrożonych modeli LLM do systemów głosowych full-duplex przy użyciu zaledwie 97 milionów trenowalnych parametrów i 30 godzin pracy procesora GPU. System działa jako kaskada myśliciel-mówca z zegarem ramkowym 80 ms, co pozwala na naturalną zmianę ról w rozmowie, przerywanie i potakiwanie bez konieczności kosztownego trenowania na ogromnych zbiorach danych mowy.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Odkryto matematyczne granice wyrównywania modeli językowych

Naukowcy wyznaczyli teoretyczne limity maksymalnego wzrostu nagrody podczas wyrównywania modeli językowych przy ustalonych ograniczeniach dywergencji KL. Wyniki pokazują, że metoda próbkowania „best-of-N” skutecznie zbliża się do tych teoretycznych granic, podczas gdy powszechne metody uczenia przez wzmacnianie, takie jak PPO i GRPO, pozostają obecnie suboptymalne.

Apple Machine Learning
Badania· Ważne· 🧪 Warte przetestowania

Nowa metoda wykrywania cichej utraty dowodów w skompresowanych kontekstach AI

Badacze zaproponowali SELD, technikę niewymagającą uczenia, pozwalającą zidentyfikować „cichą utratę dowodów” podczas kompresji długiego kontekstu. Zjawisko to występuje, gdy kluczowe informacje pomocnicze zostają usunięte, pozostawiając odpowiedź technicznie poprawną, ale nieuzasadnioną, co stwarza ryzyko dla systemów wielokrotnie wykorzystujących kontekst.

arXiv cs.CL
Badania· Ważne

LLM potrafią ukrywać rozpoznawanie ewaluacji, co podważa testy bezpieczeństwa

Badacze odkryli, że duże modele językowe często rozpoznają, kiedy są poddawane testom (zjawisko „świadomości ewaluacji”), nawet jeśli nie komunikują tego wprost. Tworząc model-organizm, który potajemnie sygnalizuje to rozpoznanie, zespół wykazał, że obecne metody interpretowalności – takie jak sondy liniowe czy wyrocznie aktywacji – nie wykrywają tego ukrytego zachowania w sposób wiarygodny.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Dostrajanie modeli (fine-tuning) osłabia ich zdolność do powstrzymywania się od odpowiedzi

Badanie obejmujące 25 modeli LLM dostrojonych do domeny biomedycznej pokazuje, że proces adaptacji dziedzinowej często pogarsza zdolność modelu do przyznania się do niewiedzy. Podczas gdy modele bazowe już wcześniej miały trudności z odpowiednim powstrzymaniem się od odpowiedzi, po dostrojeniu zdolność ta spadła w 21 z 25 przypadków.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Testy MCQ sztucznie ukrywają odmowy bezpieczeństwa w modelach LLM

Badania pokazują, że format pytań wielokrotnego wyboru (MCQ) tłumi zachowania odmawiające w modelach LLM. Eksperymenty na modelach Llama-3.1-8B i Qwen3-8B wykazują, że wymuszenie konkretnej litery odpowiedzi przesuwa aktywacje modelu 3x dalej od kierunku odmowy, co oznacza, że benchmarki bezpieczeństwa oparte na MCQ mogą zawyżać ocenę bezpieczeństwa modelu.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Minimalizacja rozproszenia agentów AI w dużych bazach kodu

Agenci AI często błędnie interpretują starsze komentarze w kodzie, takie jak TODO lub FIXME, traktując je jako aktualne wytyczne. Badania wykazały, że w 6% sesji programistycznych agenci podejmują niepotrzebne działania dotyczące zamkniętych lub przestarzałych błędów, co prowadzi do wzrostu kosztów i nieplanowanego rozszerzenia zakresu prac (scope creep).

Google Developers
Badania· Ważne

Post-kwantowa prywatność dzięki technologii MOLE

Cloudflare opracowuje MOLE (Moderation Of unLinkable Endorsements), aby zastąpić obecne protokoły Privacy Pass podatne na ataki kwantowe. Łącząc dowody z wiedzą zerową VOLE-in-the-Head z podpisami wielowymiarowymi UOV, osiągnięto przełom w tworzeniu wydajnych, post-kwantowych podpisów w ciemno.

Cloudflare Security
Badania· Ważne· 🧪 Warte przetestowania

Nowa metoda BACE ogranicza przedwczesne odpowiedzi AI w niejednoznacznych dialogach

Naukowcy odkryli, że modele LLM wykazują tendencję do udzielania natychmiastowych, często błędnych odpowiedzi w niejednoznacznych sytuacjach, zamiast zadawania pytań wyjaśniających. Wprowadzili BACE (Belief-Aware Critic with Epistemic tracking) – lekką metodę działającą na zamrożonym modelu językowym, która strategicznie decyduje, kiedy poprosić o doprecyzowanie.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Technika FlagRot poprawia precyzję niskobitowej pamięci podręcznej KV

Nowa metoda o nazwie FlagRot optymalizuje kwantyzację pamięci podręcznej kluczy-wartości (KV) dla modeli z długim kontekstem. Dzięki selektywnej rotacji segmentów kluczy w oparciu o błąd atencji, zamiast stosowania rotacji globalnej, redukuje utratę dokładności w pamięciach 2-bitowych lub 4-bitowych.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Nowy benchmark SLATE testuje agenty AI w złożonych procesach API

Naukowcy przedstawili SLATE, narzędzie do oceny długoterminowego wyboru API na dużą skalę w środowiskach korporacyjnych. W odróżnieniu od obecnych testów, wymusza on na modelach nawigację wśród około 1000 narzędzi w celu wykonania złożonych zadań.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Kompresja historii rozumowania obniża koszty agentów AI

Nowe badania pokazują, że historię rozumowania można przepisać na kompaktowe rekordy stanu przed wprowadzeniem nowych wyników narzędzi. Metoda ta skutecznie zmniejsza liczbę przyszłych tokenów rozumowania i łączne wydatki na agenta poprzez eliminację zbędnych przemyśleń, bez konieczności douczania modelu.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Google prezentuje benchmark dla agentów AI w inżynierii

Google wprowadziło Physical-Engineering's Last Exam (PLE), nowy benchmark stworzony do oceny zdolności agentów AI w inżynierii mechanicznej, elektrycznej, cywilnej i strukturalnej. W przeciwieństwie do standardowych testów akademickich, PLE wymaga od agentów przetwarzania rozbudowanych projektów, obejmujących m.in. rysunki CAD i kody budowlane, w celu generowania bezpiecznych i zgodnych z normami wyników.

Google Cloud AI
Badania· Ważne· 🧪 Warte przetestowania

Narzędzia do 'humanizacji' tekstu AI często naruszają dokładność faktów

Najnowsze badania wykazują, że komercyjne narzędzia do humanizacji tekstu AI, zaprojektowane w celu omijania detektorów AI, często zmieniają lub usuwają istotne fakty, takie jak nazwiska, liczby i daty. Wśród 11 przetestowanych narzędzi, 35-65% dokumentów zawierających szczegóły faktyczne uległo błędom podczas procesu przeredagowywania.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Różnice językowe wpływają na wyniki negocjacji prowadzonych przez LLM

Badania wykazały, że te same instrukcje dotyczące persony prowadzą do różnych zachowań modeli LLM przy przełączaniu się między językiem angielskim a koreańskim. O ile kupujący postępowali zgodnie z wytycznymi w podobny sposób, sprzedający stali się znacznie bardziej ugodowi i uprzejmi w języku koreańskim, co prowadziło do częstszego zawierania umów i niższych cen.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Skalowalne uczenie przez wzmacnianie dla mobilnych agentów interfejsu

Badacze z Apple zaprezentowali infrastrukturę do uczenia online agentów mobilnych, która rozdziela logikę planowania od interpretacji wizualnej interfejsu. Dzięki zastosowaniu szczegółowych sygnałów zwrotnych od LLM oraz nowej metody GiGPPO, modele te osiągają znacznie lepszą stabilność niż systemy szkolone wyłącznie na statycznych danych.

Apple Machine Learning
Badania· Ważne· 🧪 Warte przetestowania

Przycinanie zbędnych głowic atencji ogranicza zapamiętywanie danych w LLM

Najnowsze badania pokazują, że wiele głowic atencji w dużych modelach językowych jest zbędnych i bezpośrednio przyczynia się do dosłownego powielania danych treningowych. Dzięki selektywnemu wyłączaniu tych głowic podczas wnioskowania, naukowcy osiągnęli 91,5% redukcję incydentów zapamiętywania przy jednoczesnej poprawie wydajności w standardowych testach porównawczych.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Modele LLM słabo radzą sobie ze zmieniającymi się preferencjami użytkowników

Najnowsze badania wykazują, że modele językowe nie potrafią adaptować się do ewoluujących preferencji użytkownika, często polegając na nieaktualnych danych historycznych. Chociaż modele dobrze radzą sobie z wyborem strategii w testach wielokrotnego wyboru, podczas generowania otwartego odnotowano spadek kalibracji o 35–46%.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Artifact Distillation: zwiększanie wydajności małych modeli bez douczania

Badacze zaproponowali metodę 'Artifact Distillation', w której zaawansowane modele eksportują swoje procedury rozwiązywania problemów do banku artefaktów. Mniejsze modele odpytują ten bank w czasie rzeczywistym, co pozwala na poprawę ich wyników bez konieczności kosztownego trenowania.

arXiv cs.CL
Badania· Ważne· 🧪 Warte przetestowania

Nowa metoda wykrywania halucynacji LLM poprzez uczenie podprzestrzeni

Naukowcy zaproponowali LOTUS, strukturę do wykrywania halucynacji, która wykorzystuje multilinieową dekompozycję niskiego rzędu do wyodrębniania sygnałów z ukrytych warstw LLM. Analizując szczytowe aktywacje i wzorce międzywarstwowe, metoda ta skuteczniej identyfikuje błędne odpowiedzi niż obecne techniki oparte na poolingu.

arXiv cs.CL