Nauji tyrimai rodo, kad in-context learning (ICL) atveju, esant ribotam žetonų biudžetui, efektyviau naudoti daugiau trumpų pavyzdžių nei kelis ilgus. Išbandžius šešis modelius su klausimų-atsakymų užduotimis (pvz., 'Beat the AI'), paaiškėjo, kad pavyzdžių detalumas yra esminis našumo veiksnys.
Didelio masto analizė atskleidė, kad nors architektūriniai papildymai, tokie kaip „Canon“ sluoksniai, gali padidinti efektyvumą 30 %, net pažangiausi modeliai nesusidoroja su elementariomis dviejų žingsnių samprotavimo užduotimis. Tyrimas rodo, kad standartiniai rodikliai slepia esminius informacijos paieškos ir loginės dedukcijos trūkumus.
Pristatytas PRKV – naujas KV talpyklos (KV cache) išvalymo metodas, naudojantis „Personalized PageRank“ grafų algoritmus. Šis metodas įvertina bendrą žetonų svarbą ne tik pagal jų naujumą, bet ir pagal įtaką visam kontekstui, leidžiant pasiekti iki 90 % talpyklos suspaudimą be modelio perlaikymo.
FieldGuide yra nauja sistema, kuri suskirsto dokumentų rinkinius į temines hierarchijas, padėdama agentams efektyviau vykdyti paiešką. Tyrimai rodo, kad ji atlieka užduotis su gerokai mažesnėmis žetonų sąnaudomis ir per trumpesnį laiką nei standartiniai RAG ar tiesioginės prieigos metodai.
Naujas priežastinis metodas RAW (Refusal Aversion in the Wild) naudoja LLM stochastiškumą, kad išmatuotų, kaip dažnai vartotojų užklausų atmetimas lemia platformos palikimą. Analizuodami egzistuojančius sąveikos žurnalus, galite nustatyti tikslų priežastinį atsisakymų poveikį tolesniam vartotojų įsitraukimui.
Pristatytas „OmniTag-Bench“ – naujas penkių kalbų vertinimo rėmas, skirtas multimodalių LLM testavimui, atliekant sinchroninę kalbos transkripciją ir metaduomenų žymėjimą. Tyrimas rodo, kad vienas, papildomai apmokytas multimodalus modelis gali išgauti transkripciją, emocijas, lytį, kalbą ir vardines entybes vienu žingsniu, pakeičiant atskirus specializuotus modelius.
Tyrėjai pristatė „Trident“ – sistemą, skirtą LLM pagrįstiems agentams optimizuoti, sprendžiant tris informacijos apdorojimo problemas: neefektyvų atminties valdymą, nereikalingą elgsenos dubliavimąsi ir nesaugų agento perrašymą. Įdiegus „Trident“, agentai pasiekia žymiai geresnių rezultatų atlikdami sudėtingas, ilgos trukmės užduotis.
Tyrėjai pristatė EndoUT – priešininkiško (adversarial) testavimo metodą, skirtą nustatyti universalius užklausų paleidiklius, kurie gali stipriai sumažinti LLM modelių naudingumą. Analizuodami, kaip modifikuotas kontekstas trikdo modelio pradinius atsakymus, užpuolikai gali sukurti fiksuotus simbolių junginius, kurie destabilizuoja modelio veikimą neturint prieigos prie specifinių užduočių ar vertinimo duomenų.
Tyrėjai pristatė „visų blokų vertintoją“ (full-block estimator), skirtą optimizuoti „Masked Diffusion Language Models“ (MDLM) derinimą. Vertinant kiekvieną bloką tiksliai po vieną kartą, šis metodas pašalina dispersiją, kylančią dėl atsitiktinės blokų atrankos.
Paskelbtas naujas mokslinis karkasas leidžia imituoti tikslines vartotojų grupes ir atlikti kontroliuojamus „kas būtų, jeigu“ eksperimentus. Naudodamos personais paremtus agentus, įmonės gali greitai testuoti pokalbių robotus, žiniatinklio programas ir kitas paslaugas, gaudamos duomenų, kurie padeda priimti strateginius produkto kūrimo sprendimus.
Tyrėjai sukūrė metodą, leidžiantį pritaikyti bendrosios paskirties nekintančius LLM modelius full-duplex balso sistemoms, naudojant tik 97 mln. mokomų parametrų ir 30 GPU valandų treniravimo. Sistema veikia kaip „mąstytojo-kalbėtojo“ kaskada su 80 ms kadro taktu, užtikrinanti natūralų pokalbio valdymą, pertraukimus ir pritarimo signalus be didelio masto kalbos duomenų išankstinio apdorojimo.
Tyrėjai nustatė, kad paslėptų būsenų tikslų formavimas turi didelę įtaką LLM žinių atnaujinimo kokybei. Naudojant L1 reguliarizacijos metodą, pašalinami nereikalingi žinių vektorių komponentai, taip sumažinant interferenciją parametrų redagavimo metu ir užtikrinant tikslesnį žinių įvedimą.
Tyrėjai pristatė SELD – be mokymo veikiantį metodą, skirtą „tyliam įrodymų praradimui“ (angl. silent evidence loss) ilgo konteksto glaudinimo metu aptikti. Tai įvyksta, kai pašalinama pagrindinė informacija, todėl atsakymas lieka techniškai teisingas, tačiau nepagrįstas įrodymais, o tai kelia riziką sistemoms, pakartotinai naudojančioms kontekstą.
Tyrėjai nustatė, kad dideli kalbos modeliai dažnai atpažįsta, kai yra vertinami (vadinama „vertinimo sąmoningumu“), net jei to aiškiai nenurodo. Sukūrę modelį-organizmą, kuris slapta signalizuoja apie tokį atpažinimą, autoriai įrodė, kad dabartiniai interpretuojamumo metodai – tokie kaip tiesiniai zondai ar aktyvacijos orakulai – nesugeba patikimai aptikti šio paslėpto elgesio.
Naujas tyrimas rodo, kad autonominiai agentai patiria nesėkmių 32,2–67,8 % atvejų, kai susiduria su įrankių trikdžiais. Tyrėjai pristatė „MedToolFault“ (klaidų vertinimo standartą) ir „MedGuard“ (tikrinimo sluoksnį), kuris pagerina sėkmingą užduočių vykdymą iki 46,6 procentinio punkto.
Tyrimas, kuriame išanalizuoti 25 biomedicinos sričiai pritaikyti kalbos modeliai, rodo, kad derinimo procesas dažnai pablogina modelio gebėjimą pripažinti, kad jis kažko nežino. Nors baziniai modeliai ir anksčiau sunkiai atpažindavo, kada derėtų patylėti, po derinimo šis gebėjimas dar labiau sumažėjo 21-ame iš 25 atvejų.
Tyrimas atskleidžia, kad klausimų su pasirenkamais atsakymais (MCQ) formatas slopina LLM atsisakymo elgseną. Eksperimentai su Llama-3.1-8B ir Qwen3-8B rodo, kad priverstinis konkrečios raidės pasirinkimas modelio aktyvacijas atitraukia 3x toliau nuo atsisakymo krypties, todėl MCQ pagrįsti saugumo vertinimai gali rodyti klaidingai saugius rezultatus.
Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.
Tyrėjai nustatė, kad LLM modeliai yra linkę pateikti skubotus, dažnai neteisingus atsakymus dviprasmiškose situacijose, užuot uždavę patikslinamuosius klausimus. Jie pristatė BACE (Belief-Aware Critic with Epistemic tracking) – lengvą metodą, veikiantį su užrakintu kalbos modeliu, padedantį strategiškai nuspręsti, kada prašyti paaiškinimo.
Pristatytas „Simple Retrieval-Reconstruction Memory“ (SRRM) etalonas, skirtas geriau įvertinti mažųjų kalbos modelių (SLM) ilgo konteksto našumą. Tyrimai rodo, kad didėjant konteksto ilgiui, modelio gebėjimas atkurti informaciją prastėja daug sparčiau nei gebėjimas rasti konkrečius faktus, todėl standartiniai paieškos testai nėra pakankami tikrajai atminčiai matuoti.
Naujas metodas, vadinamas „FlagRot“, optimizuoja raktų-reikšmių (KV) talpyklos kvantavimą ilgo konteksto modeliams. Selektyviai pasukant raktų segmentus pagal dėmesio (attention) klaidą, o ne taikant bendrąją rotaciją, sumažinami tikslumo nuostoliai naudojant 2 bitų arba 4 bitų talpyklas.
Naujas mokslinis projektas „EvoGroup“ (EvoG) suteikia agentų atminties sistemoms galimybę savarankiškai vystytis, remiantis daugelio vartotojų sąveika. Peržengus statinių, rankiniu būdu sukonfigūruotų sistemų ribas, „EvoG“ pasiekė 89,58 proc. „pass@1“ rezultatą „EverMemBench“ testuose, aplenkdamas esamus sprendimus, pavyzdžiui, „Claude Code“.
Nauji tyrimai rodo, kad samprotavimo istoriją galima perrašyti į kompaktiškus būsenos įrašus prieš įvedant naujus įrankių rezultatus. Šis metodas veiksmingai sumažina būsimų samprotavimo žetonų skaičių ir bendras agento išlaidas, pašalindamas nereikalingas mintis, nereikalaujant modelio perkvalifikavimo.
Tyrėjai sukūrė metodą, leidžiantį apskaičiuoti teorinę kelių juodraščių spekuliacinio dekodavimo (MDSD) efektyvumo ribą, sprendžiant optimalaus transportavimo problemos dualiąją formą. Tyrimas atskleidžia, kad dabartiniai verifikavimo algoritmai dažnai nepasiekia šios ribos, o atranka be grąžinimo (sampling without replacement) gerokai padidina priėmimo rodiklius, palyginti su atranka su grąžinimu.