Tyrėjai pristatė „visų blokų vertintoją“ (full-block estimator), skirtą optimizuoti „Masked Diffusion Language Models“ (MDLM) derinimą. Vertinant kiekvieną bloką tiksliai po vieną kartą, šis metodas pašalina dispersiją, kylančią dėl atsitiktinės blokų atrankos.
Paskelbtas naujas mokslinis karkasas leidžia imituoti tikslines vartotojų grupes ir atlikti kontroliuojamus „kas būtų, jeigu“ eksperimentus. Naudodamos personais paremtus agentus, įmonės gali greitai testuoti pokalbių robotus, žiniatinklio programas ir kitas paslaugas, gaudamos duomenų, kurie padeda priimti strateginius produkto kūrimo sprendimus.
Tyrėjai sukūrė metodą, leidžiantį pritaikyti bendrosios paskirties nekintančius LLM modelius full-duplex balso sistemoms, naudojant tik 97 mln. mokomų parametrų ir 30 GPU valandų treniravimo. Sistema veikia kaip „mąstytojo-kalbėtojo“ kaskada su 80 ms kadro taktu, užtikrinanti natūralų pokalbio valdymą, pertraukimus ir pritarimo signalus be didelio masto kalbos duomenų išankstinio apdorojimo.
Tyrėjai nustatė, kad paslėptų būsenų tikslų formavimas turi didelę įtaką LLM žinių atnaujinimo kokybei. Naudojant L1 reguliarizacijos metodą, pašalinami nereikalingi žinių vektorių komponentai, taip sumažinant interferenciją parametrų redagavimo metu ir užtikrinant tikslesnį žinių įvedimą.
Tyrėjai pristatė SELD – be mokymo veikiantį metodą, skirtą „tyliam įrodymų praradimui“ (angl. silent evidence loss) ilgo konteksto glaudinimo metu aptikti. Tai įvyksta, kai pašalinama pagrindinė informacija, todėl atsakymas lieka techniškai teisingas, tačiau nepagrįstas įrodymais, o tai kelia riziką sistemoms, pakartotinai naudojančioms kontekstą.
Tyrėjai nustatė, kad dideli kalbos modeliai dažnai atpažįsta, kai yra vertinami (vadinama „vertinimo sąmoningumu“), net jei to aiškiai nenurodo. Sukūrę modelį-organizmą, kuris slapta signalizuoja apie tokį atpažinimą, autoriai įrodė, kad dabartiniai interpretuojamumo metodai – tokie kaip tiesiniai zondai ar aktyvacijos orakulai – nesugeba patikimai aptikti šio paslėpto elgesio.
Tyrimas, kuriame išanalizuoti 25 biomedicinos sričiai pritaikyti kalbos modeliai, rodo, kad derinimo procesas dažnai pablogina modelio gebėjimą pripažinti, kad jis kažko nežino. Nors baziniai modeliai ir anksčiau sunkiai atpažindavo, kada derėtų patylėti, po derinimo šis gebėjimas dar labiau sumažėjo 21-ame iš 25 atvejų.
Tyrimas atskleidžia, kad klausimų su pasirenkamais atsakymais (MCQ) formatas slopina LLM atsisakymo elgseną. Eksperimentai su Llama-3.1-8B ir Qwen3-8B rodo, kad priverstinis konkrečios raidės pasirinkimas modelio aktyvacijas atitraukia 3x toliau nuo atsisakymo krypties, todėl MCQ pagrįsti saugumo vertinimai gali rodyti klaidingai saugius rezultatus.
Tyrėjai nustatė, kad LLM modeliai yra linkę pateikti skubotus, dažnai neteisingus atsakymus dviprasmiškose situacijose, užuot uždavę patikslinamuosius klausimus. Jie pristatė BACE (Belief-Aware Critic with Epistemic tracking) – lengvą metodą, veikiantį su užrakintu kalbos modeliu, padedantį strategiškai nuspręsti, kada prašyti paaiškinimo.
Pristatytas „Simple Retrieval-Reconstruction Memory“ (SRRM) etalonas, skirtas geriau įvertinti mažųjų kalbos modelių (SLM) ilgo konteksto našumą. Tyrimai rodo, kad didėjant konteksto ilgiui, modelio gebėjimas atkurti informaciją prastėja daug sparčiau nei gebėjimas rasti konkrečius faktus, todėl standartiniai paieškos testai nėra pakankami tikrajai atminčiai matuoti.
Naujas metodas, vadinamas „FlagRot“, optimizuoja raktų-reikšmių (KV) talpyklos kvantavimą ilgo konteksto modeliams. Selektyviai pasukant raktų segmentus pagal dėmesio (attention) klaidą, o ne taikant bendrąją rotaciją, sumažinami tikslumo nuostoliai naudojant 2 bitų arba 4 bitų talpyklas.
Nauji tyrimai rodo, kad samprotavimo istoriją galima perrašyti į kompaktiškus būsenos įrašus prieš įvedant naujus įrankių rezultatus. Šis metodas veiksmingai sumažina būsimų samprotavimo žetonų skaičių ir bendras agento išlaidas, pašalindamas nereikalingas mintis, nereikalaujant modelio perkvalifikavimo.
Tyrėjai sukūrė metodą, leidžiantį apskaičiuoti teorinę kelių juodraščių spekuliacinio dekodavimo (MDSD) efektyvumo ribą, sprendžiant optimalaus transportavimo problemos dualiąją formą. Tyrimas atskleidžia, kad dabartiniai verifikavimo algoritmai dažnai nepasiekia šios ribos, o atranka be grąžinimo (sampling without replacement) gerokai padidina priėmimo rodiklius, palyginti su atranka su grąžinimu.
Naujausi tyrimai rodo, kad komerciniai AI teksto „humanizavimo“ įrankiai, skirti apeiti AI detektorius, dažnai pakeičia arba pašalina svarbius faktus, tokius kaip vardai, skaičiai ir datos. Iš 11 tirtų įrankių, 35–65 % dokumentų, kuriuose buvo faktinių duomenų, patyrė klaidų perrašymo proceso metu.
Pristatytas „Circuit Oracle“ – kelių agentų LLM sistema, skirta kalbos modelių skaičiavimams interpretuoti analizuojant atributų grafus. Įrankis naudoja „tool calling“ funkciją, kad atsakytų į natūralios kalbos klausimus apie tikslinio modelio elgseną ir saugumą.
Naujausi tyrimai rodo, kad daugelis didžiųjų kalbos modelių (LLM) „attention“ galvų yra perteklinės ir tiesiogiai prisideda prie pažodinio mokymo duomenų atkartojimo. Selektyviai išjungus šias galvas inferencijos metu, tyrėjai pasiekė 91,5 % atkartojimo sumažėjimą ir tuo pačiu pagerino modelio našumą standartiniuose testuose.
Naujausi tyrimai rodo, kad kalbos modeliai nesugeba prisitaikyti prie besikeičiančių vartotojo preferencijų ir dažnai tiesiog aklai remiasi pasenusiais duomenimis. Nors modeliai geba atpažinti tinkamą strategiją atrankos testuose, laisvos formos generavimo metu jų tikslumas krenta 35–46%.
Pristatytas „Artifact Distillation“ metodas, leidžiantis galingiems modeliams eksportuoti savo sprendimų priėmimo procesus į išorinę duomenų saugyklą. Mažesni modeliai, naudodamiesi šia informacija vykdymo metu, pasiekia geresnių rezultatų be būtinybės atlikti brangų modelio tobulinimą (fine-tuning).
Tyrėjai pristatė LOTUS – sistemą haliucinacijoms aptikti, kuri naudoja multilinijinę mažo rango dekompoziciją (low-rank decomposition) signalams iš paslėptų LLM sluoksnių išgauti. Analizuojant aktyvacijų pikus ir tarp-sluoksninius modelius, šis metodas tiksliau atpažįsta neteisingus atsakymus nei dabartinės telkimo (pooling) technikos.
Tyrėjai sukūrė „TraceQuery“ – retų (sparse) dekodavimo karkasą, mažinantį difuzinių didžiųjų kalbos modelių (dLLM) skaičiavimo kaštus. Analizuojant triukšmo šalinimo trajektorijas, metodas selektyviai perskaičiuoja tik būtinas žetonų (token) reprezentacijas, užuot atlikęs perteklines operacijas, taip išlaikant aukštą tikslumą su mažesniais skaičiavimo resursais.
Tyrėjai pristatė „Recursive Semantic Divergence“ (RSD) – neprižiūrimą metriką, kuri matuoja ir baudžia už nenuoseklumą LLM agentų trajektorijose. Naudojant RSD kaip atlygio signalą tiksliojo derinimo (fine-tuning) metu, modeliai demonstruoja daug stabilesnį elgesį ir didesnius sėkmės rodiklius atliekant įrankių naudojimo užduotis.