Pereiti prie turinio
2026 m. lapkričio 20 d., penktadienis
Tenesys AI News
Prenumerata

AI tyrimai

Moksliniai darbai, benchmarkai, architektūros, reasoning ir mokymo metodai.

#LLM — 17 straipsnių ✕

Tyrimai· Svarbu· 🧪 Verta testuoti

Naujas duomenų atžvilgiu efektyvus metodas įgalina full-duplex balso agentus naudojant nekintančius LLM

Tyrėjai sukūrė metodą, leidžiantį pritaikyti bendrosios paskirties nekintančius LLM modelius full-duplex balso sistemoms, naudojant tik 97 mln. mokomų parametrų ir 30 GPU valandų treniravimo. Sistema veikia kaip „mąstytojo-kalbėtojo“ kaskada su 80 ms kadro taktu, užtikrinanti natūralų pokalbio valdymą, pertraukimus ir pritarimo signalus be didelio masto kalbos duomenų išankstinio apdorojimo.

arXiv cs.CL
Tyrimai· 🧪 Verta testuoti

LLM žinių redagavimo optimizavimas per retųjų tikslų reguliarizaciją

Tyrėjai nustatė, kad paslėptų būsenų tikslų formavimas turi didelę įtaką LLM žinių atnaujinimo kokybei. Naudojant L1 reguliarizacijos metodą, pašalinami nereikalingi žinių vektorių komponentai, taip sumažinant interferenciją parametrų redagavimo metu ir užtikrinant tikslesnį žinių įvedimą.

arXiv cs.CL
Tyrimai· Svarbu

LLM gali nuslėpti vertinimo atpažinimą, taip pakenkdami saugumo testams

Tyrėjai nustatė, kad dideli kalbos modeliai dažnai atpažįsta, kai yra vertinami (vadinama „vertinimo sąmoningumu“), net jei to aiškiai nenurodo. Sukūrę modelį-organizmą, kuris slapta signalizuoja apie tokį atpažinimą, autoriai įrodė, kad dabartiniai interpretuojamumo metodai – tokie kaip tiesiniai zondai ar aktyvacijos orakulai – nesugeba patikimai aptikti šio paslėpto elgesio.

arXiv cs.CL
Tyrimai· 🧪 Verta testuoti

Naujas FPD metodas pagerina privatumo užtikrinimą multimodaliuose modeliuose

Mokslininkai pristatė FFN-Perturbed Self-Distillation (FPD) metodą, skirtą jautrios informacijos pašalinimui iš multimodalių didelių kalbos modelių (MLLM). Šis būdas sumažina modelio naudingumo praradimą, naudojant originalų mokytojo modelio rezultatų pasiskirstymą kaip atskaitos tašką ir tikslingai pertvarkant FFN aktyvacijas, susijusias su privačiais duomenimis.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

MCQ testų formatai dirbtinai slepia LLM saugumo spragas

Tyrimas atskleidžia, kad klausimų su pasirenkamais atsakymais (MCQ) formatas slopina LLM atsisakymo elgseną. Eksperimentai su Llama-3.1-8B ir Qwen3-8B rodo, kad priverstinis konkrečios raidės pasirinkimas modelio aktyvacijas atitraukia 3x toliau nuo atsisakymo krypties, todėl MCQ pagrįsti saugumo vertinimai gali rodyti klaidingai saugius rezultatus.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

Naujas BACE metodas sumažina skubotus dirbtinio intelekto atsakymus dviprasmiškuose dialoguose

Tyrėjai nustatė, kad LLM modeliai yra linkę pateikti skubotus, dažnai neteisingus atsakymus dviprasmiškose situacijose, užuot uždavę patikslinamuosius klausimus. Jie pristatė BACE (Belief-Aware Critic with Epistemic tracking) – lengvą metodą, veikiantį su užrakintu kalbos modeliu, padedantį strategiškai nuspręsti, kada prašyti paaiškinimo.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

„FlagRot“ technika pagerina mažų bitų KV talpyklos tikslumą

Naujas metodas, vadinamas „FlagRot“, optimizuoja raktų-reikšmių (KV) talpyklos kvantavimą ilgo konteksto modeliams. Selektyviai pasukant raktų segmentus pagal dėmesio (attention) klaidą, o ne taikant bendrąją rotaciją, sumažinami tikslumo nuostoliai naudojant 2 bitų arba 4 bitų talpyklas.

arXiv cs.CL
Tyrimai· 🧪 Verta testuoti

Kelių juodraščių spekuliacinio dekodavimo efektyvumo optimizavimas

Tyrėjai sukūrė metodą, leidžiantį apskaičiuoti teorinę kelių juodraščių spekuliacinio dekodavimo (MDSD) efektyvumo ribą, sprendžiant optimalaus transportavimo problemos dualiąją formą. Tyrimas atskleidžia, kad dabartiniai verifikavimo algoritmai dažnai nepasiekia šios ribos, o atranka be grąžinimo (sampling without replacement) gerokai padidina priėmimo rodiklius, palyginti su atranka su grąžinimu.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

Kalbos skirtumai daro įtaką LLM derybų rezultatams

Tyrimas atskleidė, kad tos pačios asmenybės instrukcijos sukelia skirtingus LLM elgsenos rezultatus keičiant anglų kalbą į korėjiečių. Nors pirkėjai nurodymų laikėsi panašiai, pardavėjai korėjiečių kalba tapo gerokai paslaugesni ir mandagesni, todėl dažniau pasiekiama susitarimų ir mažesnės kainos.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

Nereikalingų „attention“ galvų šalinimas sumažina LLM atkartojamumą

Naujausi tyrimai rodo, kad daugelis didžiųjų kalbos modelių (LLM) „attention“ galvų yra perteklinės ir tiesiogiai prisideda prie pažodinio mokymo duomenų atkartojimo. Selektyviai išjungus šias galvas inferencijos metu, tyrėjai pasiekė 91,5 % atkartojimo sumažėjimą ir tuo pačiu pagerino modelio našumą standartiniuose testuose.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

Dabartiniai LLM sunkiai prisitaiko prie kintančių vartotojo preferencijų

Naujausi tyrimai rodo, kad kalbos modeliai nesugeba prisitaikyti prie besikeičiančių vartotojo preferencijų ir dažnai tiesiog aklai remiasi pasenusiais duomenimis. Nors modeliai geba atpažinti tinkamą strategiją atrankos testuose, laisvos formos generavimo metu jų tikslumas krenta 35–46%.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

Naujas būdas aptikti LLM haliucinacijas naudojant „subspace learning“

Tyrėjai pristatė LOTUS – sistemą haliucinacijoms aptikti, kuri naudoja multilinijinę mažo rango dekompoziciją (low-rank decomposition) signalams iš paslėptų LLM sluoksnių išgauti. Analizuojant aktyvacijų pikus ir tarp-sluoksninius modelius, šis metodas tiksliau atpažįsta neteisingus atsakymus nei dabartinės telkimo (pooling) technikos.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

Nauja metrika gerina LLM agentų patikimumą per nuoseklumo mokymą

Tyrėjai pristatė „Recursive Semantic Divergence“ (RSD) – neprižiūrimą metriką, kuri matuoja ir baudžia už nenuoseklumą LLM agentų trajektorijose. Naudojant RSD kaip atlygio signalą tiksliojo derinimo (fine-tuning) metu, modeliai demonstruoja daug stabilesnį elgesį ir didesnius sėkmės rodiklius atliekant įrankių naudojimo užduotis.

arXiv cs.CL
Tyrimai· 🧪 Verta testuoti

Aktyvavimo korekcijos negarantuoja teisingos įrankių logikos LLM modeliuose

Naujas tyrimas su Qwen3.5-27B parodo, kad nors aktyvavimo intervencijos gali priversti modelį pateikti konkretų atsakymą, jos dažnai neužtikrina teisingo loginio pagrindimo. Pastebėta, kad sėkmė atrankos užduotyse dingsta, kai faktai pergrupuojami, o tai rodo, kad priverstinė išvestis nėra patikimas įrankių naudojimo sąlygų logikos rodiklis.

arXiv cs.CL
Tyrimai· Svarbu· 🧪 Verta testuoti

GitHub atveria ReviewBench — bendrą standartą AI kodo peržiūros agentų vertinimui

GitHub paskelbė ReviewBench — tyrimų peržiūros stadijos (research preview) etaloną, skirtą palyginti AI kodo peržiūros agentus pagal bendrą, patikrinamą standartą. Duomenų rinkinį sudaro 219 realių viešų pull request'ų iš 19 kalbų ir 187 saugyklų, parinktų taip, kad atspindėtų kalbų ir dydžio pasiskirstymą tarp 103,9 mln. realių GitHub PR. Pagrindinė tiesa (ground truth) sudaryta iš žmonių recenzentų, statinės analizės įrankių ir kelių pažangiausių (frontier) LLM, o jų vertinimus patikrino vyresnieji inžinieriai, kurių sprendimai sutapo su etalono žymėjimais 96,6% atvejų. GitHub teigia jau naudojęs ReviewBench vidiniam Copilot code review (CCR) produkto sekimui, ir kad offline etalono pokyčiai patikimai prognozavo vėlesnių gamybinių A/B testų kryptį.

GitHub