Cloudflare kuria MOLE (Moderation Of unLinkable Endorsements) protokolą, skirtą pakeisti dabartinius Privacy Pass standartus, kurie yra pažeidžiami kvantiniams kompiuteriams. Sujungus VOLE-in-the-Head nulinės žinios įrodymus su UOV daugiamatėmis skaitmeniniais parašais, pasiektas proveržis kuriant efektyvius post-kvantinius aklus parašus.
„Google“ pristatė „Physical-Engineering's Last Exam“ (PLE) – naują vertinimo sistemą, skirtą tikrinti DI agentų gebėjimus mechaninės, elektros, civilinės ir struktūrinės inžinerijos srityse. Skirtingai nei standartiniuose testuose, PLE reikalauja, kad agentai apdorotų didelius projekto aplankus, įskaitant CAD brėžinius ir statybos normas, ir pateiktų saugius, reikalavimus atitinkančius sprendimus.
Pristatytas „Circuit Oracle“ – kelių agentų LLM sistema, skirta kalbos modelių skaičiavimams interpretuoti analizuojant atributų grafus. Įrankis naudoja „tool calling“ funkciją, kad atsakytų į natūralios kalbos klausimus apie tikslinio modelio elgseną ir saugumą.
Tyrėjai pristatė LOTUS – sistemą haliucinacijoms aptikti, kuri naudoja multilinijinę mažo rango dekompoziciją (low-rank decomposition) signalams iš paslėptų LLM sluoksnių išgauti. Analizuojant aktyvacijų pikus ir tarp-sluoksninius modelius, šis metodas tiksliau atpažįsta neteisingus atsakymus nei dabartinės telkimo (pooling) technikos.
IBM Research pristatė vLLM-Hook MIA – papildinį atviro kodo vLLM išvedimo varikliui, leidžiantį kūrėjams stebėti ir keisti modelio vidinę būseną vykdymo metu – pavyzdžiui, atmesti kenkėjiškus užklausimus, pažymėti haliucinuotus faktus ar koreguoti atsakymo toną – neišjungiant spartaus vLLM grafikų kartojimo režimo. Pagal IBM techninę ataskaitą, MIA yra iki 20 kartų greitesnis nei ankstesnė vLLM-Hook versija ir iki 14 kartų greitesnis nei metodai, įterpiantys kodą tiesiai į modelį. Testuose valdant 8B Llama ar 1,5B Qwen modelį delsa padidėjo vos apie 2%, o su 70B Llama modeliu – apie 6%.
„Amazon“ bendradarbiavo su nepriklausoma ne pelno organizacija AVERI, kuri audituoja ne pačių modelių atsakymus, o vidinių saugumo vertinimo duomenų rinkinių kokybę. AVERI peržiūrėjo atsitiktinę, anonimizuotą saugumo testų užklausų imtį, apimančią kenksmingo turinio, kibernetinio saugumo, privatumo ir autorių teisių sritis. Peržiūra patvirtino gerą temų aprėptį, įvairius testavimo metodus ir žemą duomenų užteršimo riziką, bet nurodė spragas daugiakalbystės aprėptyje ir daugiažingsnių priešiškų užklausų testavime. „Amazon“ reaguodama atliko keturis konkrečius pokyčius.
Naujas tyrimas kvestionuoja įsitikinimą, kad AI agento likimas prieš prompt injection ataką nulemiamas tą akimirką, kai jis perskaito kenkėjišką tekstą. Tyrėjai sukūrė šakojamų pakartojimų (branching rollouts) metodą AgentDojo testų rinkiniuose: jie pakartojo agento eigą iki momento, kai jis aptinka įterptą instrukciją, tada leido likusiai epizodo daliai vystytis daugybe skirtingų būdų, kad išmatuotų, kiek galutinio rezultato jau buvo nulemta, o kiek – dar atvira. Qwen3 agentui be išplėstinio samprotavimo ("thinking") 91 proc. rezultato buvo jau nulemta tą akimirką; įjungus samprotavimą, šis skaičius sumažėjo iki 62 proc., o tai rodo, kad paklusimo sprendimas dažnai tęsiasi dar ilgai po pirmo kontakto su ataka. Samprotavimo įjungimas taip pat sumažino sėkmingų atakų prieš Qwen3 dažnį, tačiau padidino jį dviems kitiems testuotiems modeliams, o bandymų rezultatai samprotaujantiems agentams pasikeisdavo pakartojus testą iki 35 proc. atvejų.
„Microsoft Research“ išleido „Magnetar“ – nulinio žinojimo virtualią mašiną (zkVM), galinčią sukurti kriptografinius įrodymus, kad programa buvo įvykdyta teisingai, be poreikio ją paleisti iš naujo ar pasitikėti operatoriumi. Užuot vertus kūrėjus perrašyti programas į specialias kriptografines schemas, „Magnetar“ įrodo standartinį RISC-V mašininį kodą, todėl „Rust“, „Go“ ar C kalbomis parašytos programos gali būti sukompiliuotos įprastai ir įrodytos tokios, kokios yra. Testai su 15 programų parodė, kad sistema apdoroja 7,2–8,7 milijono instrukcijų per sekundę nešiojamajame kompiuteryje, o įrodymus galima patikrinti per maždaug 12 milisekundžių; jos kriptografinis saugumas remiasi tik standartinėmis maišos funkcijomis, tokiomis kaip SHA-256 ar SHA-3, o ne elipsinėmis kreivėmis ar gardelėmis pagrįstomis schemomis.
„Google Research“ paskelbė ataskaitą iš savo Contextual Agent Privacy and Security (CAPS) seminaro, kurią bendrai parengė daugiau nei 50 mokslininkų ir pramonės atstovų. Ataskaitoje teigiama, kad AI agentai turi gebėti suprasti kontekstines socialines normas, o ne tik statiškus leidimus, kad tinkamai elgtųsi tvarkydami asmens duomenis ir atlikdami veiksmus vartotojo vardu. Siūlomas daugiasluoksnis požiūris, apimantis sistemos lygmens „sandboxing“, modelio lygmens samprotavimą, vartotojui orientuotus valdiklius, kelių agentų apsaugos priemones ir ekosistemos valdymą, remiantis Kontekstinio vientisumo (Contextual Integrity) teorija.