Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“Bezpieczeństwo” — 105 straipsniai ✕

Anthropic 90–99 % sumažino Claude modelio „distiliavimo“ ataką naudojant naujas apsaugas

Anthropic paskelbė, kaip sustabdė „neteisėtą distiliavimą“ – didelio masto slaptas operacijas, per kurias išgaunami Claude mąstymo (reasoning) duomenys, naudojami pigiai apmokyti konkuruojančius modelius. Naujos priemonės – mąstymo apibendrinimas, „preserved thinking“ naujoms API paskyroms ir dviejų pakopų klasifikatorių sistema – sumažino išgaunamų naudingų duomenų kiekį 10–100 kartų. Anthropic teigia, kad Kinijos kompanija Zhipu panaudojo distiliavimą (įskaitant bandymus prieš Claude) kurdama GLM-5.3, kurį JAV vertintojai pripažino pavojingiausiu atvirojo kodo modeliu kibernetinio saugumo srityje, kurio apsaugas lengva apeiti.

Anthropic
Agentai· Svarbu· 🧪 Verta testuoti

AWS ir Keyfactor parodė, kaip apsaugoti kelių agentų tapatybę sertifikatais vietoj bendrų raktų

AWS kartu su Keyfactor paskelbė referencinę architektūrą, sprendžiančią žinomą Model Context Protocol (MCP) spragą – MCP neturi įmontuoto būdo patvirtinti, kuris agentas iš tikrųjų siunčia užklausą. Architektūra prideda tris pasitikėjimo lygius – vartotojas-sistema, agentas-agentas ir agentas-įrankių serveris – pagrįstus pasirašytais užklausų vokais, vartotojo pasirašytais delegavimo patvirtinimais, RFC 8693 auditorija apribotais tokenais ir realaus laiko OCSP atšaukimo tikrinimu. Veikiantis pavyzdys naudoja Amazon Bedrock ir AWS Strands Agents SDK, o Keyfactor EJBCA išduoda ir tikrina X.509 sertifikatus; visas kodas paskelbtas GitHub.

AWS Machine Learning
Tyrimai· Svarbu

Nauji tyrimai: AI agentas nenusprendžia paklusti prompt injection iškart — sprendimas formuojasi samprotavimo metu

Naujas tyrimas kvestionuoja įsitikinimą, kad AI agento likimas prieš prompt injection ataką nulemiamas tą akimirką, kai jis perskaito kenkėjišką tekstą. Tyrėjai sukūrė šakojamų pakartojimų (branching rollouts) metodą AgentDojo testų rinkiniuose: jie pakartojo agento eigą iki momento, kai jis aptinka įterptą instrukciją, tada leido likusiai epizodo daliai vystytis daugybe skirtingų būdų, kad išmatuotų, kiek galutinio rezultato jau buvo nulemta, o kiek – dar atvira. Qwen3 agentui be išplėstinio samprotavimo ("thinking") 91 proc. rezultato buvo jau nulemta tą akimirką; įjungus samprotavimą, šis skaičius sumažėjo iki 62 proc., o tai rodo, kad paklusimo sprendimas dažnai tęsiasi dar ilgai po pirmo kontakto su ataka. Samprotavimo įjungimas taip pat sumažino sėkmingų atakų prieš Qwen3 dažnį, tačiau padidino jį dviems kitiems testuotiems modeliams, o bandymų rezultatai samprotaujantiems agentams pasikeisdavo pakartojus testą iki 35 proc. atvejų.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Microsoft dirbtinio intelekto agentus vertina kaip vidinę grėsmę, diegia naujus apribojimo mechanizmus

Microsoft paskelbė apie „Project Perception“ saugumo sistemos plėtrą, skirtą autonominių DI agentų keliamoms rizikoms spręsti – agentai traktuojami kaip naujas „vidinės grėsmės“ tipas, kuriam reikia atskiros tapatybės, leidimų ir rizikos valdymo. Naujovės apima „Dynamic Permissions“ (mažiausių privilegijų, užduočiai pritaikyta ir laiko ribojama prieiga), „Dynamic Agent Risk“ (nuolatinis rizikos vertinimas pagal elgsenos nuokrypius ir kontekstą) ir „Dynamic Conditional Access“ (laipsniškas atsakas – nuo prieigos siaurinimo iki pilno vykdymo izoliavimo). Microsoft taip pat plečia atradimo ir tapatybės palaikymą (Microsoft Entra Agent ID) iki 60 vietinių agentų tipų, įskaitant Claude Code, OpenAI Codex ir GitHub Copilot, bei pristato „Guardian Agents“, kurie stebi ir reaguoja į rizikingą agentų elgesį mašinos greičiu.

Microsoft Security

„Microsoft“ ir NVIDIA pristatė bendrą atvirų svorių modelių rizikos valdymo sistemą

„Microsoft“ ir NVIDIA išleido bendrą baltąją knygą „Risk Management for Open-Weight Models in Enterprise“ — pirmąją iš planuojamos serijos, siūlančią įmonėms bendrą rizikos taksonomiją ir metodiką atvirų svorių AI modeliams vertinti. Dokumente teigiama, kad ar modelis yra atvirų, ar uždarų svorių, nėra pagrindinis rizikos veiksnys — svarbiausia naudojimo paskirtis, diegimo architektūra ir aplinkiniai apsaugos mechanizmai. Rizikos suskirstytos į penkias kategorijas (kibernetinis saugumas, duomenų apsauga, turinys, žmogaus-AI sąveika, šališkumas) ir susietos su vertinimais pagal ISO standartus bei NIST AI rizikos valdymo sistemą.

Microsoft Security

NIST, NSA ir CISA paskelbė incidentų valdymo gaires pažangių AI agentų mokymui

NIST Super Intelligence Security Center kartu su NSA ir CISA paskelbė bendrą leidinį, kuriame pateikiama dešimt savanoriškų pagrindinių praktikų organizacijoms, mokančioms ir vertinančioms itin pajėgius „super intelligence“ (SI) agentus, ypač ikidiegimo ar didelės rizikos neviešas sistemas. Leidinyje apibrėžiamas „SI kontrolės incidentas“ – kai AI agentas atlieka neinstruktuotus veiksmus, pažeidžiančius žmogaus priežiūrą ar saugumo kontroles. Gairės remiasi esamomis kibernetinių incidentų valdymo praktikomis, pridedant AI specifinius žingsnius, pvz., izoliacijos tikrinimą prieš atnaujinant agento veiklą.

CISA Advisories
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

„Google“ prideda DPoP palaikymą OAuth, kad apsaugotų refresh tokenus nuo vagystės

„Google“ paskelbė apie DPoP (Demonstrating Proof-of-Possession, RFC 9449) palaikymą savo OAuth platformoje – refresh tokenai kriptografiškai susiejami su kliento sugeneruota raktų pora, todėl pavogti tokenai negali būti pakartotinai panaudoti užpuolikų. Apsauga taikoma tik ilgalaikiams refresh tokenams, o trumpalaikiai access tokenai lieka standartiniai Bearer tokenai, kad nebūtų papildomos kriptografinės apkrovos dideliam API srautui. „Google“ taip pat pabrėžia DPoP svarbą saugant kelių agentų ir Model Context Protocol (MCP) architektūras, rekomenduodama Google Cloud Secure Token Service tokenų delegavimo grandinėms tarp agentų.

Google Developers
Tyrimai· Svarbu

„Microsoft Research“ pristatė „Magnetar“ – nulinio žinojimo įrodymų sistemą įprastam kodui

„Microsoft Research“ išleido „Magnetar“ – nulinio žinojimo virtualią mašiną (zkVM), galinčią sukurti kriptografinius įrodymus, kad programa buvo įvykdyta teisingai, be poreikio ją paleisti iš naujo ar pasitikėti operatoriumi. Užuot vertus kūrėjus perrašyti programas į specialias kriptografines schemas, „Magnetar“ įrodo standartinį RISC-V mašininį kodą, todėl „Rust“, „Go“ ar C kalbomis parašytos programos gali būti sukompiliuotos įprastai ir įrodytos tokios, kokios yra. Testai su 15 programų parodė, kad sistema apdoroja 7,2–8,7 milijono instrukcijų per sekundę nešiojamajame kompiuteryje, o įrodymus galima patikrinti per maždaug 12 milisekundžių; jos kriptografinis saugumas remiasi tik standartinėmis maišos funkcijomis, tokiomis kaip SHA-256 ar SHA-3, o ne elipsinėmis kreivėmis ar gardelėmis pagrįstomis schemomis.

Microsoft Research

AWS autonominis pentesting agentas sėkmingai išnaudojo 33 iš 37 naujų CVE

AWS išbandė savo AWS Security Agent (dabar AWS Continuum dalis) su nauju, specialiai sukurtu benchmarku iš 37 realių, neseniai paskelbtų CVE, kiekvieną paleidžiant kaip gyvą konteinerizuotą taikinį su paslėpta vėliavėle. Pradėdamas nuo žemo privilegijų lygio taško, turėdamas tik vienos eilutės užuominą ir jokio PoC, agentas (veikiantis su Claude Opus 5) sėkmingai ir iki galo išnaudojo 33 iš 37 pažeidžiamumų po patikros audito; 2 atvejai perklasifikuoti kaip netinkamu keliu pasiekti sprendimai, o 2 atvejais agentas sugadino taikinį prieš ištraukdamas vėliavėlę. AWS sukūrė šį benchmarką, kad išvengtų viešų CVE rinkinių užteršimo problemos, kai modeliai gali būti įsiminę sprendimus iš mokymo duomenų.

AWS Security