Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“Saugumas” — 115 straipsnių ✕

NVIDIA pristatė „Sentry“ – aparatinį sluoksnį, stebintį ir sustabdantį nevaldomus AI agentus

NVIDIA pristatė „Sentry“ – naują saugumo sistemą, veikiančią už AI agento pasiekiamumo ribų: ji vykdo politikas ir stebi elgseną iš atskiro aparatinio pasitikėjimo domeno, veikiančio „BlueField-4“ DPU. Idėja paprasta: net jei agentas pažeidžiamas ar nukrypsta nuo numatyto elgesio naudodamas įrankius ir prisijungimo duomenis, „Sentry“ tęsia stebėjimą ir gali jį sustabdyti, nes nepriklauso nuo pagrindinės sistemos (host OS), kurioje agentas veikia. Du komponentai atlieka pagrindinį darbą – „DOCA Tower“, tarpinis serveris, tikrinantis ir autorizuojantis kiekvieną agento tinklo užklausą, ir „DOCA Argus“, skaitantis realaus laiko atmintį, kad suprastų, kas iš tikrųjų vyksta. Pastebėjus ką nors įtartino, sistema gali izoliuoti agentą per milisekundes, nereikalaujant jokio agento ar pagrindinės sistemos bendradarbiavimo.

NVIDIA Developer

Anthropic 90–99 % sumažino Claude modelio „distiliavimo“ ataką naudojant naujas apsaugas

Anthropic paskelbė, kaip sustabdė „neteisėtą distiliavimą“ – didelio masto slaptas operacijas, per kurias išgaunami Claude mąstymo (reasoning) duomenys, naudojami pigiai apmokyti konkuruojančius modelius. Naujos priemonės – mąstymo apibendrinimas, „preserved thinking“ naujoms API paskyroms ir dviejų pakopų klasifikatorių sistema – sumažino išgaunamų naudingų duomenų kiekį 10–100 kartų. Anthropic teigia, kad Kinijos kompanija Zhipu panaudojo distiliavimą (įskaitant bandymus prieš Claude) kurdama GLM-5.3, kurį JAV vertintojai pripažino pavojingiausiu atvirojo kodo modeliu kibernetinio saugumo srityje, kurio apsaugas lengva apeiti.

Anthropic
Agentai· Svarbu· 🧪 Verta testuoti

AWS ir Keyfactor parodė, kaip apsaugoti kelių agentų tapatybę sertifikatais vietoj bendrų raktų

AWS kartu su Keyfactor paskelbė referencinę architektūrą, sprendžiančią žinomą Model Context Protocol (MCP) spragą – MCP neturi įmontuoto būdo patvirtinti, kuris agentas iš tikrųjų siunčia užklausą. Architektūra prideda tris pasitikėjimo lygius – vartotojas-sistema, agentas-agentas ir agentas-įrankių serveris – pagrįstus pasirašytais užklausų vokais, vartotojo pasirašytais delegavimo patvirtinimais, RFC 8693 auditorija apribotais tokenais ir realaus laiko OCSP atšaukimo tikrinimu. Veikiantis pavyzdys naudoja Amazon Bedrock ir AWS Strands Agents SDK, o Keyfactor EJBCA išduoda ir tikrina X.509 sertifikatus; visas kodas paskelbtas GitHub.

AWS Machine Learning
Tyrimai· Svarbu

Nauji tyrimai: AI agentas nenusprendžia paklusti prompt injection iškart — sprendimas formuojasi samprotavimo metu

Naujas tyrimas kvestionuoja įsitikinimą, kad AI agento likimas prieš prompt injection ataką nulemiamas tą akimirką, kai jis perskaito kenkėjišką tekstą. Tyrėjai sukūrė šakojamų pakartojimų (branching rollouts) metodą AgentDojo testų rinkiniuose: jie pakartojo agento eigą iki momento, kai jis aptinka įterptą instrukciją, tada leido likusiai epizodo daliai vystytis daugybe skirtingų būdų, kad išmatuotų, kiek galutinio rezultato jau buvo nulemta, o kiek – dar atvira. Qwen3 agentui be išplėstinio samprotavimo ("thinking") 91 proc. rezultato buvo jau nulemta tą akimirką; įjungus samprotavimą, šis skaičius sumažėjo iki 62 proc., o tai rodo, kad paklusimo sprendimas dažnai tęsiasi dar ilgai po pirmo kontakto su ataka. Samprotavimo įjungimas taip pat sumažino sėkmingų atakų prieš Qwen3 dažnį, tačiau padidino jį dviems kitiems testuotiems modeliams, o bandymų rezultatai samprotaujantiems agentams pasikeisdavo pakartojus testą iki 35 proc. atvejų.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Microsoft dirbtinio intelekto agentus vertina kaip vidinę grėsmę, diegia naujus apribojimo mechanizmus

Microsoft paskelbė apie „Project Perception“ saugumo sistemos plėtrą, skirtą autonominių DI agentų keliamoms rizikoms spręsti – agentai traktuojami kaip naujas „vidinės grėsmės“ tipas, kuriam reikia atskiros tapatybės, leidimų ir rizikos valdymo. Naujovės apima „Dynamic Permissions“ (mažiausių privilegijų, užduočiai pritaikyta ir laiko ribojama prieiga), „Dynamic Agent Risk“ (nuolatinis rizikos vertinimas pagal elgsenos nuokrypius ir kontekstą) ir „Dynamic Conditional Access“ (laipsniškas atsakas – nuo prieigos siaurinimo iki pilno vykdymo izoliavimo). Microsoft taip pat plečia atradimo ir tapatybės palaikymą (Microsoft Entra Agent ID) iki 60 vietinių agentų tipų, įskaitant Claude Code, OpenAI Codex ir GitHub Copilot, bei pristato „Guardian Agents“, kurie stebi ir reaguoja į rizikingą agentų elgesį mašinos greičiu.

Microsoft Security

„Microsoft“ ir NVIDIA pristatė bendrą atvirų svorių modelių rizikos valdymo sistemą

„Microsoft“ ir NVIDIA išleido bendrą baltąją knygą „Risk Management for Open-Weight Models in Enterprise“ — pirmąją iš planuojamos serijos, siūlančią įmonėms bendrą rizikos taksonomiją ir metodiką atvirų svorių AI modeliams vertinti. Dokumente teigiama, kad ar modelis yra atvirų, ar uždarų svorių, nėra pagrindinis rizikos veiksnys — svarbiausia naudojimo paskirtis, diegimo architektūra ir aplinkiniai apsaugos mechanizmai. Rizikos suskirstytos į penkias kategorijas (kibernetinis saugumas, duomenų apsauga, turinys, žmogaus-AI sąveika, šališkumas) ir susietos su vertinimais pagal ISO standartus bei NIST AI rizikos valdymo sistemą.

Microsoft Security

NIST, NSA ir CISA paskelbė incidentų valdymo gaires pažangių AI agentų mokymui

NIST Super Intelligence Security Center kartu su NSA ir CISA paskelbė bendrą leidinį, kuriame pateikiama dešimt savanoriškų pagrindinių praktikų organizacijoms, mokančioms ir vertinančioms itin pajėgius „super intelligence“ (SI) agentus, ypač ikidiegimo ar didelės rizikos neviešas sistemas. Leidinyje apibrėžiamas „SI kontrolės incidentas“ – kai AI agentas atlieka neinstruktuotus veiksmus, pažeidžiančius žmogaus priežiūrą ar saugumo kontroles. Gairės remiasi esamomis kibernetinių incidentų valdymo praktikomis, pridedant AI specifinius žingsnius, pvz., izoliacijos tikrinimą prieš atnaujinant agento veiklą.

CISA Advisories
Tyrimai· Svarbu

„Microsoft Research“ pristatė „Magnetar“ – nulinio žinojimo įrodymų sistemą įprastam kodui

„Microsoft Research“ išleido „Magnetar“ – nulinio žinojimo virtualią mašiną (zkVM), galinčią sukurti kriptografinius įrodymus, kad programa buvo įvykdyta teisingai, be poreikio ją paleisti iš naujo ar pasitikėti operatoriumi. Užuot vertus kūrėjus perrašyti programas į specialias kriptografines schemas, „Magnetar“ įrodo standartinį RISC-V mašininį kodą, todėl „Rust“, „Go“ ar C kalbomis parašytos programos gali būti sukompiliuotos įprastai ir įrodytos tokios, kokios yra. Testai su 15 programų parodė, kad sistema apdoroja 7,2–8,7 milijono instrukcijų per sekundę nešiojamajame kompiuteryje, o įrodymus galima patikrinti per maždaug 12 milisekundžių; jos kriptografinis saugumas remiasi tik standartinėmis maišos funkcijomis, tokiomis kaip SHA-256 ar SHA-3, o ne elipsinėmis kreivėmis ar gardelėmis pagrįstomis schemomis.

Microsoft Research

AWS autonominis pentesting agentas sėkmingai išnaudojo 33 iš 37 naujų CVE

AWS išbandė savo AWS Security Agent (dabar AWS Continuum dalis) su nauju, specialiai sukurtu benchmarku iš 37 realių, neseniai paskelbtų CVE, kiekvieną paleidžiant kaip gyvą konteinerizuotą taikinį su paslėpta vėliavėle. Pradėdamas nuo žemo privilegijų lygio taško, turėdamas tik vienos eilutės užuominą ir jokio PoC, agentas (veikiantis su Claude Opus 5) sėkmingai ir iki galo išnaudojo 33 iš 37 pažeidžiamumų po patikros audito; 2 atvejai perklasifikuoti kaip netinkamu keliu pasiekti sprendimai, o 2 atvejais agentas sugadino taikinį prieš ištraukdamas vėliavėlę. AWS sukūrė šį benchmarką, kad išvengtų viešų CVE rinkinių užteršimo problemos, kai modeliai gali būti įsiminę sprendimus iš mokymo duomenų.

AWS Security

„Tamnoon“ naudoja „Amazon Bedrock“ agentus automatizuoti debesijos saugumo pašalinimui

„Tamnoon“ sukūrė „Tami“ – agentinį orkestratorių „Amazon Bedrock“ platformoje, kuris tiria debesijos saugumo radinius iš CNAPP ir debesijos paslaugų teikėjų, įvertina pašalinimo saugumą ir generuoja pataisymus su apsaugos mechanizmais. Įmonė praneša apie daugiau nei 90 % kritinių debesijos pažeidžiamumų sumažėjimą per 90 dienų, be jokių gamybinių problemų. Sistema naudoja keturis specializuotus agentus (tyrimo, saugumo vertinimo, pašalinimo, kodo generavimo), kurie per „Bedrock“ kreipiasi į skirtingus pamatinius modelius, o „Bedrock Guardrails“ ir regionų tarpusavio išvada užtikrina saugumą ir mastelį.

AWS Machine Learning
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

GitHub pakeitė LLM pagrindu veikusį paslapčių skaitytuvą lengvu ModernBERT klasifikatoriumi

GitHub pakeitė savo LLM pagrindu veikusią sistemą, skirtą aptikti bendro pobūdžio paslaptis (slaptažodžius, API raktus), fine-tuned ModernBERT klasifikatoriumi kartu su regex kandidatų generavimu. Nauja dviejų pakopų sistema pagerino aptikimo tikslumą, kartu gerokai sumažindama skenavimo laiką ir eksploatavimo kaštus, ir dabar yra pakankamai greita, kad veiktų ne tik po kodo įkėlimo, bet ir prieš jį (push protection).

GitHub

„Anthropic“ pristato „Cyber Mission“ kritinės infrastruktūros ir atvirojo kodo apsaugai

„Anthropic“ paskelbė „Cyber Mission“ – ilgalaikę iniciatyvą, padedančią gynėjams apsaugoti operacines technologijas ir atvirojo kodo programinę įrangą naudojant Claude modelius. Ją sudaro Kritinės infrastruktūros gynybos programa (CIDP), kurioje dalyvauja tokie partneriai kaip Accenture, CrowdStrike, Deloitte ir Rockwell Automation, bei nemokamas įrankis OSS Scanner, skanuojantis atvirojo kodo projektus dėl pažeidžiamumų. Iniciatyva remiasi ankstesnio „Project Glasswing“ patirtimi, kuris dabar sujungtas į išplėstą Cyber Verification Program.

Anthropic

„Cisco Talos“ aprašė kenkėjišką kodą, bandantį apgauti AI saugumo analitikus per prompt injection

„Cisco Talos“ CAIRN tyrime išskirta nauja kenkėjiškų programų kategorija „A3: AI analizės vengimas“ — tai kodas, į kurį įterptas natūralios kalbos tekstas, skirtas paveikti kalbos modelius, naudojamus automatiniam kenkėjiškų failų vertinimui. Technika sekta keturiose šeimose (FRUITSHELL, PLOTSAFE, HOLLOWCLAD, MANTLEMAZE) ir 84 pavyzdžiuose nuo 2025 m. sausio iki 2026 m. liepos — nuo paprasto nukopijuoto komentaro iki šablonizuoto, kelioms AI modelių šeimoms taikyto „template spraying“ ir melagingų grasinimų. Kontroliuojami testai su penkiais vietiniais LLM parodė, kad paprasčiausia tiesioginė instrukcija pakeitė modelio vertinimą į „nekenksmingas“ maždaug 35 % bandymų, o sudėtingesni triukai beveik neveikė arba net padidino įtarimą.

Cisco Talos
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

AWS prideda realaus laiko teisių tikrinimą RAG sistemoms „Amazon Quick“ ir „Bedrock Knowledge Bases“

AWS pristato naują dviejų pakopų prieigos kontrolės architektūrą RAG (Retrieval Augmented Generation) sistemoms „Amazon Quick“ ir „Amazon Bedrock Knowledge Bases“. Vietoj to, kad pasikliautų tik periodiškai sinchronizuojamais prieigos sąrašais (ACL), sistema dabar realiu laiku tikrina teises tiesiogiai šaltinio sistemoje (pvz., Google Drive, SharePoint, Confluence) užklausos metu, prieš perduodama turinį LLM. AWS teigia, kad tai panaikina saugumo spragas, atsirandančias dėl pasenusių ar netiksliai susietų teisių tarp sinchronizavimų. Kaip pavyzdys minima „Mondelēz International“, turinti daugiau nei 35 000 darbuotojų.

AWS Machine Learning

„Anthropic“ išplečia Kibernetinio tikrinimo programą su trimis prieigos lygiais saugumo komandoms

„Anthropic“ sujungė „Project Glasswing“ ir Kibernetinio tikrinimo programą (CVP) į vieną išplėstą programą su trimis prieigos lygiais: Defense Access, Red Team Access ir Specialized Access. Kiekvienas lygis atrakina vis mažiau saugumo blokavimų kibernetinėms užduotims „Claude Opus 5.5“, „Claude Sonnet 5.5“ ir „Claude Mythos 5.1“ modeliuose patikrintoms saugumo organizacijoms. „Anthropic“ taip pat paskelbė lyginamuosius rezultatus ir pažeidžiamumų aptikimo skaičius iš ankstesnės „Glasswing“ programos, pagrindžiančius plėtrą.

Anthropic
Modeliai· Svarbu· 🧪 Verta testuoti

Z.ai GLM 5.3 (753B MoE) pasirodė „Amazon Bedrock“ su stipriais kodavimo ir saugumo rezultatais

Z.ai sukurtas GLM 5.3 — 753 milijardų parametrų MoE modelis, optimizuotas kodavimui ir ilgalaikėms agentinėms užduotims — dabar prieinamas kaip pilnai valdomas modelis „Amazon Bedrock“ platformoje. Jis tobulina GLM 5 liniją geresniais kodavimo benchmarkų rezultatais, išskirtinėmis kibernetinio saugumo galimybėmis (CyberGym rezultatas 84,5) ir gilesne integracija su Bedrock, įskaitant OpenAI suderinamas API, prompt talpinimą, tarpregioninį interferavimą ir aptarnavimo lygius. AWS taip pat parodo, kaip GLM 5.3 naudoti su atviro kodo agentu Strix autorizuotam savo programų penetraciniam testavimui.

AWS Machine Learning

„Google Research“ paskelbė ataskaitą apie privatumo ir saugumo iššūkius autonomiškiems AI agentams

„Google Research“ paskelbė ataskaitą iš savo Contextual Agent Privacy and Security (CAPS) seminaro, kurią bendrai parengė daugiau nei 50 mokslininkų ir pramonės atstovų. Ataskaitoje teigiama, kad AI agentai turi gebėti suprasti kontekstines socialines normas, o ne tik statiškus leidimus, kad tinkamai elgtųsi tvarkydami asmens duomenis ir atlikdami veiksmus vartotojo vardu. Siūlomas daugiasluoksnis požiūris, apimantis sistemos lygmens „sandboxing“, modelio lygmens samprotavimą, vartotojui orientuotus valdiklius, kelių agentų apsaugos priemones ir ekosistemos valdymą, remiantis Kontekstinio vientisumo (Contextual Integrity) teorija.

Google Research
Karšta naujienaKibernetinis saugumas

„Microsoft“ fiksuoja aktyvų neautentifikuoto Zimbra pašto serverių pažeidžiamumo išnaudojimą (CVE-2026-73570)

„Microsoft Threat Intelligence“ užfiksavo CVE-2026-73570 — neautentifikuoto OS komandų injekcijos pažeidžiamumo Zimbra Collaboration Suite SNMP pranešimų kelyje — išnaudojimą. Užpuolikai jį aktyvavo specialiai suformuotais el. laiškais prieš internete pasiekiamus serverius, kuriuose įdiegtas nebūtinas zimbra-snmp paketas ir įjungti SNMP pranešimai, nereikalaujant autentifikacijos ar vartotojo veiksmų. Po išnaudojimo stebėta JSP webshell'ų diegimas, privilegijų eskalavimas iki root teisių, nuolatinė prieiga, kredencialų ir pašto dėžučių vagystė, judėjimas tarp Zimbra klasterio mazgų bei pritaikyta nuotolinės prieigos kenkėjiška programinė įranga. Zimbra ištaisė problemą versijoje 10.1.20 (išleista 2026-07-20); CVE viešai paskelbtas 2026-08-13, o „Microsoft“ stebėjo skenavimo ir išnaudojimo veiklą tiek laikotarpiu tarp pataisos ir paskelbimo, tiek po jo.

Microsoft Security
Agentai· 🧪 Verta testuoti

AWS pristatė instrukciją, kaip prijungti saugią web paiešką prie Claude Desktop per AgentCore

AWS paskelbė žingsnis po žingsnio instrukciją, kaip suteikti Claude Desktop (veikiančiam per Amazon Bedrock) gyvą interneto prieigą per Amazon Bedrock AgentCore Gateway, taip užpildant spragą, kurią sukuria modelio mokymo duomenų atnaujinimo riba. Sąranka sujungia AWS IAM Identity Center SSO su Amazon Cognito kaip SAML-į-OAuth federacijos sluoksniu, kuris išduoda JWT žetonus, tikrinamus AgentCore Gateway kiekvienos užklausos metu. Pati Web Search funkcija yra suderinama su MCP ir veikia naudodama vidinį Amazon žiniatinklio indeksą, apimantį dešimtis milijardų dokumentų, todėl užklausos nepalieka AWS infrastruktūros ir nereikia trečiosios šalies API raktų. Šiuo metu funkcija pasiekiama tik trijuose AWS regionuose: us-east-1 (N. Virginia), eu-west-1 (Airija) ir ap-northeast-1 (Tokijas).

AWS Machine Learning