Nuo spalio pradžios sparčiai išaugo DI pagrįstų įsilaužimo (pentesting) ir orkestravimo sistemų skaičius, dabar aktyviai veikia tūkstančiai jų modifikacijų. Šie autonominiai įrankiai automatizuoja visą kibernetinės atakos grandinę, leisdami jiems greitai išnaudoti pavogtus kredencialus ir judėti per infrastruktūrą.
„Google“ įvertino savo „Agent Anomaly Detection“ funkciją naudodama penkis išorinius testus, įskaitant „AgentDojo“ ir „AgentHarm“. Įrankis aptiko 87 % kenksmingų instrukcijų, kurias agentai sėkmingai įvykdė, tačiau veikė prasčiau su užteršta ilgalaike atmintimi.
„Microsoft“ tyrėjai įrodė, kad DI kodavimo agentai gali būti pažeisti naudojant duomenų rinkinio apnuodijimą (dataset poisoning) arba modelio apnuodijimą (model poisoning). Šios atakos modeliuose sukuria „miegančius“ kenkėjiškus veiksmus, kurie suaktyvinami atliekant įprastas vartotojo užduotis ir slapta kviečia komandų vykdymo įrankius.
„Microsoft Research“ atrado, kad dirbtinio intelekto modeliai gali būti pažeisti modifikavus mažiau nei 10 specifinių neuronų. Šios „miego“ užpakalinės durys (backdoors) leidžia užpuolikui suaktyvinti kenkėjiškas komandas, kai kontekste pasirodo tam tikros eilutės, net jei modelis sėkmingai praeina visus standartinius saugumo vertinimus.
Microsoft tyrėjai atrado "Lazarus" – techniką, leidžiančią perprogramuoti miegančius LLM neuronus ir įterpti kenkėjišką elgseną. Pakeitus mažiau nei 10 neuronų, užpuolikas gali inicijuoti neleistinų komandų vykdymą, nepaveikiant įprasto modelio veikimo ar vertinimo balų.
„IBM“ pristatė „Praxis Policy Engine“ (PPE) – atviro kodo įrankį, dabar esantį „CNCF Sandbox“, skirtą saugumo ir prieigos politikai užtikrinti DI sraute. Jis veikia kaip etaloninis stebėtojas, reguliuojantis užklausas, modelių iškvietimus ir agentų sąveiką naudojant bendrą duomenų formatą.
„Microsoft“ pristatė naujas saugumo funkcijas, skirtas AI agentų rizikai valdyti, įskaitant dinamines teises (Dynamic Permissions) užduočių apimčiai riboti bei „Microsoft Execution Containers“ (MXC) operacinės sistemos lygio izoliacijai. Taip pat „Microsoft Defender“ dabar gali aptikti vietinius AI agentus bei jų MCP konfigūracijas „Windows“ ir „macOS“ sistemose.
Cloudflare pristatė naują „Personal Assistants“ kategoriją savo saugumo analitikos įrankiuose, kuri leidžia svetainių savininkams stebėti ir valdyti AI agentų generuojamą automatizuotą srautą. Dabar įmonės gali nustatyti individualias prieigos politikas kiekvienam agentui, taip apsaugodamos reklamos pajamas ar jautrias svetainės zonas, neblokuojant teisėtų užklausų.
„Collinear AI“ pristatė „CWE-bench v2“ – vertinimo rinkinį, apimantį 100 užduočių ir 91 dažną pažeidžiamumo tipą. Šis įrankis leidžia kūrėjams programiškai įvertinti, kaip efektyviai jūsų DI agentai randa ir taiso saugumo spragas atvirojo kodo saugyklose.
„Microsoft“ duomenimis, DI agentų skaičius „M365“ ekosistemoje per metus išaugo 15 kartų, todėl CISO privalo diegti naujus saugumo pagrindus. Dėmesys krypsta į griežtą tapatybės kontrolę ir detalią stebėseną, siekiant išvengti rizikų, kylančių dėl nekontroliuojamo DI savarankiškumo.
„Google Project Zero“ išanalizavo, kaip LLM pagrįstos sistemos (BigSleep) lyginasi su tradiciniais generatyviniais „fuzz“ įrankiais (Fuzzilli) ieškant V8 JavaScript variklio spragų. Per šešis mėnesius abu metodai savarankiškai aptiko unikalių klaidų, o jų sutapimas vertinamas tarp 25–60 proc.
Cloudflare pristatė „full transaction detection“ ir atsakymo taisykles savo žiniatinklio aplikacijų ugniasienei (WAF), kurios vertina ir HTTP užklausą, ir serverio atsakymą, kad patvirtintų, ar ataka iš tikrųjų pavyko. Anksčiau WAF tikrino tik gaunamas užklausas, todėl galėjo praleisti išnaudojimus, kurie atsiskleidžia tik atsakyme (pvz., nutekėjęs failo turinys), arba sukelti klaidingus suveikimus, blokuojant vien pagal užklausos požymius. Pirmosios valdomos apsaugos skirtos neseniai atskleistai php2shell pažeidžiamumui, o funkcija prieinama visiems klientams, įskaitant Free planą.
Microsoft paskelbė apie „Project Perception“ saugumo sistemos plėtrą, skirtą autonominių DI agentų keliamoms rizikoms spręsti – agentai traktuojami kaip naujas „vidinės grėsmės“ tipas, kuriam reikia atskiros tapatybės, leidimų ir rizikos valdymo. Naujovės apima „Dynamic Permissions“ (mažiausių privilegijų, užduočiai pritaikyta ir laiko ribojama prieiga), „Dynamic Agent Risk“ (nuolatinis rizikos vertinimas pagal elgsenos nuokrypius ir kontekstą) ir „Dynamic Conditional Access“ (laipsniškas atsakas – nuo prieigos siaurinimo iki pilno vykdymo izoliavimo). Microsoft taip pat plečia atradimo ir tapatybės palaikymą (Microsoft Entra Agent ID) iki 60 vietinių agentų tipų, įskaitant Claude Code, OpenAI Codex ir GitHub Copilot, bei pristato „Guardian Agents“, kurie stebi ir reaguoja į rizikingą agentų elgesį mašinos greičiu.
AWS pristato naują dviejų pakopų prieigos kontrolės architektūrą RAG (Retrieval Augmented Generation) sistemoms „Amazon Quick“ ir „Amazon Bedrock Knowledge Bases“. Vietoj to, kad pasikliautų tik periodiškai sinchronizuojamais prieigos sąrašais (ACL), sistema dabar realiu laiku tikrina teises tiesiogiai šaltinio sistemoje (pvz., Google Drive, SharePoint, Confluence) užklausos metu, prieš perduodama turinį LLM. AWS teigia, kad tai panaikina saugumo spragas, atsirandančias dėl pasenusių ar netiksliai susietų teisių tarp sinchronizavimų. Kaip pavyzdys minima „Mondelēz International“, turinti daugiau nei 35 000 darbuotojų.
Cloudflare sukūrė AI agentų sistemą savo „Managed Defense“ saugumo paslaugai, skirtą tvarkyti įspėjimų antplūdį, kuris apsunkina žmonių analitikų darbą. Vietoj vieno bendros paskirties agento, analizuojančio viską, sistema atskiria deterministinį duomenų rinkimą nuo modeliu pagrįsto samprotavimo ir lygiagrečiai paleidžia keturis specializuotus agentus prieš sintezės agentą, sujungiantį išvadas. Bendrovė teigia, kad tai sumažina haliucinacijas ir padaro tyrimus audituojamus bei atkuriamus.
„GitHub Security Lab“ sukūrė atviro kodo „Taskflow Agent“, kuris naudoja pritaikomus AI darbo eigos šablonus kodo saugumo auditui, ir juo rado bei pranešė apie daugiau nei 24 pažeidžiamumus „Android“ programose. Du detalūs pavyzdžiai rodo, kaip agentas atrado vartotojo vietos sekimo spragą „OsmAnd“ navigacijos programoje ir paskyros perėmimo grandinę „Wikipedia“ „Android“ programoje per deeplink nuorodų apdorojimo klaidą. Komanda pastebi, kad LLM gerai randa sudėtingas logines pažeidžiamumų klases ir gerai supranta API elgseną, tačiau sunkiai įvertina tikrą rimtumą ir dažnai generuoja klaidingus teigiamus rezultatus, todėl radiniai vis dar turi būti peržiūrimi žmogaus. Darbo eigos šablonai yra atviro kodo ir gali būti paleisti bet kuriame „GitHub“ saugykloje per „Copilot“ varomą codespace skriptą, tačiau tam reikia premium modelio užklausų ir gali užtrukti kelias valandas.