Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.
„Collinear AI“ pristatė „CWE-bench v2“ – vertinimo rinkinį, apimantį 100 užduočių ir 91 dažną pažeidžiamumo tipą. Šis įrankis leidžia kūrėjams programiškai įvertinti, kaip efektyviai jūsų DI agentai randa ir taiso saugumo spragas atvirojo kodo saugyklose.
VOLTA-AUTODOXER yra naujas „Windows“ skirtas „infostealer“ tipas, kuris automatizuoja aukų profiliavimą, siųsdamas pavogtus prisijungimo duomenis ir sesijų informaciją į LLM per „OpenRouter“. Programa įvertina aukų finansinį potencialą, jų saugumo būklę ir sukuria prioritetinį sąrašą, kad palengvintų užpuolikų darbą.
„Google Project Zero“ išanalizavo, kaip LLM pagrįstos sistemos (BigSleep) lyginasi su tradiciniais generatyviniais „fuzz“ įrankiais (Fuzzilli) ieškant V8 JavaScript variklio spragų. Per šešis mėnesius abu metodai savarankiškai aptiko unikalių klaidų, o jų sutapimas vertinamas tarp 25–60 proc.
Kenkėjiška LiteLLM paketo versija (1.107.0) buvo išplatinta per PyPI, leidžianti automatiškai vykdyti kodą kiekvieną kartą, kai pažeistoje aplinkoje paleidžiamas Python. Kenkėjiškas kodas rinko duomenis iš kūrimo įrankių, debesijos paslaugų ir AI konfigūracijų, net jei pati programa nenaudojo LiteLLM bibliotekos.
Microsoft praneša, kad Kinijai priskiriama grėsmių grupė Storm-0940, veikianti nuo 2021 m., nuo 2026 m. rugsėjo pradėjo naudoti atvirojo kodo agentinio AI įsilaužimo testavimo karkasą ARTEX automatizuotoms atakoms prieš šimtus organizacijų visame pasaulyje. Microsoft vertinimu, ši grupė yra atsakinga už neseniai paviešintą ConnectWise tiekimo grandinės kompromitaciją, kurios metu ARTEX valdomas slaptažodžių spraying ir OAuth programėlių piktnaudžiavimas pasiekė daugiau nei 2 250 žemyn esančių (downstream) nuomininkų, kai kuriais atvejais iki 2 900 prisijungimo bandymų per minutę. Kai kuriais atvejais privilegijuota prieiga prie debesijos buvo gauta per mažiau nei 3 valandas, o tolesnė veikla apėmė kredencialų ir teisių keitimus, siekiant įtvirtinti prieigą.
GitHub pakeitė savo LLM pagrindu veikusią sistemą, skirtą aptikti bendro pobūdžio paslaptis (slaptažodžius, API raktus), fine-tuned ModernBERT klasifikatoriumi kartu su regex kandidatų generavimu. Nauja dviejų pakopų sistema pagerino aptikimo tikslumą, kartu gerokai sumažindama skenavimo laiką ir eksploatavimo kaštus, ir dabar yra pakankamai greita, kad veiktų ne tik po kodo įkėlimo, bet ir prieš jį (push protection).
„Cisco Talos“ CAIRN tyrime išskirta nauja kenkėjiškų programų kategorija „A3: AI analizės vengimas“ — tai kodas, į kurį įterptas natūralios kalbos tekstas, skirtas paveikti kalbos modelius, naudojamus automatiniam kenkėjiškų failų vertinimui. Technika sekta keturiose šeimose (FRUITSHELL, PLOTSAFE, HOLLOWCLAD, MANTLEMAZE) ir 84 pavyzdžiuose nuo 2025 m. sausio iki 2026 m. liepos — nuo paprasto nukopijuoto komentaro iki šablonizuoto, kelioms AI modelių šeimoms taikyto „template spraying“ ir melagingų grasinimų. Kontroliuojami testai su penkiais vietiniais LLM parodė, kad paprasčiausia tiesioginė instrukcija pakeitė modelio vertinimą į „nekenksmingas“ maždaug 35 % bandymų, o sudėtingesni triukai beveik neveikė arba net padidino įtarimą.
AWS pristato naują dviejų pakopų prieigos kontrolės architektūrą RAG (Retrieval Augmented Generation) sistemoms „Amazon Quick“ ir „Amazon Bedrock Knowledge Bases“. Vietoj to, kad pasikliautų tik periodiškai sinchronizuojamais prieigos sąrašais (ACL), sistema dabar realiu laiku tikrina teises tiesiogiai šaltinio sistemoje (pvz., Google Drive, SharePoint, Confluence) užklausos metu, prieš perduodama turinį LLM. AWS teigia, kad tai panaikina saugumo spragas, atsirandančias dėl pasenusių ar netiksliai susietų teisių tarp sinchronizavimų. Kaip pavyzdys minima „Mondelēz International“, turinti daugiau nei 35 000 darbuotojų.
„GitHub Security Lab“ sukūrė atviro kodo „Taskflow Agent“, kuris naudoja pritaikomus AI darbo eigos šablonus kodo saugumo auditui, ir juo rado bei pranešė apie daugiau nei 24 pažeidžiamumus „Android“ programose. Du detalūs pavyzdžiai rodo, kaip agentas atrado vartotojo vietos sekimo spragą „OsmAnd“ navigacijos programoje ir paskyros perėmimo grandinę „Wikipedia“ „Android“ programoje per deeplink nuorodų apdorojimo klaidą. Komanda pastebi, kad LLM gerai randa sudėtingas logines pažeidžiamumų klases ir gerai supranta API elgseną, tačiau sunkiai įvertina tikrą rimtumą ir dažnai generuoja klaidingus teigiamus rezultatus, todėl radiniai vis dar turi būti peržiūrimi žmogaus. Darbo eigos šablonai yra atviro kodo ir gali būti paleisti bet kuriame „GitHub“ saugykloje per „Copilot“ varomą codespace skriptą, tačiau tam reikia premium modelio užklausų ir gali užtrukti kelias valandas.