Grėsmės veikėjas Storm-3358 vis dažniau naudoja agentinį AI karkasą ARTEX atakoms prieš finansų organizacijas vykdyti. Šis įrankis leidžia automatizuoti pažeidžiamumų paiešką, prisijungimo duomenų vagystes ir judėjimą tinkle dideliu greičiu, pasitelkiant standartinius įrankius, tokius kaip Nmap ar curl.
Taxbit įdiegė saugų, vaidmenis atpažįstantį AI asistentą su Amazon Bedrock AgentCore, skirtą automatizuoti pagalbą naudojant produkto dokumentaciją. Agentas naudoja RAG metodą, kad pagrįstų atsakymus patvirtintu turiniu, tuo pačiu griežtai užtikrinant PII maskavimą, duomenų vietos rezidavimą ir vartotojų vaidmenų leidimus.
„Greenlight Financial“ sėkmingai automatizavo daugiau nei 90 % savo saugumo ir rizikos atvejų sprendimų (iš viso 4 000 atvejų per mėnesį), įdiegdama daugiapakopę agentų architektūrą „Amazon Bedrock AgentCore“ platformoje. Sistema naudoja 1-ojo lygio prižiūrėtoją pradiniam triažui ir 2-ojo lygio prižiūrėtoją išsamiam tyrimui, taip ženkliai sumažindama analitikų darbo krūvį.
Šis atnaujinimas pristato šliuzu (gateway) paremtą architektūrą, skirtą DI agentų prieigai valdyti. Naudojant Amazon Bedrock AgentCore Gateway ir Cedar taisykles, autorizacijos logiką galima perkelti nuo atskirų įrankių į centrinį taisyklių variklį, taip užtikrinant saugumą šimtams agentų.
„Microsoft“ pristatė naujas saugumo funkcijas, skirtas AI agentų rizikai valdyti, įskaitant dinamines teises (Dynamic Permissions) užduočių apimčiai riboti bei „Microsoft Execution Containers“ (MXC) operacinės sistemos lygio izoliacijai. Taip pat „Microsoft Defender“ dabar gali aptikti vietinius AI agentus bei jų MCP konfigūracijas „Windows“ ir „macOS“ sistemose.
„Microsoft Research“ pristatė „PDD Kit“ – įrankių rinkinį, skirtą sujungti žmogaus ketinimus ir DI sugeneruotą kodą per „įrodymais pagrįstą kūrimą“ (Proof-Driven Development). Naudojant formalią patikrą su „Verus“ kalba, šis rinkinys leidžia kūrėjams matematiškai įrodyti, kad DI parašytas kodas atitinka nurodytus reikalavimus, žengiant toliau nei tradicinis testavimas.
„OpenAI“ pristatė „GPT-6-Cyber“ – naują modelio versiją, skirtą saugumo spragų aptikimui, atkūrimui ir klaidų taisymui. Prieš naudojimą būtina sukonfigūruoti „Daybreak“ aplinką.
„Amazon Quick“ pristatė „Smart Approvals“ funkciją, skirtą automatizuoti rutinines agentų užduotis, išlaikant žmogaus priežiūrą kritiniams sprendimams. Sistema naudoja klasifikatorių, kuris vertina atliekamus veiksmus pagal pokalbio kontekstą ir nustatytas taisykles, todėl sumažina nereikalingų pertraukimų skaičių nepažeidžiant saugumo reikalavimų.
Cloudflare pristatė naują „Personal Assistants“ kategoriją savo saugumo analitikos įrankiuose, kuri leidžia svetainių savininkams stebėti ir valdyti AI agentų generuojamą automatizuotą srautą. Dabar įmonės gali nustatyti individualias prieigos politikas kiekvienam agentui, taip apsaugodamos reklamos pajamas ar jautrias svetainės zonas, neblokuojant teisėtų užklausų.
„Collinear AI“ pristatė „CWE-bench v2“ – vertinimo rinkinį, apimantį 100 užduočių ir 91 dažną pažeidžiamumo tipą. Šis įrankis leidžia kūrėjams programiškai įvertinti, kaip efektyviai jūsų DI agentai randa ir taiso saugumo spragas atvirojo kodo saugyklose.
„Google“ pristatė „Physical-Engineering's Last Exam“ (PLE) – naują vertinimo sistemą, skirtą tikrinti DI agentų gebėjimus mechaninės, elektros, civilinės ir struktūrinės inžinerijos srityse. Skirtingai nei standartiniuose testuose, PLE reikalauja, kad agentai apdorotų didelius projekto aplankus, įskaitant CAD brėžinius ir statybos normas, ir pateiktų saugius, reikalavimus atitinkančius sprendimus.
„Amazon“ atnaujino „AgentCore Gateway“, įtraukdama automatizuotą prieigos žetonų keitimą tarp „Microsoft Entra ID“ ir apsaugotų REST API. Naudojant šį srautą, AI agentai gali atlikti veiksmus tokiose platformose kaip „ServiceNow“, naudodami galutinio vartotojo tapatybę ir teises, o ne veikdami kaip bendra tarnybinė paskyra.
Naujausi tyrimai rodo, kad dabartiniai saugumo stebėsenos įrankiai dažnai klysta, painiodami injekcijos poveikį su agento realiu ketinimu atlikti nesaugų veiksmą. Autorius siūlo dvipusio stratifikavimo vertinimo metodą, kuris atskiria poveikį nuo elgsenos, taip žymiai pagerinant gebėjimą prognozuoti nesaugius įrankių iškvietimus iki dviejų žingsnių į priekį.
„Microsoft“ duomenimis, DI agentų skaičius „M365“ ekosistemoje per metus išaugo 15 kartų, todėl CISO privalo diegti naujus saugumo pagrindus. Dėmesys krypsta į griežtą tapatybės kontrolę ir detalią stebėseną, siekiant išvengti rizikų, kylančių dėl nekontroliuojamo DI savarankiškumo.
„Google“ paskelbė apie „Gemini 4 Carbon“ – naują galingą modelį, skirtą sudėtingoms inžinerijos užduotims ir kibernetiniam saugumui. Modelis pasižymi puikiais pažeidžiamumų aptikimo, saugaus kodo taisymo ir ilgalaikio planavimo rezultatais bei geresne apsauga nuo įvedimo užklausų injekcijų.
Tyrėjai pristatė LOTUS – sistemą haliucinacijoms aptikti, kuri naudoja multilinijinę mažo rango dekompoziciją (low-rank decomposition) signalams iš paslėptų LLM sluoksnių išgauti. Analizuojant aktyvacijų pikus ir tarp-sluoksninius modelius, šis metodas tiksliau atpažįsta neteisingus atsakymus nei dabartinės telkimo (pooling) technikos.
Kūrėjai dabar gali nustatyti konkrečias turinio saugos gaires tiesiogiai teikdami API užklausas „Grok“ modeliams. Pridėję „guidelines“ masyvą į „Chat Completions“ ar „Responses“ užklausas, galite valdyti, kaip modelis elgiasi su NSFW, smurto ir necenzūrinės leksikos kategorijomis.
„Google Project Zero“ išanalizavo, kaip LLM pagrįstos sistemos (BigSleep) lyginasi su tradiciniais generatyviniais „fuzz“ įrankiais (Fuzzilli) ieškant V8 JavaScript variklio spragų. Per šešis mėnesius abu metodai savarankiškai aptiko unikalių klaidų, o jų sutapimas vertinamas tarp 25–60 proc.
NIST išleido NISTIR 8547 – pagrindinį vadovą, skirtą perėjimui prie kvantiniams kompiuteriams atsparių standartų. Ataskaitoje akcentuojamas skubus poreikis apsaugoti duomenis nuo „rink dabar, iššifruok vėliau“ atakų, laikantis federalinių reikalavimų.
„n8n 3.0“ išleista beta versijoje, daugiausia dėmesio skiriant pagrindinės architektūros stabilumui, griežtesniems saugumo numatytiesiems nustatymams ir pasenusių funkcijų šalinimui. Nuo šiol savarankiškai talpinamoms sistemoms privalomas „container-only“ diegimo modelis, o prieš gruodžio mėnesį numatytą stabilų išleidimą naudotojai turi pasinaudoti integruota migracijos ataskaita (Migration Report) esamiems pokyčiams valdyti.
„Cloudflare“ nustatė SGLang išvedimo variklio saugumo klaidą, dėl kurios GLM-5.3 modelis atskleidė duomenis tarp skirtingų vartotojų užklausų. Užklausos, viršijusios sukonfigūruotą KV talpyklos dydį, buvo klaidingai apdorotos, todėl dekodavimo mazgas generavo atsakymus naudodamas senus kitų vartotojų duomenis.