„Amazon Threat Intelligence“ užfiksavo autonominius agentus, naudojančius atvirojo kodo ARTEX sistemą plataus masto duomenų vagystėms ir tapatybės klastojimui naudojant „deepfake“. Šiose kampanijose išnaudotos neatnaujintos AI infrastruktūros spragos ir konfigūracijos klaidos, siekiant automatizuoti daugiapakopes atakas.
„IBM“ pristatė LLMON (LLM Object Notation) – XML tipo žymėjimo kalbą, kuri naudoja specialius rezervuotus žetonus aiškiai atskirti instrukcijas, duomenis ir apribojimus. Išleisti du eksperimentiniai modeliai, „Granite 4.1 3B“ ir „8B LLMON-preview“, kurie demonstruoja beveik nulinį netiesioginių „prompt“ injekcijų sėkmės rodiklį.
„Amazon“ pristatė naujos kartos „Bedrock AgentCore“ vykdymo aplinką, skirtą sudėtingiems ir ilgai veikiantiems DI agentams. Atnaujinimas suteikia aparatine įranga izoliuotas aplinkas, greitesnį startą, didesnius skaičiavimo pajėgumus ir optimizuotą kainodarą pagal naudojimą.
AWS pradėjo palaikyti „Linux Foundation“ A2A protokolą, skirtą užtikrinti saugų autonominių agentų bendradarbiavimą skirtingose organizacijose. Šis metodas leidžia skirtingais karkasais (pvz., LangChain, Strands Agents) sukurtiems agentams keistis užduotimis ir duomenimis kaip lygiaverčiams partneriams, neatskleidžiant vidinės logikos ar nesidalijant paslaptimis.
NVIDIA į savo „AI Cluster Runtime“ (AICR) įrankį integravo atvirojo kodo „k8s-aibom“ projektą. Tai leidžia platformų komandoms automatiškai generuoti ir audituoti dirbtinio intelekto komponentų sąrašus (AIBOM) Kubernetes aplinkoje, identifikuojant modelius, išvados (inference) aplinkas bei priklausomybes.
„Microsoft“ išleido lapkričio mėnesio saugos naujinius, apimančius 1095 pažeidžiamumus įvairiuose produktuose. Tarp jų – 64 kritiniai pataisymai, įskaitant „Azure OpenAI“, „Exchange Server“ ir „Active Directory“ saugumo spragas.
Microsoft tyrėjai atrado "Lazarus" – techniką, leidžiančią perprogramuoti miegančius LLM neuronus ir įterpti kenkėjišką elgseną. Pakeitus mažiau nei 10 neuronų, užpuolikas gali inicijuoti neleistinų komandų vykdymą, nepaveikiant įprasto modelio veikimo ar vertinimo balų.
Git projektas išleido pataisymus šešioms saugumo spragoms, įskaitant savavališko kodo vykdymo, kelio peržengimo (path traversal) ir atminties sugadinimo rizikas. Šie trūkumai paveikia įvairias Git operacijas, tokias kaip rekurzyvus klonavimas, žymų sujungimas ir dvejetainių pataisų apdorojimas.
„n8n“ integravo naujausią „Google“ modelį „Gemini 4 Carbon“, sukurtą sudėtingai automatizacijai, kibernetinio saugumo užduotims ir padidintam agentų patikimumui. Modelis pasižymi dideliais patobulinimais valdant ilgai trunkančius kelių žingsnių procesus ir rodo tvirtą atsparumą „prompt injection“ atakoms.
„Microsoft FORGE Lab“ pasitelkė dirbtinio intelekto pažeidžiamumų skaitytuvą „Hyenas“, kad rastų kritinių atminties saugumo problemų „Rust“ standartinėje bibliotekoje. Tyrimas atskleidžia, kad net saugus „Rust“ kodas gali sukelti neapibrėžtą elgseną, jei „unsafe“ abstrakcijos klaidingai vertina „panic“ (panikos) būsenas arba vartotojo pateiktas „trait“ implementacijas.
„Amazon“ pristatė daugiapakopę gynybos architektūrą, skirtą apsaugoti DI agentus, naudojančius ilgalaikę atmintį, nuo „atminties užnuodijimo“ (netiesioginio užklausų įterpimo). Sprendimas naudoja „Lambda“ pagrindu veikiantį „AgentCore Gateway“ pertvėrimą, kuris tikrina įrašus pagal semantinį nuokrypį, „regex“ šablonus, vardų sričių ribas ir dažnio apribojimus.