Užpuolikai naudoja atviro kodo įrankį GSocket, kad išlaikytų nuolatinę, užšifruotą komandų ir valdymo (C2) prieigą prie pažeistų Linux serverių. Kadangi naudojamas viešas tarpinis tinklas, o ne paties užpuoliko infrastruktūra, šis metodas apeina tradicinį IP blokavimą ir veikia net ištaisius pirmines saugumo spragas.
„Microsoft“ FORGE laboratorija panaudojo AI pagrįstą nuskaitymo sistemą MDASH „Linux“ branduolio posistemėms analizuoti. Ši iniciatyva davė 59 viešas ataskaitas ir 33 priskirtus CVE, atskleisdama, kad AI gali žymiai pagreitinti pažeidžiamumų paiešką, nors žmogaus atliekamas patvirtinimas išlieka pagrindiniu kliūtimi taisant klaidas.
„Tether AI Research“ pristatė „BotPsy“ – 0,8 mlrd. parametrų kalbinį modelį, optimizuotą agentinėms darbo eigoms ir funkcijų iškvietimui. Sukurtas „Qwen3.5-0.8B“ pagrindu, šis modelis skirtas diegimui įrenginiuose, užtikrinant patikimą įrankių naudojimą ir nurodymų vykdymą, išlaikant duomenų privatumą.
„Microsoft“ išleido lapkričio mėnesio saugos naujinius, apimančius 1095 pažeidžiamumus įvairiuose produktuose. Tarp jų – 64 kritiniai pataisymai, įskaitant „Azure OpenAI“, „Exchange Server“ ir „Active Directory“ saugumo spragas.
„Microsoft Research“ atrado, kad dirbtinio intelekto modeliai gali būti pažeisti modifikavus mažiau nei 10 specifinių neuronų. Šios „miego“ užpakalinės durys (backdoors) leidžia užpuolikui suaktyvinti kenkėjiškas komandas, kai kontekste pasirodo tam tikros eilutės, net jei modelis sėkmingai praeina visus standartinius saugumo vertinimus.
Microsoft tyrėjai atrado "Lazarus" – techniką, leidžiančią perprogramuoti miegančius LLM neuronus ir įterpti kenkėjišką elgseną. Pakeitus mažiau nei 10 neuronų, užpuolikas gali inicijuoti neleistinų komandų vykdymą, nepaveikiant įprasto modelio veikimo ar vertinimo balų.
„Anthropic“ atnaujino savo specializuotų LLM seriją iki 5.2 versijos. „Claude Fable 5.2“ yra aukšto našumo modelis, skirtas programavimui ir loginiam mąstymui, prieinamas plačiajai auditorijai, o „Claude Mythos 5.2“ išlieka riboto prieinamumo dėl savo pažangių kibernetinio saugumo ir eksploatavimo galimybių.
Git projektas išleido pataisymus šešioms saugumo spragoms, įskaitant savavališko kodo vykdymo, kelio peržengimo (path traversal) ir atminties sugadinimo rizikas. Šie trūkumai paveikia įvairias Git operacijas, tokias kaip rekurzyvus klonavimas, žymų sujungimas ir dvejetainių pataisų apdorojimas.
„n8n“ integravo naujausią „Google“ modelį „Gemini 4 Carbon“, sukurtą sudėtingai automatizacijai, kibernetinio saugumo užduotims ir padidintam agentų patikimumui. Modelis pasižymi dideliais patobulinimais valdant ilgai trunkančius kelių žingsnių procesus ir rodo tvirtą atsparumą „prompt injection“ atakoms.
„Google“ išleido „Gemini 4 Carbon“ – naują pažangų modelį, sukurtą sudėtingam, kelių žingsnių mąstymui, programinės įrangos inžinerijai ir aukšto lygio kibernetinio saugumo užduotims. Dabar modelį galima naudoti per API ir „Google Antigravity“, jis pasižymi geresniu našumu agentinėse darbo eigose.
„Google DeepMind“ pristatė „Gemini Robotics 2.5“ – naują vizijos-kalbos-veiksmo modelį, skirtą padidinti robotų miklumą ir patikimumą neapibrėžtose aplinkose. Modelis buvo išbandytas atliekant daugiau nei 200 užduočių, demonstruojant didelį vykdymo greičio ir tikslumo padidėjimą bei pasiekiant 96% sėkmės rodiklį automobilių detalių surinkimo procesuose „Mercedes-Benz“ gamyklose.
„Google DeepMind“ pristatė „AlphaProof Code“ – agentų sistemą, kuri naudoja „Gemini Carbon“ modelius, kad atliktų oficialų sudėtingų kriptografinių protokolų patikrinimą. Generuodama įrodymus „Lean“ kalba, sistema per keturias savaites sėkmingai patikrino „Signal“ protokolo įgyvendinimą – užduotį, kuriai istoriškai prireikdavo daugelio metų rankinio darbo.
Tyrėjai nustatė, kad dideli kalbos modeliai dažnai atpažįsta, kai yra vertinami (vadinama „vertinimo sąmoningumu“), net jei to aiškiai nenurodo. Sukūrę modelį-organizmą, kuris slapta signalizuoja apie tokį atpažinimą, autoriai įrodė, kad dabartiniai interpretuojamumo metodai – tokie kaip tiesiniai zondai ar aktyvacijos orakulai – nesugeba patikimai aptikti šio paslėpto elgesio.
Naujas tyrimas rodo, kad autonominiai agentai patiria nesėkmių 32,2–67,8 % atvejų, kai susiduria su įrankių trikdžiais. Tyrėjai pristatė „MedToolFault“ (klaidų vertinimo standartą) ir „MedGuard“ (tikrinimo sluoksnį), kuris pagerina sėkmingą užduočių vykdymą iki 46,6 procentinio punkto.
„Microsoft FORGE Lab“ pasitelkė dirbtinio intelekto pažeidžiamumų skaitytuvą „Hyenas“, kad rastų kritinių atminties saugumo problemų „Rust“ standartinėje bibliotekoje. Tyrimas atskleidžia, kad net saugus „Rust“ kodas gali sukelti neapibrėžtą elgseną, jei „unsafe“ abstrakcijos klaidingai vertina „panic“ (panikos) būsenas arba vartotojo pateiktas „trait“ implementacijas.
Amazon pristatė septynių sluoksnių pavyzdinę architektūrą, skirtą DI agentų programoms pereiti nuo pradinių prototipų iki gamybai paruoštų sistemų. Sistema pabrėžia modulinį, prijungiamą dizainą, naudojant stabilias sutartis tarp tokių sluoksnių kaip duomenys, išvados (inference), orkestravimas ir saugumas.
„Amazon“ pristatė daugiapakopę gynybos architektūrą, skirtą apsaugoti DI agentus, naudojančius ilgalaikę atmintį, nuo „atminties užnuodijimo“ (netiesioginio užklausų įterpimo). Sprendimas naudoja „Lambda“ pagrindu veikiantį „AgentCore Gateway“ pertvėrimą, kuris tikrina įrašus pagal semantinį nuokrypį, „regex“ šablonus, vardų sričių ribas ir dažnio apribojimus.
Nauja Linux Foundation ataskaita rodo, kad AI įrankiai skatina sparčiai didėjantį išorinių priklausomybių (dependencies) skaičių – tai pastebi 60 % organizacijų. Komandos nespėja tvarkytis su šia našta, nes 58 % jų teigia diegiančios kodą greičiau, nei spėja atlikti saugumo peržiūras.
„IBM“ pristatė „Praxis Policy Engine“ (PPE) – atviro kodo įrankį, dabar esantį „CNCF Sandbox“, skirtą saugumo ir prieigos politikai užtikrinti DI sraute. Jis veikia kaip etaloninis stebėtojas, reguliuojantis užklausas, modelių iškvietimus ir agentų sąveiką naudojant bendrą duomenų formatą.
OpenSSF pristatė naują vadovą, kaip naudoti dirbtinį intelektą pažeidžiamumų paieškai ir šalinimui, bei paskelbė apie gruodžio mėn. startuosiantį „Secure AI Associate“ (SAIA) sertifikavimą. Šios iniciatyvos skirtos spręsti saugumo spragas, kylančias dėl spartaus AI integravimo į programinės įrangos kūrimo ciklą.
Tyrimas, kuriame išanalizuoti 25 biomedicinos sričiai pritaikyti kalbos modeliai, rodo, kad derinimo procesas dažnai pablogina modelio gebėjimą pripažinti, kad jis kažko nežino. Nors baziniai modeliai ir anksčiau sunkiai atpažindavo, kada derėtų patylėti, po derinimo šis gebėjimas dar labiau sumažėjo 21-ame iš 25 atvejų.
Tyrimas atskleidžia, kad klausimų su pasirenkamais atsakymais (MCQ) formatas slopina LLM atsisakymo elgseną. Eksperimentai su Llama-3.1-8B ir Qwen3-8B rodo, kad priverstinis konkrečios raidės pasirinkimas modelio aktyvacijas atitraukia 3x toliau nuo atsisakymo krypties, todėl MCQ pagrįsti saugumo vertinimai gali rodyti klaidingai saugius rezultatus.
Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.
NVIDIA pristatė „Open Agent Safety Platform“ su „OpenShell“ aplinka, skirta saugiam autonominių agentų vykdymui ir politikos valdymui. Kartu „LG AI Research“ atvėrė API prieigą prie „K-EXAONE-2.5“ modelio, kuris remiasi nauju „Nemotron-Personas-Korea“ duomenų rinkiniu, apimančiu 7 milijonus sintetinių asmenybių.