Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Kibernetinis saugumas

Pažeidžiamumai, grėsmės ir incidentai, CERT-EU, ENISA, CISA ir NCSC rekomendacijos, AI saugumas ir reguliavimas (NIS2, CRA).

“Agents” — 11 straipsnių ✕

Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Įsilaužėliai naudoja ARTEX AI agentų sistemą plataus masto kibernetiniams nusikaltimams

„Amazon Threat Intelligence“ užfiksavo autonominius agentus, naudojančius atvirojo kodo ARTEX sistemą plataus masto duomenų vagystėms ir tapatybės klastojimui naudojant „deepfake“. Šiose kampanijose išnaudotos neatnaujintos AI infrastruktūros spragos ir konfigūracijos klaidos, siekiant automatizuoti daugiapakopes atakas.

AWS Security
Karšta naujienaKibernetinis saugumas· 🧪 Verta testuoti

Autonominių DI įsilaužimo testavimo įrankių plitimas

Nuo spalio pradžios sparčiai išaugo DI pagrįstų įsilaužimo (pentesting) ir orkestravimo sistemų skaičius, dabar aktyviai veikia tūkstančiai jų modifikacijų. Šie autonominiai įrankiai automatizuoja visą kibernetinės atakos grandinę, leisdami jiems greitai išnaudoti pavogtus kredencialus ir judėti per infrastruktūrą.

Cloudflare Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Tyrimas atskleidžia tiekimo grandinės pažeidžiamumą dirbtinio intelekto kodavimo agentuose

„Microsoft“ tyrėjai įrodė, kad DI kodavimo agentai gali būti pažeisti naudojant duomenų rinkinio apnuodijimą (dataset poisoning) arba modelio apnuodijimą (model poisoning). Šios atakos modeliuose sukuria „miegančius“ kenkėjiškus veiksmus, kurie suaktyvinami atliekant įprastas vartotojo užduotis ir slapta kviečia komandų vykdymo įrankius.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Microsoft tyrėjai naudodami AI agentus rado 59 „Linux“ branduolio pažeidžiamumus

„Microsoft“ FORGE laboratorija panaudojo AI pagrįstą nuskaitymo sistemą MDASH „Linux“ branduolio posistemėms analizuoti. Ši iniciatyva davė 59 viešas ataskaitas ir 33 priskirtus CVE, atskleisdama, kad AI gali žymiai pagreitinti pažeidžiamumų paiešką, nors žmogaus atliekamas patvirtinimas išlieka pagrindiniu kliūtimi taisant klaidas.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Nauji tyrimai rodo, kaip dirbtinio intelekto modeliai gali būti paversti „miego agentais“

„Microsoft Research“ atrado, kad dirbtinio intelekto modeliai gali būti pažeisti modifikavus mažiau nei 10 specifinių neuronų. Šios „miego“ užpakalinės durys (backdoors) leidžia užpuolikui suaktyvinti kenkėjiškas komandas, kai kontekste pasirodo tam tikros eilutės, net jei modelis sėkmingai praeina visus standartinius saugumo vertinimus.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Apsauga nuo atminties užnuodijimo naudojant Amazon Bedrock AgentCore

„Amazon“ pristatė daugiapakopę gynybos architektūrą, skirtą apsaugoti DI agentus, naudojančius ilgalaikę atmintį, nuo „atminties užnuodijimo“ (netiesioginio užklausų įterpimo). Sprendimas naudoja „Lambda“ pagrindu veikiantį „AgentCore Gateway“ pertvėrimą, kuris tikrina įrašus pagal semantinį nuokrypį, „regex“ šablonus, vardų sričių ribas ir dažnio apribojimus.

AWS Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

IBM atveria „Praxis Policy Engine“ kodą DI saugumui

„IBM“ pristatė „Praxis Policy Engine“ (PPE) – atviro kodo įrankį, dabar esantį „CNCF Sandbox“, skirtą saugumo ir prieigos politikai užtikrinti DI sraute. Jis veikia kaip etaloninis stebėtojas, reguliuojantis užklausas, modelių iškvietimus ir agentų sąveiką naudojant bendrą duomenų formatą.

IBM Research
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

OpenSSF pristato naujus AI saugumo išteklius ir sertifikavimo programą

OpenSSF pristatė naują vadovą, kaip naudoti dirbtinį intelektą pažeidžiamumų paieškai ir šalinimui, bei paskelbė apie gruodžio mėn. startuosiantį „Secure AI Associate“ (SAIA) sertifikavimą. Šios iniciatyvos skirtos spręsti saugumo spragas, kylančias dėl spartaus AI integravimo į programinės įrangos kūrimo ciklą.

OpenSSF
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas sutvirtinto mokymosi metodas leidžia efektyviai vykdyti juodosios dėžės atakas prieš LLM

Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.

arXiv cs.CL