Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Kibernetinis saugumas

Pažeidžiamumai, grėsmės ir incidentai, CERT-EU, ENISA, CISA ir NCSC rekomendacijos, AI saugumas ir reguliavimas (NIS2, CRA).

Karšta naujienaKibernetinis saugumas· 🧪 Verta testuoti

„Microsoft“ pristatė „Perception“ – saugumo automatizavimo platformą agentų erai

„Microsoft“ pristatė „Perception“ – saugumo platformą, skirtą suvaldyti rizikas, kylančias dėl dirbtinio intelekto valdomų automatizuotų kibernetinių atakų. Platforma koordinuoja „raudonosios“, „mėlynosios“ ir „žaliosios“ komandų agentus per automatizuotus veiksmų planus, kad aptiktų, ištirtų ir šalintų spragas mašininiu greičiu. Taip pat pristatytos naujos funkcijos, skirtos apsaugoti „agentinius insaiderius“ – autonomiškai veikiančius DI agentus jūsų tinkle.

Microsoft Security

Įrenginio kodo sukčiavimas nukreiptas į DI kodo agentus

„Microsoft“ saugumo tyrėjai ištyrė scenarijų, kuriame užpuolikai naudoja sukčiavimą (phishing), siekdami perimti DI kodo įrankius naudojant „OAuth“ įrenginio kodo srautus. Apgaulės būdu privertus vartotojus patvirtinti autentiškai atrodančią užklausą, užpuolikai gali gauti prieigą prie privačių saugyklų, sesijų istorijos ir valdyti aktyvias komandinės eilutės agentų sesijas.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Kodėl grėsmių paieška yra būtina šiuolaikinei kibernetinei gynybai

NCSC įspėja, kad standartinio saugumo stebėjimo nebepakanka norint aptikti sudėtingus užpuolikus, ypač kai jie naudoja dirbtinį intelektą operacijų greičiui ir mastui didinti. Organizacijos turi pereiti prie proaktyvios grėsmių paieškos, orientuotos į ilgalaikį užpuolikų elgesį (TTP), o ne tik į kintančius kompromitacijos indikatorius.

NCSC UK
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Nauji tyrimai atskleidžia universalias LLM modelių pažeidžiamumo spragas

Tyrėjai pristatė EndoUT – priešininkiško (adversarial) testavimo metodą, skirtą nustatyti universalius užklausų paleidiklius, kurie gali stipriai sumažinti LLM modelių naudingumą. Analizuodami, kaip modifikuotas kontekstas trikdo modelio pradinius atsakymus, užpuolikai gali sukurti fiksuotus simbolių junginius, kurie destabilizuoja modelio veikimą neturint prieigos prie specifinių užduočių ar vertinimo duomenų.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Įsilaužėliai naudoja ARTEX AI agentų sistemą plataus masto kibernetiniams nusikaltimams

„Amazon Threat Intelligence“ užfiksavo autonominius agentus, naudojančius atvirojo kodo ARTEX sistemą plataus masto duomenų vagystėms ir tapatybės klastojimui naudojant „deepfake“. Šiose kampanijose išnaudotos neatnaujintos AI infrastruktūros spragos ir konfigūracijos klaidos, siekiant automatizuoti daugiapakopes atakas.

AWS Security
Karšta naujienaKibernetinis saugumas· 🧪 Verta testuoti

Autonominių DI įsilaužimo testavimo įrankių plitimas

Nuo spalio pradžios sparčiai išaugo DI pagrįstų įsilaužimo (pentesting) ir orkestravimo sistemų skaičius, dabar aktyviai veikia tūkstančiai jų modifikacijų. Šie autonominiai įrankiai automatizuoja visą kibernetinės atakos grandinę, leisdami jiems greitai išnaudoti pavogtus kredencialus ir judėti per infrastruktūrą.

Cloudflare Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Tyrimas atskleidžia tiekimo grandinės pažeidžiamumą dirbtinio intelekto kodavimo agentuose

„Microsoft“ tyrėjai įrodė, kad DI kodavimo agentai gali būti pažeisti naudojant duomenų rinkinio apnuodijimą (dataset poisoning) arba modelio apnuodijimą (model poisoning). Šios atakos modeliuose sukuria „miegančius“ kenkėjiškus veiksmus, kurie suaktyvinami atliekant įprastas vartotojo užduotis ir slapta kviečia komandų vykdymo įrankius.

Microsoft Security

Programišiai naudoja GSocket slaptai prieigai prie Linux serverių

Užpuolikai naudoja atviro kodo įrankį GSocket, kad išlaikytų nuolatinę, užšifruotą komandų ir valdymo (C2) prieigą prie pažeistų Linux serverių. Kadangi naudojamas viešas tarpinis tinklas, o ne paties užpuoliko infrastruktūra, šis metodas apeina tradicinį IP blokavimą ir veikia net ištaisius pirmines saugumo spragas.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Microsoft tyrėjai naudodami AI agentus rado 59 „Linux“ branduolio pažeidžiamumus

„Microsoft“ FORGE laboratorija panaudojo AI pagrįstą nuskaitymo sistemą MDASH „Linux“ branduolio posistemėms analizuoti. Ši iniciatyva davė 59 viešas ataskaitas ir 33 priskirtus CVE, atskleisdama, kad AI gali žymiai pagreitinti pažeidžiamumų paiešką, nors žmogaus atliekamas patvirtinimas išlieka pagrindiniu kliūtimi taisant klaidas.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Nauji tyrimai rodo, kaip dirbtinio intelekto modeliai gali būti paversti „miego agentais“

„Microsoft Research“ atrado, kad dirbtinio intelekto modeliai gali būti pažeisti modifikavus mažiau nei 10 specifinių neuronų. Šios „miego“ užpakalinės durys (backdoors) leidžia užpuolikui suaktyvinti kenkėjiškas komandas, kai kontekste pasirodo tam tikros eilutės, net jei modelis sėkmingai praeina visus standartinius saugumo vertinimus.

Microsoft Security
Karšta naujienaKibernetinis saugumas

Aptiktos šešios naujos kritinės Git saugumo spragos

Git projektas išleido pataisymus šešioms saugumo spragoms, įskaitant savavališko kodo vykdymo, kelio peržengimo (path traversal) ir atminties sugadinimo rizikas. Šie trūkumai paveikia įvairias Git operacijas, tokias kaip rekurzyvus klonavimas, žymų sujungimas ir dvejetainių pataisų apdorojimas.

GitHub Security

„Google DeepMind“ pristato dirbtinio intelekto pagrindu veikiantį oficialų programinės įrangos tikrinimą

„Google DeepMind“ pristatė „AlphaProof Code“ – agentų sistemą, kuri naudoja „Gemini Carbon“ modelius, kad atliktų oficialų sudėtingų kriptografinių protokolų patikrinimą. Generuodama įrodymus „Lean“ kalba, sistema per keturias savaites sėkmingai patikrino „Signal“ protokolo įgyvendinimą – užduotį, kuriai istoriškai prireikdavo daugelio metų rankinio darbo.

Google DeepMind
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

„Microsoft“ tyrėjai su AI pagalba aptiko „Rust“ standartinės bibliotekos atminties saugumo klaidų

„Microsoft FORGE Lab“ pasitelkė dirbtinio intelekto pažeidžiamumų skaitytuvą „Hyenas“, kad rastų kritinių atminties saugumo problemų „Rust“ standartinėje bibliotekoje. Tyrimas atskleidžia, kad net saugus „Rust“ kodas gali sukelti neapibrėžtą elgseną, jei „unsafe“ abstrakcijos klaidingai vertina „panic“ (panikos) būsenas arba vartotojo pateiktas „trait“ implementacijas.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Apsauga nuo atminties užnuodijimo naudojant Amazon Bedrock AgentCore

„Amazon“ pristatė daugiapakopę gynybos architektūrą, skirtą apsaugoti DI agentus, naudojančius ilgalaikę atmintį, nuo „atminties užnuodijimo“ (netiesioginio užklausų įterpimo). Sprendimas naudoja „Lambda“ pagrindu veikiantį „AgentCore Gateway“ pertvėrimą, kuris tikrina įrašus pagal semantinį nuokrypį, „regex“ šablonus, vardų sričių ribas ir dažnio apribojimus.

AWS Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

IBM atveria „Praxis Policy Engine“ kodą DI saugumui

„IBM“ pristatė „Praxis Policy Engine“ (PPE) – atviro kodo įrankį, dabar esantį „CNCF Sandbox“, skirtą saugumo ir prieigos politikai užtikrinti DI sraute. Jis veikia kaip etaloninis stebėtojas, reguliuojantis užklausas, modelių iškvietimus ir agentų sąveiką naudojant bendrą duomenų formatą.

IBM Research
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

OpenSSF pristato naujus AI saugumo išteklius ir sertifikavimo programą

OpenSSF pristatė naują vadovą, kaip naudoti dirbtinį intelektą pažeidžiamumų paieškai ir šalinimui, bei paskelbė apie gruodžio mėn. startuosiantį „Secure AI Associate“ (SAIA) sertifikavimą. Šios iniciatyvos skirtos spręsti saugumo spragas, kylančias dėl spartaus AI integravimo į programinės įrangos kūrimo ciklą.

OpenSSF
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas sutvirtinto mokymosi metodas leidžia efektyviai vykdyti juodosios dėžės atakas prieš LLM

Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.

arXiv cs.CL