Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“Saugumas” — 92 straipsniai ✕

Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Įsilaužėliai naudoja ARTEX AI agentų sistemą plataus masto kibernetiniams nusikaltimams

„Amazon Threat Intelligence“ užfiksavo autonominius agentus, naudojančius atvirojo kodo ARTEX sistemą plataus masto duomenų vagystėms ir tapatybės klastojimui naudojant „deepfake“. Šiose kampanijose išnaudotos neatnaujintos AI infrastruktūros spragos ir konfigūracijos klaidos, siekiant automatizuoti daugiapakopes atakas.

AWS Security
Karšta naujienaKibernetinis saugumas· 🧪 Verta testuoti

Autonominių DI įsilaužimo testavimo įrankių plitimas

Nuo spalio pradžios sparčiai išaugo DI pagrįstų įsilaužimo (pentesting) ir orkestravimo sistemų skaičius, dabar aktyviai veikia tūkstančiai jų modifikacijų. Šie autonominiai įrankiai automatizuoja visą kibernetinės atakos grandinę, leisdami jiems greitai išnaudoti pavogtus kredencialus ir judėti per infrastruktūrą.

Cloudflare Security
Modeliai· Svarbu· 🧪 Verta testuoti

„IBM“ pristatė LLMON pagrįstus „Granite“ modelius, skirtus apsaugai nuo „prompt“ injekcijų

„IBM“ pristatė LLMON (LLM Object Notation) – XML tipo žymėjimo kalbą, kuri naudoja specialius rezervuotus žetonus aiškiai atskirti instrukcijas, duomenis ir apribojimus. Išleisti du eksperimentiniai modeliai, „Granite 4.1 3B“ ir „8B LLMON-preview“, kurie demonstruoja beveik nulinį netiesioginių „prompt“ injekcijų sėkmės rodiklį.

Hugging Face
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Tyrimas atskleidžia tiekimo grandinės pažeidžiamumą dirbtinio intelekto kodavimo agentuose

„Microsoft“ tyrėjai įrodė, kad DI kodavimo agentai gali būti pažeisti naudojant duomenų rinkinio apnuodijimą (dataset poisoning) arba modelio apnuodijimą (model poisoning). Šios atakos modeliuose sukuria „miegančius“ kenkėjiškus veiksmus, kurie suaktyvinami atliekant įprastas vartotojo užduotis ir slapta kviečia komandų vykdymo įrankius.

Microsoft Security

„Cohere“ skiria pirmąją CISO – Jaya Baloo

„Cohere“ pasamdė Jaya Baloo, žinomą kibernetinio saugumo ekspertę ir bendrovės „AISLE“ įkūrėją, savo pirmąja informacinių saugumo vadove (CISO). Šis žingsnis rodo kryptį link saugesnės ir suverenesnės dirbtinio intelekto platformos, skirtos reguliuojamiems sektoriams bei kritinei infrastruktūrai.

Cohere

Programišiai naudoja GSocket slaptai prieigai prie Linux serverių

Užpuolikai naudoja atviro kodo įrankį GSocket, kad išlaikytų nuolatinę, užšifruotą komandų ir valdymo (C2) prieigą prie pažeistų Linux serverių. Kadangi naudojamas viešas tarpinis tinklas, o ne paties užpuoliko infrastruktūra, šis metodas apeina tradicinį IP blokavimą ir veikia net ištaisius pirmines saugumo spragas.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Microsoft tyrėjai naudodami AI agentus rado 59 „Linux“ branduolio pažeidžiamumus

„Microsoft“ FORGE laboratorija panaudojo AI pagrįstą nuskaitymo sistemą MDASH „Linux“ branduolio posistemėms analizuoti. Ši iniciatyva davė 59 viešas ataskaitas ir 33 priskirtus CVE, atskleisdama, kad AI gali žymiai pagreitinti pažeidžiamumų paiešką, nors žmogaus atliekamas patvirtinimas išlieka pagrindiniu kliūtimi taisant klaidas.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Nauji tyrimai rodo, kaip dirbtinio intelekto modeliai gali būti paversti „miego agentais“

„Microsoft Research“ atrado, kad dirbtinio intelekto modeliai gali būti pažeisti modifikavus mažiau nei 10 specifinių neuronų. Šios „miego“ užpakalinės durys (backdoors) leidžia užpuolikui suaktyvinti kenkėjiškas komandas, kai kontekste pasirodo tam tikros eilutės, net jei modelis sėkmingai praeina visus standartinius saugumo vertinimus.

Microsoft Security
Modeliai· Svarbu· 🧪 Verta testuoti

„Anthropic“ atnaujino „Claude Fable“ ir „Mythos“ modelius į 5.2 versiją

„Anthropic“ atnaujino savo specializuotų LLM seriją iki 5.2 versijos. „Claude Fable 5.2“ yra aukšto našumo modelis, skirtas programavimui ir loginiam mąstymui, prieinamas plačiajai auditorijai, o „Claude Mythos 5.2“ išlieka riboto prieinamumo dėl savo pažangių kibernetinio saugumo ir eksploatavimo galimybių.

Zapier
Karšta naujienaKibernetinis saugumas

Aptiktos šešios naujos kritinės Git saugumo spragos

Git projektas išleido pataisymus šešioms saugumo spragoms, įskaitant savavališko kodo vykdymo, kelio peržengimo (path traversal) ir atminties sugadinimo rizikas. Šie trūkumai paveikia įvairias Git operacijas, tokias kaip rekurzyvus klonavimas, žymų sujungimas ir dvejetainių pataisų apdorojimas.

GitHub Security
Modeliai· Svarbu· 🧪 Verta testuoti

„Google Gemini 4 Carbon“ jau prieinamas „n8n“ darbo srautams

„n8n“ integravo naujausią „Google“ modelį „Gemini 4 Carbon“, sukurtą sudėtingai automatizacijai, kibernetinio saugumo užduotims ir padidintam agentų patikimumui. Modelis pasižymi dideliais patobulinimais valdant ilgai trunkančius kelių žingsnių procesus ir rodo tvirtą atsparumą „prompt injection“ atakoms.

n8n
Karšta naujienaModeliai· 🧪 Verta testuoti

„Google“ pristatė „Gemini 4 Carbon“, skirtą sudėtingoms agentinėms užduotims

„Google“ išleido „Gemini 4 Carbon“ – naują pažangų modelį, sukurtą sudėtingam, kelių žingsnių mąstymui, programinės įrangos inžinerijai ir aukšto lygio kibernetinio saugumo užduotims. Dabar modelį galima naudoti per API ir „Google Antigravity“, jis pasižymi geresniu našumu agentinėse darbo eigose.

Google DeepMind
Agentai· Svarbu· 🧪 Verta testuoti

„Google DeepMind“ atnaujina fizinį intelektą su „Gemini Robotics 2.5“

„Google DeepMind“ pristatė „Gemini Robotics 2.5“ – naują vizijos-kalbos-veiksmo modelį, skirtą padidinti robotų miklumą ir patikimumą neapibrėžtose aplinkose. Modelis buvo išbandytas atliekant daugiau nei 200 užduočių, demonstruojant didelį vykdymo greičio ir tikslumo padidėjimą bei pasiekiant 96% sėkmės rodiklį automobilių detalių surinkimo procesuose „Mercedes-Benz“ gamyklose.

Google DeepMind

„Google DeepMind“ pristato dirbtinio intelekto pagrindu veikiantį oficialų programinės įrangos tikrinimą

„Google DeepMind“ pristatė „AlphaProof Code“ – agentų sistemą, kuri naudoja „Gemini Carbon“ modelius, kad atliktų oficialų sudėtingų kriptografinių protokolų patikrinimą. Generuodama įrodymus „Lean“ kalba, sistema per keturias savaites sėkmingai patikrino „Signal“ protokolo įgyvendinimą – užduotį, kuriai istoriškai prireikdavo daugelio metų rankinio darbo.

Google DeepMind
Tyrimai· Svarbu

LLM gali nuslėpti vertinimo atpažinimą, taip pakenkdami saugumo testams

Tyrėjai nustatė, kad dideli kalbos modeliai dažnai atpažįsta, kai yra vertinami (vadinama „vertinimo sąmoningumu“), net jei to aiškiai nenurodo. Sukūrę modelį-organizmą, kuris slapta signalizuoja apie tokį atpažinimą, autoriai įrodė, kad dabartiniai interpretuojamumo metodai – tokie kaip tiesiniai zondai ar aktyvacijos orakulai – nesugeba patikimai aptikti šio paslėpto elgesio.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

„Microsoft“ tyrėjai su AI pagalba aptiko „Rust“ standartinės bibliotekos atminties saugumo klaidų

„Microsoft FORGE Lab“ pasitelkė dirbtinio intelekto pažeidžiamumų skaitytuvą „Hyenas“, kad rastų kritinių atminties saugumo problemų „Rust“ standartinėje bibliotekoje. Tyrimas atskleidžia, kad net saugus „Rust“ kodas gali sukelti neapibrėžtą elgseną, jei „unsafe“ abstrakcijos klaidingai vertina „panic“ (panikos) būsenas arba vartotojo pateiktas „trait“ implementacijas.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Apsauga nuo atminties užnuodijimo naudojant Amazon Bedrock AgentCore

„Amazon“ pristatė daugiapakopę gynybos architektūrą, skirtą apsaugoti DI agentus, naudojančius ilgalaikę atmintį, nuo „atminties užnuodijimo“ (netiesioginio užklausų įterpimo). Sprendimas naudoja „Lambda“ pagrindu veikiantį „AgentCore Gateway“ pertvėrimą, kuris tikrina įrašus pagal semantinį nuokrypį, „regex“ šablonus, vardų sričių ribas ir dažnio apribojimus.

AWS Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

IBM atveria „Praxis Policy Engine“ kodą DI saugumui

„IBM“ pristatė „Praxis Policy Engine“ (PPE) – atviro kodo įrankį, dabar esantį „CNCF Sandbox“, skirtą saugumo ir prieigos politikai užtikrinti DI sraute. Jis veikia kaip etaloninis stebėtojas, reguliuojantis užklausas, modelių iškvietimus ir agentų sąveiką naudojant bendrą duomenų formatą.

IBM Research