Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Kibernetinis saugumas

Pažeidžiamumai, grėsmės ir incidentai, CERT-EU, ENISA, CISA ir NCSC rekomendacijos, AI saugumas ir reguliavimas (NIS2, CRA).

“LLM” — 9 straipsniai ✕

Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas sutvirtinto mokymosi metodas leidžia efektyviai vykdyti juodosios dėžės atakas prieš LLM

Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas „CoFiBreak“ metodas didina LLM „jailbreak“ įvairovę

Tyrėjai pristatė „CoFiBreak“ – atlygio mechanizmą, skirtą treniruoti atakuojančius LLM modelius, skatinantį didesnę „jailbreak“ strategijų įvairovę. Naudojant „nuo stambaus prie smulkaus“ (coarse-to-fine) atlygio struktūrą grupiniame santykiniame politikos optimizavime (GRPO), metodas išvengia dažnos problemos, kai modeliai užsiciklina ties siauru pasikartojančių užklausų rinkiniu.

arXiv cs.CL
Karšta naujienaKibernetinis saugumas

Valstybės remiamas veikėjas naudoja agentinio AI karkasą ARTEX automatizuotai ConnectWise tiekimo grandinės atakai

Microsoft praneša, kad Kinijai priskiriama grėsmių grupė Storm-0940, veikianti nuo 2021 m., nuo 2026 m. rugsėjo pradėjo naudoti atvirojo kodo agentinio AI įsilaužimo testavimo karkasą ARTEX automatizuotoms atakoms prieš šimtus organizacijų visame pasaulyje. Microsoft vertinimu, ši grupė yra atsakinga už neseniai paviešintą ConnectWise tiekimo grandinės kompromitaciją, kurios metu ARTEX valdomas slaptažodžių spraying ir OAuth programėlių piktnaudžiavimas pasiekė daugiau nei 2 250 žemyn esančių (downstream) nuomininkų, kai kuriais atvejais iki 2 900 prisijungimo bandymų per minutę. Kai kuriais atvejais privilegijuota prieiga prie debesijos buvo gauta per mažiau nei 3 valandas, o tolesnė veikla apėmė kredencialų ir teisių keitimus, siekiant įtvirtinti prieigą.

Microsoft Security

„Microsoft“ ir NVIDIA pristatė bendrą atvirų svorių modelių rizikos valdymo sistemą

„Microsoft“ ir NVIDIA išleido bendrą baltąją knygą „Risk Management for Open-Weight Models in Enterprise“ — pirmąją iš planuojamos serijos, siūlančią įmonėms bendrą rizikos taksonomiją ir metodiką atvirų svorių AI modeliams vertinti. Dokumente teigiama, kad ar modelis yra atvirų, ar uždarų svorių, nėra pagrindinis rizikos veiksnys — svarbiausia naudojimo paskirtis, diegimo architektūra ir aplinkiniai apsaugos mechanizmai. Rizikos suskirstytos į penkias kategorijas (kibernetinis saugumas, duomenų apsauga, turinys, žmogaus-AI sąveika, šališkumas) ir susietos su vertinimais pagal ISO standartus bei NIST AI rizikos valdymo sistemą.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

GitHub pakeitė LLM pagrindu veikusį paslapčių skaitytuvą lengvu ModernBERT klasifikatoriumi

GitHub pakeitė savo LLM pagrindu veikusią sistemą, skirtą aptikti bendro pobūdžio paslaptis (slaptažodžius, API raktus), fine-tuned ModernBERT klasifikatoriumi kartu su regex kandidatų generavimu. Nauja dviejų pakopų sistema pagerino aptikimo tikslumą, kartu gerokai sumažindama skenavimo laiką ir eksploatavimo kaštus, ir dabar yra pakankamai greita, kad veiktų ne tik po kodo įkėlimo, bet ir prieš jį (push protection).

GitHub