Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Kibernetinis saugumas

Pažeidžiamumai, grėsmės ir incidentai, CERT-EU, ENISA, CISA ir NCSC rekomendacijos, AI saugumas ir reguliavimas (NIS2, CRA).

“LLM” — 5 straipsniai ✕

Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas sutvirtinto mokymosi metodas leidžia efektyviai vykdyti juodosios dėžės atakas prieš LLM

Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas „CoFiBreak“ metodas didina LLM „jailbreak“ įvairovę

Tyrėjai pristatė „CoFiBreak“ – atlygio mechanizmą, skirtą treniruoti atakuojančius LLM modelius, skatinantį didesnę „jailbreak“ strategijų įvairovę. Naudojant „nuo stambaus prie smulkaus“ (coarse-to-fine) atlygio struktūrą grupiniame santykiniame politikos optimizavime (GRPO), metodas išvengia dažnos problemos, kai modeliai užsiciklina ties siauru pasikartojančių užklausų rinkiniu.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

GitHub pakeitė LLM pagrindu veikusį paslapčių skaitytuvą lengvu ModernBERT klasifikatoriumi

GitHub pakeitė savo LLM pagrindu veikusią sistemą, skirtą aptikti bendro pobūdžio paslaptis (slaptažodžius, API raktus), fine-tuned ModernBERT klasifikatoriumi kartu su regex kandidatų generavimu. Nauja dviejų pakopų sistema pagerino aptikimo tikslumą, kartu gerokai sumažindama skenavimo laiką ir eksploatavimo kaštus, ir dabar yra pakankamai greita, kad veiktų ne tik po kodo įkėlimo, bet ir prieš jį (push protection).

GitHub