Pereiti prie turinio
2026 m. lapkričio 22 d., sekmadienis
Tenesys AI News
Prenumerata

Kibernetinis saugumas

Pažeidžiamumai, grėsmės ir incidentai, CERT-EU, ENISA, CISA ir NCSC rekomendacijos, AI saugumas ir reguliavimas (NIS2, CRA).

“N/A” — 5 straipsniai ✕

Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas sutvirtinto mokymosi metodas leidžia efektyviai vykdyti juodosios dėžės atakas prieš LLM

Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas „CoFiBreak“ metodas didina LLM „jailbreak“ įvairovę

Tyrėjai pristatė „CoFiBreak“ – atlygio mechanizmą, skirtą treniruoti atakuojančius LLM modelius, skatinantį didesnę „jailbreak“ strategijų įvairovę. Naudojant „nuo stambaus prie smulkaus“ (coarse-to-fine) atlygio struktūrą grupiniame santykiniame politikos optimizavime (GRPO), metodas išvengia dažnos problemos, kai modeliai užsiciklina ties siauru pasikartojančių užklausų rinkiniu.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Patobulinta saugumo stebėsena įrankius naudojantiems AI agentams

Naujausi tyrimai rodo, kad dabartiniai saugumo stebėsenos įrankiai dažnai klysta, painiodami injekcijos poveikį su agento realiu ketinimu atlikti nesaugų veiksmą. Autorius siūlo dvipusio stratifikavimo vertinimo metodą, kuris atskiria poveikį nuo elgsenos, taip žymiai pagerinant gebėjimą prognozuoti nesaugius įrankių iškvietimus iki dviejų žingsnių į priekį.

arXiv cs.CL

JAV ir Kanados kibernetinio saugumo agentūros ragina organizacijas kontroliuoti AI tokenų suvartojimą

CISA kartu su Kanados kibernetinio saugumo centru ir kitais partneriais paskelbė bendras gaires, padedančias organizacijoms sekti ir valdyti išlaidas tokenams, kai naudojamasi trečiųjų šalių AI (vadinamų „super intelligence“) paslaugomis. Agentūros pažymi, kad nekontroliuojamas tokenų vartojimas gali sukelti netikėtą kainų augimą, sulėtinti ar sutrikdyti paslaugas ir palikti sistemas pažeidžiamas atakoms, kurių tikslas – išeikvoti aukos tokenų biudžetą ar piniginę. Gairėse pateikiami žingsniai, apimantys tokenų paskirstymą, efektyvių darbo eigų kūrimą, užklausų rašymą, talpyklos (caching) ir pakartotinai naudojamo konteksto panaudojimą, duomenų sumažinimą prieš siunčiant modeliui, bei nuolatinį vartojimo stebėjimą.

CISA Advisories

Hitachi Energy SOI paveiktas aukšto pavojingumo ActiveMQ kodo vykdymo pažeidžiamumu

CISA paskelbė pranešimą apie Hitachi Energy SOI produktą, versijas nuo 2.0.0 iki 2.2.0, kurias paveikia CVE-2026-34197 – kodo įterpimo pažeidžiamumas Apache ActiveMQ komponente, kurio CVSS įvertis siekia 8.8. Autentifikuotas užpuolikas gali pasinaudoti ActiveMQ atvertu Jolokia JMX-HTTP tilto sąsaja ir pasiekti nuotolinį kodo vykdymą brokerio JVM aplinkoje. Hitachi Energy išleido EP2 pataisą, kuri atnaujina ActiveMQ iki 5.19.5 versijos bei susijusius OpenJDK ir kliento komponentus.

CISA Advisories