Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Cyberbezpieczeństwo

Podatności, zagrożenia i incydenty, komunikaty CERT-EU, ENISA, CISA i NCSC, bezpieczeństwo AI i regulacje (NIS2, CRA).

“Agents” — 6 artykułów ✕

Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowy framework 'CoFiBreak' zwiększa różnorodność ataków typu jailbreak na LLM

Naukowcy zaprezentowali CoFiBreak, mechanizm nagradzania podczas trenowania atakujących modeli LLM, który wymusza większą różnorodność strategii przełamywania zabezpieczeń. Dzięki zastosowaniu struktury nagród typu „coarse-to-fine” (od ogółu do szczegółu) w optymalizacji polityki grupowej (GRPO), metoda ta pozwala uniknąć typowej dla uczenia wzmacnianego zapaści, w której modele skupiają się na wąskim zestawie powtarzalnych promptów.

arXiv cs.CL

Atak na łańcuch dostaw: trwałe tylne furtki SSH w złośliwym rozszerzeniu Cursor

Zmodyfikowana wersja rozszerzenia 'Claude Code' była rozpowszechniana poprzez marketplace rozszerzeń Cursor, umożliwiając atakującym instalację trwałych odwrotnych tuneli SSH na maszynach programistów. Złośliwe oprogramowanie, aktywne przez kilka godzin 29 października 2026 r., próbowało wykraść metadane konfiguracji środowiska i stworzyć nieautoryzowane punkty dostępu zdalnego.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Usprawnione monitorowanie bezpieczeństwa agentów AI korzystających z narzędzi

Najnowsze badania pokazują, że obecne systemy monitorowania bezpieczeństwa często zawodzą, myląc ekspozycję na wstrzyknięcie z rzeczywistym zobowiązaniem agenta do wykonania niebezpiecznej akcji. Autor proponuje metodę oceny z podwójną stratyfikacją, która oddziela ekspozycję od zachowania, znacząco poprawiając przewidywanie niebezpiecznych wywołań narzędzi z dwukrotnym wyprzedzeniem.

arXiv cs.CL
Cyberbezpieczeństwo· 🧪 Warte przetestowania

Bezpieczeństwo agentów AI w przedsiębiorstwach: nowe wytyczne dotyczące zarządzania i obrony

Microsoft odnotował 15-krotny wzrost liczby agentów AI w ekosystemie M365 w ciągu ostatniego roku, co wymusza wprowadzenie nowych ram bezpieczeństwa dla CISO. Uwaga skupia się na wdrażaniu rygorystycznej kontroli tożsamości i głębokiej obserwacji, aby zapobiegać ryzykom związanym z niezarządzaną autonomią AI.

Microsoft Security