Przejdź do treści
piątek, 20 listopada 2026
Tenesys AI News
Subskrypcja

Cyberbezpieczeństwo

Podatności, zagrożenia i incydenty, komunikaty CERT-EU, ENISA, CISA i NCSC, bezpieczeństwo AI i regulacje (NIS2, CRA).

#LLM — 5 artykułów ✕

Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowy framework oparty na uczeniu ze wzmocnieniem umożliwia skuteczne ataki typu black-box na modele LLM

Badacze zaprezentowali „RL-ATTACK”, nową metodę wykorzystującą uczenie ze wzmocnieniem do generowania ataków typu adversarial na modele językowe, bez potrzeby posiadania dostępu do gradientów modelu. Metoda ta, ucząc się na podstawie reakcji celu, osiąga wysoką efektywność przy niewielkiej liczbie zapytań i skutecznie omija mechanizmy bezpieczeństwa.

arXiv cs.CL

Złośliwe oprogramowanie VOLTA używa modeli LLM do automatycznej priorytetyzacji ofiar

VOLTA-AUTODOXER to nowy program typu „infostealer” dla systemów Windows, który automatyzuje profilowanie ofiar poprzez przesyłanie skradzionych danych uwierzytelniających i sesji do modeli LLM przez OpenRouter. Narzędzie szereguje ofiary według ich wartości finansowej i analizuje ich stan bezpieczeństwa, tworząc gotowy dossier dla atakujących.

Cisco Talos
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

LLM i fuzzery: komplementarne podejście do wykrywania błędów

Google Project Zero przeanalizowało porównanie systemów opartych na LLM (BigSleep) z tradycyjnymi fuzzerami generatywnymi (Fuzzilli) w kontekście wykrywania luk w silniku JavaScript V8. W ciągu sześciu miesięcy obie metody niezależnie odkryły unikalne błędy, przy szacowanym pokryciu wynoszącym od 25% do 60%.

Google Project Zero

Cisco Talos opisuje malware próbujący oszukać analityków AI przez prompt injection

Badanie Cisco Talos CAIRN wyróżnia nową kategorię malware'u „A3: AI-Analysis Evasion” — kod, w który wbudowano tekst w języku naturalnym mający wpływać na modele językowe używane do automatycznej analizy zagrożeń. Technikę śledzono w czterech rodzinach (FRUITSHELL, PLOTSAFE, HOLLOWCLAD, MANTLEMAZE) i 84 próbkach od stycznia 2025 do lipca 2026 — od prostego skopiowanego komentarza po szablonowe, wielomodelowe „template spraying” i fałszywe groźby. Kontrolowane testy na pięciu lokalnych LLM pokazały, że najprostsza bezpośrednia instrukcja zmieniała werdykt modelu na „niegroźny” w około 35% przypadków, a bardziej skomplikowane triki miały niewielki efekt lub wręcz zwiększały podejrzliwość.

Cisco Talos