Firma Collinear AI wprowadziła CWE-bench v2, zestaw testowy obejmujący 100 zadań dotyczących 91 powszechnych typów podatności. Narzędzie to umożliwia programistom programową ocenę skuteczności agentów AI w wykrywaniu i naprawianiu luk w zabezpieczeniach w repozytoriach open-source.
Naukowcy zaprezentowali CoFiBreak, mechanizm nagradzania podczas trenowania atakujących modeli LLM, który wymusza większą różnorodność strategii przełamywania zabezpieczeń. Dzięki zastosowaniu struktury nagród typu „coarse-to-fine” (od ogółu do szczegółu) w optymalizacji polityki grupowej (GRPO), metoda ta pozwala uniknąć typowej dla uczenia wzmacnianego zapaści, w której modele skupiają się na wąskim zestawie powtarzalnych promptów.
VOLTA-AUTODOXER to nowy program typu „infostealer” dla systemów Windows, który automatyzuje profilowanie ofiar poprzez przesyłanie skradzionych danych uwierzytelniających i sesji do modeli LLM przez OpenRouter. Narzędzie szereguje ofiary według ich wartości finansowej i analizuje ich stan bezpieczeństwa, tworząc gotowy dossier dla atakujących.
Google Project Zero przeanalizowało porównanie systemów opartych na LLM (BigSleep) z tradycyjnymi fuzzerami generatywnymi (Fuzzilli) w kontekście wykrywania luk w silniku JavaScript V8. W ciągu sześciu miesięcy obie metody niezależnie odkryły unikalne błędy, przy szacowanym pokryciu wynoszącym od 25% do 60%.
Złośliwa wersja pakietu LiteLLM (1.107.0) została rozpowszechniona przez PyPI, wykonując kod automatycznie przy każdym uruchomieniu interpretera Python w zainfekowanym środowisku. Payload kradł poświadczenia z narzędzi programistycznych, usług chmurowych i konfiguracji AI, bez konieczności bezpośredniego importowania biblioteki w aplikacji.
Microsoft informuje, że powiązana z Chinami grupa Storm-0940, aktywna od 2021 r., od września 2026 r. zaczęła wykorzystywać otwartoźródłowy, agentowy framework do testów penetracyjnych ARTEX do automatyzacji ataków na setki organizacji na całym świecie. Według Microsoft grupa ta odpowiada za niedawno ujawnioną kompromitację łańcucha dostaw ConnectWise, podczas której napędzane przez ARTEX password spraying i nadużycia aplikacji OAuth objęły ponad 2250 podrzędnych najemców (tenantów), przy tempie do 2900 prób logowania na minutę. W kilku przypadkach aktor uzyskał uprzywilejowany dostęp do chmury w mniej niż 3 godziny, a dalsze działania obejmowały zmiany poświadczeń i uprawnień mające na celu utrzymanie dostępu.
Microsoft i NVIDIA wydały wspólny dokument „Risk Management for Open-Weight Models in Enterprise” — pierwszy z planowanej serii, oferujący firmom wspólną taksonomię ryzyka i metodykę oceny modeli AI o otwartych wagach. Dokument argumentuje, że to, czy model ma otwarte czy zamknięte wagi, nie jest kluczowym czynnikiem ryzyka — liczy się przypadek użycia, architektura wdrożenia i otaczające zabezpieczenia. Ryzyka podzielono na pięć kategorii (cyberbezpieczeństwo, ochrona danych, treść, interakcja człowiek-AI, stronniczość) i powiązano z ocenami zgodnymi ze standardami ISO oraz ramami NIST AI Risk Management Framework.
GitHub zastąpił swój oparty na LLM system wykrywania ogólnych sekretów (haseł, kluczy API) dostrojonym klasyfikatorem ModernBERT połączonym z generowaniem kandydatów przez regex. Nowy dwuetapowy system poprawił dokładność wykrywania, jednocześnie drastycznie skracając czas skanowania i obniżając koszty obsługi, a jest teraz wystarczająco szybki, by działać w ramach ochrony przed push (push protection), a nie tylko po commitowaniu kodu.
Badanie Cisco Talos CAIRN wyróżnia nową kategorię malware'u „A3: AI-Analysis Evasion” — kod, w który wbudowano tekst w języku naturalnym mający wpływać na modele językowe używane do automatycznej analizy zagrożeń. Technikę śledzono w czterech rodzinach (FRUITSHELL, PLOTSAFE, HOLLOWCLAD, MANTLEMAZE) i 84 próbkach od stycznia 2025 do lipca 2026 — od prostego skopiowanego komentarza po szablonowe, wielomodelowe „template spraying” i fałszywe groźby. Kontrolowane testy na pięciu lokalnych LLM pokazały, że najprostsza bezpośrednia instrukcja zmieniała werdykt modelu na „niegroźny” w około 35% przypadków, a bardziej skomplikowane triki miały niewielki efekt lub wręcz zwiększały podejrzliwość.
AWS opisuje nową dwuetapową architekturę kontroli dostępu dla Retrieval Augmented Generation (RAG) w Amazon Quick i Amazon Bedrock Knowledge Bases. Zamiast polegać wyłącznie na okresowo synchronizowanych listach kontroli dostępu (ACL), system teraz weryfikuje uprawnienia w czasie rzeczywistym bezpośrednio w systemie źródłowym (np. Google Drive, SharePoint, Confluence) w momencie zapytania, zanim treść trafi do LLM. AWS twierdzi, że eliminuje to luki bezpieczeństwa wynikające z nieaktualnych lub błędnie zmapowanych uprawnień między synchronizacjami. Jako klienta wymieniono Mondelēz International, zatrudniającą ponad 35 000 pracowników.