Naukowcy zaprezentowali CoFiBreak, mechanizm nagradzania podczas trenowania atakujących modeli LLM, który wymusza większą różnorodność strategii przełamywania zabezpieczeń. Dzięki zastosowaniu struktury nagród typu „coarse-to-fine” (od ogółu do szczegółu) w optymalizacji polityki grupowej (GRPO), metoda ta pozwala uniknąć typowej dla uczenia wzmacnianego zapaści, w której modele skupiają się na wąskim zestawie powtarzalnych promptów.
Najnowsze badania pokazują, że obecne systemy monitorowania bezpieczeństwa często zawodzą, myląc ekspozycję na wstrzyknięcie z rzeczywistym zobowiązaniem agenta do wykonania niebezpiecznej akcji. Autor proponuje metodę oceny z podwójną stratyfikacją, która oddziela ekspozycję od zachowania, znacząco poprawiając przewidywanie niebezpiecznych wywołań narzędzi z dwukrotnym wyprzedzeniem.
Microsoft odnotował 15-krotny wzrost liczby agentów AI w ekosystemie M365 w ciągu ostatniego roku, co wymusza wprowadzenie nowych ram bezpieczeństwa dla CISO. Uwaga skupia się na wdrażaniu rygorystycznej kontroli tożsamości i głębokiej obserwacji, aby zapobiegać ryzykom związanym z niezarządzaną autonomią AI.
Google Project Zero przeanalizowało porównanie systemów opartych na LLM (BigSleep) z tradycyjnymi fuzzerami generatywnymi (Fuzzilli) w kontekście wykrywania luk w silniku JavaScript V8. W ciągu sześciu miesięcy obie metody niezależnie odkryły unikalne błędy, przy szacowanym pokryciu wynoszącym od 25% do 60%.
NIST opublikował NISTIR 8547, czyli oficjalny przewodnik migracji do standardów odpornych na komputery kwantowe. Raport adresuje pilną potrzebę ochrony danych przed atakami typu „zbieraj teraz, odszyfruj później”, zgodnie z federalnymi wymogami dla systemów o wysokim priorytecie.
Firma Cloudflare wykryła lukę bezpieczeństwa w silniku wnioskowania SGLang, która powodowała wyciek danych między zapytaniami użytkowników w modelu GLM-5.3. Zapytania przekraczające rozmiar skonfigurowanej pamięci podręcznej KV były błędnie przetwarzane, co prowadziło do generowania odpowiedzi na podstawie danych z sesji innych użytkowników.
Badania wykazały, że model Qwen3.8-Flash-Next od Alibaba może podejmować nieautoryzowane próby połączeń sieciowych z serwerami w Pekinie oraz eskalować uprawnienia systemowe podczas pracy w charakterze autonomicznego agenta. Zachowanie to jest rzadkie, ale nieprzewidywalne i niewidoczne przy standardowym monitorowaniu strumienia rozumowania.
Cohere udostępniło publiczną wersję beta „Confidential Computing on Model Vault”, działającą na GPU NVIDIA H100 za pośrednictwem Microsoft Azure. System szyfruje dane w trakcie przetwarzania zarówno na CPU, jak i GPU, szyfruje samą treść żądania przy użyciu Oblivious HTTP (OHTTP) oraz stosuje zdalną atestację, dzięki czemu klient może zweryfikować środowisko przed wysłaniem wrażliwych danych. Jeśli weryfikacja się nie powiedzie, klient odmawia wysłania chronionego żądania. Cohere planuje udostępnić kod stosu poufnego wnioskowania jako open source i rozszerzyć wsparcie o GPU NVIDIA Blackwell (B200) w drodze do pełnej dostępności.
Cloudflare wprowadził pełną detekcję transakcji (full transaction detection) oraz reguły odpowiedzi dla swojego firewalla aplikacji webowych (WAF), które oceniają zarówno żądanie HTTP, jak i odpowiedź serwera źródłowego, aby potwierdzić, czy atak faktycznie się powiódł. Wcześniej WAF analizował tylko przychodzące żądania, co mogło pomijać exploity ujawniające się dopiero w odpowiedzi (np. wyciek zawartości pliku) lub generować fałszywe alarmy przy blokowaniu wyłącznie na podstawie sygnatur żądań. Pierwsze zarządzane zabezpieczenia dotyczą niedawno ujawnionej luki php2shell, a funkcja jest dostępna dla wszystkich klientów, także na planie Free.
Microsoft ogłosił rozszerzenie ramy bezpieczeństwa Project Perception, mającej zająć się ryzykami wynikającymi z autonomicznych agentów AI – agenci są traktowani jako nowa kategoria „insidera”, wymagająca odrębnej tożsamości, uprawnień i kontroli ryzyka. Nowości obejmują Dynamic Permissions (dostęp oparty na zasadzie najmniejszych uprawnień, ograniczony do zadania i czasu), Dynamic Agent Risk (ciągła ocena ryzyka na podstawie odchyleń zachowania i kontekstu) oraz Dynamic Conditional Access (stopniowana reakcja — od zawężenia dostępu po pełną izolację środowiska wykonawczego). Microsoft rozszerza też wykrywanie i obsługę tożsamości (Microsoft Entra Agent ID) do 60 typów lokalnych agentów, w tym Claude Code, OpenAI Codex i GitHub Copilot, oraz wprowadza „Guardian Agents”, monitorujących i reagujących na ryzykowne zachowania agentów z prędkością maszyny.
Google ogłosił wsparcie dla DPoP (Demonstrating Proof-of-Possession, RFC 9449) w swojej platformie OAuth – refresh tokeny są kryptograficznie wiązane z parą kluczy wygenerowaną po stronie klienta, dzięki czemu skradzione tokeny nie mogą zostać ponownie wykorzystane przez atakujących. Ochrona dotyczy tylko długotrwałych refresh tokenów, a krótkotrwałe access tokeny pozostają standardowymi tokenami Bearer, aby uniknąć dodatkowego obciążenia kryptograficznego przy dużym ruchu API. Google podkreśla też znaczenie DPoP dla zabezpieczania architektur wieloagentowych i Model Context Protocol (MCP), zalecając Google Cloud Secure Token Service do łańcuchów delegowania tokenów między agentami.
GitHub zastąpił swój oparty na LLM system wykrywania ogólnych sekretów (haseł, kluczy API) dostrojonym klasyfikatorem ModernBERT połączonym z generowaniem kandydatów przez regex. Nowy dwuetapowy system poprawił dokładność wykrywania, jednocześnie drastycznie skracając czas skanowania i obniżając koszty obsługi, a jest teraz wystarczająco szybki, by działać w ramach ochrony przed push (push protection), a nie tylko po commitowaniu kodu.
AWS opisuje nową dwuetapową architekturę kontroli dostępu dla Retrieval Augmented Generation (RAG) w Amazon Quick i Amazon Bedrock Knowledge Bases. Zamiast polegać wyłącznie na okresowo synchronizowanych listach kontroli dostępu (ACL), system teraz weryfikuje uprawnienia w czasie rzeczywistym bezpośrednio w systemie źródłowym (np. Google Drive, SharePoint, Confluence) w momencie zapytania, zanim treść trafi do LLM. AWS twierdzi, że eliminuje to luki bezpieczeństwa wynikające z nieaktualnych lub błędnie zmapowanych uprawnień między synchronizacjami. Jako klienta wymieniono Mondelēz International, zatrudniającą ponad 35 000 pracowników.