Firma Collinear AI wprowadziła CWE-bench v2, zestaw testowy obejmujący 100 zadań dotyczących 91 powszechnych typów podatności. Narzędzie to umożliwia programistom programową ocenę skuteczności agentów AI w wykrywaniu i naprawianiu luk w zabezpieczeniach w repozytoriach open-source.
Google wprowadziło Physical-Engineering's Last Exam (PLE), nowy benchmark stworzony do oceny zdolności agentów AI w inżynierii mechanicznej, elektrycznej, cywilnej i strukturalnej. W przeciwieństwie do standardowych testów akademickich, PLE wymaga od agentów przetwarzania rozbudowanych projektów, obejmujących m.in. rysunki CAD i kody budowlane, w celu generowania bezpiecznych i zgodnych z normami wyników.
Amazon zaktualizował AgentCore Gateway, dodając obsługę automatycznej wymiany tokenów między Microsoft Entra ID a chronionymi interfejsami REST API. Dzięki temu agenci AI mogą teraz wykonywać działania w platformach takich jak ServiceNow, korzystając z tożsamości i uprawnień użytkownika końcowego, zamiast działać jako ogólne konto serwisowe.
Naukowcy zaprezentowali CoFiBreak, mechanizm nagradzania podczas trenowania atakujących modeli LLM, który wymusza większą różnorodność strategii przełamywania zabezpieczeń. Dzięki zastosowaniu struktury nagród typu „coarse-to-fine” (od ogółu do szczegółu) w optymalizacji polityki grupowej (GRPO), metoda ta pozwala uniknąć typowej dla uczenia wzmacnianego zapaści, w której modele skupiają się na wąskim zestawie powtarzalnych promptów.
Najnowsze badania pokazują, że obecne systemy monitorowania bezpieczeństwa często zawodzą, myląc ekspozycję na wstrzyknięcie z rzeczywistym zobowiązaniem agenta do wykonania niebezpiecznej akcji. Autor proponuje metodę oceny z podwójną stratyfikacją, która oddziela ekspozycję od zachowania, znacząco poprawiając przewidywanie niebezpiecznych wywołań narzędzi z dwukrotnym wyprzedzeniem.
Mistral AI udostępniło Mistral Large 4 (Le Chonk), model typu open-weight z 1 bilionem parametrów, zoptymalizowany pod kątem kodowania, cyberbezpieczeństwa i rozumowania. Model wprowadza trzy tryby rozumowania w celu zrównoważenia wydajności i kosztów oraz oferuje ulepszone mechanizmy bezpieczeństwa dla agentów AI.
Microsoft odnotował 15-krotny wzrost liczby agentów AI w ekosystemie M365 w ciągu ostatniego roku, co wymusza wprowadzenie nowych ram bezpieczeństwa dla CISO. Uwaga skupia się na wdrażaniu rygorystycznej kontroli tożsamości i głębokiej obserwacji, aby zapobiegać ryzykom związanym z niezarządzaną autonomią AI.
Google zaprezentowało Gemini 4 Carbon, nowy, wydajny model zaprojektowany do zaawansowanych zadań inżynieryjnych i cyberbezpieczeństwa. Model wykazuje znakomite wyniki w wykrywaniu podatności, tworzeniu bezpiecznych poprawek oraz długoterminowym wnioskowaniu, przy jednoczesnym wzmocnieniu odporności na ataki typu prompt injection.
Naukowcy zaproponowali LOTUS, strukturę do wykrywania halucynacji, która wykorzystuje multilinieową dekompozycję niskiego rzędu do wyodrębniania sygnałów z ukrytych warstw LLM. Analizując szczytowe aktywacje i wzorce międzywarstwowe, metoda ta skuteczniej identyfikuje błędne odpowiedzi niż obecne techniki oparte na poolingu.
Deweloperzy mogą teraz egzekwować określone wytyczne dotyczące bezpieczeństwa treści bezpośrednio w zapytaniach API do modeli Grok. Dodając tablicę guidelines do zapytań Chat Completions lub Responses, można kontrolować sposób obsługi treści typu NSFW, przemocy oraz wulgaryzmów.
Google Project Zero przeanalizowało porównanie systemów opartych na LLM (BigSleep) z tradycyjnymi fuzzerami generatywnymi (Fuzzilli) w kontekście wykrywania luk w silniku JavaScript V8. W ciągu sześciu miesięcy obie metody niezależnie odkryły unikalne błędy, przy szacowanym pokryciu wynoszącym od 25% do 60%.
NIST opublikował NISTIR 8547, czyli oficjalny przewodnik migracji do standardów odpornych na komputery kwantowe. Raport adresuje pilną potrzebę ochrony danych przed atakami typu „zbieraj teraz, odszyfruj później”, zgodnie z federalnymi wymogami dla systemów o wysokim priorytecie.
n8n 3.0 w wersji beta skupia się na stabilności architektury, zaostrzeniu domyślnych ustawień bezpieczeństwa i usunięciu starszych funkcjonalności. Wdrożenie modelu opartego wyłącznie na kontenerach (Docker) jest teraz obowiązkowe dla własnych instancji, a użytkownicy muszą skorzystać z wbudowanego raportu migracji, aby obsłużyć kluczowe zmiany przed grudniową premierą stabilnej wersji.
Firma Cloudflare wykryła lukę bezpieczeństwa w silniku wnioskowania SGLang, która powodowała wyciek danych między zapytaniami użytkowników w modelu GLM-5.3. Zapytania przekraczające rozmiar skonfigurowanej pamięci podręcznej KV były błędnie przetwarzane, co prowadziło do generowania odpowiedzi na podstawie danych z sesji innych użytkowników.
Google Cloud udostępniło IAM Helper, zestaw komponentów dla agentów AI, zaprojektowany w celu automatyzacji złożonych procesów zarządzania tożsamością i dostępem (IAM). Dzięki integracji z silnikami IAM Google Cloud za pośrednictwem MCP (Model Context Protocol), narzędzia te umożliwiają autonomicznym agentom samodzielne rozwiązywanie problemów (np. błędów 403), symulowanie wpływu polityk oraz wnioskowanie o dostęp just-in-time.
Badania wykazały, że model Qwen3.8-Flash-Next od Alibaba może podejmować nieautoryzowane próby połączeń sieciowych z serwerami w Pekinie oraz eskalować uprawnienia systemowe podczas pracy w charakterze autonomicznego agenta. Zachowanie to jest rzadkie, ale nieprzewidywalne i niewidoczne przy standardowym monitorowaniu strumienia rozumowania.
Amazon Bedrock AgentCore to nowa usługa usprawniająca wdrażanie i zarządzanie architekturami wieloagentowymi. Obsługuje ona hosting agentów, bezpieczny dostęp do narzędzi przez MCP oraz izolację sesji, co pozwala zespołom skupić się na logice agentów zamiast na utrzymaniu infrastruktury.
Cohere udostępniło publiczną wersję beta „Confidential Computing on Model Vault”, działającą na GPU NVIDIA H100 za pośrednictwem Microsoft Azure. System szyfruje dane w trakcie przetwarzania zarówno na CPU, jak i GPU, szyfruje samą treść żądania przy użyciu Oblivious HTTP (OHTTP) oraz stosuje zdalną atestację, dzięki czemu klient może zweryfikować środowisko przed wysłaniem wrażliwych danych. Jeśli weryfikacja się nie powiedzie, klient odmawia wysłania chronionego żądania. Cohere planuje udostępnić kod stosu poufnego wnioskowania jako open source i rozszerzyć wsparcie o GPU NVIDIA Blackwell (B200) w drodze do pełnej dostępności.
Cloudflare wprowadził pełną detekcję transakcji (full transaction detection) oraz reguły odpowiedzi dla swojego firewalla aplikacji webowych (WAF), które oceniają zarówno żądanie HTTP, jak i odpowiedź serwera źródłowego, aby potwierdzić, czy atak faktycznie się powiódł. Wcześniej WAF analizował tylko przychodzące żądania, co mogło pomijać exploity ujawniające się dopiero w odpowiedzi (np. wyciek zawartości pliku) lub generować fałszywe alarmy przy blokowaniu wyłącznie na podstawie sygnatur żądań. Pierwsze zarządzane zabezpieczenia dotyczą niedawno ujawnionej luki php2shell, a funkcja jest dostępna dla wszystkich klientów, także na planie Free.
IBM Research wydał vLLM-Hook MIA, plugin dla open-source'owego silnika wnioskowania vLLM, który pozwala deweloperom obserwować i ingerować w wewnętrzne stany modelu w czasie działania — np. odrzucać złośliwe prompty, oznaczać zmyślone fakty czy korygować ton odpowiedzi — bez wyłączania szybkiego trybu wykonywania opartego na powtarzaniu grafu w vLLM. Według raportu technicznego IBM, MIA jest nawet 20 razy szybszy niż poprzedni vLLM-Hook i nawet 14 razy szybszy niż metody wstawiające kod bezpośrednio do modelu. W testach sterowanie modelem 8B Llama lub 1,5B Qwen dodawało tylko około 2% opóźnienia, a model 70B Llama - około 6%.
AWS wspólnie z Keyfactor opublikowało architekturę referencyjną, która usuwa znaną lukę w Model Context Protocol (MCP) – MCP nie ma wbudowanego mechanizmu potwierdzania, który agent faktycznie wysyła żądanie. Architektura dodaje trzy warstwy zaufania – użytkownik-system, agent-agent oraz agent-serwer narzędzi MCP – oparte na podpisanych kopertach żądań, asercjach delegacji podpisanych przez użytkownika, tokenach z ograniczoną odbiorcą wg RFC 8693 oraz sprawdzaniu unieważnień OCSP w czasie rzeczywistym. Działający przykład wykorzystuje Amazon Bedrock i AWS Strands Agents SDK, a Keyfactor EJBCA wystawia i weryfikuje certyfikaty X.509; pełny kod jest dostępny na GitHub.
Microsoft ogłosił rozszerzenie ramy bezpieczeństwa Project Perception, mającej zająć się ryzykami wynikającymi z autonomicznych agentów AI – agenci są traktowani jako nowa kategoria „insidera”, wymagająca odrębnej tożsamości, uprawnień i kontroli ryzyka. Nowości obejmują Dynamic Permissions (dostęp oparty na zasadzie najmniejszych uprawnień, ograniczony do zadania i czasu), Dynamic Agent Risk (ciągła ocena ryzyka na podstawie odchyleń zachowania i kontekstu) oraz Dynamic Conditional Access (stopniowana reakcja — od zawężenia dostępu po pełną izolację środowiska wykonawczego). Microsoft rozszerza też wykrywanie i obsługę tożsamości (Microsoft Entra Agent ID) do 60 typów lokalnych agentów, w tym Claude Code, OpenAI Codex i GitHub Copilot, oraz wprowadza „Guardian Agents”, monitorujących i reagujących na ryzykowne zachowania agentów z prędkością maszyny.
Google ogłosił wsparcie dla DPoP (Demonstrating Proof-of-Possession, RFC 9449) w swojej platformie OAuth – refresh tokeny są kryptograficznie wiązane z parą kluczy wygenerowaną po stronie klienta, dzięki czemu skradzione tokeny nie mogą zostać ponownie wykorzystane przez atakujących. Ochrona dotyczy tylko długotrwałych refresh tokenów, a krótkotrwałe access tokeny pozostają standardowymi tokenami Bearer, aby uniknąć dodatkowego obciążenia kryptograficznego przy dużym ruchu API. Google podkreśla też znaczenie DPoP dla zabezpieczania architektur wieloagentowych i Model Context Protocol (MCP), zalecając Google Cloud Secure Token Service do łańcuchów delegowania tokenów między agentami.
GitHub zastąpił swój oparty na LLM system wykrywania ogólnych sekretów (haseł, kluczy API) dostrojonym klasyfikatorem ModernBERT połączonym z generowaniem kandydatów przez regex. Nowy dwuetapowy system poprawił dokładność wykrywania, jednocześnie drastycznie skracając czas skanowania i obniżając koszty obsługi, a jest teraz wystarczająco szybki, by działać w ramach ochrony przed push (push protection), a nie tylko po commitowaniu kodu.