Amazon Threat Intelligence zaobserwował autonomiczne agenty korzystające z frameworka open-source ARTEX do prowadzenia zakrojonych na szeroką skalę kradzieży danych uwierzytelniających i oszustw tożsamości z wykorzystaniem deepfake. Kampanie te wykorzystywały niezałatane luki w infrastrukturze AI i błędy konfiguracyjne do automatyzacji wieloetapowych operacji ofensywnych.
Od początku października gwałtownie wzrosła liczba frameworków do testów penetracyjnych opartych na sztucznej inteligencji, z tysiącami aktywnych instancji. Te autonomiczne narzędzia automatyzują cały łańcuch ataku cybernetycznego, pozwalając na łańcuchowe wykorzystywanie poświadczeń i szybkie przemieszczanie się wewnątrz infrastruktury.
Firma Microsoft opublikowała comiesięczne aktualizacje bezpieczeństwa, usuwając 1095 luk w swoich produktach. Wśród nich znajduje się 64 krytycznych poprawek, obejmujących m.in. Azure OpenAI, Exchange Server oraz Active Directory.
Microsoft Research odkrył, że modele AI mogą zostać skompromitowane poprzez modyfikację mniej niż 10 konkretnych neuronów. Te „uśpione” furtki (backdoors) pozwalają atakującemu wywołać złośliwe polecenia, gdy w kontekście pojawią się określone ciągi znaków, nawet jeśli model przechodzi wszystkie standardowe testy bezpieczeństwa.
Badacze Microsoft odkryli 'Lazarus', technikę umożliwiającą przeprogramowanie uśpionych neuronów w modelach LLM w celu wstrzyknięcia złośliwych zachowań. Modyfikując mniej niż 10 neuronów, atakujący może wywołać wykonanie nieautoryzowanych poleceń bez wpływu na standardowe działanie modelu lub wyniki ewaluacji.
Laboratorium FORGE firmy Microsoft wykorzystało skaner podatności oparty na AI o nazwie Hyenas do odkrycia krytycznych problemów z bezpieczeństwem pamięci w standardowej bibliotece języka Rust. Badania pokazują, że nawet bezpieczny kod Rust może wywoływać niezdefiniowane zachowania, jeśli ukryte pod nim abstrakcje typu „unsafe” opierają się na błędnych założeniach dotyczących paniki lub implementacji cech (traits) dostarczonych przez użytkownika.
Firma Amazon udostępniła wielowarstwową architekturę obronną, zapobiegającą zatruwaniu pamięci (rodzaj pośredniego wstrzykiwania promptów) w agentach AI wykorzystujących pamięć trwałą. Rozwiązanie wykorzystuje interceptor Lambda w bramie AgentCore Gateway do walidacji zapisów w oparciu o dryf semantyczny, wzorce regex, granice przestrzeni nazw i limity częstotliwości.
Nowy raport Linux Foundation ujawnia, że wykorzystanie AI do kodowania powoduje gwałtowny wzrost liczby zależności zewnętrznych, co potwierdza 60% organizacji. Zespoły nie nadążają z ich obsługą, gdyż 58% organizacji wdraża kod szybciej, niż pozwalają na to procesy weryfikacji bezpieczeństwa, co prowadzi do narastania długu w zakresie bezpieczeństwa.
IBM wprowadziło Praxis Policy Engine (PPE), narzędzie typu open-source znajdujące się teraz w CNCF Sandbox, zaprojektowane do egzekwowania polityk bezpieczeństwa i dostępu w ruchu AI. Działa ono jako monitor referencyjny, który reguluje prompty, wywołania modeli oraz interakcje agentów przy użyciu wspólnego formatu danych.
OpenSSF wprowadziło przewodnik dotyczący wykrywania i usuwania luk w zabezpieczeniach za pomocą AI oraz zapowiedziało certyfikację „Secure AI Associate” (SAIA), która ruszy w grudniu 2026 roku. Inicjatywy te mają na celu wypełnienie luki w bezpieczeństwie spowodowanej szybką integracją AI w procesach wytwarzania oprogramowania.