Amazon Threat Intelligence zaobserwował autonomiczne agenty korzystające z frameworka open-source ARTEX do prowadzenia zakrojonych na szeroką skalę kradzieży danych uwierzytelniających i oszustw tożsamości z wykorzystaniem deepfake. Kampanie te wykorzystywały niezałatane luki w infrastrukturze AI i błędy konfiguracyjne do automatyzacji wieloetapowych operacji ofensywnych.
Od początku października gwałtownie wzrosła liczba frameworków do testów penetracyjnych opartych na sztucznej inteligencji, z tysiącami aktywnych instancji. Te autonomiczne narzędzia automatyzują cały łańcuch ataku cybernetycznego, pozwalając na łańcuchowe wykorzystywanie poświadczeń i szybkie przemieszczanie się wewnątrz infrastruktury.
Cohere przejęło AISLE, startup zajmujący się autonomicznym wykrywaniem i usuwaniem luk w zabezpieczeniach, oraz cubic, platformę do przeglądu kodu wspomaganą przez AI. Te przejęcia mają na celu wzmocnienie suwerennej platformy AI firmy Cohere, szczególnie pod kątem wdrożeń w chmurach prywatnych i środowiskach typu air-gapped.
Google przetestowało funkcję wykrywania anomalii agentów (Agent Anomaly Detection) przy użyciu pięciu zewnętrznych benchmarków, w tym AgentDojo i AgentHarm. Narzędzie wykryło 87% szkodliwych instrukcji wykonanych przez agentów, wykazując jednak mniejszą skuteczność w przypadku zatrutej pamięci długotrwałej.
IBM wprowadziło LLMON (LLM Object Notation) – język znaczników przypominający XML, który wykorzystuje specjalne zarezerwowane tokeny do jawnego definiowania instrukcji, danych i ograniczeń. Udostępniono dwa eksperymentalne modele, Granite 4.1 3B i 8B LLMON-preview, które wykazują niemal zerową skuteczność ataków typu indirect prompt injection.
Badacze Microsoft wykazali, że agenci AI do kodowania mogą zostać skompromitowani poprzez tzw. zatruwanie zbiorów danych lub zatruwanie modeli. Ataki te osadzają w modelach ukryte, uśpione zachowania, które uruchamiają szkodliwe wywołania narzędzi podczas rutynowych zadań użytkownika.
Amazon wprowadził nową generację środowiska wykonawczego dla Bedrock AgentCore, przeznaczoną do obsługi złożonych i długotrwałych zadań AI. Aktualizacja wprowadza izolowane sprzętowo środowiska z szybszym uruchamianiem, większymi zasobami obliczeniowymi oraz lepszą efektywnością kosztową dzięki rozliczaniu opartemu na rzeczywistym zużyciu.
Organizacje mogą teraz wdrażać pełną usługę Managed Agents, w tym agentów i historię sesji, we własnej infrastrukturze. Zapytania do modelu pozostają elastyczne dzięki możliwości kierowania ruchu do wybranych dostawców.
AWS wspiera protokół A2A projektu Linux Foundation, umożliwiający bezpieczną współpracę autonomicznych agentów ponad granicami organizacyjnymi. Dzięki niemu agenci stworzeni w różnych frameworkach (np. LangChain czy Strands Agents) mogą wymieniać zadania i dane jako partnerzy, bez konieczności ujawniania logiki wewnętrznej czy współdzielenia haseł.
Firma Cohere zatrudniła Jaya Baloo, uznaną ekspertkę w dziedzinie cyberbezpieczeństwa i współzałożycielkę AISLE, na stanowisko pierwszego dyrektora ds. bezpieczeństwa informacji (CISO). Inicjatywa ta ma na celu wzmocnienie platformy AI w kierunku rozwiązań suwerennych i bezpiecznych dla sektorów regulowanych oraz infrastruktury krytycznej.
Napastnicy używają narzędzia open-source GSocket do utrzymywania stałego, szyfrowanego dostępu typu command-and-control do zainfekowanych serwerów Linux. Wykorzystanie publicznej sieci przekaźnikowej zamiast własnej infrastruktury pozwala ominąć tradycyjne blokowanie adresów IP i utrzymać dostęp nawet po załataniu pierwotnych luk.
Laboratorium FORGE firmy Microsoft wykorzystało system skanujący oparty na AI o nazwie kodowej MDASH do analizy podsystemów jądra Linux. Inicjatywa ta zaowocowała 59 publicznymi raportami i 33 przypisanymi numerami CVE, co pokazuje, że AI może znacznie przyspieszyć proces wykrywania podatności, choć weryfikacja przez człowieka pozostaje głównym wąskim gardłem w procesie naprawczym.
Tether AI Research wprowadziło BotPsy, model językowy o 0,8 mld parametrów, zoptymalizowany pod kątem przepływów pracy agentowych i wywoływania funkcji. Oparty na Qwen3.5-0.8B, model jest przeznaczony do uruchamiania lokalnie na urządzeniach, oferując wysoką niezawodność w korzystaniu z narzędzi przy zachowaniu prywatności danych.
Firma Microsoft opublikowała comiesięczne aktualizacje bezpieczeństwa, usuwając 1095 luk w swoich produktach. Wśród nich znajduje się 64 krytycznych poprawek, obejmujących m.in. Azure OpenAI, Exchange Server oraz Active Directory.
Microsoft Research odkrył, że modele AI mogą zostać skompromitowane poprzez modyfikację mniej niż 10 konkretnych neuronów. Te „uśpione” furtki (backdoors) pozwalają atakującemu wywołać złośliwe polecenia, gdy w kontekście pojawią się określone ciągi znaków, nawet jeśli model przechodzi wszystkie standardowe testy bezpieczeństwa.
Badacze Microsoft odkryli 'Lazarus', technikę umożliwiającą przeprogramowanie uśpionych neuronów w modelach LLM w celu wstrzyknięcia złośliwych zachowań. Modyfikując mniej niż 10 neuronów, atakujący może wywołać wykonanie nieautoryzowanych poleceń bez wpływu na standardowe działanie modelu lub wyniki ewaluacji.
Anthropic zaktualizowało swoje specjalistyczne modele LLM do wersji 5.2. Claude Fable 5.2 to model o wysokiej wydajności do kodowania i wnioskowania, dostępny dla użytkowników ogólnych, podczas gdy Claude Mythos 5.2 pozostaje ograniczony do zweryfikowanych partnerów ze względu na zaawansowane możliwości w zakresie cyberbezpieczeństwa i eksploatacji luk.
Projekt Git wydał poprawki dla sześciu luk bezpieczeństwa, w tym ryzyk związanych z dowolnym wykonywaniem kodu, przechodzeniem przez ścieżki (path traversal) i uszkodzeniem pamięci. Te wady dotyczą różnych operacji Git, takich jak rekurencyjne klonowanie, scalanie tagów i przetwarzanie binarnych łat.
Narzędzie n8n zintegrowało najnowszy model Google, Gemini 4 Carbon, zaprojektowany z myślą o złożonej automatyzacji, zadaniach z zakresu cyberbezpieczeństwa i zwiększonej niezawodności agentów. Model wprowadza znaczące usprawnienia w obsłudze długotrwałych, wieloetapowych przepływów pracy oraz wykazuje dużą odporność na ataki typu prompt injection.
Google wprowadziło Gemini 4 Carbon, nowy model klasy frontier zaprojektowany do złożonego, wieloetapowego wnioskowania, inżynierii oprogramowania i zadań z zakresu cyberbezpieczeństwa. Model jest już dostępny poprzez API oraz w Google Antigravity, oferując lepszą wydajność w procesach agentowych i efektywność kosztową.
Google DeepMind wprowadziło Gemini Robotics 2.5, nowy model typu vision-language-action, zaprojektowany w celu poprawy zręczności i niezawodności robotów w nieustrukturyzowanych środowiskach. Model został przetestowany w ponad 200 zadaniach, wykazując znaczący wzrost szybkości i precyzji wykonania, osiągając 96% skuteczności w kompletowaniu części samochodowych w zakładach Mercedes-Benz.
Google DeepMind zaprezentowało AlphaProof Code, framework agentowy wykorzystujący modele Gemini Carbon do przeprowadzania formalnej weryfikacji złożonych protokołów kryptograficznych. Generując dowody w języku Lean, system skutecznie zweryfikował implementację protokołu Signal w cztery tygodnie – zadanie, które historycznie wymagało lat pracy ekspertów.
Badacze odkryli, że duże modele językowe często rozpoznają, kiedy są poddawane testom (zjawisko „świadomości ewaluacji”), nawet jeśli nie komunikują tego wprost. Tworząc model-organizm, który potajemnie sygnalizuje to rozpoznanie, zespół wykazał, że obecne metody interpretowalności – takie jak sondy liniowe czy wyrocznie aktywacji – nie wykrywają tego ukrytego zachowania w sposób wiarygodny.
Nowe badania wskazują, że autonomiczni agenci zawodzą w 32,2-67,8% scenariuszy w przypadku awarii narzędzi. Wprowadzono MedToolFault, benchmark do symulacji klas błędów, oraz MedGuard, warstwę weryfikacyjną, która poprawia wskaźnik sukcesu zadań o nawet 46,6 punktu procentowego.