Przejdź do treści
niedziela, 22 listopada 2026
Tenesys AI News
Subskrypcja

Cyberbezpieczeństwo

Podatności, zagrożenia i incydenty, komunikaty CERT-EU, ENISA, CISA i NCSC, bezpieczeństwo AI i regulacje (NIS2, CRA).

“Agentai” — 18 artykułów ✕

PilneCyberbezpieczeństwo· 🧪 Warte przetestowania

Wzrost popularności autonomicznych frameworków do testów penetracyjnych AI

Od początku października gwałtownie wzrosła liczba frameworków do testów penetracyjnych opartych na sztucznej inteligencji, z tysiącami aktywnych instancji. Te autonomiczne narzędzia automatyzują cały łańcuch ataku cybernetycznego, pozwalając na łańcuchowe wykorzystywanie poświadczeń i szybkie przemieszczanie się wewnątrz infrastruktury.

Cloudflare Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Google ocenia system wykrywania anomalii agentów w niezależnych testach

Google przetestowało funkcję wykrywania anomalii agentów (Agent Anomaly Detection) przy użyciu pięciu zewnętrznych benchmarków, w tym AgentDojo i AgentHarm. Narzędzie wykryło 87% szkodliwych instrukcji wykonanych przez agentów, wykazując jednak mniejszą skuteczność w przypadku zatrutej pamięci długotrwałej.

Google Developers
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowe badania pokazują, jak modele AI mogą zostać przekształcone w uśpione agenty

Microsoft Research odkrył, że modele AI mogą zostać skompromitowane poprzez modyfikację mniej niż 10 konkretnych neuronów. Te „uśpione” furtki (backdoors) pozwalają atakującemu wywołać złośliwe polecenia, gdy w kontekście pojawią się określone ciągi znaków, nawet jeśli model przechodzi wszystkie standardowe testy bezpieczeństwa.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowa technika backdoor Lazarus atakuje uśpione neurony modeli AI

Badacze Microsoft odkryli 'Lazarus', technikę umożliwiającą przeprogramowanie uśpionych neuronów w modelach LLM w celu wstrzyknięcia złośliwych zachowań. Modyfikując mniej niż 10 neuronów, atakujący może wywołać wykonanie nieautoryzowanych poleceń bez wpływu na standardowe działanie modelu lub wyniki ewaluacji.

Microsoft Research
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

IBM udostępnia Praxis Policy Engine do zabezpieczania systemów AI

IBM wprowadziło Praxis Policy Engine (PPE), narzędzie typu open-source znajdujące się teraz w CNCF Sandbox, zaprojektowane do egzekwowania polityk bezpieczeństwa i dostępu w ruchu AI. Działa ono jako monitor referencyjny, który reguluje prompty, wywołania modeli oraz interakcje agentów przy użyciu wspólnego formatu danych.

IBM Research

Aktorzy zagrożeń wykorzystują agentowy AI do automatyzacji kradzieży danych uwierzytelniających

Przestępcy coraz częściej wdrażają agentowe systemy AI, takie jak ARTEX, aby skanować publiczne repozytoria GitHub w poszukiwaniu wyciekłych danych uwierzytelniających i natychmiast inicjować ataki na usługi chmurowe. Agenty te samodzielnie analizują wyniki, dostosowują zapytania API po błędach i mogą przejść od rozpoznania do eksfiltracji danych z usług takich jak Azure Key Vault w ciągu kilku minut.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Microsoft wzmacnia bezpieczeństwo agentów AI za pomocą narzędzi do zarządzania i izolacji

Microsoft wprowadził nowe funkcje bezpieczeństwa do zarządzania ryzykiem związanym z agentami AI, w tym Dynamiczne Uprawnienia do ograniczania zakresu zadań oraz kontenery Microsoft Execution Containers (MXC) do izolacji na poziomie systemu operacyjnego. Microsoft Defender zyskał również możliwość wykrywania lokalnych agentów AI oraz ich konfiguracji MCP w systemach Windows i macOS.

Microsoft Security

Cloudflare proponuje nowe standardy bezpieczeństwa i tożsamości dla agentów AI

Cloudflare adresuje wyzwania stwarzane przez zdalnie hostowanych agentów AI, którzy maskują tożsamość użytkownika i tworzą luki w odpowiedzialności dla operatorów witryn. Ponieważ agenci działają jako pośrednicy między użytkownikami a stronami, tradycyjne mechanizmy bezpieczeństwa, takie jak CAPTCHA czy fingerprinting urządzeń, stają się coraz mniej skuteczne.

Cloudflare Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Cloudflare wprowadza granularną kontrolę i widoczność osobistych agentów AI

Firma Cloudflare wprowadziła nową kategorię „Personal Assistants” w swoich narzędziach Security Analytics, umożliwiając właścicielom serwisów śledzenie i zarządzanie ruchem generowanym przez osobistych agentów AI. Firmy mogą teraz ustawiać precyzyjne zasady dostępu dla poszczególnych agentów, co pozwala chronić przychody z reklam lub wrażliwe obszary strony, przy jednoczesnym wspieraniu użytecznych interakcji.

Cloudflare Security

Atak na łańcuch dostaw: trwałe tylne furtki SSH w złośliwym rozszerzeniu Cursor

Zmodyfikowana wersja rozszerzenia 'Claude Code' była rozpowszechniana poprzez marketplace rozszerzeń Cursor, umożliwiając atakującym instalację trwałych odwrotnych tuneli SSH na maszynach programistów. Złośliwe oprogramowanie, aktywne przez kilka godzin 29 października 2026 r., próbowało wykraść metadane konfiguracji środowiska i stworzyć nieautoryzowane punkty dostępu zdalnego.

Microsoft Security
Cyberbezpieczeństwo· 🧪 Warte przetestowania

Bezpieczeństwo agentów AI w przedsiębiorstwach: nowe wytyczne dotyczące zarządzania i obrony

Microsoft odnotował 15-krotny wzrost liczby agentów AI w ekosystemie M365 w ciągu ostatniego roku, co wymusza wprowadzenie nowych ram bezpieczeństwa dla CISO. Uwaga skupia się na wdrażaniu rygorystycznej kontroli tożsamości i głębokiej obserwacji, aby zapobiegać ryzykom związanym z niezarządzaną autonomią AI.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

LLM i fuzzery: komplementarne podejście do wykrywania błędów

Google Project Zero przeanalizowało porównanie systemów opartych na LLM (BigSleep) z tradycyjnymi fuzzerami generatywnymi (Fuzzilli) w kontekście wykrywania luk w silniku JavaScript V8. W ciągu sześciu miesięcy obie metody niezależnie odkryły unikalne błędy, przy szacowanym pokryciu wynoszącym od 25% do 60%.

Google Project Zero

Naruszenie bezpieczeństwa LiteLLM 1.107.0: automatyczna kradzież poświadczeń podczas startu Python

Złośliwa wersja pakietu LiteLLM (1.107.0) została rozpowszechniona przez PyPI, wykonując kod automatycznie przy każdym uruchomieniu interpretera Python w zainfekowanym środowisku. Payload kradł poświadczenia z narzędzi programistycznych, usług chmurowych i konfiguracji AI, bez konieczności bezpośredniego importowania biblioteki w aplikacji.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Cloudflare WAF analizuje teraz także odpowiedzi serwera, by wykrywać exploity

Cloudflare wprowadził pełną detekcję transakcji (full transaction detection) oraz reguły odpowiedzi dla swojego firewalla aplikacji webowych (WAF), które oceniają zarówno żądanie HTTP, jak i odpowiedź serwera źródłowego, aby potwierdzić, czy atak faktycznie się powiódł. Wcześniej WAF analizował tylko przychodzące żądania, co mogło pomijać exploity ujawniające się dopiero w odpowiedzi (np. wyciek zawartości pliku) lub generować fałszywe alarmy przy blokowaniu wyłącznie na podstawie sygnatur żądań. Pierwsze zarządzane zabezpieczenia dotyczą niedawno ujawnionej luki php2shell, a funkcja jest dostępna dla wszystkich klientów, także na planie Free.

Cloudflare Security

NVIDIA wprowadza Sentry – sprzętową warstwę nadzorującą i blokującą nieposłuszne agenty AI

NVIDIA przedstawiła Sentry, nowy framework bezpieczeństwa działający poza zasięgiem agenta AI, egzekwujący polityki i monitorujący zachowanie z wydzielonej, zaufanej domeny sprzętowej na kartach DPU BlueField-4. Pomysł jest prosty: nawet jeśli agent zostanie przejęty lub zacznie działać niezgodnie z zamierzeniem podczas korzystania z narzędzi i poświadczeń, Sentry nadal go obserwuje i może go odciąć, ponieważ nie zależy od systemu hosta, na którym agent działa. Dwa komponenty wykonują zasadniczą pracę – DOCA Tower, proxy sprawdzające i autoryzujące każde żądanie sieciowe agenta, oraz DOCA Argus, odczytujący pamięć w czasie rzeczywistym, aby zrozumieć, co faktycznie się dzieje. Gdy coś wygląda podejrzanie, system może odizolować agenta w ciągu milisekund, bez potrzeby współpracy ze strony agenta czy hosta.

NVIDIA Developer
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Microsoft traktuje agentów AI jako zagrożenie wewnętrzne, wprowadza nowe mechanizmy ograniczania ryzyka

Microsoft ogłosił rozszerzenie ramy bezpieczeństwa Project Perception, mającej zająć się ryzykami wynikającymi z autonomicznych agentów AI – agenci są traktowani jako nowa kategoria „insidera”, wymagająca odrębnej tożsamości, uprawnień i kontroli ryzyka. Nowości obejmują Dynamic Permissions (dostęp oparty na zasadzie najmniejszych uprawnień, ograniczony do zadania i czasu), Dynamic Agent Risk (ciągła ocena ryzyka na podstawie odchyleń zachowania i kontekstu) oraz Dynamic Conditional Access (stopniowana reakcja — od zawężenia dostępu po pełną izolację środowiska wykonawczego). Microsoft rozszerza też wykrywanie i obsługę tożsamości (Microsoft Entra Agent ID) do 60 typów lokalnych agentów, w tym Claude Code, OpenAI Codex i GitHub Copilot, oraz wprowadza „Guardian Agents”, monitorujących i reagujących na ryzykowne zachowania agentów z prędkością maszyny.

Microsoft Security