Przejdź do treści
piątek, 20 listopada 2026
Tenesys AI News
Subskrypcja

Cyberbezpieczeństwo

Podatności, zagrożenia i incydenty, komunikaty CERT-EU, ENISA, CISA i NCSC, bezpieczeństwo AI i regulacje (NIS2, CRA).

#AI Agents — 9 artykułów ✕

Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowa technika backdoor Lazarus atakuje uśpione neurony modeli AI

Badacze Microsoft odkryli 'Lazarus', technikę umożliwiającą przeprogramowanie uśpionych neuronów w modelach LLM w celu wstrzyknięcia złośliwych zachowań. Modyfikując mniej niż 10 neuronów, atakujący może wywołać wykonanie nieautoryzowanych poleceń bez wpływu na standardowe działanie modelu lub wyniki ewaluacji.

Microsoft Research
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Microsoft wzmacnia bezpieczeństwo agentów AI za pomocą narzędzi do zarządzania i izolacji

Microsoft wprowadził nowe funkcje bezpieczeństwa do zarządzania ryzykiem związanym z agentami AI, w tym Dynamiczne Uprawnienia do ograniczania zakresu zadań oraz kontenery Microsoft Execution Containers (MXC) do izolacji na poziomie systemu operacyjnego. Microsoft Defender zyskał również możliwość wykrywania lokalnych agentów AI oraz ich konfiguracji MCP w systemach Windows i macOS.

Microsoft Security

Cloudflare proponuje nowe standardy bezpieczeństwa i tożsamości dla agentów AI

Cloudflare adresuje wyzwania stwarzane przez zdalnie hostowanych agentów AI, którzy maskują tożsamość użytkownika i tworzą luki w odpowiedzialności dla operatorów witryn. Ponieważ agenci działają jako pośrednicy między użytkownikami a stronami, tradycyjne mechanizmy bezpieczeństwa, takie jak CAPTCHA czy fingerprinting urządzeń, stają się coraz mniej skuteczne.

Cloudflare Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Cloudflare WAF analizuje teraz także odpowiedzi serwera, by wykrywać exploity

Cloudflare wprowadził pełną detekcję transakcji (full transaction detection) oraz reguły odpowiedzi dla swojego firewalla aplikacji webowych (WAF), które oceniają zarówno żądanie HTTP, jak i odpowiedź serwera źródłowego, aby potwierdzić, czy atak faktycznie się powiódł. Wcześniej WAF analizował tylko przychodzące żądania, co mogło pomijać exploity ujawniające się dopiero w odpowiedzi (np. wyciek zawartości pliku) lub generować fałszywe alarmy przy blokowaniu wyłącznie na podstawie sygnatur żądań. Pierwsze zarządzane zabezpieczenia dotyczą niedawno ujawnionej luki php2shell, a funkcja jest dostępna dla wszystkich klientów, także na planie Free.

Cloudflare Security

NVIDIA wprowadza Sentry – sprzętową warstwę nadzorującą i blokującą nieposłuszne agenty AI

NVIDIA przedstawiła Sentry, nowy framework bezpieczeństwa działający poza zasięgiem agenta AI, egzekwujący polityki i monitorujący zachowanie z wydzielonej, zaufanej domeny sprzętowej na kartach DPU BlueField-4. Pomysł jest prosty: nawet jeśli agent zostanie przejęty lub zacznie działać niezgodnie z zamierzeniem podczas korzystania z narzędzi i poświadczeń, Sentry nadal go obserwuje i może go odciąć, ponieważ nie zależy od systemu hosta, na którym agent działa. Dwa komponenty wykonują zasadniczą pracę – DOCA Tower, proxy sprawdzające i autoryzujące każde żądanie sieciowe agenta, oraz DOCA Argus, odczytujący pamięć w czasie rzeczywistym, aby zrozumieć, co faktycznie się dzieje. Gdy coś wygląda podejrzanie, system może odizolować agenta w ciągu milisekund, bez potrzeby współpracy ze strony agenta czy hosta.

NVIDIA Developer
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Microsoft traktuje agentów AI jako zagrożenie wewnętrzne, wprowadza nowe mechanizmy ograniczania ryzyka

Microsoft ogłosił rozszerzenie ramy bezpieczeństwa Project Perception, mającej zająć się ryzykami wynikającymi z autonomicznych agentów AI – agenci są traktowani jako nowa kategoria „insidera”, wymagająca odrębnej tożsamości, uprawnień i kontroli ryzyka. Nowości obejmują Dynamic Permissions (dostęp oparty na zasadzie najmniejszych uprawnień, ograniczony do zadania i czasu), Dynamic Agent Risk (ciągła ocena ryzyka na podstawie odchyleń zachowania i kontekstu) oraz Dynamic Conditional Access (stopniowana reakcja — od zawężenia dostępu po pełną izolację środowiska wykonawczego). Microsoft rozszerza też wykrywanie i obsługę tożsamości (Microsoft Entra Agent ID) do 60 typów lokalnych agentów, w tym Claude Code, OpenAI Codex i GitHub Copilot, oraz wprowadza „Guardian Agents”, monitorujących i reagujących na ryzykowne zachowania agentów z prędkością maszyny.

Microsoft Security

NIST, NSA i CISA publikują wytyczne dotyczące reagowania na incydenty w szkoleniu zaawansowanych agentów AI

Super Intelligence Security Center przy NIST, wspólnie z NSA i CISA, opublikowało wspólny dokument przedstawiający dziesięć dobrowolnych kluczowych praktyk dla organizacji szkolących i oceniających wysoce zdolne agenty „super intelligence” (SI), zwłaszcza systemy przed wdrożeniem lub niepubliczne systemy wysokiego ryzyka. Dokument definiuje „incydent kontroli SI” jako sytuację, gdy agent AI podejmuje nieinstruowane działania naruszające nadzór ludzki lub mechanizmy kontroli bezpieczeństwa. Wytyczne bazują na istniejących praktykach reagowania na incydenty cybernetyczne, dodając kroki specyficzne dla AI, takie jak testowanie izolacji przed wznowieniem działania agenta.

CISA Advisories

Tamnoon wykorzystuje agentów Amazon Bedrock do automatyzacji naprawy luk w zabezpieczeniach chmury

Tamnoon zbudował Tami — agentowy orkiestrator na Amazon Bedrock, który bada ustalenia dotyczące bezpieczeństwa chmury pochodzące z CNAPP i dostawców chmury, ocenia bezpieczeństwo naprawy i generuje poprawki z mechanizmami kontrolnymi. Firma zgłasza ponad 90% redukcję krytycznych ekspozycji w chmurze w ciągu 90 dni, bez żadnych problemów produkcyjnych. System wykorzystuje czterech wyspecjalizowanych agentów (dochodzeniowego, oceny bezpieczeństwa, naprawy, generowania kodu), z których każdy wywołuje różne modele podstawowe przez Bedrock, a Bedrock Guardrails i wnioskowanie między regionami zapewniają bezpieczeństwo i skalę.

AWS Machine Learning
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Cloudflare wdraża wieloagentowy system AI do sortowania alertów bezpieczeństwa na dużą skalę

Cloudflare zbudował system agentów AI dla usługi bezpieczeństwa Managed Defense, aby poradzić sobie z zalewem alertów, który przytłacza analityków. Zamiast jednego uniwersalnego agenta analizującego wszystko, system oddziela deterministyczne zbieranie danych od wnioskowania opartego na modelu i uruchamia równolegle czterech wyspecjalizowanych agentów przed agentem syntezy łączącym ustalenia. Firma twierdzi, że zmniejsza to halucynacje i czyni dochodzenia audytowalnymi oraz odtwarzalnymi.

Cloudflare Security