Przejdź do treści
niedziela, 22 listopada 2026
Tenesys AI News
Subskrypcja

Cyberbezpieczeństwo

Podatności, zagrożenia i incydenty, komunikaty CERT-EU, ENISA, CISA i NCSC, bezpieczeństwo AI i regulacje (NIS2, CRA).

“Agentai” — 6 artykułów ✕

PilneCyberbezpieczeństwo· 🧪 Warte przetestowania

Wzrost popularności autonomicznych frameworków do testów penetracyjnych AI

Od początku października gwałtownie wzrosła liczba frameworków do testów penetracyjnych opartych na sztucznej inteligencji, z tysiącami aktywnych instancji. Te autonomiczne narzędzia automatyzują cały łańcuch ataku cybernetycznego, pozwalając na łańcuchowe wykorzystywanie poświadczeń i szybkie przemieszczanie się wewnątrz infrastruktury.

Cloudflare Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Google ocenia system wykrywania anomalii agentów w niezależnych testach

Google przetestowało funkcję wykrywania anomalii agentów (Agent Anomaly Detection) przy użyciu pięciu zewnętrznych benchmarków, w tym AgentDojo i AgentHarm. Narzędzie wykryło 87% szkodliwych instrukcji wykonanych przez agentów, wykazując jednak mniejszą skuteczność w przypadku zatrutej pamięci długotrwałej.

Google Developers
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowe badania pokazują, jak modele AI mogą zostać przekształcone w uśpione agenty

Microsoft Research odkrył, że modele AI mogą zostać skompromitowane poprzez modyfikację mniej niż 10 konkretnych neuronów. Te „uśpione” furtki (backdoors) pozwalają atakującemu wywołać złośliwe polecenia, gdy w kontekście pojawią się określone ciągi znaków, nawet jeśli model przechodzi wszystkie standardowe testy bezpieczeństwa.

Microsoft Security
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowa technika backdoor Lazarus atakuje uśpione neurony modeli AI

Badacze Microsoft odkryli 'Lazarus', technikę umożliwiającą przeprogramowanie uśpionych neuronów w modelach LLM w celu wstrzyknięcia złośliwych zachowań. Modyfikując mniej niż 10 neuronów, atakujący może wywołać wykonanie nieautoryzowanych poleceń bez wpływu na standardowe działanie modelu lub wyniki ewaluacji.

Microsoft Research
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

IBM udostępnia Praxis Policy Engine do zabezpieczania systemów AI

IBM wprowadziło Praxis Policy Engine (PPE), narzędzie typu open-source znajdujące się teraz w CNCF Sandbox, zaprojektowane do egzekwowania polityk bezpieczeństwa i dostępu w ruchu AI. Działa ono jako monitor referencyjny, który reguluje prompty, wywołania modeli oraz interakcje agentów przy użyciu wspólnego formatu danych.

IBM Research