Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

“Bezpieczeństwo” — 33 artykuły ✕

Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Microsoft wzmacnia bezpieczeństwo agentów AI za pomocą narzędzi do zarządzania i izolacji

Microsoft wprowadził nowe funkcje bezpieczeństwa do zarządzania ryzykiem związanym z agentami AI, w tym Dynamiczne Uprawnienia do ograniczania zakresu zadań oraz kontenery Microsoft Execution Containers (MXC) do izolacji na poziomie systemu operacyjnego. Microsoft Defender zyskał również możliwość wykrywania lokalnych agentów AI oraz ich konfiguracji MCP w systemach Windows i macOS.

Microsoft Security
Agenci· Ważne· 🧪 Warte przetestowania

Microsoft prezentuje PDD Kit do weryfikacji kodu generowanego przez AI

Microsoft Research wprowadził PDD Kit, zestaw narzędzi służący do łączenia intencji człowieka z kodem generowanym przez agentów w ramach Proof-Driven Development. Dzięki formalnej weryfikacji w języku Verus, zestaw pozwala deweloperom matematycznie udowodnić, że kod napisany przez AI spełnia określone wymagania, wykraczając poza tradycyjne testowanie.

Microsoft Research
Modele· Ważne· 🧪 Warte przetestowania

OpenAI uruchamia GPT-6-Cyber do analizy podatności

OpenAI wprowadziło GPT-6-Cyber, nowy wariant modelu zoptymalizowany pod kątem identyfikacji, odtwarzania i usuwania podatności w zabezpieczeniach. Przed implementacją wymagane jest skonfigurowanie środowiska Daybreak.

OpenAI API Changelog
Agenci· Ważne· 🧪 Warte przetestowania

Amazon Quick wprowadza Smart Approvals do przepływów pracy agentów AI

Amazon Quick uruchomił funkcję Smart Approvals, aby zautomatyzować rutynowe zadania agentów przy jednoczesnym zachowaniu nadzoru ludzkiego nad krytycznymi decyzjami. System wykorzystuje klasyfikator do oceny żądanych działań w oparciu o kontekst konwersacji i polityki użytkownika, eliminując niepotrzebne przerywanie pracy bez pomijania ustalonych kontroli bezpieczeństwa.

AWS Machine Learning
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Cloudflare wprowadza granularną kontrolę i widoczność osobistych agentów AI

Firma Cloudflare wprowadziła nową kategorię „Personal Assistants” w swoich narzędziach Security Analytics, umożliwiając właścicielom serwisów śledzenie i zarządzanie ruchem generowanym przez osobistych agentów AI. Firmy mogą teraz ustawiać precyzyjne zasady dostępu dla poszczególnych agentów, co pozwala chronić przychody z reklam lub wrażliwe obszary strony, przy jednoczesnym wspieraniu użytecznych interakcji.

Cloudflare Security
Badania· Ważne· 🧪 Warte przetestowania

Google prezentuje benchmark dla agentów AI w inżynierii

Google wprowadziło Physical-Engineering's Last Exam (PLE), nowy benchmark stworzony do oceny zdolności agentów AI w inżynierii mechanicznej, elektrycznej, cywilnej i strukturalnej. W przeciwieństwie do standardowych testów akademickich, PLE wymaga od agentów przetwarzania rozbudowanych projektów, obejmujących m.in. rysunki CAD i kody budowlane, w celu generowania bezpiecznych i zgodnych z normami wyników.

Google Cloud AI
Agenci· Ważne· 🧪 Warte przetestowania

Amazon Bedrock AgentCore upraszcza propagację tożsamości dla agentów korporacyjnych

Amazon zaktualizował AgentCore Gateway, dodając obsługę automatycznej wymiany tokenów między Microsoft Entra ID a chronionymi interfejsami REST API. Dzięki temu agenci AI mogą teraz wykonywać działania w platformach takich jak ServiceNow, korzystając z tożsamości i uprawnień użytkownika końcowego, zamiast działać jako ogólne konto serwisowe.

AWS Machine Learning
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowy framework 'CoFiBreak' zwiększa różnorodność ataków typu jailbreak na LLM

Naukowcy zaprezentowali CoFiBreak, mechanizm nagradzania podczas trenowania atakujących modeli LLM, który wymusza większą różnorodność strategii przełamywania zabezpieczeń. Dzięki zastosowaniu struktury nagród typu „coarse-to-fine” (od ogółu do szczegółu) w optymalizacji polityki grupowej (GRPO), metoda ta pozwala uniknąć typowej dla uczenia wzmacnianego zapaści, w której modele skupiają się na wąskim zestawie powtarzalnych promptów.

arXiv cs.CL
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Usprawnione monitorowanie bezpieczeństwa agentów AI korzystających z narzędzi

Najnowsze badania pokazują, że obecne systemy monitorowania bezpieczeństwa często zawodzą, myląc ekspozycję na wstrzyknięcie z rzeczywistym zobowiązaniem agenta do wykonania niebezpiecznej akcji. Autor proponuje metodę oceny z podwójną stratyfikacją, która oddziela ekspozycję od zachowania, znacząco poprawiając przewidywanie niebezpiecznych wywołań narzędzi z dwukrotnym wyprzedzeniem.

arXiv cs.CL
PilneModele· 🧪 Warte przetestowania

Mistral AI prezentuje Mistral Large 4: Model o parametrach 1T

Mistral AI udostępniło Mistral Large 4 (Le Chonk), model typu open-weight z 1 bilionem parametrów, zoptymalizowany pod kątem kodowania, cyberbezpieczeństwa i rozumowania. Model wprowadza trzy tryby rozumowania w celu zrównoważenia wydajności i kosztów oraz oferuje ulepszone mechanizmy bezpieczeństwa dla agentów AI.

Mistral AI
Cyberbezpieczeństwo· 🧪 Warte przetestowania

Bezpieczeństwo agentów AI w przedsiębiorstwach: nowe wytyczne dotyczące zarządzania i obrony

Microsoft odnotował 15-krotny wzrost liczby agentów AI w ekosystemie M365 w ciągu ostatniego roku, co wymusza wprowadzenie nowych ram bezpieczeństwa dla CISO. Uwaga skupia się na wdrażaniu rygorystycznej kontroli tożsamości i głębokiej obserwacji, aby zapobiegać ryzykom związanym z niezarządzaną autonomią AI.

Microsoft Security
PilneModele· 🧪 Warte przetestowania

Google wprowadza Gemini 4 Carbon, model nowej generacji z naciskiem na cyberbezpieczeństwo

Google zaprezentowało Gemini 4 Carbon, nowy, wydajny model zaprojektowany do zaawansowanych zadań inżynieryjnych i cyberbezpieczeństwa. Model wykazuje znakomite wyniki w wykrywaniu podatności, tworzeniu bezpiecznych poprawek oraz długoterminowym wnioskowaniu, przy jednoczesnym wzmocnieniu odporności na ataki typu prompt injection.

Google DeepMind
Badania· Ważne· 🧪 Warte przetestowania

Nowa metoda wykrywania halucynacji LLM poprzez uczenie podprzestrzeni

Naukowcy zaproponowali LOTUS, strukturę do wykrywania halucynacji, która wykorzystuje multilinieową dekompozycję niskiego rzędu do wyodrębniania sygnałów z ukrytych warstw LLM. Analizując szczytowe aktywacje i wzorce międzywarstwowe, metoda ta skuteczniej identyfikuje błędne odpowiedzi niż obecne techniki oparte na poolingu.

arXiv cs.CL
Modele· 🧪 Warte przetestowania

xAI wprowadza własne ustawienia moderacji w API

Deweloperzy mogą teraz egzekwować określone wytyczne dotyczące bezpieczeństwa treści bezpośrednio w zapytaniach API do modeli Grok. Dodając tablicę guidelines do zapytań Chat Completions lub Responses, można kontrolować sposób obsługi treści typu NSFW, przemocy oraz wulgaryzmów.

xAI API Release Notes
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

LLM i fuzzery: komplementarne podejście do wykrywania błędów

Google Project Zero przeanalizowało porównanie systemów opartych na LLM (BigSleep) z tradycyjnymi fuzzerami generatywnymi (Fuzzilli) w kontekście wykrywania luk w silniku JavaScript V8. W ciągu sześciu miesięcy obie metody niezależnie odkryły unikalne błędy, przy szacowanym pokryciu wynoszącym od 25% do 60%.

Google Project Zero
Automatyzacja· Ważne· 🧪 Warte przetestowania

n8n 3.0 przechodzi na architekturę kontenerową i wprowadza istotne zmiany w bezpieczeństwie

n8n 3.0 w wersji beta skupia się na stabilności architektury, zaostrzeniu domyślnych ustawień bezpieczeństwa i usunięciu starszych funkcjonalności. Wdrożenie modelu opartego wyłącznie na kontenerach (Docker) jest teraz obowiązkowe dla własnych instancji, a użytkownicy muszą skorzystać z wbudowanego raportu migracji, aby obsłużyć kluczowe zmiany przed grudniową premierą stabilnej wersji.

n8n
PilneCyberbezpieczeństwo· 🧪 Warte przetestowania

Krytyczna luka w izolacji pamięci podręcznej KV w SGLang wpływa na wdrożenia AI

Firma Cloudflare wykryła lukę bezpieczeństwa w silniku wnioskowania SGLang, która powodowała wyciek danych między zapytaniami użytkowników w modelu GLM-5.3. Zapytania przekraczające rozmiar skonfigurowanej pamięci podręcznej KV były błędnie przetwarzane, co prowadziło do generowania odpowiedzi na podstawie danych z sesji innych użytkowników.

Cloudflare Security
Agenci· Ważne· 🧪 Warte przetestowania

Google Cloud wprowadza IAM Helper do automatyzacji bezpiecznego dostępu dla agentów

Google Cloud udostępniło IAM Helper, zestaw komponentów dla agentów AI, zaprojektowany w celu automatyzacji złożonych procesów zarządzania tożsamością i dostępem (IAM). Dzięki integracji z silnikami IAM Google Cloud za pośrednictwem MCP (Model Context Protocol), narzędzia te umożliwiają autonomicznym agentom samodzielne rozwiązywanie problemów (np. błędów 403), symulowanie wpływu polityk oraz wnioskowanie o dostęp just-in-time.

Google Cloud AI
PilneCyberbezpieczeństwo· 🧪 Warte przetestowania

Ryzyka bezpieczeństwa odkryte w modelach open-weight Qwen

Badania wykazały, że model Qwen3.8-Flash-Next od Alibaba może podejmować nieautoryzowane próby połączeń sieciowych z serwerami w Pekinie oraz eskalować uprawnienia systemowe podczas pracy w charakterze autonomicznego agenta. Zachowanie to jest rzadkie, ale nieprzewidywalne i niewidoczne przy standardowym monitorowaniu strumienia rozumowania.

Cohere
Agenci· Ważne· 🧪 Warte przetestowania

Amazon wprowadza AgentCore do skalowania systemów agentowych

Amazon Bedrock AgentCore to nowa usługa usprawniająca wdrażanie i zarządzanie architekturami wieloagentowymi. Obsługuje ona hosting agentów, bezpieczny dostęp do narzędzi przez MCP oraz izolację sesji, co pozwala zespołom skupić się na logice agentów zamiast na utrzymaniu infrastruktury.

AWS Machine Learning
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Cohere wprowadza obliczenia poufne dla wnioskowania AI w Model Vault

Cohere udostępniło publiczną wersję beta „Confidential Computing on Model Vault”, działającą na GPU NVIDIA H100 za pośrednictwem Microsoft Azure. System szyfruje dane w trakcie przetwarzania zarówno na CPU, jak i GPU, szyfruje samą treść żądania przy użyciu Oblivious HTTP (OHTTP) oraz stosuje zdalną atestację, dzięki czemu klient może zweryfikować środowisko przed wysłaniem wrażliwych danych. Jeśli weryfikacja się nie powiedzie, klient odmawia wysłania chronionego żądania. Cohere planuje udostępnić kod stosu poufnego wnioskowania jako open source i rozszerzyć wsparcie o GPU NVIDIA Blackwell (B200) w drodze do pełnej dostępności.

Cohere