Przejdź do treści
czwartek, 19 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

“Saugumas” — 102 artykuły ✕

Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

OpenSSF udostępnia nowe zasoby dotyczące bezpieczeństwa AI i certyfikację

OpenSSF wprowadziło przewodnik dotyczący wykrywania i usuwania luk w zabezpieczeniach za pomocą AI oraz zapowiedziało certyfikację „Secure AI Associate” (SAIA), która ruszy w grudniu 2026 roku. Inicjatywy te mają na celu wypełnienie luki w bezpieczeństwie spowodowanej szybką integracją AI w procesach wytwarzania oprogramowania.

OpenSSF
Badania· Ważne· 🧪 Warte przetestowania

Testy MCQ sztucznie ukrywają odmowy bezpieczeństwa w modelach LLM

Badania pokazują, że format pytań wielokrotnego wyboru (MCQ) tłumi zachowania odmawiające w modelach LLM. Eksperymenty na modelach Llama-3.1-8B i Qwen3-8B wykazują, że wymuszenie konkretnej litery odpowiedzi przesuwa aktywacje modelu 3x dalej od kierunku odmowy, co oznacza, że benchmarki bezpieczeństwa oparte na MCQ mogą zawyżać ocenę bezpieczeństwa modelu.

arXiv cs.CL
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowy framework oparty na uczeniu ze wzmocnieniem umożliwia skuteczne ataki typu black-box na modele LLM

Badacze zaprezentowali „RL-ATTACK”, nową metodę wykorzystującą uczenie ze wzmocnieniem do generowania ataków typu adversarial na modele językowe, bez potrzeby posiadania dostępu do gradientów modelu. Metoda ta, ucząc się na podstawie reakcji celu, osiąga wysoką efektywność przy niewielkiej liczbie zapytań i skutecznie omija mechanizmy bezpieczeństwa.

arXiv cs.CL
Agenci· Ważne· 🧪 Warte przetestowania

NVIDIA wzmacnia bezpieczeństwo agentów AI i rozwija możliwości modeli koreańskich

NVIDIA wprowadziła „Open Agent Safety Platform” z runtime’em „OpenShell”, zapewniającym bezpieczne, izolowane środowisko uruchomieniowe i zarządzanie politykami dla agentów AI. Jednocześnie „LG AI Research” udostępniło API do modelu „K-EXAONE-2.5”, wspieranego przez nowy zestaw danych „Nemotron-Personas-Korea”, zawierający 7 milionów syntetycznych osobowości.

NVIDIA
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Cyberprzestępcy używają frameworka AI ARTEX do ataków na sektor finansowy

Grupa Storm-3358 coraz częściej wykorzystuje framework agentowy AI o nazwie ARTEX do przyspieszania ataków na organizacje finansowe. Framework ten automatyzuje skanowanie podatności, kradzież poświadczeń i przemieszczanie się wewnątrz sieci w czasie rzeczywistym, używając popularnych narzędzi typu Nmap i curl.

Microsoft Security
Agenci· Ważne· 🧪 Warte przetestowania

Skalowanie produkcyjnych agentów AI za pomocą Amazon Bedrock AgentCore

Firma Taxbit wdrożyła bezpiecznego, świadomego ról asystenta AI przy użyciu Amazon Bedrock AgentCore, aby zautomatyzować wsparcie w oparciu o dokumentację produktu. Agent wykorzystuje RAG do opierania odpowiedzi na zweryfikowanych treściach, jednocześnie rygorystycznie egzekwując maskowanie PII, regionalną rezydencję danych oraz uprawnienia oparte na rolach użytkowników.

AWS Machine Learning
Agenci· Ważne· 🧪 Warte przetestowania

Skalowanie autonomicznych operacji bezpieczeństwa z Amazon Bedrock AgentCore

Firma Greenlight Financial zautomatyzowała ponad 90% obsługi incydentów bezpieczeństwa i ryzyka (łącznie 4000 spraw miesięcznie), wdrażając wielopoziomową architekturę agentów na platformie Amazon Bedrock AgentCore. System wykorzystuje nadzorcę 1. poziomu do wstępnej triażu oraz nadzorcę 2. poziomu do głębokich analiz, znacząco odciążając analityków.

AWS Machine Learning
Agenci· Ważne· 🧪 Warte przetestowania

Skalowalne zarządzanie dostępem dla agentów AI z Amazon Bedrock AgentCore

Ta aktualizacja wprowadza architekturę opartą na bramie (gateway) do zarządzania dostępem agentów AI na dużą skalę. Dzięki Amazon Bedrock AgentCore Gateway i politykom Cedar, możesz przenieść logikę autoryzacji z poszczególnych narzędzi do centralnego silnika polityk, upraszczając zabezpieczenia dla setek agentów.

AWS Machine Learning
Badania· Ważne

Post-kwantowa prywatność dzięki technologii MOLE

Cloudflare opracowuje MOLE (Moderation Of unLinkable Endorsements), aby zastąpić obecne protokoły Privacy Pass podatne na ataki kwantowe. Łącząc dowody z wiedzą zerową VOLE-in-the-Head z podpisami wielowymiarowymi UOV, osiągnięto przełom w tworzeniu wydajnych, post-kwantowych podpisów w ciemno.

Cloudflare Security

Aktorzy zagrożeń wykorzystują agentowy AI do automatyzacji kradzieży danych uwierzytelniających

Przestępcy coraz częściej wdrażają agentowe systemy AI, takie jak ARTEX, aby skanować publiczne repozytoria GitHub w poszukiwaniu wyciekłych danych uwierzytelniających i natychmiast inicjować ataki na usługi chmurowe. Agenty te samodzielnie analizują wyniki, dostosowują zapytania API po błędach i mogą przejść od rozpoznania do eksfiltracji danych z usług takich jak Azure Key Vault w ciągu kilku minut.

Microsoft Security
Agenci· Ważne· 🧪 Warte przetestowania

Amazon wprowadza Web Answer do zautomatyzowanych badań agentowych

Firma Amazon udostępniła Web Answer w ramach Bedrock AgentCore – zarządzane narzędzie, które upraszcza badania internetowe prowadzone przez agentów. Automatyzuje ono cały potok, od wyszukiwania i weryfikacji faktów po syntezę odpowiedzi z cytatami, dostarczając wyniki przez MCP.

AWS Machine Learning
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Microsoft wzmacnia bezpieczeństwo agentów AI za pomocą narzędzi do zarządzania i izolacji

Microsoft wprowadził nowe funkcje bezpieczeństwa do zarządzania ryzykiem związanym z agentami AI, w tym Dynamiczne Uprawnienia do ograniczania zakresu zadań oraz kontenery Microsoft Execution Containers (MXC) do izolacji na poziomie systemu operacyjnego. Microsoft Defender zyskał również możliwość wykrywania lokalnych agentów AI oraz ich konfiguracji MCP w systemach Windows i macOS.

Microsoft Security

Cloudflare proponuje nowe standardy bezpieczeństwa i tożsamości dla agentów AI

Cloudflare adresuje wyzwania stwarzane przez zdalnie hostowanych agentów AI, którzy maskują tożsamość użytkownika i tworzą luki w odpowiedzialności dla operatorów witryn. Ponieważ agenci działają jako pośrednicy między użytkownikami a stronami, tradycyjne mechanizmy bezpieczeństwa, takie jak CAPTCHA czy fingerprinting urządzeń, stają się coraz mniej skuteczne.

Cloudflare Security
Agenci· Ważne· 🧪 Warte przetestowania

Microsoft prezentuje PDD Kit do weryfikacji kodu generowanego przez AI

Microsoft Research wprowadził PDD Kit, zestaw narzędzi służący do łączenia intencji człowieka z kodem generowanym przez agentów w ramach Proof-Driven Development. Dzięki formalnej weryfikacji w języku Verus, zestaw pozwala deweloperom matematycznie udowodnić, że kod napisany przez AI spełnia określone wymagania, wykraczając poza tradycyjne testowanie.

Microsoft Research
Modele· Ważne· 🧪 Warte przetestowania

OpenAI uruchamia GPT-6-Cyber do analizy podatności

OpenAI wprowadziło GPT-6-Cyber, nowy wariant modelu zoptymalizowany pod kątem identyfikacji, odtwarzania i usuwania podatności w zabezpieczeniach. Przed implementacją wymagane jest skonfigurowanie środowiska Daybreak.

OpenAI API Changelog
Agenci· Ważne· 🧪 Warte przetestowania

Amazon Quick wprowadza Smart Approvals do przepływów pracy agentów AI

Amazon Quick uruchomił funkcję Smart Approvals, aby zautomatyzować rutynowe zadania agentów przy jednoczesnym zachowaniu nadzoru ludzkiego nad krytycznymi decyzjami. System wykorzystuje klasyfikator do oceny żądanych działań w oparciu o kontekst konwersacji i polityki użytkownika, eliminując niepotrzebne przerywanie pracy bez pomijania ustalonych kontroli bezpieczeństwa.

AWS Machine Learning
Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Cloudflare wprowadza granularną kontrolę i widoczność osobistych agentów AI

Firma Cloudflare wprowadziła nową kategorię „Personal Assistants” w swoich narzędziach Security Analytics, umożliwiając właścicielom serwisów śledzenie i zarządzanie ruchem generowanym przez osobistych agentów AI. Firmy mogą teraz ustawiać precyzyjne zasady dostępu dla poszczególnych agentów, co pozwala chronić przychody z reklam lub wrażliwe obszary strony, przy jednoczesnym wspieraniu użytecznych interakcji.

Cloudflare Security

Anthropic wprowadza znaki wodne w najnowszych modelach Claude

Firma Anthropic zaktualizowała swoją platformę, dodając tekstowy znak wodny do treści generowanych przez Claude Mythos 5, Opus 4.7 oraz Sonnet 4.6. Mechanizm ten służy do oznaczania tekstów stworzonych przez AI, choć może nie działać przy określonych konfiguracjach technicznych.

Claude Platform Release Notes