Przejdź do treści
niedziela, 22 listopada 2026
Tenesys AI News
Subskrypcja

Wszystkie wiadomości

TENESYS AI NEWS śledzi najważniejsze wiadomości o AI i wyjaśnia, co się zmieniło, dlaczego to ważne i czy technologię warto przetestować.

#Red Teaming — 2 artykuły ✕

Cyberbezpieczeństwo· Ważne· 🧪 Warte przetestowania

Nowy framework 'CoFiBreak' zwiększa różnorodność ataków typu jailbreak na LLM

Naukowcy zaprezentowali CoFiBreak, mechanizm nagradzania podczas trenowania atakujących modeli LLM, który wymusza większą różnorodność strategii przełamywania zabezpieczeń. Dzięki zastosowaniu struktury nagród typu „coarse-to-fine” (od ogółu do szczegółu) w optymalizacji polityki grupowej (GRPO), metoda ta pozwala uniknąć typowej dla uczenia wzmacnianego zapaści, w której modele skupiają się na wąskim zestawie powtarzalnych promptów.

arXiv cs.CL

Anthropic rozszerza Cyber Verification Program o trzy poziomy dostępu dla zespołów bezpieczeństwa

Anthropic połączyło programy Project Glasswing i Cyber Verification Program (CVP) w jeden rozszerzony program z trzema poziomami dostępu: Defense Access, Red Team Access i Specialized Access. Każdy poziom odblokowuje coraz mniej zabezpieczeń blokujących zadania związane z cyberbezpieczeństwem w modelach Claude Opus 5.5, Claude Sonnet 5.5 i Claude Mythos 5.1 dla zweryfikowanych organizacji bezpieczeństwa. Anthropic opublikowało też wyniki benchmarków i liczby wykrytych podatności z wcześniejszego programu Glasswing, uzasadniające rozszerzenie.

Anthropic