Naujas „CoFiBreak“ metodas didina LLM „jailbreak“ įvairovę
Trumpai: Tyrėjai pristatė „CoFiBreak“ – atlygio mechanizmą, skirtą treniruoti atakuojančius LLM modelius, skatinantį didesnę „jailbreak“ strategijų įvairovę. Naudojant „nuo stambaus prie smulkaus“ (coarse-to-fine) atlygio struktūrą grupiniame santykiniame politikos optimizavime (GRPO), metodas išvengia dažnos problemos, kai modeliai užsiciklina ties siauru pasikartojančių užklausų rinkiniu.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „arXiv cs.CL“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Įdiegtas „nuo stambaus prie smulkaus“ įvairovės atlygis GRPO (Group Relative Policy Optimization).
- 2Įvairovės atlygis taikomas tik toms atakoms, kurios viršija bazinį efektyvumo slenkstį.
- 3„AdvBench“ teste pasiektas 98,8 % ASR@10 rezultatas su žymiai didesne įvairove nei taikant kitus metodus.
- 4Pademonstruotas geresnis perkeliamumas į dar nebandytus pažangius modelius, tokius kaip „Claude-Opus-4.6“.
Kodėl tai svarbu?
Standartinis „raudonųjų komandų“ (red-teaming) procesas dažnai remiasi pasikartojančiomis atakomis, kurios neaprėpia visos grėsmių skalės. Šis metodas verčia atakuojančius agentus nuolat keisti personas ir formatus, todėl saugumo vertinimai tampa daug atsparesni sudėtingiems, unikaliems kenksmingiems ketinimams.
Ką tai reiškia AI agentams ir kontaktų centrams?
Saugumo ir kokybės užtikrinimo komandoms tai svarbus rodiklis, kaip vertinti dirbtinio intelekto saugumą. Testuodami savo sistemas, nepasikliaukite tik statiniais užklausų sąrašais. Šio metodo išbandymas padės atskleisti, ar jūsų gynybos mechanizmai yra realiai tvirti, ar tik pritaikyti blokuoti dažniausiai pasikartojančius, paprastus bandymus.
🧪 Verta testuoti
Tai suteikia pažangų būdą testuoti jūsų dirbtinio intelekto agentus, pereinant nuo paprastų pasikartojančių užklausų prie sudėtingų, daugiapakopių atakos strategijų, kurios tiksliau imituoja realias grėsmes.
Šaltiniai
- arXiv cs.CLOficialusPirminis šaltinisOriginalus straipsnis →„CoFiBreak: A Coarse-to-Fine Diversity Reward for Effective Multi-Turn Jailbreak“2026-11-02 07:00Licencija: arXiv metadata CC0; papers under their own licences · mūsų santrauka (turinys pakeistas)
- Šaltinio publikavimo data
- 2026-11-02 07:00
- Mūsų sistema rado
- 2026-11-02 07:22
- Santrauka sugeneruota
- 2026-11-02 07:22
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas