LLM elgsenos valdymas optimizuojant įvestį
Trumpai: Tyrėjai pristatė ActGCG metodą, leidžiantį atkartoti aktyvavimo valdymo (activation steering) efektus, kurie anksčiau reikalavo vidinės prieigos prie modelio, optimizuojant įvesties sufiksus. Šis metodas leidžia atkartoti specifinius elgsenos modelius, pavyzdžiui, kalbos keitimą, vien tik per išorinio teksto įvestį.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „arXiv cs.CL“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Pristatytas ActGCG metodas, generuojantis įvesties sufiksus, atitinkančius valdymo efektą.
- 2Palaikymas universaliems sufiksams, optimizuotiems daugeliui užklausų vienu metu.
- 3Įdiegtas „soft-suffix“ variantas, padedantis išvengti diskrečiųjų tokenų apribojimų.
Kodėl tai svarbu?
Šis požiūris panaikina būtinybę turėti „white-box“ prieigą prie modelio veikimo metu. Tai svarbu inžinieriams, prižiūrintiems saugumo ribas arba koreguojantiems agentų elgseną.
Ką tai reiškia AI agentams ir kontaktų centrams?
Tai reiškia, kad jūsų saugumo sistemos, besiremiančios vidinės būsenos stebėjimu, gali būti apeitos naudojant specialiai suformuotas įvestis. Testuodami balso agentus, įvertinkite jų atsparumą prieš priešiškus sufiksus, kurie siekia perrašyti numatytąsias sistemos instrukcijas.
🧪 Verta testuoti
Testuoti būtina siekiant nustatyti, ar jūsų naudojami modeliai yra pažeidžiami elgsenos valdymo per įvestį metodams, nereikalaujantiems tiesioginės vidinės intervencijos.
Šaltiniai
- arXiv cs.CLOficialusPirminis šaltinisOriginalus straipsnis →„Creating Steering Vectors via Input Optimisation“2026-11-16 07:00Licencija: arXiv metadata CC0; papers under their own licences · mūsų santrauka (turinys pakeistas)
- Šaltinio publikavimo data
- 2026-11-16 07:00
- Mūsų sistema rado
- 2026-11-16 07:00
- Santrauka sugeneruota
- 2026-11-16 07:01
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas