Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata
Tyrimai· Svarbu· 🧪 Verta testuoti

LLM elgsenos valdymas optimizuojant įvestį

Trumpai: Tyrėjai pristatė ActGCG metodą, leidžiantį atkartoti aktyvavimo valdymo (activation steering) efektus, kurie anksčiau reikalavo vidinės prieigos prie modelio, optimizuojant įvesties sufiksus. Šis metodas leidžia atkartoti specifinius elgsenos modelius, pavyzdžiui, kalbos keitimą, vien tik per išorinio teksto įvestį.

Šaltinis: arXiv cs.CLETH ZurichOriginalus straipsnis ↗

Šią santrauką automatiškai parengė dirbtinis intelektas pagal „arXiv cs.CL“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.

Kas pasikeitė?

  • 1Pristatytas ActGCG metodas, generuojantis įvesties sufiksus, atitinkančius valdymo efektą.
  • 2Palaikymas universaliems sufiksams, optimizuotiems daugeliui užklausų vienu metu.
  • 3Įdiegtas „soft-suffix“ variantas, padedantis išvengti diskrečiųjų tokenų apribojimų.

Kodėl tai svarbu?

Šis požiūris panaikina būtinybę turėti „white-box“ prieigą prie modelio veikimo metu. Tai svarbu inžinieriams, prižiūrintiems saugumo ribas arba koreguojantiems agentų elgseną.

Ką tai reiškia AI agentams ir kontaktų centrams?

Tai reiškia, kad jūsų saugumo sistemos, besiremiančios vidinės būsenos stebėjimu, gali būti apeitos naudojant specialiai suformuotas įvestis. Testuodami balso agentus, įvertinkite jų atsparumą prieš priešiškus sufiksus, kurie siekia perrašyti numatytąsias sistemos instrukcijas.

🧪 Verta testuoti

Testuoti būtina siekiant nustatyti, ar jūsų naudojami modeliai yra pažeidžiami elgsenos valdymo per įvestį metodams, nereikalaujantiems tiesioginės vidinės intervencijos.

ActGCG· Nauja

Šaltiniai

  • arXiv cs.CLOficialusPirminis šaltinis
    „Creating Steering Vectors via Input Optimisation“
    2026-11-16 07:00
    Licencija: arXiv metadata CC0; papers under their own licences · mūsų santrauka (turinys pakeistas)
    Originalus straipsnis →
Šaltinio publikavimo data
2026-11-16 07:00
Mūsų sistema rado
2026-11-16 07:00
Santrauka sugeneruota
2026-11-16 07:01

Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas