Nauji tyrimai atskleidžia universalias LLM modelių pažeidžiamumo spragas
Tyrėjai pristatė EndoUT – priešininkiško (adversarial) testavimo metodą, skirtą nustatyti universalius užklausų paleidiklius, kurie gali stipriai sumažinti LLM modelių naudingumą. Analizuodami, kaip modifikuotas kontekstas trikdo modelio pradinius atsakymus, užpuolikai gali sukurti fiksuotus simbolių junginius, kurie destabilizuoja modelio veikimą neturint prieigos prie specifinių užduočių ar vertinimo duomenų.