Nauja "Lazarus" užpakalinių durų technika taikosi į miegančius AI modelių neuronus
Trumpai: Microsoft tyrėjai atrado "Lazarus" – techniką, leidžiančią perprogramuoti miegančius LLM neuronus ir įterpti kenkėjišką elgseną. Pakeitus mažiau nei 10 neuronų, užpuolikas gali inicijuoti neleistinų komandų vykdymą, nepaveikiant įprasto modelio veikimo ar vertinimo balų.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „Microsoft Research“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Atrasta "Lazarus" metodika, leidžianti įterpti užpakalines duris be modelio perkvalifikavimo.
- 2Reikia pakeisti mažiau nei 10 miegančių neuronų.
- 3Užpuolikai gali sujungti neuronus ir vykdyti savavališkus krovinius terminale.
- 4Užpakalines duris turintys modeliai sėkmingai praeina standartinius saugumo vertinimus.
Kodėl tai svarbu?
Ši grėsmė kelia didelę riziką AI agentams, turintiems autonominę prieigą prie įrankių, failų ar terminalų. Kadangi pažeistas modelis bandymų metu atrodo normalus, tradiciniai vertinimo metodai yra nepakankami, todėl būtina užtikrinti griežtą modelių kilmę ir svorių vientisumą.
Ką tai reiškia AI agentams ir kontaktų centrams?
Jei jūsų įmonė diegia AI agentus su įrankių/funkcijų iškvietimo galimybėmis, privalote vertinti modelių svorius kaip kritinį kodą. Atlikite originalių ir diegiamų svorių palyginimą (diffing), naudokite patikimus modelių leidėjus ir izoliuokite agentų aplinkas. Prieš diegimą įdiekite "red-teaming" protokolus, kad nuskenuotumėte neįprastus svorių pakeitimus.
🧪 Verta testuoti
Testavimas apima naudojamų "open-weight" modelių vientisumo tikrinimą ir svorių nuskaitymo priemonių diegimo galimybių vertinimą jūsų CI/CD procesuose.
Šaltiniai
- Microsoft ResearchOficialusPirminis šaltinisOriginalus straipsnis →„Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents“2026-11-10 22:52
- Šaltinio publikavimo data
- 2026-11-10 22:52
- Mūsų sistema rado
- 2026-11-11 01:28
- Santrauka sugeneruota
- 2026-11-11 07:29
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas