Pereiti prie turinio
2026 m. lapkričio 20 d., penktadienis
Tenesys AI News
Prenumerata
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujos apsaugos priemonės nuo „adversarial distillation“ atakų

Trumpai: „OpenAI“ įdiegė patobulintas saugumo priemones, skirtas blokuoti „adversarial distillation“ (priešišką žinių distiliavimą) – techniką, kai piktavaliai bando išgauti vidinius modelio mąstymo pėdsakus (chain-of-thought), kad sukurtų neteisėtus modelius. Atnaujinimas įveda griežtesnę API kontrolę, geresnius išvesties klasifikatorius ir glaudesnį mąstymo pėdsakų susiejimą su pokalbių istorija.

Šaltinis: OpenAIOpenAIGPT-6.2 Astra, GPT-6.2 SolOriginalus straipsnis ↗

Šią santrauką automatiškai parengė dirbtinis intelektas pagal „OpenAI“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.

Kas pasikeitė?

  • 1Smarkiai sumažintas sėkmingų mąstymo išgavimo atakų skaičius (nuo 54 % iki 0,2 % adaptuojamuose testuose).
  • 2API lygio apribojimai, susiejantys mąstymo pėdsakus tik su pradiniu pokalbiu.
  • 3Įdiegti išvesties klasifikatoriai asistento pranešimams ir įrankių iškvietimo argumentams.
  • 4Adversarial treniravimo integravimas, padedantis modeliams atpažinti ir atmesti mėginimus išgauti duomenis.
GPT-6.2 Astra, GPT-6.2 Sol
ParametrasBuvoDabar
Sėkmingo mąstymo išgavimo rodiklis54,0 % (GPT-6 Astra)0,2 % (GPT-6.2 Astra)

Kodėl tai svarbu?

Tai svarbu kūrėjams ir įmonėms, kuriančioms sprendimus su moderniausiais modeliais, nes neleidžiama vogti „mąstymo“ duomenų konkuruojantiems ar kenkėjiškiems modeliams kurti. Tai pabrėžia būtinybę saugoti ne tik galutinius atsakymus, bet ir tarpinius mąstymo duomenis, atskleidžiamus per API.

Ką tai reiškia AI agentams ir kontaktų centrams?

Jei jūsų įmonė naudoja pažangius modelius sudėtingoms agentų darbo eigoms, turėtumėte audituoti savo sistemą dėl galimo mąstymo duomenų nutekėjimo, ypač įrankių iškvietimo argumentuose. Įvertinkite, kaip jūsų platforma tvarko kelių žingsnių kontekstą; užtikrinkite, kad tiekėjai taiko griežtą mąstymo pėdsakų susiejimą su kiekvienu pokalbiu, kad „pavogtas“ mąstymas nebūtų įkeltas į naujas sesijas.

🧪 Verta testuoti

Testavimas būtinas norint įsitikinti, ar šie griežti saugumo ribojimai neturi neigiamos įtakos jūsų agentų veikimui, ypač atliekant sudėtingus įrankių iškvietimo ar daugiapakopio mąstymo veiksmus.

Adversarial distillation protection· Nauja

Šaltiniai

Šaltinio publikavimo data
2026-11-20 12:00
Mūsų sistema rado
2026-11-20 21:38
Santrauka sugeneruota
2026-11-20 23:39

Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas

Naujos apsaugos priemonės nuo „adversarial distillation“ atakų · TENESYS AI NEWS