„Google“ pristatė semantinę apsaugą nuo dirbtinio intelekto agentų piktnaudžiavimo
Trumpai: „Google“ pristatė „Semantic governance policies“ peržiūros versiją „Gemini“ platformai. Ši funkcija veikia kaip saugiklis, naudojantis LLM vertintoją, kad patikrintų kiekvieną agento siūlomą įrankio iškvietimą pagal paprastos kalbos taisykles ir vartotojo ketinimus prieš jį įvykdant.
Šią santrauką automatiškai parengė dirbtinis intelektas pagal „Google Developers“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.
Kas pasikeitė?
- 1Pridėtas realiojo laiko įrankių iškvietimų vertinimas naudojant LLM.
- 2Įvestas taisyklių užtikrinimas paprasta kalba, pakeičiantis arba papildantis griežtus kodo leidimus.
- 3Įdiegtas numatytasis vartotojo ketinimų patikrinimas, siekiant apsisaugoti nuo neleistinų veiksmų ir įsilaužimų.
- 4Integracija su „Agent Gateway“ agento ir modelio srautui perimti.
Kodėl tai svarbu?
Šis būdas peržengia statinių IAM leidimų ribas, leisdamas dinamiškai įgyvendinti sudėtingus verslo apribojimus (pvz., išlaidų limitus, duomenų prieigos taisykles) nekeičiant kodo. Tai veiksmingai mažina netiesioginių užklausų injekcijų (prompt injection) riziką, kai agentas gali būti manipuliuojamas atlikti neleistinus veiksmus.
Ką tai reiškia AI agentams ir kontaktų centrams?
Kurdami balso agentus, atliekančius veiksmus, galite naudoti šią priemonę apsaugos taisyklėms, kurių negali apdoroti standartiniai API leidimai. Įvertinkite, kaip ši integracija veikia vėlinimą (latency) jūsų balso srautuose, nes pridedamas papildomas LLM vertinimo žingsnis. Išbandykite tai kaip sluoksnį, užtikrinantį, kad agentai laikytųsi verslo logikos, net jei bandoma apeiti apribojimus.
🧪 Verta testuoti
Tai siūlo keičiamo mastelio būdą sudėtingiems saugumo apribojimams įgyvendinti naudojant natūralią kalbą.
Šaltiniai
- Google DevelopersOficialusPirminis šaltinisOriginalus straipsnis →„Check what your AI agents do before they do it, with Semantic governance policies“2026-11-20 02:00
- Šaltinio publikavimo data
- 2026-11-20 02:00
- Mūsų sistema rado
- 2026-11-21 00:39
- Santrauka sugeneruota
- 2026-11-21 01:39
Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas