Pereiti prie turinio
2026 m. lapkričio 21 d., šeštadienis
Tenesys AI News
Prenumerata
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

„Google“ pristatė semantinę apsaugą nuo dirbtinio intelekto agentų piktnaudžiavimo

Trumpai: „Google“ pristatė „Semantic governance policies“ peržiūros versiją „Gemini“ platformai. Ši funkcija veikia kaip saugiklis, naudojantis LLM vertintoją, kad patikrintų kiekvieną agento siūlomą įrankio iškvietimą pagal paprastos kalbos taisykles ir vartotojo ketinimus prieš jį įvykdant.

Šaltinis: Google DevelopersGoogleOriginalus straipsnis ↗

Šią santrauką automatiškai parengė dirbtinis intelektas pagal „Google Developers“ publikaciją. Tai mūsų tekstas, ne originalo kopija — faktai, skaičiai ir citatos priklauso šaltiniui, kurio nuoroda pateikta viršuje ir apačioje.

Kas pasikeitė?

  • 1Pridėtas realiojo laiko įrankių iškvietimų vertinimas naudojant LLM.
  • 2Įvestas taisyklių užtikrinimas paprasta kalba, pakeičiantis arba papildantis griežtus kodo leidimus.
  • 3Įdiegtas numatytasis vartotojo ketinimų patikrinimas, siekiant apsisaugoti nuo neleistinų veiksmų ir įsilaužimų.
  • 4Integracija su „Agent Gateway“ agento ir modelio srautui perimti.

Kodėl tai svarbu?

Šis būdas peržengia statinių IAM leidimų ribas, leisdamas dinamiškai įgyvendinti sudėtingus verslo apribojimus (pvz., išlaidų limitus, duomenų prieigos taisykles) nekeičiant kodo. Tai veiksmingai mažina netiesioginių užklausų injekcijų (prompt injection) riziką, kai agentas gali būti manipuliuojamas atlikti neleistinus veiksmus.

Ką tai reiškia AI agentams ir kontaktų centrams?

Kurdami balso agentus, atliekančius veiksmus, galite naudoti šią priemonę apsaugos taisyklėms, kurių negali apdoroti standartiniai API leidimai. Įvertinkite, kaip ši integracija veikia vėlinimą (latency) jūsų balso srautuose, nes pridedamas papildomas LLM vertinimo žingsnis. Išbandykite tai kaip sluoksnį, užtikrinantį, kad agentai laikytųsi verslo logikos, net jei bandoma apeiti apribojimus.

🧪 Verta testuoti

Tai siūlo keičiamo mastelio būdą sudėtingiems saugumo apribojimams įgyvendinti naudojant natūralią kalbą.

Semantic governance policies· Nauja

Šaltiniai

  • Google DevelopersOficialusPirminis šaltinis
    „Check what your AI agents do before they do it, with Semantic governance policies“
    2026-11-20 02:00
    Originalus straipsnis →
Šaltinio publikavimo data
2026-11-20 02:00
Mūsų sistema rado
2026-11-21 00:39
Santrauka sugeneruota
2026-11-21 01:39

Straipsnį pagal originalų šaltinį parašė AI. Faktai, skaičiai ir kainos — iš šaltinio; trūkstamos reikšmės pažymėtos „Nėra oficialių duomenų“. Teisinė informacija, autorių teisės ir privatumas

„Google“ pristatė semantinę apsaugą nuo dirbtinio intelekto agentų piktnaudžiavimo · TENESYS AI NEWS