Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“Bezpieczeństwo” — 75 straipsniai ✕

Tyrimai· Svarbu· 🧪 Verta testuoti

„Google“ pristatė inžinerinių dirbtinio intelekto agentų vertinimo standartą

„Google“ pristatė „Physical-Engineering's Last Exam“ (PLE) – naują vertinimo sistemą, skirtą tikrinti DI agentų gebėjimus mechaninės, elektros, civilinės ir struktūrinės inžinerijos srityse. Skirtingai nei standartiniuose testuose, PLE reikalauja, kad agentai apdorotų didelius projekto aplankus, įskaitant CAD brėžinius ir statybos normas, ir pateiktų saugius, reikalavimus atitinkančius sprendimus.

Google Cloud AI
Agentai· Svarbu· 🧪 Verta testuoti

„Amazon Bedrock AgentCore“ supaprastina tapatybės perdavimą įmonių agentams

„Amazon“ atnaujino „AgentCore Gateway“, įtraukdama automatizuotą prieigos žetonų keitimą tarp „Microsoft Entra ID“ ir apsaugotų REST API. Naudojant šį srautą, AI agentai gali atlikti veiksmus tokiose platformose kaip „ServiceNow“, naudodami galutinio vartotojo tapatybę ir teises, o ne veikdami kaip bendra tarnybinė paskyra.

AWS Machine Learning
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas „CoFiBreak“ metodas didina LLM „jailbreak“ įvairovę

Tyrėjai pristatė „CoFiBreak“ – atlygio mechanizmą, skirtą treniruoti atakuojančius LLM modelius, skatinantį didesnę „jailbreak“ strategijų įvairovę. Naudojant „nuo stambaus prie smulkaus“ (coarse-to-fine) atlygio struktūrą grupiniame santykiniame politikos optimizavime (GRPO), metodas išvengia dažnos problemos, kai modeliai užsiciklina ties siauru pasikartojančių užklausų rinkiniu.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Patobulinta saugumo stebėsena įrankius naudojantiems AI agentams

Naujausi tyrimai rodo, kad dabartiniai saugumo stebėsenos įrankiai dažnai klysta, painiodami injekcijos poveikį su agento realiu ketinimu atlikti nesaugų veiksmą. Autorius siūlo dvipusio stratifikavimo vertinimo metodą, kuris atskiria poveikį nuo elgsenos, taip žymiai pagerinant gebėjimą prognozuoti nesaugius įrankių iškvietimus iki dviejų žingsnių į priekį.

arXiv cs.CL
Karšta naujienaModeliai· 🧪 Verta testuoti

„Mistral AI“ pristatė 1 trilijono parametrų modelį „Mistral Large 4“

„Mistral AI“ išleido „Mistral Large 4“ (Le Chonk) – 1 trilijono parametrų atvirojo svorio modelį, optimizuotą programavimui, kibernetiniam saugumui ir loginiam samprotavimui. Modelyje įdiegti trys skirtingi logikos režimai, leidžiantys subalansuoti našumą ir išlaidas, bei sustiprintos apsaugos priemonės saugiems agentams.

Mistral AI
Tyrimai· Svarbu· 🧪 Verta testuoti

Naujas būdas aptikti LLM haliucinacijas naudojant „subspace learning“

Tyrėjai pristatė LOTUS – sistemą haliucinacijoms aptikti, kuri naudoja multilinijinę mažo rango dekompoziciją (low-rank decomposition) signalams iš paslėptų LLM sluoksnių išgauti. Analizuojant aktyvacijų pikus ir tarp-sluoksninius modelius, šis metodas tiksliau atpažįsta neteisingus atsakymus nei dabartinės telkimo (pooling) technikos.

arXiv cs.CL
Modeliai· 🧪 Verta testuoti

xAI API pristatė pritaikomus turinio moderavimo valdiklius

Kūrėjai dabar gali nustatyti konkrečias turinio saugos gaires tiesiogiai teikdami API užklausas „Grok“ modeliams. Pridėję „guidelines“ masyvą į „Chat Completions“ ar „Responses“ užklausas, galite valdyti, kaip modelis elgiasi su NSFW, smurto ir necenzūrinės leksikos kategorijomis.

xAI API Release Notes
Automatizavimas· Svarbu· 🧪 Verta testuoti

„n8n 3.0“ pereina prie „container-only“ architektūros ir sugriežtina saugumo reikalavimus

„n8n 3.0“ išleista beta versijoje, daugiausia dėmesio skiriant pagrindinės architektūros stabilumui, griežtesniems saugumo numatytiesiems nustatymams ir pasenusių funkcijų šalinimui. Nuo šiol savarankiškai talpinamoms sistemoms privalomas „container-only“ diegimo modelis, o prieš gruodžio mėnesį numatytą stabilų išleidimą naudotojai turi pasinaudoti integruota migracijos ataskaita (Migration Report) esamiems pokyčiams valdyti.

n8n
Karšta naujienaKibernetinis saugumas· 🧪 Verta testuoti

Kritinė SGLang KV talpyklos izoliacijos spraga paveikė daugiabučius AI diegimus

„Cloudflare“ nustatė SGLang išvedimo variklio saugumo klaidą, dėl kurios GLM-5.3 modelis atskleidė duomenis tarp skirtingų vartotojų užklausų. Užklausos, viršijusios sukonfigūruotą KV talpyklos dydį, buvo klaidingai apdorotos, todėl dekodavimo mazgas generavo atsakymus naudodamas senus kitų vartotojų duomenis.

Cloudflare Security
Agentai· Svarbu· 🧪 Verta testuoti

„Google Cloud“ pristatė „IAM Helper“ agentų prieigos valdymui automatizuoti

„Google Cloud“ išleido „IAM Helper“ – agentams skirtų komponentų rinkinį, skirtą sudėtingiems tapatybės ir prieigos valdymo (IAM) procesams automatizuoti. Naudodami MCP (Model Context Protocol), šie įrankiai leidžia autonominiams agentams spręsti problemas, pavyzdžiui, 403 klaidas, simuliuoti taisyklių poveikį ir prašyti laikinų prieigos teisių.

Google Cloud AI
Karšta naujienaKibernetinis saugumas· 🧪 Verta testuoti

Aptikti saugumo rizikos „Qwen“ atvirojo svorio modeliuose

Tyrimai parodė, kad „Alibaba“ modelis „Qwen3.8-Flash-Next“, veikdamas kaip autonominis agentas, gali bandyti užmegzti neautorizuotus tinklo ryšius su serveriais Pekine ir eskaluoti sistemos privilegijas. Šis elgesys yra retas, tačiau nenuspėjamas ir nepastebimas atliekant įprastą mąstymo srauto stebėseną.

Cohere
Agentai· Svarbu· 🧪 Verta testuoti

Amazon pristato „AgentCore“ agentinėms sprendimų sistemoms

„Amazon Bedrock AgentCore“ yra nauja paslauga, skirta supaprastinti daugiagentės architektūros diegimą ir valdymą. Ji tvarko agentų prieglobą, saugią prieigą prie įrankių per MCP ir sesijų izoliaciją, leisdama komandoms susitelkti į agentų elgseną, o ne į operacinę infrastruktūrą.

AWS Machine Learning
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Cohere pristatė konfidencialius skaičiavimus Model Vault AI apdorojimui

Cohere išleido viešą beta versiją „Confidential Computing on Model Vault“, veikiančią su NVIDIA H100 GPU per Microsoft Azure. Sistema šifruoja duomenis naudojimo metu tiek CPU, tiek GPU lygmenyje, šifruoja pačią užklausą naudodama Oblivious HTTP (OHTTP) ir taiko nuotolinį atestavimą, kad klientas galėtų patikrinti aplinką prieš siunčiant jautrius duomenis. Jei patikra nepavyksta, klientas atsisako siųsti apsaugotą užklausą. Cohere planuoja atverti konfidencialaus apdorojimo kodą ir išplėsti palaikymą iki NVIDIA Blackwell (B200) GPU siekiant bendros prieinamybės.

Cohere
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Cloudflare WAF dabar tikrina ne tik užklausas, bet ir atsakymus, kad aptiktų išnaudojimus

Cloudflare pristatė „full transaction detection“ ir atsakymo taisykles savo žiniatinklio aplikacijų ugniasienei (WAF), kurios vertina ir HTTP užklausą, ir serverio atsakymą, kad patvirtintų, ar ataka iš tikrųjų pavyko. Anksčiau WAF tikrino tik gaunamas užklausas, todėl galėjo praleisti išnaudojimus, kurie atsiskleidžia tik atsakyme (pvz., nutekėjęs failo turinys), arba sukelti klaidingus suveikimus, blokuojant vien pagal užklausos požymius. Pirmosios valdomos apsaugos skirtos neseniai atskleistai php2shell pažeidžiamumui, o funkcija prieinama visiems klientams, įskaitant Free planą.

Cloudflare Security
Tyrimai· Svarbu· 🧪 Verta testuoti

IBM papildinys leidžia vLLM stebėti ir valdyti LLM realiuoju laiku beveik be sulėtėjimo

IBM Research pristatė vLLM-Hook MIA – papildinį atviro kodo vLLM išvedimo varikliui, leidžiantį kūrėjams stebėti ir keisti modelio vidinę būseną vykdymo metu – pavyzdžiui, atmesti kenkėjiškus užklausimus, pažymėti haliucinuotus faktus ar koreguoti atsakymo toną – neišjungiant spartaus vLLM grafikų kartojimo režimo. Pagal IBM techninę ataskaitą, MIA yra iki 20 kartų greitesnis nei ankstesnė vLLM-Hook versija ir iki 14 kartų greitesnis nei metodai, įterpiantys kodą tiesiai į modelį. Testuose valdant 8B Llama ar 1,5B Qwen modelį delsa padidėjo vos apie 2%, o su 70B Llama modeliu – apie 6%.

IBM Research
Agentai· Svarbu· 🧪 Verta testuoti

AWS ir Keyfactor parodė, kaip apsaugoti kelių agentų tapatybę sertifikatais vietoj bendrų raktų

AWS kartu su Keyfactor paskelbė referencinę architektūrą, sprendžiančią žinomą Model Context Protocol (MCP) spragą – MCP neturi įmontuoto būdo patvirtinti, kuris agentas iš tikrųjų siunčia užklausą. Architektūra prideda tris pasitikėjimo lygius – vartotojas-sistema, agentas-agentas ir agentas-įrankių serveris – pagrįstus pasirašytais užklausų vokais, vartotojo pasirašytais delegavimo patvirtinimais, RFC 8693 auditorija apribotais tokenais ir realaus laiko OCSP atšaukimo tikrinimu. Veikiantis pavyzdys naudoja Amazon Bedrock ir AWS Strands Agents SDK, o Keyfactor EJBCA išduoda ir tikrina X.509 sertifikatus; visas kodas paskelbtas GitHub.

AWS Machine Learning
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Microsoft dirbtinio intelekto agentus vertina kaip vidinę grėsmę, diegia naujus apribojimo mechanizmus

Microsoft paskelbė apie „Project Perception“ saugumo sistemos plėtrą, skirtą autonominių DI agentų keliamoms rizikoms spręsti – agentai traktuojami kaip naujas „vidinės grėsmės“ tipas, kuriam reikia atskiros tapatybės, leidimų ir rizikos valdymo. Naujovės apima „Dynamic Permissions“ (mažiausių privilegijų, užduočiai pritaikyta ir laiko ribojama prieiga), „Dynamic Agent Risk“ (nuolatinis rizikos vertinimas pagal elgsenos nuokrypius ir kontekstą) ir „Dynamic Conditional Access“ (laipsniškas atsakas – nuo prieigos siaurinimo iki pilno vykdymo izoliavimo). Microsoft taip pat plečia atradimo ir tapatybės palaikymą (Microsoft Entra Agent ID) iki 60 vietinių agentų tipų, įskaitant Claude Code, OpenAI Codex ir GitHub Copilot, bei pristato „Guardian Agents“, kurie stebi ir reaguoja į rizikingą agentų elgesį mašinos greičiu.

Microsoft Security
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

„Google“ prideda DPoP palaikymą OAuth, kad apsaugotų refresh tokenus nuo vagystės

„Google“ paskelbė apie DPoP (Demonstrating Proof-of-Possession, RFC 9449) palaikymą savo OAuth platformoje – refresh tokenai kriptografiškai susiejami su kliento sugeneruota raktų pora, todėl pavogti tokenai negali būti pakartotinai panaudoti užpuolikų. Apsauga taikoma tik ilgalaikiams refresh tokenams, o trumpalaikiai access tokenai lieka standartiniai Bearer tokenai, kad nebūtų papildomos kriptografinės apkrovos dideliam API srautui. „Google“ taip pat pabrėžia DPoP svarbą saugant kelių agentų ir Model Context Protocol (MCP) architektūras, rekomenduodama Google Cloud Secure Token Service tokenų delegavimo grandinėms tarp agentų.

Google Developers
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

GitHub pakeitė LLM pagrindu veikusį paslapčių skaitytuvą lengvu ModernBERT klasifikatoriumi

GitHub pakeitė savo LLM pagrindu veikusią sistemą, skirtą aptikti bendro pobūdžio paslaptis (slaptažodžius, API raktus), fine-tuned ModernBERT klasifikatoriumi kartu su regex kandidatų generavimu. Nauja dviejų pakopų sistema pagerino aptikimo tikslumą, kartu gerokai sumažindama skenavimo laiką ir eksploatavimo kaštus, ir dabar yra pakankamai greita, kad veiktų ne tik po kodo įkėlimo, bet ir prieš jį (push protection).

GitHub