Pereiti prie turinio
2026 m. lapkričio 19 d., ketvirtadienis
Tenesys AI News
Prenumerata

Visos naujienos

TENESYS AI NEWS seka svarbiausias AI naujienas ir paaiškina, kas pasikeitė, kodėl tai svarbu ir ar technologiją verta išbandyti.

“API” — 290 straipsnių ✕

Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

OpenSSF pristato naujus AI saugumo išteklius ir sertifikavimo programą

OpenSSF pristatė naują vadovą, kaip naudoti dirbtinį intelektą pažeidžiamumų paieškai ir šalinimui, bei paskelbė apie gruodžio mėn. startuosiantį „Secure AI Associate“ (SAIA) sertifikavimą. Šios iniciatyvos skirtos spręsti saugumo spragas, kylančias dėl spartaus AI integravimo į programinės įrangos kūrimo ciklą.

OpenSSF

NVIDIA plečia strategines investicijas į Pietų Korėjos DI startuolius

NVIDIA paskelbė apie naujas investicijas į Pietų Korėjos dirbtinio intelekto (DI) startuolius, besispecializuojančius sujungimų technologijose, DI agentų pagrindiniuose modeliuose bei robotikoje. Ši iniciatyva, vykdoma kartu su MSIT, siekia paspartinti inovacijas visoje DI technologijų grandinėje – nuo techninės infrastruktūros iki fizinio DI taikymo.

NVIDIA
Tyrimai· Svarbu· 🧪 Verta testuoti

MCQ testų formatai dirbtinai slepia LLM saugumo spragas

Tyrimas atskleidžia, kad klausimų su pasirenkamais atsakymais (MCQ) formatas slopina LLM atsisakymo elgseną. Eksperimentai su Llama-3.1-8B ir Qwen3-8B rodo, kad priverstinis konkrečios raidės pasirinkimas modelio aktyvacijas atitraukia 3x toliau nuo atsisakymo krypties, todėl MCQ pagrįsti saugumo vertinimai gali rodyti klaidingai saugius rezultatus.

arXiv cs.CL
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

Naujas sutvirtinto mokymosi metodas leidžia efektyviai vykdyti juodosios dėžės atakas prieš LLM

Tyrėjai pristatė „RL-ATTACK“ – naują sistemą, kuri naudoja sutvirtintą mokymąsi (reinforcement learning) generuoti priešiškas atakas prieš kalbų modelius be prieigos prie jų vidinių parametrų. Besimokydamas iš modelio reakcijų, šis metodas pasiekia didelį efektyvumą su mažai užklausų ir geba apeiti apsaugos filtrus.

arXiv cs.CL
Agentai· Svarbu· 🧪 Verta testuoti

NVIDIA stiprina agentų saugumą ir plečia korėjietiškų modelių galimybes

NVIDIA pristatė „Open Agent Safety Platform“ su „OpenShell“ aplinka, skirta saugiam autonominių agentų vykdymui ir politikos valdymui. Kartu „LG AI Research“ atvėrė API prieigą prie „K-EXAONE-2.5“ modelio, kuris remiasi nauju „Nemotron-Personas-Korea“ duomenų rinkiniu, apimančiu 7 milijonus sintetinių asmenybių.

NVIDIA
Automatizavimas· Svarbu· 🧪 Verta testuoti

„Amazon SageMaker“ dabar palaiko „Multi-Instance GPU“ valdomiems galiniams taškams

„Amazon SageMaker Inference“ pristatė NVIDIA „Multi-Instance GPU“ (MIG) palaikymą, leidžiantį padalyti vieną fizinį GPU į kelis nepriklausomus vienetus. Šis aparatinis padalijimas suteikia kiekvienai particijai skirtą skaičiavimo galią ir atmintį, užtikrinant nuspėjamą delsą ir griežtą izoliaciją tarp modelių, esančių tame pačiame akceleratoriuje.

AWS Machine Learning
Agentai· Svarbu· 🧪 Verta testuoti

Autonominių saugumo operacijų mastelio didinimas su Amazon Bedrock AgentCore

„Greenlight Financial“ sėkmingai automatizavo daugiau nei 90 % savo saugumo ir rizikos atvejų sprendimų (iš viso 4 000 atvejų per mėnesį), įdiegdama daugiapakopę agentų architektūrą „Amazon Bedrock AgentCore“ platformoje. Sistema naudoja 1-ojo lygio prižiūrėtoją pradiniam triažui ir 2-ojo lygio prižiūrėtoją išsamiam tyrimui, taip ženkliai sumažindama analitikų darbo krūvį.

AWS Machine Learning
Agentai· Svarbu· 🧪 Verta testuoti

Keičiamo mastelio DI agentų valdymas su Amazon Bedrock AgentCore

Šis atnaujinimas pristato šliuzu (gateway) paremtą architektūrą, skirtą DI agentų prieigai valdyti. Naudojant Amazon Bedrock AgentCore Gateway ir Cedar taisykles, autorizacijos logiką galima perkelti nuo atskirų įrankių į centrinį taisyklių variklį, taip užtikrinant saugumą šimtams agentų.

AWS Machine Learning
Tyrimai· Svarbu· 🧪 Verta testuoti

AI agentų blaškymosi mažinimas didelėse kodo bazėse

AI agentai dažnai klaidingai supranta senus kodo komentarus, tokius kaip TODO ar FIXME, laikydami juos dabartinėmis instrukcijomis. Tyrimai rodo, kad 6 % programavimo sesijų agentai imasi tirti nereikšmingus, uždarytus ar pasenusius klaidas, o tai didina išlaidas ir apimties didėjimą (scope creep).

Google Developers
Karšta naujienaKibernetinis saugumas

Grėsmės veikėjai naudoja agentinį dirbtinį intelektą automatizuotam prisijungimo duomenų vagystėms

Piktavaliai vis dažniau naudoja agentinius DI sistemas, tokias kaip ARTEX, kad nuskaitytų viešas „GitHub“ saugyklas, ieškodami nutekintų prisijungimo duomenų ir iškart vykdytų atakas prieš debesijos paslaugas. Šie agentai savarankiškai analizuoja rezultatus, adaptuoja API užklausas po nesėkmių ir gali pereiti nuo žvalgybos prie duomenų exfiltracijos iš tokių paslaugų kaip „Azure Key Vault“ per kelias minutes.

Microsoft Security
Modeliai· Svarbu· 🧪 Verta testuoti

NVIDIA išleido keturis atvirojo svorio „Cosmos 3“ pasaulio modelius

NVIDIA pristatė keturis 16B parametrų patikros taškus savo „Cosmos 3 Nano“ modelių šeimoje, skirtus interaktyviam pasaulio modeliavimui. Šie modeliai leidžia kūrėjams generuoti sintetinius kelių jutiklių vairavimo duomenis, simuliuoti robotų judesius ir paversti simuliatoriaus valdiklius fotorealistiniais vaizdo įrašais.

Hugging Face
Kibernetinis saugumas· Svarbu· 🧪 Verta testuoti

„Microsoft“ stiprina AI agentų saugumą įrankiais valdymui ir izoliavimui

„Microsoft“ pristatė naujas saugumo funkcijas, skirtas AI agentų rizikai valdyti, įskaitant dinamines teises (Dynamic Permissions) užduočių apimčiai riboti bei „Microsoft Execution Containers“ (MXC) operacinės sistemos lygio izoliacijai. Taip pat „Microsoft Defender“ dabar gali aptikti vietinius AI agentus bei jų MCP konfigūracijas „Windows“ ir „macOS“ sistemose.

Microsoft Security

„Cloudflare“ siūlo naujus AI agentų saugumo ir tapatybės standartus

„Cloudflare“ sprendžia problemas, kylančias dėl nuotoliniu būdu talpinamų AI agentų, kurie maskuoja vartotojų tapatybę ir sukuria atskaitomybės spragas svetainių valdytojams. Kadangi agentai veikia kaip tarpininkai tarp vartotojų ir svetainių, tradicinės saugumo priemonės, tokios kaip CAPTCHA ar įrenginių pirštų atspaudai, tampa vis mažiau veiksmingos.

Cloudflare Security
Agentai· Svarbu· 🧪 Verta testuoti

„Microsoft“ pristato „PDD Kit“ DI generuoto kodo patikrinimui

„Microsoft Research“ pristatė „PDD Kit“ – įrankių rinkinį, skirtą sujungti žmogaus ketinimus ir DI sugeneruotą kodą per „įrodymais pagrįstą kūrimą“ (Proof-Driven Development). Naudojant formalią patikrą su „Verus“ kalba, šis rinkinys leidžia kūrėjams matematiškai įrodyti, kad DI parašytas kodas atitinka nurodytus reikalavimus, žengiant toliau nei tradicinis testavimas.

Microsoft Research
Agentai· Svarbu· 🧪 Verta testuoti

„Mistral AI“ plečia „Studio“ platformą įmonių agentų diegimui

„Mistral AI“ pristatė svarbius „Mistral Studio“ atnaujinimus – platformą, skirtą AI projektų perkėlimui iš bandomosios versijos į gamybinę aplinką. Atnaujinimai apima valdomus agentus, pažangų darbo eigų (workflow) valdymą ir įmonės lygio stebėseną, leidžiančią diegti sprendimus debesyje, VPC ar lokaliai.

Mistral AI
Tyrimai· Svarbu· 🧪 Verta testuoti

Naujas BACE metodas sumažina skubotus dirbtinio intelekto atsakymus dviprasmiškuose dialoguose

Tyrėjai nustatė, kad LLM modeliai yra linkę pateikti skubotus, dažnai neteisingus atsakymus dviprasmiškose situacijose, užuot uždavę patikslinamuosius klausimus. Jie pristatė BACE (Belief-Aware Critic with Epistemic tracking) – lengvą metodą, veikiantį su užrakintu kalbos modeliu, padedantį strategiškai nuspręsti, kada prašyti paaiškinimo.

arXiv cs.CL