Tyrėjai pristatė „visų blokų vertintoją“ (full-block estimator), skirtą optimizuoti „Masked Diffusion Language Models“ (MDLM) derinimą. Vertinant kiekvieną bloką tiksliai po vieną kartą, šis metodas pašalina dispersiją, kylančią dėl atsitiktinės blokų atrankos.
Tyrėjai pristatė naują mokymo metodą, vadinamą „Self-Disagreement“ (savarankišku nesutarimu), kuris pagerina modelio gebėjimą vertinti savo paties argumentus. Vietoj priklausomybės nuo žmogaus grįžtamojo ryšio ar išorinių apdovanojimų modelių, agentas pats sukuria priešingus argumentus ir mokosi vertindamas jų pagrįstumą.
„Amazon“ pristatė architektūrinį sprendimą, integruojantį „NVIDIA NeMo Switchyard“ biblioteką su „LiteLLM“, skirtą dinamiškai nukreipti kodo agentų užklausas tarp skirtingų „Bedrock“ modelių. Naudojant „stage“ arba „random“ maršrutizavimą, galima efektyviai paskirstyti srautą tarp galingų ir ekonomiškų modelių, optimizuojant našumą bei kaštus.
„Amazon“ papildė „SageMaker JumpStart“ „OpenFold3-preview“ modeliu, leidžiančiu prognozuoti baltymų, DNR, RNR ir ligandų 3D struktūras. Sprendimas naudoja asinchroninius užklausų taškus ilgai trunkančioms užduotims atlikti, palaiko automatinį mastelio keitimą bei išteklių mažinimą iki nulio, kai sistema nenaudojama.
„Amazon Threat Intelligence“ užfiksavo autonominius agentus, naudojančius atvirojo kodo ARTEX sistemą plataus masto duomenų vagystėms ir tapatybės klastojimui naudojant „deepfake“. Šiose kampanijose išnaudotos neatnaujintos AI infrastruktūros spragos ir konfigūracijos klaidos, siekiant automatizuoti daugiapakopes atakas.
Nuo spalio pradžios sparčiai išaugo DI pagrįstų įsilaužimo (pentesting) ir orkestravimo sistemų skaičius, dabar aktyviai veikia tūkstančiai jų modifikacijų. Šie autonominiai įrankiai automatizuoja visą kibernetinės atakos grandinę, leisdami jiems greitai išnaudoti pavogtus kredencialus ir judėti per infrastruktūrą.
„NVIDIA“ paskelbė techninį vadovą, kaip paleisti 753B parametrų GLM-5.3 MoE modelį naudojant dvi DGX stotis su GB300 procesoriais. Naudojant tenzorinį lygiagretumą (TP=2) per RDMA jungtis ir vLLM, galima įveikti vieno GPU atminties apribojimus (252 GB HBM3e) naudojant masyvius modelius.
„Google“ pristatė naują vieningą AI agentų stebėsenos sistemą, integruotą tiesiai į „BigQuery“ ir „Looker“. Sistema leidžia kūrėjams perduoti įrašus (logs) ir telemetriją iš nuosavų bei trečiųjų šalių agentų (pvz., „LangGraph“) į „BigQuery“ duomenų saugyklas, skirtas našumo analizei, vertinimui ir kaštų valdymui.
„llama.cpp“ projektas oficialiai pasiekė 1.0.0 versijos etapą praėjus trejiems su puse metų nuo įkūrimo. Šiame leidime pristatomas griežtas semantinis versijavimas, siekiant užtikrinti geresnį nuspėjamumą kūrėjams, naudojantiems „libllama“ ir „libggml“ C/C++ bibliotekas.
DeepSeek išplėtė savo paslaugas, atverdama kūrėjams visą taikomųjų programų įrankių rinkinį. Nuo šiol API vartotojai gali įjungti žiniatinklio paieškos, URL nuskaitymo, failų apdorojimo ir saugos filtrų parametrus, taip pat naudoti atskirus ASR, TTS ir OCR taškus.
Paskelbtas naujas mokslinis karkasas leidžia imituoti tikslines vartotojų grupes ir atlikti kontroliuojamus „kas būtų, jeigu“ eksperimentus. Naudodamos personais paremtus agentus, įmonės gali greitai testuoti pokalbių robotus, žiniatinklio programas ir kitas paslaugas, gaudamos duomenų, kurie padeda priimti strateginius produkto kūrimo sprendimus.
Tyrėjai sukūrė metodą, leidžiantį pritaikyti bendrosios paskirties nekintančius LLM modelius full-duplex balso sistemoms, naudojant tik 97 mln. mokomų parametrų ir 30 GPU valandų treniravimo. Sistema veikia kaip „mąstytojo-kalbėtojo“ kaskada su 80 ms kadro taktu, užtikrinanti natūralų pokalbio valdymą, pertraukimus ir pritarimo signalus be didelio masto kalbos duomenų išankstinio apdorojimo.
Amazon išleido SGLang-Neuron – įskiepį, leidžiantį kūrėjams vykdyti didelio masto DI modelius naudojant AWS Trainium aparatinę įrangą per standartinę SGLang sąsają. Ši integracija palaiko natūralų PyTorch vykdymą ir pažangias funkcijas, tokias kaip PD disaggregation naudojant EFA, siekiant optimizuoti modelių aptarnavimą.
„Google“ pristatė „Gemini 4 Hydrogen“ – naują modelį, optimizuotą greitam ir ekonomiškam agentų bei programavimo užduočių vykdymui. Modelis turi 1 milijono žetonų konteksto langą ir kintamus „mąstymo“ lygius, leidžiančius programuotojams subalansuoti samprotavimo gylį, vėlavimą ir kaštus.
„Amazon“ pristatė būdą, kaip apsaugoti daugelio nuomotojų (multi-tenant) AI agentus užtikrinant, kad RAG užklausos būtų apribotos konkretaus vartotojo teisėmis. Sprendimas naudoja ACL palaikančias žinių bazes ir „AgentCore Gateway“ užklausų perėmiklį, kuris įrankių iškvietimuose patikimai įterpia patikrintas vartotojo tapatybes, neleidžiant LLM ar „prompt injection“ atakoms pasiekti neautorizuotų duomenų.
Amazon pristatė sistemą, skirtą aptikti tyliuosius duomenų sugadinimus (SDC) paskirstyto mokymo metu, kai sugedusi įranga pateikia klaidingus skaičiavimus be jokių įspėjamųjų žurnalų. Integravę tris pasirinktines patikras – gradientų baigtinumo, žiedinio atkūrimo ir svorių atspaudų – į savo PyTorch DDP mokymo ciklus, galite identifikuoti, izoliuoti ir pakeisti neveikiančius mazgus.
Amazon pristatė tiesioginį Web Search API, skirtą Bedrock AgentCore, leidžiantį vykdyti paieškas tiesiogiai per standartinius AWS SDK ir CLI. Šis atnaujinimas supaprastina realaus laiko duomenų integravimą į dirbtinio intelekto agentus, pašalinant būtinybę konfigūruoti pilną AgentCore Gateway.
„Google“ pristatė dvi naujas SQL funkcijas „AlloyDB“ – ai.classify ir ai.extract, leidžiančias atlikti „Gemini“ pagrįstas operacijas tiesiogiai „PostgreSQL 18“ aplinkoje. Šios funkcijos automatizuoja nestruktūrizuoto teksto apdorojimą, pavyzdžiui, nuotaikų analizę ar JSON išgavimą, nereikalaujant papildomų programinių tarpinių sluoksnių.
NVIDIA į savo „AI Cluster Runtime“ (AICR) įrankį integravo atvirojo kodo „k8s-aibom“ projektą. Tai leidžia platformų komandoms automatiškai generuoti ir audituoti dirbtinio intelekto komponentų sąrašus (AIBOM) Kubernetes aplinkoje, identifikuojant modelius, išvados (inference) aplinkas bei priklausomybes.
„Google“ pristatė „Gemini Decisions API“, varomą naujojo „gemini-decision-1“ modelio. Skirtingai nei standartiniai generatyviniai modeliai, šis įrankis atlieka vieno žingsnio klasifikavimą ir vertinimą apdorojant tekstą, garsą, vaizdus, vaizdo įrašus ir PDF failus, grąžindamas pasitikėjimo balus (confidence scores), o ne tekstą.
„Google“ pristatė A2UI 1.0 – stabilų atvirą protokolą, leidžiantį DI agentams generuoti interaktyvias sąsajas vietoje paprasto teksto. Šis protokolas leidžia kūrėjams apibrėžti UI komponentus, kurie natyviai atvaizduojami interneto, „iOS“ ir „Android“ platformose.
„Amazon“ įgalino programinės įrangos apskaitą pagal suvartojimą dvikrypčio srautinio perdavimo modeliams „SageMaker AI“ platformoje. Anksčiau ilgos trukmės sesijoms buvo sunku taikyti programinės įrangos mokesčius, nes jų nebuvo galima suderinti su paprastomis HTTP atsakymų antraštėmis. Dabar modelių teikėjai gali pranešti apie faktinį suvartojimą realiuoju laiku naudodami specialų metaduomenų „WebSocket“ ryšį.
Tyrėjai pristatė SELD – be mokymo veikiantį metodą, skirtą „tyliam įrodymų praradimui“ (angl. silent evidence loss) ilgo konteksto glaudinimo metu aptikti. Tai įvyksta, kai pašalinama pagrindinė informacija, todėl atsakymas lieka techniškai teisingas, tačiau nepagrįstas įrodymais, o tai kelia riziką sistemoms, pakartotinai naudojančioms kontekstą.
Amazon Bedrock AgentCore dabar siūlo platų integruotų, trečiųjų šalių ir pasirinktinių vertintojų katalogą agentų elgsenai gamybinėje aplinkoje stebėti. Platforma leidžia vykdyti DeepEval ir AutoEval metrikas valdomoje aplinkoje, palaikant užklausų, realaus laiko bei paketinio vertinimo darbo eigas.