Pereiti prie turinio
2026 m. spalio 4 d., sekmadienis
Tenesys AI News
Prenumerata

AI tyrimai

Moksliniai darbai, benchmarkai, architektūros, reasoning ir mokymo metodai.

“RCE” — 2 straipsniai ✕

„Google“ TPU komanda MaxText pakartojo Ai2 „Olmo 3 7B“ treniravimo procesą

„Google Cloud“ TPU inžinerių komanda kartu su Ai2 nuo nulio atkūrė „Olmo 3 7B“ modelio pre-treniravimą naudodama MaxText — „Google“ JAX/XLA treniravimo karkasą, veikiantį TPU įrenginiuose vietoje originalaus Ai2 PyTorch/GPU sprendimo. Jie pasiekė sutapimą su Ai2 paskelbtais rezultatais ne tik treniravimo nuostolio kreivėje, bet ir keturiose nepriklausomose atskirtų (held-out) vertinimo plotmėse per visą ~5,93 trilijono žetonų, 1,41 mln. žingsnių 1 etapo treniravimą bei 2 etapo „annealing“ fazę. Šio darbo metu jie perkėlė į MaxText neįprastą „Olmo 3“ architektūrą (pertvarkytą normalizavimo bloką, QK-norm, 3:1 slankaus/globalaus dėmesio santykį) ir aptiko duomenų kraunimo klaidą, kuri tyliai „pagražino“ rezultatus dėl įsiminimo, o ne tikro mokymosi.

Google Developers

„Google DeepMind“ pristatė „SynthID Bio“ – AI sukurtų baltymų vandenženklinimą

„Google DeepMind“ pristatė „SynthID Bio“ – vandenženklinimo technologiją, kuri įterpia nepastebimą, patikrinamą parašą į AI sukurtus baltymus ir jų 3D struktūras, nepakenkiant jų biologinei funkcijai. Sistema išbandyta su baltymų jungikliais (VEGF-A, SARS-CoV-2 spyglio RBD, PD-L1) naudojant „AlphaProteo“ ir modifikuotą „ProteinMPNN“, taip pat įdiegta į „AlphaFold 3“ difuzijos tinklą struktūrų vandenženklinimui. „DeepMind“ taip pat bendradarbiauja su Stanfordo „Hie“ laboratorija ir „Arc Institute“, pritaikydama metodą „Evo 2“ genominiam modeliui bakteriofagų genomų vandenženklinimui. Tikslas – sustiprinti biosaugumą, padedant DNR sintezės patikros teikėjams ir viešosioms duomenų bazėms patikrinti AI sukurtų biologinių dizainų kilmę.

Google DeepMind