MoE modelių atskaitos optimizavimas naudojant ekspertų srautinį perdavimą
Hugging Face „Transformers“ bibliotekoje pristatė ekspertų srautinio perdavimo funkciją, skirtą „Mixture-of-Experts“ (MoE) modeliams. Šis metodas leidžia paleisti didžiulius modelius, kurie paprastai viršytų standartinius techninės įrangos atminties limitus, srautiniu būdu įkeliant aktyvius ekspertus pagal poreikį.