Meta wydała Muse Spark Open – otwarty, multimodalny model MoE z 816B parametrów
Meta opublikowała Muse Spark Open – model mixture-of-experts o otwartych wagach, liczący około 816 miliardów parametrów łącznie i 42 miliardy aktywnych na token. Przyjmuje tekst, obrazy, audio i wideo, a generuje tekst, wykorzystując kontekst do 1 miliona tokenów. Meta przedstawia go jako model zoptymalizowany pod kątem kodowania i pracy agentowej, zbudowany na architekturze mniejszego modelu Muse Glimmer, określając go jako najbardziej zaawansowany jak dotąd amerykański model o otwartych wagach.