Granite-Switch-4.1-8B / Granite-Switch-4.1-30B

Pakeitimų istorija

2026-10-15

IBM sujungia transkripciją, sprendimų priėmimą ir pokalbį viename Granite Switch modelyje

Parametras	Buvo	Dabar
Funkcijos per endpoint	Atskiri modeliai/endpoint'ai pokalbiui, sprendimams ir kalbai	Pokalbis, sprendimų priėmimas ir ASR transkripcija sujungti viename endpoint'e
VRAM naudojimas	Nenurodyta	Maždaug tiek pat VRAM kiek ir pagrindinis modelis vienas, nepaisant papildomų funkcijų
Sprendimų adapteriai	Ankstesnėje versijoje Decision aLoRA nebuvo	Bendros paskirties Decision aLoRA ir specializuotas Guardian aLoRA saugumo sprendimams
ASR komponentas	Nenurodyta	Integruotas Granite-Speech-5.0-Turbo-CTC, pirmaujantis OpenASR reitinge
Inferencijos greitis (sprendimų srautas, 3B demo)	Konkurentas Jev nurodė 10 sprendimų per sekundę	Granite Switch 3B versija pasiekė 60-100 sprendimų per sekundę

Naujienos

Modeliai· Svarbu· 🧪 Verta testuoti

IBM sujungia transkripciją, sprendimų priėmimą ir pokalbį viename Granite Switch modelyje

IBM pristatė Granite Switch 4.1 8B ir 30B dydžio versijas – modulinę sistemą, kuri vykdo pokalbį, sprendimų priėmimą ir kalbos transkripciją iš vieno talpinamo endpoint'o, o ne iš atskirų modelių. Atnaujinime pridėtas bendros paskirties sprendimų adapteris, specializuotas „Guardian“ adapteris saugumo klasifikacijai ir integruotas ASR modelis Granite-Speech-5.0-Turbo-CTC, pirmaujantis OpenASR reitinge. Nors sujungtos trys funkcijos, bendras modelis naudoja maždaug tiek pat VRAM, kiek ir pagrindinis modelis vienas.

prieš 2 val.Hugging Face