Pereiti prie turinio
2026 m. spalio 24 d., šeštadienis
Tenesys AI News
Prenumerata

Voice AI

Speech-to-Text, Text-to-Speech, realaus laiko modeliai ir Voice AI agentai.

“Speech-to-Text” — 2 straipsniai ✕

Voice AI· Svarbu· 🧪 Verta testuoti

Deepgram sumažino paketinės transkripcijos kaštus perkėlęs Nova-3 į AWS Trainium2

AWS ir Deepgram kartu perrašė Nova-3 kalbos atpažinimo modelį, kad jis veiktų tiesiogiai ant Trainium2 lustų vietoj įprastos GPU pagrįstos PyTorch infrastruktūros, orientuojantis į didelio masto nesinchroninius transkripcijos darbus. Darbo metu buvo perrašyti lėčiausi sluoksniai į individualius branduolius (kernels), o Python paslaugų sluoksnis pakeistas Rust laikomąja sistema, tiesiogiai kreipiantis į Trainium. Rezultatas: viena trn2.3xlarge instancija, vykdanti aštuonias lygiagrečias modelio kopijas, apdoroja 11-70% daugiau garso vienam doleriui nei ankstesnė Deepgram infrastruktūra, o panašus sutaupymas potencialiai pasiekiamas klientams, savarankiškai diegiantiems sprendimą per SageMaker.

AWS Machine Learning
Voice AI· Svarbu· 🧪 Verta testuoti

„Deepgram“ Flux STT modelis sumažino nepageidaujamus pertraukimus „Anam“ avatarų pokalbiuose beveik perpus

„Anam“, kurianti fotorealistinius interaktyvius avatarus, perėjo prie „Deepgram“ Flux kalbos atpažinimo (STT) modelio, siekdama išspręsti pokalbio eilės (turn-taking) problemas neparuoštuose, realaus laiko pokalbiuose. A/B testavime, lyginant su savarankiškai talpinamu atviro kodo STT variantu, Flux sumažino nepageidaujamus avataro pertraukimus apie 50%, delsa nepadidėjo, o skundai dėl pokalbio eigos angliškose sesijose sumažėjo beveik iki nulio. „Anam“ įdiegė Flux savo „Kubernetes“/H100 infrastruktūroje ir pritaikė ją visiems „turnkey“ vartotojams po dviejų savaičių savarankiško diegimo (palyginti su keliomis dienomis naudojant „Deepgram“ talpinamą versiją).

Deepgram