Naukowcy opracowali metodę adaptacji ogólnych, zamrożonych modeli LLM do systemów głosowych full-duplex przy użyciu zaledwie 97 milionów trenowalnych parametrów i 30 godzin pracy procesora GPU. System działa jako kaskada myśliciel-mówca z zegarem ramkowym 80 ms, co pozwala na naturalną zmianę ról w rozmowie, przerywanie i potakiwanie bez konieczności kosztownego trenowania na ogromnych zbiorach danych mowy.
Podczas NYC Summit firma ElevenLabs ogłosiła szereg aktualizacji, koncentrując się na precyzyjnym dostrajaniu modeli (fine-tuning), silniku „Interaction Engine” do inteligentnego zarządzania modelami oraz trwałej pamięci agentów. Wprowadzono również funkcję „Routines” do automatyzacji procesów oraz aplikację „ElevenAI” poprawiającą produktywność na spotkaniach.
Amazon umożliwił rozliczanie oprogramowania w modelu usage-based dla modeli działających w ramach dwukierunkowego streamingu w SageMaker AI. Wcześniej naliczanie opłat za długotrwałe sesje streamingowe było utrudnione, ponieważ nie można było ich powiązać z prostymi nagłówkami odpowiedzi HTTP. Teraz dostawcy modeli mogą raportować wykorzystanie w czasie rzeczywistym za pomocą dedykowanego połączenia WebSocket z metadanymi.
Google rozszerzyło swoją bibliotekę AI Edge o nowe możliwości rozpoznawania (ASR) i syntezy mowy (TTS) działające bezpośrednio na urządzeniu, bez konieczności połączenia z internetem. Deweloperzy mogą teraz integrować te wydajne modele za pomocą ML Kit dla Androida lub wieloplatformowego MediaPipe, wspierając ponad 100 języków przy wysokiej efektywności energetycznej.
Firma Cartesia wprowadziła dwa modele do zastosowań głosowych: Sonic (zamiana tekstu na mowę) oraz Ink (zamiana mowy na tekst). Zbudowane w oparciu o architekturę State Space Model (SSM), modele te zostały zaprojektowane z myślą o ultra-niskich opóźnieniach i wydajności w czasie rzeczywistym, co jest kluczowe dla profesjonalnych agentów głosowych.
AssemblyAI udostępniło Universal-3 Pro, wyspecjalizowany model zamiany mowy na tekst, który umożliwia programistom wydawanie poleceń bezpośrednio podczas procesu transkrypcji. Obsługuje transkrypcję dokładną (verbatim) oraz oczyszczoną, etykietowanie zdarzeń dźwiękowych i automatyczne przełączanie między sześcioma językami.
AssemblyAI wprowadziło AssemblyAI-TTS-1, model zamiany tekstu na mowę (TTS) stworzony dla agentów głosowych. Oferuje opóźnienia poniżej 100 ms, bibliotekę 4000+ głosów oraz natychmiastowe klonowanie głosu w cenie 15 USD za 1 mln znaków.
Audible opracowało potok syntezy mowy (TTS), który wykorzystuje duże modele językowe (LLM) do profilowania postaci i przypisywania dialogów z dokładnością do 97%. Dzięki stosowaniu „wskazówek scenicznych” w formie opisów tekstowych, system zapewnia wyraźne i spójne głosy postaci w długich treściach audio.
Mistral AI wydał Voxtral 3 – zestaw modeli rozpoznawania i syntezy mowy wraz z SDK, który w jednym potoku czasu rzeczywistego potrafi słuchać, wnioskować, wywoływać narzędzia i odpowiadać głosem. Modele rozpoznawania (Small, Mini i Realtime Transcribe 3) obsługują ponad 50 języków z rozróżnianiem mówców (diaryzacja), wzmacnianiem słów kluczowych dla słownictwa technicznego oraz opóźnieniem transkrypcji poniżej 500 ms, co według Mistral przewyższa Whisper, Scribe v2 i Gemini 3.5 Transcribe w ich testach. Model syntezy mowy Mini TTS 3 obsługuje ponad 35 języków i 50 dialektów z emocjami, tempem i akcentowaniem dostosowującymi się do kontekstu, w cenie 13 USD za milion znaków, a osobna funkcja Pro Voice potrafi odtworzyć głos i zakres emocjonalny osoby na podstawie zaledwie 30 minut nagrania. Wszystkie komponenty działają przez hostowane w UE API Mistral lub mogą być wdrożone na serwerach klienta.